スクリーンの裏側

ソーシャル・プラットフォームは自らを自動運転する技術システムとして描き、有害コンテンツをアルゴリズムがまだ捕捉できていない残余のように語る。『スクリーンの裏側』はこの図を根本から覆す。Sarah T. Roberts が提唱した「商業コンテンツ・モデレーション」とは、利用者が投稿した画像、動画、文章が法、社内規則、サイトの趣味基準に反するかを人が一件ずつ判断する有給労働である。虐待、憎悪、ポルノ、暴力の多くを利用者が見ずに済むのは、機械が問題を解決したからではなく、誰かが毎日それを見て判断しているからだ。

Roberts が追うのは階層化されたグローバル労働連鎖である。モデレーターはシリコンバレー企業の直接雇用、専門小企業、大手外注会社を通じたフィリピンなどでの配置という異なる場所にいる。同じ素材でも契約、所在地、雇用身分により賃金、福利厚生、秘密保持、異議申立て権が大きく変わる。プラットフォームは最も危険な業務をブランドと特権的社員の視野から遠ざけながら、清潔で安全、ほぼ自動化されたサービスを語る。リスクは消えず、階級、人種、地政学に沿って移される。

仕事は「悪い投稿を見つけて削除する」よりはるかに複雑である。労働者は短時間で文脈を読み、風刺と脅迫、報道記録と暴力宣伝を区別し、頻繁に変化し矛盾する規則を適用する。キュー、正答率、処理速度、抜き取り検査が判断を数値へ圧縮するが、各決定は公共発言の境界を実際に設定する。企業は文化理解と倫理判断を求める一方、モデレーターを交換可能で公的承認の不要な裏方として扱う。

児童虐待、処刑、性暴力、ヘイト表現への反復接触は深刻な心理・身体影響を生みうるが、秘密保持契約により家族、治療者、公衆へ仕事を説明しにくい。Roberts は全員を同じトラウマ被害者へ還元しない。専門的誇りを持つ者、同僚支援や対処法を作る者、より大きな裁量を持つ職場もある。しかし差異は企業の免責理由にならない。曝露量、休憩、心理支援、離職後保障を誰が決め、誰が結果だけを引き受けるのかが政治的問題である。

フェミニズム労働論から見ると、モデレーションは清掃、ケア、家事と似た構造を持つ。サービスが成功するほど、その労働は見えなくなる。利用者には掃除済みのフィードが見え、処理された汚物と感情的費用は画面の背後に隠れる。外注は「インターネットを世話する」仕事を低賃金で植民地関係の影響が残る地域へ運ぶ。フィリピンの労働者を、生来強靱で英語ができ、西洋顧客への奉仕に文化的に適していると語ることは、歴史的不平等を企業上の利点へ自然化する。

本書は「言論の自由」の対象も変える。オンラインの境界は透明な手続きを持つ公的法廷より、私企業の方針、顧客圧力、匿名労働者の瞬時の判断で設定される。過剰削除は周縁集団が暴力を記録した証拠を消し、不十分な削除は同じ集団を嫌がらせへさらす。モデレーターは最終主権者ではないが、その労働がプラットフォーム統治を執行する。利用者の権利だけを論じ、労働条件と決定連鎖を無視する統治案は不完全である。

論証は長年のインタビュー、産業資料、シリコンバレーからフィリピンまでのフィールドワークに基づき、秘密主義的業界での困難な研究である。民族誌は矛盾した経験を戻すが、社内データのすべてを得られず、受訪者は全言語・政治制度・雇用形態を代表しない。2019 年の初版研究後、自動化と生成 AI は作業を変えたが、人間によるラベル付け、再審査、異議申立て、文脈判断を消してはいない。本ページの 2021 年という日付は平装版を示し、中心的調査はそれ以前の産業局面を記録する。

衝撃的なトラウマ事例だけを集めず、規則を作る者、契約する者、素材を見る者、異議を処理する者、データを所有する者、仕事を拒否できる者の責任連鎖を描くべきである。現行のプラットフォーム方針、労働者組織、各地の労働法と併読すれば変化を検証できる。本書が突きつける事実は、「安全な」インターネットが製品の初期状態ではなく、高強度の公共的労働の成果だということだ。労働者の安全を認めない企業は、利用者の安全を別の人々の危険の上に築いている。