FBがアクセンチュアに委託した地獄の有害コンテンツ審査

要点

ニューヨークタイムズの調査報道は、Facebookのコンテンツ審査の惨状を再び明らかにした。すべての人をつなぐソーシャルメディアは有害情報の伝播をも促進する。この病状の完全なワクチンは見つかっていない。

ニューヨークタイムズが、Facebookのの有害なコンテンツを審査する仕事の最大請負業者であるアクセンチュアの現役および元社員等40人以上への調査を行った。調査報道はこの仕事が原因で、うつ病や不安症などの精神的な悪影響を受けたというこれまで表面化してきた複数の証言を裏付けるものだった。

アクセンチュアは、正社員と契約社員数千人が8時間交代で、自殺や斬首、性行為に関する画像や動画、メッセージなど、フェイスブックの最も有害な投稿を選別し、ネット上での拡散を防ぐ仕事を請け負っていた。アクセンチュアの従業員の中には、うつ病や不安感、被害妄想などの症状が出始めたという人もいた。

現役・元社員によると、これらの問題は、FBの厳しい業績目標、コンテンツポリシーの変更などによってさらに深刻化し、アクセンチュアはそれに対応するのに苦労したという。また、この作業についてモデレーターからの法的措置を受けたとき、FBは作業員はアクセンチュアや他の企業に属しているので責任はないと主張した。

2011年までに、FBはコンテンツのレビューを行うフリーランサーを募集するサービス、oDeskと提携していた。しかし2012年、ニュースサイトGawkerが、モロッコをはじめとするoDeskの労働者の賃金が時給1ドルにも満たないことを報じたためFBは別のパートナーを探し始めた。

アクセンチュアは、2015年には約300人の労働者をFBに提供していたが、2016年には約3,000人の労働者を提供するようになった。彼らは、場所やタスクに応じて、正社員と契約社員が混在している。アクセンチュアはすぐに、FBとの仕事を基点にYoutube、Twitter、ピンタレストなどとのモデレーション契約に結びつけた。

世界20拠点に配置された契約社員

2016年に連邦当局が、ロシアの工作員がFBを利用して、大統領選挙に向けて米国の有権者に分裂的な投稿を広めていたことを発見した後、同社はモデレーターの数を増やした。プラットフォームを取り締まるために、すでにいる4,500人に加えて、3,000人以上を雇用しようとした。

5月の時点で、アクセンチュアがFBに請求したフルタイムのモデレーターは、マニラに約1,900人、ムンバイに約1,300人、リスボンに約850人、クアラルンプールに約780人、ワルシャワに約300人、カリフォルニア州マウンテンビューに約300人、ダブリンに約225人、テキサス州オースティンに約135人。

アクセンチュアは毎月末、モデレーターの勤務時間と審査したコンテンツの量を記した請求書をフェイスブックに送付していた。米国のモデレーターはそれぞれ1時間あたり50ドル以上をアクセンチュアに支払っていたが、米国のいくつかの都市のモデレーターの初任給は時給18ドルだった。アクセンチュアの取り分が大きい。

現CEOのジュリー・スウィートも2019年の会議でアクセンチュアの評判が悪くなる可能性があることを懸念していた。FB担当者の幹部は、問題は管理可能であると主張。彼らは、このソーシャルネットワークは失うにはあまりにも有利なクライアントであると言った。

SNSと広告、そして有害コンテンツ

ソーシャルプラットフォーム（Facebook、Twitter、YouTubeなど）にとって、コンテンツのモデレーションは大きな仕事だ。これらのサイトに投稿されるコンテンツの多くは、ユーザーが作成した投稿、写真、動画で構成されている。しかし、悪質な提供者によるコンテンツも大量に存在する。現在、ソーシャル・プラットフォームでは、コンテンツ・モデレーションの役割を外部に委託することが一般的になっている。

Facebookはアクセンチュアのような請負業者と契約し、世界20拠点に配置された派遣社員を雇っているとされる。このコントラクト・モデレーター軍団は、AIの助けを借りて、1日に約300万件の投稿をふるいにかける。

Facebookのビジネスモデルの中心は広告である。このプラットフォームの目的は、新しいユーザーを増やし、規模を拡大することだ。その結果、広告収入が増え、ウォール街に成長をアピールすることができる。しかし、ここには本質的な問題がある。ユーザーが増えれば増えるほど、モデレートすべきコンテンツが増えていく。これにより、モデレーターは終わりの見えない輪の中にいるハムスターのようになる。

FacebookのCEOであるマーク・ザッカーバーグは、削除すべきコンテンツにフラグを立てたり、フラグを立てるべきではないコンテンツを削除したりする際のエラー率を10％と述べたことがある。毎日少なくとも30万件のミスが発生していることになる。その中には非常に深刻なミスもあるだろう。

外注を通じて責任を外部化

ニューヨーク大学スターンビジネススクールのCenter for Business and Human Rightsの副ディレクター・ポール・バレットらが執筆した同研究所の報告書は、Facebookに焦点を当て、コンテンツの修正を外部に委託する戦略に疑問を投げかけている。Facebookは、すべてのテクノロジープラットフォームの中で、最も多くのモデレーターを外注している。

バレットは、コンテンツ・モデレーションがソーシャル・プラットフォームのビジネスの中心であると主張している。したがって、他の中核的なビジネス機能と同様に、Facebookはこの重要な役割を会社の正社員のものにすべきであるとしている。モデレーションを改善するためには、Facebookはモデレーターを社内に導入し、その数を現在の15,000人から30,000人に増やさないといけないとバレットは主張する。

バレットによれば、モデレーションを外注することは、従業員を自社で雇用するためのコストだけではなく、ソーシャルメディアを運営する上での責任を外部化するための意図的な決定だったと考えられる。

📨ニュースレター登録

平日朝 6 時発行のAxion Newsletterは、テックジャーナリストの吉田拓史（@taxiyoshida）が、最新のトレンドを調べて解説するニュースレター。同様の趣旨のポッドキャストもあります。

株式会社アクシオンテクノロジーズへの出資

一口50万円の秋のラウンドに向けて事前登録を募っております。事前登録者には優先的に投資ラウンドの案内を差し上げます。登録は以下のからメールアドレスだけの記入で済みます。登録には義務は一切ともないません。すでに100人超に登録を頂いています。

クリエイターをサポート

運営者の吉田は2年間無給、現在も月8万円の役員報酬のみでAxionを運営しています。

• 投げ銭
• ウェブサイトの「寄付サブスク」ボタンからMonthly 10ドルかYearly 100ドルを支援できます。大口支援の場合はこちらから。
• 毎月700円〜の支援👇

Special thanks to supporters !

Shogo Otani, 林祐輔, 鈴木卓也, Kinoco, Masatoshi Yokota,  Tomochika Hara, 秋元 善次, Satoshi Takeda, Ken Manabe, Yasuhiro Hatabe, 4383, lostworld, ogawaa1218, txpyr12, shimon8470, tokyo_h, kkawakami, nakamatchy, wslash, TS, ikebukurou 黒田太郎, bantou, shota0404, Sarah_investing, Sotaro Kimura, TAMAKI Yoshihito, kanikanaa, La2019, magnettyy, kttshnd, satoshihirose, Tale of orca, TAKEKATA, Yuki Fujishima.