要点
Facebookが誤情報、ヘイトスピーチ、陰謀論の拡散装置となっていることを示唆する、内部告発者がもたらした文書が報道各社に共有され、公の目に触れる機会が増えている。Facebookにとっては未曾有の危機であり、「メタバース」の前にやるべきことがたくさんあるようだ。
Facebookの内部告発者で元プロダクトマネージャーのフランシス・ホーゲンは25日、英議会委員会に出席し、ソーシャルメディアへの規制を強化する法案を成立させるよう議員に促した。Facebookは多数の言語や方言で誤情報やヘイトスピーチ（憎悪表現）を拡散しており、対応が後手に回っていると彼女は話した。
ホーゲンはソーシャルメディアに対して規制当局の監視権限を強めるべきだと主張。また誤情報やヘイトスピーチ、未成年ユーザーによる利用などの問題を抑制するために、具体的にどのような措置を講じたかFacebook等に情報開示を義務づけ、独立の監視担当者が盲点を特定できるようすべきだとした。
ホーゲンは当初、大量の内部文書を米証券取引委員会（SEC）とウォール・ストリート・ジャーナル（WSJ）に共有。その後、テレビ番組への出演を経て、上院公聴会でFacebookの状況について証言した。
WSJは内部文書を元にした報道シリーズ「Facebook File」を毎日1記事のペースで公開し、Facebookのすでに地の底に落ちていた評判を更に貶める事態となった。
最近、ホーゲンが提出した内部文書が17の報道機関に共有されたため、各社がFBの内部事情を伝える記事を公開し、針のむしろとなっている。無数の報道のなかには以下のようなものがある。これらは報道の一端に過ぎない。
- フィナンシャル・タイムズ（FT）によると、2021年、ある従業員は、サウジアラビア、イエメン、リビアで話されているアラビア語のコンテンツ・モデレーターの数が非常に少ないと警告。社内文書によると、同社は2020年に誤情報検出アルゴリズムの開発予算の87％を米国に割り当てたのに対し、その他の国には13％しか割り当てていないという。
- ニューヨーク・タイムズは、Facebookの最大市場であるインドで、同社のプラットフォームが誤報の拡散、ヘイトスピーチの拡散、暴力の賛美を可能にしているという従業員による数十の警告に、同社が耳を貸さなかったことを紹介している。内部文書では、反イスラムの投稿が民族間の緊張を助長していることや、選挙前に誤った情報を広める政治団体に関連した偽アカウントが増殖していることなどが警告されている。
- ニューヨーク・タイムズは、Facebookの主要機能である「いいね！」や「シェア」といった投稿機能が、当初の目的であるポジティブな投稿を促進するものではなく、有害なコンテンツを増幅させるものであることを従業員が繰り返し警告していたと報じている。
- ニューヨーク・タイムズは、昨年11月の大統領選挙の16ヵ月前、Facebookの従業員・研究員は、プラットフォーム上の誤情報や扇動的なコンテンツの氾濫を発見し、警鐘を鳴らし、対策を求めていたが、対策は不十分だった、と報じている。一部の内部調査では、フェイスブックがネットワークの規模や情報の広がりの速さをコントロールするのに苦労していることが示唆されている一方で、フェイスブックがエンゲージメントの低下や評判の悪化を懸念していたことも報告されている。
- FTによると、Facebookは、ヘイトスピーチや虐待を発見するよう訓練された人工知能プログラムによってフラグが立てられたヘイトスピーチの3〜5％、暴力的なコンテンツの0.6％にしか対応していない。また、別のメモによると、人工知能が言語の使われている文脈を理解することは「非常に困難」であるため、Facebookは10〜20パーセントを超えることはできないだろうとしている。
- Facebookはコンテンツ審査をアクセンチュアに外注し、全世界の契約社員数千人が目視で有害コンテンツを確認し取り除いている。
- Facebookの上級幹部は、従業員が止めてほしいと訴えているにもかかわらず、米国の政治家や有名人が誹謗中傷や陰謀論、ヘイトスピーチを投稿できるように設定していた。WSJによると、Facebookは長い間、政治的に中立であることを主張してきたが、保守派からの非難にさらされた後、有害なコンテンツを抑制するためのルールを保守派の大物が破るのを看過していた。
- WSJによると、Facebookの社員が、メキシコの麻薬カルテルが「殺し屋」をリクルートするため、中東の搾取的な人身売買業者が女性を騙すため、エチオピアの少数民族への暴力を先導するため、プラットフォームが活用されていることを指摘したが、同社の対応は不十分なものだった。
- 国連調査団は、ミャンマーのムスリム（イスラム教徒）系少数派ロヒンギャに対する憎悪をかき立てるのに、フェイスブックの利用が「決定的な役割」を果たしていると指摘。西アフリカのガンビアが原告となっているロヒンギャ大量虐殺の国際司法裁判所での公判で、Facebookは10月中旬、ロヒンギャの虐殺を扇動するのに貢献したアカウントに関連する内部文書の提出を求める国連邦地方裁判所判事の命令の一部を不服とし、異議申し立てをした。
