Facebook、大規模なランキングのバグにより有害な投稿をブースト

要点

Facebookは、有害コンテンツと誤情報の表示を阻止する方法として「ダウンランキング」（降格）を喧伝しているが、そのシステムが壊れ、大規模な悪質情報の散布が起きていたことが明らかになった。

米テクノロジーメディアのThe Vergeが入手したこの事件に関する内部報告書によると、この6ヶ月間、Facebookのエンジニアは、ニュースフィード上で誤報やその他の有害なコンテンツが断続的に急増し、通常は同社のアルゴリズムによって降格される投稿が、代わりに30％もブーストされるのを目撃している。その原因は、ある内部レポートが「大規模なランキングの失敗」と表現したバグにあるという。

エンジニアは根本的な原因を見つけることができず、数週間後に急増が収まり、3月11日にランキングの問題が修正されるまで、何度も誤情報の流通が再燃するのを目の当たりにすることになった。

このバグは2019年に初めて発生したが、その影響は2021年10月に初めて認識された。同社は3月11日に解決したという。「我々は根本原因をソフトウェアのバグに突き止め、必要な修正を適用した」と、メタの広報担当者ジョー・オズボーンはThe Vergeに語った。

The Vergeが入手した内部報告書によると、このバグのせいで、ファクトチェッカーがフラグを立てた投稿や、ヌード、暴力、ロシア国家メディアなどが、同社の通常のダウンランキングフィルターをすり抜けてしまっていたという。

Metaの外部の者がそれらの指標を吟味するのは難しいだろう。Metaは、研究者やジャーナリストがFacebookで人気のあるものの傾向を追跡するために使用してきた中核ツールの1つであるCrowdTangleに新規ユーザーがアクセスするのをブロックし、それを率いるチームを解体してしまったのだ。

また、同社は任意の四半期における特定の種類のポリシー違反に関する報告書を発表しているが、それらの報告書からはその数字の背後にあるものをほとんど読み取ることはできない。仮に報告書がFacebook上での暴力行為の増加を示していたとしても、それがこのバグのせいなのか、ロシアのウクライナ侵攻やその他の世界的な残虐行為のせいなのか、知ることはできない。

ダウンランクは、Facebookが「ボーダーライン」と呼ぶ、ルール違反に近いコンテンツを抑制するだけでなく、AIシステムが違反と疑いつつもさらに人間の審査が必要なコンテンツも抑制すると説明されている。同社は昨年9月、降格させるコンテンツのハイレベルなリストを公開したが、降格が影響を受けるコンテンツの配信に具体的にどのような影響を及ぼすかは明らかにしていない。

FacebookのCivic Integrityチームの元メンバーであるSahar Massachiによれば、この事件は、インターネットプラットフォームとその使用アルゴリズムに透明性が必要な理由を示している、とThe Vergeに語っている。