最近解雇されたFacebook社員は、Facebookは、プラットフォーム上の偽アカウントが世界中の選挙や政局を蝕んでいるという証拠を無視したり、対応のち円が著しかったりしていることを警告していた。

メモによると、世界中で起きている偽アカウントによる煽動の対処までに数ヶ月から一年かけて、やっとテイクダウンをする始末で、そもそも人材の配置が少なく、社内もフェイクとヘイトの濁流に飲み込まれていると考えられる。現状、フェイスブックのアセット(Facebook、インスタグラム、WhatsApp)が世界中の国家の政治に与える影響は甚大であり、そこにかなり危険なトロール(煽動)が含まれており、フェイスブック社にはその対応力が足りていないと推定できるだろう。

BuzzFeed Newsが元Facebookのデータサイエンティスト、ソフィー・チャンが書いた6,600ワードの社内メモを入手し、その一部分を報道した。

ロシア、中国、イランなどの国が高度な偽情報操作を続ける中、チャンのメモは、市民に影響を与えるために安価で簡単なボットネットワークを利用して世論操作を実行する政治勢力のある新興国に重点を置いている。

メモには、アゼルバイジャンやホンジュラスで政府や政党のトップが偽のアカウントを使ったり、世論を揺さぶるために誤った表現をしたりしているという具体的な例が満載されている。インド、ウクライナ、スペイン、ブラジル、ボリビア、エクアドルなどの国々では、候補者や結果を後押ししたり、妨げたりするために、大小さまざまな規模のキャンペーンが組織的に行われている証拠を発見しましたが、その背後に誰がいるのかは必ずしも結論が出ていませんでした。

チャンは8月に解雇を言い渡され、9月初旬に退職しました。チャンは投稿の中で、フェイスブックで職を失った理由の一部は、偽アカウントによる政治活動に焦点を当てるために、日常業務を怠ったことにあると推測している。

「Facebookで過ごしてきた3年間で、外国の国家政府が膨大な規模でプラットフォームを悪用して自国民を誤解させようとする露骨な試みを複数発見し、国際的なニュースを何度も引き起こした」と、BuzzFeed Newsへの取材を断ったチャンはメモに書いている。彼女のLinkedInのプロフィールには「Facebook Site Integrityのフェイクエンゲージメントチームのデータサイエンティストとして働いていた」と書かれており、「選挙などに影響を与えるボット」を扱っていたという。

「私は個人的に、監督なしで各国の大統領に影響を与える決定を下し、数え切れないほど多くの著名な政治家に強制する行動を世界的にとってきました」と彼女は書いている。

このメモは、Facebookの失敗を痛烈に物語っている。一人の下級社員が、制度的なサポートなしに何百万人もの人々に影響を与えた、並外れた中庸の権限を振りかざしたことと、それに続く個人的な苦悩の物語でもある。

フェイスブックが政治家に代わって操作するボット、つまり自動化されたアカウントを根絶できなかったことは、同社が27億人以上の人々が利用するプラットフォームをどれだけ効果的に取り締まることができるかに疑問を投げかけている。

ソフィー・チャンが対応したフェイスブック上の各国の不正な政治的行動

チャンのメモのBuzzfeedによる要約を引用する。

  • Facebookのリーダーたちは、ホンジュラスのファン・オルランド・エルナンデス大統領を大規模に後押しし、ホンジュラスの人々を誤解させるために、何千もの偽装アカウントを使用した「協調的なキャンペーン」に対処するのに9ヶ月かかった。Facebookが7月に加害者に対して行動を起こした2週間後、彼らは活動を再開し、チャンと偽アカウントの背後にいる工作員との間で 「もぐらたたき」のゲームが行われたが、それらは依然として活動的だ。
  • アゼルバイジャンでは、チャンは与党が「何千もの偽のアセットを利用して...野党に大量の嫌がらせをしている」ことを発見した。フェイスブックはチャンが報告した1年後に調査を開始した。調査は現在進行中だ。
  • チャンらは「2018年の選挙でブラジルと米国の著名な政治家から1050万件の偽のリアクションとファンを削除した」
  • 2019年2月には、NATOの研究者がFacebookに対し、米国の高位職者の政治家に関するロシアの偽装活動を入手したと報告していた。チャンはその活動を削除し、「即時の火を消した」と書いている。
  • 「ウクライナでは、親欧州連合の政治家で元大統領候補のユリア・ティモシェンコ元首相と、ペトロ・ポロシェンコ元大統領の盟友で元首相のヴォロディミル・グロイスマン氏の両方を支持している、不正なスクリプト化された活動を発見した」とチャンは書いている。ヴォロディミル・ゼレンスキーとその一派は、影響を受けなかった唯一の主要なグループだった」とチャンはウクライナの現大統領について述べている。
  • チャンは、ボリビアとエクアドルで認証されていない活動、つまり、ボットアカウントと調整された手動アカウントからのFacebook工作を発見したが、彼女の仕事量のために「それを優先しない」ことを選んだ。彼女は中堅社員として、国の政治的な結果について決定を下すために持っていた力の大きさが、彼女の健康を蝕んでいた。
  • COVID-19パンデミックの最中にスペイン保健省のFacebookページでの協調的な操作に気づいた後、チャンは、米国を含む世界中で「同様の標的を狙って行動している」67万2,000件の偽アカウントの発見と削除を支援した。
  • インドでは、2月にデリーで行われた地方選挙に影響を与えるために「政治的に洗練された1,000人以上のアクターからなるネットワーク」の削除に取り組んだ。フェイスブックは、このネットワークを公開したり、削除したことを公表したりしていなかった。
台湾の蔡英文相当と記念写真を撮影するホンジュラスのファン・オルランド・エルナンデス首相。エルナンデス首相を支持する何千の偽アカウントのテイクダウンを始めるのにフェイスブックは9ヶ月かかった。"10.03 總統與「宏都拉斯共和國葉南德茲(Juan Orlando Hernández)總統相互贈禮" by Taiwan Presidential Office is licensed under CC BY 2.0

BuzzFeed Newsは「個人情報が含まれているため、チャンさんのメモの全文を公開しない。この記事では、適切な文脈を提供するため、可能な限り全文の抜粋を掲載している」と説明している。

チャンは投稿の中で、来る2020年の米大統領選挙周辺の問題を防ぐためのFacebookの取り組みを混乱させることを恐れ、また自身の安全性を懸念したため、公開したくなかったと述べており、BuzzFeed Newsは、彼女のメモのうち、明らかに公益性の高い部分を公開している、と説明している。

ニューヨーク・タイムズ紙によると「韓国からインド、アフガニスタンからメキシコ、ブラジルから台湾、その他数え切れないほどの国に至るまで、世界中でこの種の攻撃を発見し、取り締まった」とチャンは書いている。「私は個人的に監督なしで国の大統領に影響を与える決定を行ったし、私は数を失ってしまったので、世界的に非常に多くの著名な政治家に対して強制するための行動を取った」

彼女はバイスプレジデントや政策(ポリシー)チームのメンバーを含むフェイスブックの幹部に説明したものの、同社はボットに対する行動を取ることに難色を示し続けた、とチャンは書いている。彼女は、彼女が低レベルの従業員とみなされ、偽アカウントに対処する方法についてのサポートも指導も受けられなかったと付け加えた。代わりに、彼女は上層部からの硬直的な態度と、Facebookのポリシーや法務チームからの遅延に直面した、と書いている。

Facebookは偽のアカウントで「モグラたたき」をしていただけだった、とチャンは書いている。会社での最後の日に、彼女は検索してアカウントからの現在の活動を見つけたと付け加えている。

Facebookの対処能力には限界があるようだ。2016年の米大統領選挙とブレグジットをめぐる国民投票に置いてトロールがあったことが明確化して以来、ソーシャルメディアでの不正行動の監視を行っており、外部からSNSの状況を改善していかないといけない。Stanford Internet Observatory、The Oxford Internet Institute、Election Integrity Partnershipのような機関が日本にも必要だろう。

Photo: "Mark Zuckerberg"by jdlasica is licensed under CC BY 2.0