2022年10月6日（木）、米カリフォルニア州サンフランシスコのTwitter本社。Photographer: David Paul Morris/Bloomberg

マスク以降のTwitter、反ユダヤ主義が2倍以上に増加

反ユダヤ主義的なツイートを特定するために、共著者と私は、22の公開されているヘイトスピーチ特定アルゴリズムを一つの仕組みにまとめ、さらに機械学習を用いて、どの組み合わせが正しい結果につながるかを調べました。

The Conversation 29 3月 2023

2022年10月にイーロン・マスクがTwitterを引き継いだ後、ソーシャルメディアプラットフォームでは「憎悪に満ちた行為の急増」が見られ、当時の安全管理責任者は「集中的かつ短期的な荒らしキャンペーン」によるものだと説明しています。新しい調査によると、反ユダヤ主義に関しては、それ以外のものであったようです。

私やテック企業CASM Technologyの同僚、シンクタンクInstitute for Strategic Dialogueが行った調査によると、反ユダヤ主義的なツイートは、マスクが指揮を執ってから数ヶ月間で2倍以上に増加しているのです。6月からマスクによるTwitter買収の前日である2022年10月26日までの間、「もっともらしく反ユダヤ的」とみなされたツイートは週平均で6,204件ありました。つまり、そのツイートの少なくとも一つの妥当な解釈が、国際ホロコースト記念同盟が定義する「ユダヤ人に対する憎しみとして表現されうる、ユダヤ人のある認識」の範囲に入る場合を指します。

しかし、10月27日から2023年2月9日までの平均は12,762件で、105％の増加となっています。2022年6月1日から2023年2月9日までの調査期間中、146,516のアカウントによる合計325,739のツイートが「もっともらしく反ユダヤ的」と判定されました。

AIで反ユダヤ主義を発見する

反ユダヤ主義的なツイートを特定するために、共著者と私は、22の公開されているヘイトスピーチ特定アルゴリズムを一つの仕組みにまとめ、さらに機械学習を用いて、どの組み合わせが正しい結果につながるかを調べました。そして、反ユダヤ主義に関連する119の単語、フレーズ、中傷、蔑称のいずれかを含む、合計100万件以上のすべてのツイートを通過させました。

このようなプロセスは完璧ではありません。私たちのモデルは、約75％の確率で正しい判断をしていると推定されます。また、119のキーワードを含まない反ユダヤ主義的なツイートや、データを収集した12月上旬以前に削除されたツイートも見逃したことは間違いありません。

次に、アルゴリズムを用いて、ツイートに見られる反ユダヤ主義の10種類のテーマを抽出しました。あるものは、特定の反ユダヤ的な蔑称の使用を中心としたものである。また、ユダヤ人の隠れた影響力や支配力に関する陰謀論を連想させるものもありました。

ユダヤ人投資家で慈善家のジョージ・ソロスに対する反ユダヤ主義的なツイートは、独自のカテゴリーを設ける価値がある。ソロス氏は、我々のデータで最も多く、19,000回以上言及され、彼が隠れたグローバリスト、ユダヤ人、「ナチス」の世界秩序の一員であると主張するツイートがありました。

また、マスクによってアカウントが一時的に復活した後、反ユダヤ的な発言を繰り返していたラッパーのYe（元カニエ・ウェスト）を擁護するツイートもテーマのひとつでした。

私たちの調査はまだ査読を受けていませんが、反ユダヤ主義的なツイートのうち約4,000件は、ロシアのウクライナ侵攻に焦点を当てたものであることもわかりました。これらのツイートは、紛争がユダヤ人によって引き起こされたと主張したり、ユダヤ人が米国にウクライナを支援するよう密かに働きかけていると主張したりと、さまざまでした。また、ユダヤ人であるウクライナ大統領のヴォロディミル・ゼレンスキーに向けられた直接的な反ユダヤ主義も含まれていました。

Musk、コンテンツモデレーションを復活させる

マスクのTwitter買収は、私が観察してきたように、テック大手企業が自社のプラットフォームを流れる情報に潜むヘイトスピーチ、ハラスメント、扇動、偽情報、その他の害悪に対してより責任を持つようになった10年来の傾向の裏側にありました。この間、FacebookやTwitterなどの企業は、過激主義やヘイトスピーチ、ハラスメントに対応する、あるいはTwitter自身が2018年に表現したように「シビリティ（礼節）」を高めるためのポリシーを徐々に制定し、それを実施するためのチームやツールを構築してきました。

自称「言論の自由絶対主義者」であるマスクは、経営権を握った後、プラットフォームを別の方向へ向かわせました。短期間で、Twitterの独立したTrust and Safety Councilは解散し、以前禁止されていたアカウントが復活し、Twitterのスタッフの半数以上が解雇されるか、単に退職しました。同社のヘイトスピーチポリシーを執行する責任者の多くも含めてです。

Twitterのような場所でのヘイトスピーチを10年ほど追跡してきた者として、私は、Twitterのモデレーション手法の変更は、プラットフォーム上での反ユダヤ主義の急増の原因の一部に過ぎないと考えています。

マスクの買収をめぐるメディアの騒ぎと、言論の自由に対する彼の非常に声高な見解が、ヘイトに立ち向かおうとする以前の試みに反した人々を、まさにツイッターに参加させたり再参加させたりしたのでしょう。私たちの調査は、この説に一定の裏付けを与えています。私たちが、少なくとも1つの反ユダヤ的なツイートを投稿したと特定した3,855のアカウントが、マスクの就任後10日間にTwitterに参加しました。しかし、これは、調査期間中に少なくとも1つの反ユダヤ的なツイートを送信した146,516のアカウントのごく一部に過ぎません。

ヘイトスピーチを抑制する効果はほとんどない

マスクの就任後数週間、Twitter上でのヘイトスピーチの急増が研究者によって指摘されましたが、億万長者は、憎悪に満ちたツイートを「最大限のデブーストとデマネタイズ」すると宣言していたせいか、急増を「全くの誤り」だと断じています。

Twitterが反ユダヤ主義を排除しているとしても、私たちの調査では、その証拠はほとんど見当たりません。10月27日以前、反ユダヤ主義のツイートは平均6.4件の「お気に入り」と1.2件のリツイートを獲得しました。それ以降は、平均して6件の「お気に入り」と1件のリツイートを獲得しています。このようなエンゲージメントは、可視性の完全な指標ではありませんが、ユーザーからの可視性が大幅に低下したツイートは、一般的にエンゲージメントが低下していると考えられます。

また、反ユダヤ主義的なツイートに対するテイクダウンを測定することも試みました。最初にデータを収集してから45日後の2月15日、私たちは反ユダヤ的と判断したすべてのツイートの再収集を試みました。ツイートはさまざまな理由で利用できなくなることがありますが、Twitterの強制力はそのうちのひとつにすぎません。不完全ではありますが、反ユダヤ主義的な投稿の削除に関して何が起きているのか、その一端を垣間見ることができるのです。そして、これらの日付の間に、17,589件の反ユダヤ的なツイートが削除され、これは全体の8.5%にあたります。

高まる反ユダヤ主義の潮流

私たちの調査結果は、多くの人がユダヤ人コミュニティに対する脅威の高まりを懸念している時期に発表されました。2021年、名誉毀損防止連盟は、1979年の追跡調査開始以来、米国における嫌がらせ、破壊行為、暴行を含む反ユダヤ主義的事件の件数が最も多いことを記録しました。また、これは米国だけの現象ではなく、英国ではコミュニティ・セキュリティ・トラストが同様の反ユダヤ活動の急増を記録し、ドイツでは反ユダヤ犯罪がパンデミックで29％急増した。

ソーシャルメディアを研究していると、ソーシャルメディアがユーザーの行動の根底にある文化や思想の形成にいかに強力に寄与しているかを何度も思い知らされます。結局のところ、世界のあらゆる問題の責任はユダヤ人にあるとするツイート、支配と隠蔽の暗い陰謀を流すツイート、ユダヤ人に対する軽蔑的な攻撃を発するツイートが拡散することは、オンライン上でも現実世界でも反ユダヤ主義を助長するだけなのです。