ウクライナ戦争がフェイスブックとインスタを揺るがした背景
FacebookやInstagramでは、どのような戦争コンテンツが許されるかのルールが次々と変更され、社内の混乱を招いている。ときには大きなミスも犯した。死体の画像や暴力の煽動のような動画は無数に作られ、常に判断を迫られるのだ。
［著者：Ryan Mac, Mike Isaac and Sheera Frenkel］FacebookとInstagramを所有するメタは、3月末、異例の措置を取った。ロシア、ウクライナ、その他の東欧諸国のユーザーからの投稿が同社の規則を満たしているかどうかを確認するための品質管理の一部を停止したのだ。
この変更により、メタはこれらの地域からのFacebookやInstagramの投稿を監視する作業員が、コンテンツガイドラインを正確に実施しているかどうかの追跡を一時的に停止したと、事情を知る6人の関係者は述べている。ウクライナ戦争についてどのような投稿が許されるかというルールの移り変わりに、作業員がついていけなかったからだと彼らは言う。
先月ロシアがウクライナに侵攻して以来、メタは6回以上コンテンツ・ポリシーを改定している。ウラジーミル・プーチン大統領の死やロシア兵への暴力を求めるものなど、通常なら削除するはずの紛争に関する投稿も、考えを変えたり新しいガイドラインを作ったりする前に許可したと、関係者は述べている。
その結果、特にFacebookやInstagramのコンテンツモデレーターの間で、血みどろのテキストや画像、ヘイトスピーチ、暴力の扇動がないかパトロールすることになり、内部が混乱することになった。メタは時々、日常的にルールを変更することがあり、むち打ち症の原因になっていると、公の場で発言する権限を持たない関係者は述べている。
コンテンツ・ガイドラインをめぐる混乱は、メタがウクライナ戦争に揺さぶられていることの一例に過ぎない。同社はまた、紛争に関する情報戦をめぐってロシアとウクライナの当局からの圧力と争ってきた。また、社内では、身の安全を心配するロシア人従業員や、クレムリン系のオンライン組織に対してより厳しい対応を求めるウクライナ人従業員など、同社の決定に対する不満に対処していると、3人が語っている。
メタはこれまでにも、ミャンマーでのイスラム系少数民族の大量虐殺やインドとパキスタンの小競り合いなど、程度の差こそあれ、国際的な争いを乗り越えてきた。今、ヨーロッパ大陸で起きている第二次世界大戦後最大の紛争は、同社が世界的な危機の際にプラットフォームを取り締まることを学んだかどうかの試金石となっており、今のところ、それはまだ進行中のようだ。
カリフォルニア大学アーバイン校の法学教授で、元国連特別報告者のデビッド・ケイは、「ロシア・ウクライナ紛争のすべての要素は長い間存在していた。私が不思議に思うのは、彼らがそれに対処するためのゲームプランを持っていなかったということだ」
メタの広報担当者であるダニー・レバーは、同社が戦時中にコンテンツの決定や従業員の懸念にどのように対処していたかについて、直接言及することを避けた。
ロシアがウクライナに侵攻した後、メタは、ロシア語とウクライナ語を母国語とする従業員からなる24時間体制の特別作戦チームを立ち上げたという。また、戦時中の民間人を支援するため、ウクライナ人を信頼できる検証済みの情報に誘導し、住宅や難民支援を探す機能など、製品のアップデートも行った。
メタの最高経営責任者であるマーク・ザッカーバーグと最高執行責任者のシェリル・サンドバーグは、戦争への対応に直接関わってきたと、この取り組みに詳しい2人の関係者は語った。しかし、ザッカーバーグがメタをいわゆるメタバースのデジタル世界をリードする企業に変えることに注力しているため、紛争に関する多くの責任は、少なくとも公には、グローバル問題担当プレジデントのニック・クレッグに委ねられている。
先月クレッグは、ウクライナや他の欧州各国政府の要請を受け、ロシアの国営メディアであるRussia TodayとSputnikのページへの欧州連合内でのアクセスをメタが制限することを発表した。ロシアは、同社がロシアのメディアを差別しているとして、国内でのFacebookへのアクセスを遮断し、さらにInstagramをブロックするという報復を行った。
今月、ウクライナのゼレンスキー大統領は、メタが自社のプラットフォーム上でロシアの戦争プロパガンダを制限するために迅速に動いたことを賞賛した。メタはまた、ゼレンスキーがロシア軍に降伏する様子を偽って編集した「ディープフェイク」ビデオを同社のプラットフォームから削除するために迅速に行動した。
同社は大きなミスも犯している。同社は今月、「ウクライナ軍団」と呼ばれるグループが、国際法に違反してウクライナ軍に「外国人」を勧誘する広告を自社のプラットフォームで掲載することを許可した。メタによると、このグループはウクライナ政府との関係を偽っていた可能性があるため、その後、米国、アイルランド、ドイツなどの人々に表示されていた広告を削除した。
メタ内部でも、戦争に関する投稿の動きの速さに対応するため、コンテンツ・ポリシーの変更を始めていた。同社は長い間、暴力を煽るような投稿を禁じてきた。しかし、ロシアがウクライナに侵攻した2日後の2月26日、ニューヨークタイムズが確認した方針変更によると、メタはコンテンツモデレーター（通常は契約社員）に、プーチンの死を求める声や、「ウクライナ侵攻に関連してロシア人やロシア兵に対する暴力を求める声」を許可すると通知した。
今月、ロイターは、すべてのロシア人に対する暴力を呼びかける投稿が許容されることを示唆する見出しで、メタの変節を報じた。これに対し、ロシア当局はメタの活動を「過激派」とレッテルを貼った。
その後まもなく、メタは方針を転換し、ユーザーに国家元首の死を呼びかけるようなことはさせないと述べた。
「ウクライナの状況は動きが速い」とクレッグは、ニューヨーク・タイムズが確認し、ブルームバーグが最初に報道した社内メモに書いている。「我々はあらゆる結果を考えようとし、文脈が常に進化しているため、我々の指針を常に見直している」。
メタは他の方針も修正した。内部文書によると、今月はヘイトスピーチのガイドラインに一時的な例外を設け、ユーザーが東欧12カ国の「ロシア人排除」や「ロシア人に対する明確な排斥」について投稿できるようにした。しかし、1週間も経たないうちに、メタはこのルールを微調整し、ウクライナのユーザーにのみ適用するよう注意した。
この絶え間ない調整により、中東欧諸国のユーザーを監督するモデレーターは混乱したと、事情を知る6人は述べている。
死体の画像や手足が吹き飛ぶ映像、暴力を呼びかける映像などがメタのルールに違反するかどうかを判断するために、モデレーターに与えられる時間は通常90秒もないため、ポリシーの変更は負担になると彼らは述べている。また、モデレーターがチェチェン語、カザフ語、キルギス語の戦争に関する投稿を見せられたが、それらの言語を知らなかったという例もあると、彼らは付け加えた。
レバーは、メタがこれらの言語を専門とするコンテンツ・モデレーターを雇っているかどうかについてはコメントを避けた。
オンライン偽情報の拡散を研究する大西洋協議会のデジタル・フォレンジック研究所の上級研究員、エマーソン・T・ブルッキング氏は、メタ社は戦争コンテンツで困惑に直面していると述べた。
「通常、コンテンツ修正ポリシーは暴力的なコンテンツを制限するためのものだ」と彼は言う。「しかし、戦争は暴力の行使です。戦争に罪はないし、戦争と違うものであるかのように装うこともできない。
Original Article: How War in Ukraine Roiled Facebook and Instagram. © 2022 The New York Times Company.
