「Facebookは売上を優先し誤情報とヘイト拡散を見逃した」と内部告発

Facebookの元従業員は、同社がプラットフォーム上でのヘイト、暴力、誤情報を抑制するより広告収益を優先してきた経緯を暴露。その証拠として「何万ページもの」文書を提示した。同社はケンブリッジ・アナリティカのスキャンダル以来、最も深刻な危機に陥っている。

「Facebookは売上を優先し誤情報とヘイト拡散を見逃した」と内部告発
Photo by Greg Bulla on Unsplash

要点

Facebookの元従業員は、同社がプラットフォーム上でのヘイト、暴力、誤情報を抑制するより広告収益を優先してきた経緯を暴露。その証拠として「何万ページもの」文書を提出した。同社はケンブリッジ・アナリティカのスキャンダル以来、最も深刻な危機に陥っている。


Facebookの元プロダクトマネージャーであるフランシス・ホーゲンは、米CBSのニュース番組「60ミニッツ」に出演し、ウォール・ストリート・ジャーナル(WSJ)に大量の社内文書をリークした内部告発者として登場した。

ホーゲンはインタビューの中で「一般市民のためになることと、Facebookのためになることの間には、利害の衝突があった。Facebookは、何度も何度も、より多くのお金を稼ぐといった自分たちの利益のために最適化することを選んだ」と主張した。

「Facebookがコンテンツを選択している結果のひとつは、エンゲージメントやリアクションを得るコンテンツに最適化している。しかし、独自の調査によると、憎悪や分裂、偏向的なコンテンツは、他の感情よりも人々の怒りを刺激しやすいことがわかっている」

Facebookは、アルゴリズムをより安全なものに変更すれば、人々のサイト滞在時間が短くなり、広告のクリック数も減り、収益も減ることに気づいた、と彼女は主張した。

ホーゲンによると、Facebookは2020年の選挙への危険性を理解していた。そのため、誤情報を減らすために安全システムを導入したが、それらの変更の多くは一時的なものだった。

「選挙が終わるとすぐに、安全性よりも成長を優先させるために、それらを元に戻したり、設定を以前の状態に戻したりした。これは私にとって、民主主義に対する裏切りとしか思えない」。

彼女の主張によると、Facebookは2020年の選挙後、民主主義のプロセスを保護し、誤った情報に対処する責任を負うシビック・インテグリティ・チームを早々に解散し、その影響が1月6日の連邦議会襲撃へとつながったという。

60 minutesによると、ホーゲンの弁護士は先月、証券取引委員会に「少なくとも8つの苦情」を提出したという。その内容は、Facebookが実害をもたらすコンテンツを削除しているというCEOのマーク・ザッカーバーグの主張など、同社の内部調査と公的な主張を対比させたものだという。

1月6日の連邦議会襲撃の後、Facebook従業員は社内掲示板で激怒した。その様子がホーゲンがコピーした情報に残っているという。「暴力を助長することなく言説を管理する方法を把握するのに十分な時間がなかったのだろうか」。

肯定的なコメントもあり「私たちのリーダーシップチームは、データを無視したり、反対意見を無視したり、真実を無視したりすることはないと思う…」というものがあったが、これには「Facebookへようこそ! あなたは2020年11月に入社したばかりのようだ…私たちは何年も前から、会社のリーダーシップの...うじうじした行動を見てきた。同僚たちは自社プラットフォームの悪影響を緩和するためにもっと努力しない会社で働くことに良心の呵責を感じなくなっている 」という皮肉な返信がつけられていた。

「Facebookは、独立して行動することができないことを証明した。Facebookは、何度も何度も、安全よりも利益を選ぶことを証明している。私たちの安全を犠牲にして、自分たちの利益を増やしている。今回の件が世界に大きな影響を与えて、実際に規制を導入するための不屈の精神とモチベーションが得られることを期待している。それが私の願いだ」

LinkedInのプロフィールによると、ホーゲンは2019年からメンローパークに拠点を置くFacebookのプロダクトマネージャーとして、シビックインテグリティチームに所属していた。彼女は5月に同社を退社しました。彼女のキャリアには、Pinterest、Yelp、Googleでのプロダクトマネージャーとしての経験もある。

ホーゲンは先月、リチャード・ブルーメンタール上院議員やマーシャ・ブラックバーン上院議員を含む複数の議員と面会して文書を共有し、近く上院の公聴会で証言する予定だ。

WSJの調査報道

WSJは先月、ホーゲンのリークした内部資料を元に「The Facebook Files」という調査報道のシリーズを開始し、FBがプラットフォーム上の混乱を収集することが出来ず、その情報を外部から隠匿し続けたことを明らかにしていた。

例えば、知名度の高いアカウントの品質管理を目的とした「クロスチェック」というシステムがあるが、現在では、何百万人ものVIPが、同社の通常の規制から逃れていることが文書で明らかになっている。多くの人がこの特権を悪用し、通常であれば制裁の対象となるような嫌がらせや暴力の扇動などを投稿している。

Facebookが所有するInstagramの研究者たちは、同社の写真共有アプリが何百万人もの若いユーザーにどのような影響を与えているかを何年にもわたって研究した。その結果、かなりの割合のユーザー、特に10代の女の子にとって、Instagramが他のソーシャルメディアよりも有害であることが繰り返し判明している。Facebookは、議会での発言も含めて、公の場では一貫してサービスの悪影響を軽視しており、研究結果を公開せず、要求した学者や議員にも提供していない。

Facebookは2018年、プラットフォームを改善し、ユーザーのエンゲージメント低下の兆候を食い止めることを目的としたアルゴリズムの変更を行い、注目を集めた。しかし、この変化が逆効果になり。Facebookとそれを利用する人々の怒りを増幅させていたと警告。

Facebookの社員が、メキシコの麻薬カルテルが「殺し屋」をリクルートするため、中東の人身売買業者が女性を騙すため、エチオピアの少数民族への暴力を先導するため、にプラットフォームが活用されていることを指摘したが、同社は対応は不十分なものだった。

📨ニュースレター登録

平日朝 6 時発行のAxion Newsletterは、テックジャーナリストの吉田拓史(@taxiyoshida)が、最新のトレンドを調べて解説するニュースレター。同様の趣旨のポッドキャストもあります。

[平日朝6時]デジタル経済の動向をまとめるニュースレター
あなたのビジネスや人生のための「先知」を提供します。

株式会社アクシオンテクノロジーズへの出資

10月1日から1口50万円の公募を行います。詳しくはこちら。

アクシオン、10月1日に1口50万円の第2回公募を開始|吉田拓史 株式会社アクシオンテクノロジーズ代表取締役|note
デジタル経済メディア「アクシオン」を運営する株式会社アクシオンテクノロジーズ(本社:埼玉県さいたま市、代表取締役:吉田拓史、以下「アクシオン」)は、10月1日に第2回公募を開始します。 今回の公募では1口50万円で個人投資家の投資を募ります。事前登録はこちらのフォームから。登録いただいた方に9月下旬から順次案内のメールを差し上げます。そのメールによって交渉・取引が開始されます(特に義務は生じません)。 【2021年10月】(株)アクシオン個人投資家ラウンド事前登録 登録を頂いた方には優先して投資ラウンドのご案内を行います。 forms.gle

クリエイターをサポート

運営者の吉田は2年間無給、現在も月8万円の役員報酬のみでAxionを運営しています。

  • 投げ銭
  • ウェブサイトの「寄付サブスク」ボタンからMonthly 10ドルかYearly 100ドルを支援できます。大口支援の場合はこちらから。
  • 毎月700円〜の支援👇
Betalen Yoshida Takushi met PayPal.Me
Ga naar paypal.me/axionyoshi en voer het bedrag in. En met PayPal weet je zeker dat het gemakkelijk en veiliger is. Heb je geen PayPal-rekening? Geen probleem.
デジタル経済メディアAxionを支援しよう
Axionはテクノロジー×経済の最先端情報を提供する次世代メディアです。経験豊富なプロによる徹底的な調査と分析によって信頼度の高い情報を提供しています。投資家、金融業界人、スタートアップ関係者、テクノロジー企業にお勤めの方、政策立案者が主要読者。運営の持続可能性を担保するため支援を募っています。

Special thanks to supporters !

Shogo Otani, 林祐輔, 鈴木卓也, Kinoco, Masatoshi Yokota,  Tomochika Hara, 秋元 善次, Satoshi Takeda, Ken Manabe, Yasuhiro Hatabe, 4383, lostworld, ogawaa1218, txpyr12, shimon8470, tokyo_h, kkawakami, nakamatchy, wslash, TS, ikebukurou 黒田太郎, bantou, shota0404, Sarah_investing, Sotaro Kimura, TAMAKI Yoshihito, kanikanaa, La2019, magnettyy, kttshnd, satoshihirose, Tale of orca, TAKEKATA, Yuki Fujishima.