本記事は6/5のAxion Tech Newsletterで公開されたものです。Newsletterの購読はこちらから。

要点

新型コロナの感染拡大やジョージ・フロイドの死に伴う抗議をめぐって、ヘイト(憎悪)、トロール(扇動)がソーシャルメディアを渦巻いている。SNSがもたらす負の側面は許容範囲を超えており、もっと確実でストレスのない情報伝達の手段が必要なのは明らかだ。


アフリカ系アメリカ人ジョージ・フロイドの死に伴う全国的な抗議行動が米国を包み込んでいる。正当な抗議行動とは別に一部が暴徒化した。ソーシャルメディアはこの未曾有の騒乱のなかで「主要な役割」を果たしている。

トランプ大統領は暴徒に関して、自身のTwitterアカウントで「略奪が始まると銃撃が始まる」('Looting leads to shooting')とつぶやき、挑発的な言葉で群衆を扇動した。この言葉には引用元がある。1967年、マイアミ警察署長のウォルター・ヘッドリーが、フロリダ市の犯罪に関する公聴会で「略奪が始まると銃撃が始まる」('When The Looting Starts, The Shooting Starts')というフレーズを使い、公民権の指導者たちの怒りを買ったことに由来する。ヘッドリーは人種差別的な言動で知られており、トランプ大統領はその含意を込めてこの言葉を使った可能性がある。

TwitterはトランプのTweetに対し「暴力を賛美する」と表示し、タップをしない限り読めないようにした。

恐ろしいことは、これが大統領選挙を前にした選挙戦略の一部だと考えられることだ。支持者の中核である白人至上主義者を意識した言動を取っており、暴力を煽る言葉をソーシャルメディアで拡散させるのは理にかなっている。

暴徒の背後で何らかの工作が行われている可能性がある。トランプ大統領は暴徒の黒幕が極左組織「アンティファ」(Antifa)とし、テロ組織に指定したが真偽は定かではない。白人至上主義団体がTwitterで「アンティファ」を名乗り扇動を行っていたことがわかり、Twitter社がアカウントを削除した件もあった。情報が錯綜している。

ソーシャルメディアには暴徒の行動を記録したモバイル動画が大量に投入されており、この動画により扇動される人が生まれ、暴徒が再生産されている可能性がある。もしかしたら、トロールの首謀者は、遠く離れた場所のスクリーンの前に鎮座しているかもしれない。

トランプ大統領は本来求められる沈静化させる側の立場は取っていない。そもそもトランプ政権自体がフェイクニュースやトロールのなかで冷静さを失った群衆によって生みだされた経緯がある。2016年大統領選挙におけるケンブリッジ・アナリティカ事件やロシアの諜報部員による工作疑惑への追及は議会が押し戻したものの、元FBI長官のRobert Muellerが統括した捜査報告書は、それがほぼ黒に近いものだったことを示している。

Twitterとは対照的に、Facebookは言論の自由を重視し、トランプ大統領の投稿への対応を取らない立場をとったため、非難にさらされている。社内の数百人がデモへの支持を示すために出勤を拒否し、それ以外の従業員の多くは、デジタルプロフィールやメールの返信に「抗議の意を示して出勤した」という自動メッセージを追加しているという。

Facebookの創業期に働いていた元従業員33人が、マーク・ザッカーバーグ宛に公開書簡を送付した(全文はこちら)。元従業員たちは公開書簡の中で、ザッカーバーグのとった立場はFacebookの理想に対する「裏切り」であると述べ、再考を促した。Facebookの初代通信主任だけでなく、デザイナー、エンジニア、政策幹部も含まれている。最初のコミュニティガイドラインの作成を手伝った者もいた。

コロナ禍の間の超フェイクニュース

コロナ禍の最中、世界中でフェイクニュースが拡散していた。最もひどいものは2つある。ひとつが、ビル・ゲイツが、COVID-19ワクチンを利用して人々の体にマイクロチップを埋め込み、行動を監視しようとしているという陰謀論である。これは、特にFox News視聴者が真に受けており、共和党支持者の40%が信じているという。

もうひとつが5Gの基地局が、コロナウイルスを伝染させるという誤情報だ。Facebook、Nextdoor、Instagramで広く拡散され、米国連邦緊急事態管理庁(FEMA)と連邦通信委員会(FCC)は「5G技術はコロナウイルスを引き起こさない」という明確な声明を出した。オランダと英国では恐怖に駆られた人々が、基地局を襲撃し放火した。

日本でも民放テレビ局の一部番組が拡散する不確実な情報がソーシャルメディアで反響し、人々の不安を煽ったり、一部の薬剤への根拠なき信奉を生んだり、トイレットペーパーへの過剰な需要を創出したりとさまざまな群衆行動を引き起こした。

SNSは誤情報拡散の増幅装置

人は誤情報に弱い。たとえば、オレゴン健康科学大学助教Vincent D Costaらの研究によると、人間や動物には新奇で馴染みのない刺激や環境を探索する傾向(新奇探索性)があり、新奇性(目新しさ)がニューロン間の新しいシナプス接続を形成する海馬の能力を増加させることを示している。そしてこの新奇性の探索は、報酬としてのドーパミンで強化される可能性がある。つまり、誤情報にさらされたとき、人は新奇性を探そうとし、フェイクニュースはそれが嘘であるがために新奇性を提供でき、誤情報を探索する傾向が強化される、というサイクルをたどる可能性がある。

また、誤情報の伝播に関しては、計算社会科学の分野で有用な研究が積み上げられている。

ダートマス大学助教 Soroush Vosoughi、マサチューセッツ工科大(MIT)助教 Deb Roy らのサイエンス誌に掲載された研究によると、「フェイク情報はすべてのカテゴリにおいて、真実よりも遠く、より速く、より深く、より広範囲に拡散する」という。彼らは、2006年から2017年までにTwitterで配信された正しいニュース記事と偽のニュース記事の拡散を調査。このデータは300万人が12万6,000のストーリーについてツイートした450万回以上の投稿を元にした。虚偽情報の効果は、自然災害、科学、都市伝説、金融情報よりも政治に関して顕著だったという。

また、ソーシャルメディアや動画メディアで内在している、人の注意をひきつけ、ときには依存させるまでにいたる製品開発の技法は、人々を誤情報や扇動に対し脆弱にしている。これらは「説得的デザイン」(Persuasive Design)と呼ばれ、テクノロジー業界で広く取り入れられた。スタンフォード大学大学院のB.J. フォッグが発案し、教え子にはインスタグラムの共同創業者が含まれている。

これは裏を返すと、スマートフォンを利用するヒトの脆弱性を突いて、大量の注意(アテンション)を消費させるための技法である。この時間は、インターネット製品の裏側の広告技術スタックの中で売り買いされている。このような「アテンション・エコノミー」はスマートフォンの登場以降拡大を続けてきたが、非常に深刻な副作用をもたらしている。

軍事の視点から見た時、ソーシャルメディアの兵器化は現代の戦争における重要なトレンドである。現代社会はしばしば右と左のように完全に反対の視点を持つグループに分かれる傾向があり、二極化を増幅させれば、相手国を不安定な状態に追い込める。また、選挙に対し、情報工作を行うことで、相手国のリーダーシップに影響を与えられる。そしてこれが米国で起きていることだ。

どうやら人類にSNSは早すぎたみたいだ。

Photo: "Donald Trump" by Gage Skidmore is licensed under CC BY-SA 2.0