FacebookのAIはヘイトスピーチの検出に苦戦

ソーシャルメディアにはヘイトスピーチが溢れています。Facebookはこのようなコンテンツをサイト上で禁止しているが、ユーザーから報告されたヘイトスピーチの半分しか削除されていないという報告がある。検出器に引っかからないヘイトスピーチは、ゴーストワーカーと呼ばれる非正規労働者が検出、削除している現実がある。

FacebookのAIはヘイトスピーチの検出に苦戦

要約

ソーシャルメディアにはヘイトスピーチが溢れている。Facebookはこのようなコンテンツをサイト上で禁止しているが、ユーザーから報告されたヘイトスピーチの半分しか削除されていないという報告がある。検出器に引っかからないヘイトスピーチは、ゴーストワーカーと呼ばれる非正規労働者が検出、削除している現実がある。

ヘイトスピーチの氾濫

ソーシャルメディアのコンテンツにはヘイトスピーチが氾濫している。米国では、アフリカ系アメリカ人の4人に1人が人種や民族を理由にオンラインで標的にされ、ヒスパニック系の10人に1人が標的にされている(Duggan, 2017)。この問題は、Facebook、Google、Microsoft、TwitterがAnti-Defamation League (ADL)と提携して「サイバーヘイト問題解決ラボ」を設立し、増大するオンラインヘイトの潮流に対処するために悪化している。

企業がユーザーの表現を規制することができる方法の1つは、利用規約とコミュニティ基準だ。これらのポリシーにより、ソーシャルメディア企業はサイト上で憎悪的なコンテンツがどのように規制されるかを規定するルールを設定することができる。Facebookは、プラットフォーム上でのヘイトスピーチを具体的に禁止しており、自動検出とコミュニティのフラグを組み合わせてヘイトスピーチを特定し、サイトから削除している。同社独自の透明性報告書によると、Facebookは2019年第1四半期にヘイトスピーチを含む400万件のコンテンツに対して「措置を講じた」と報告している。

Facebookは2018年5月以降、許容される言論の基準をどのように実施しているかについて四半期ごとに報告書を発表している。最新の報告によると、同社は2020年第1四半期にヘイトスピーチとみなされるコンテンツを960万個削除しており、2019年の第4四半期の570万個から増加している。この合計は記録的なもので、2019年第3四半期に削除された700万件を上回った。

第1四半期に削除された960万件の投稿のうち、Facebookは、ユーザーが報告する前に88.8%の投稿をソフトウェアが検出したと発表した。それは、アルゴリズムが第1四半期にヘイトスピーチのために850万件の投稿にフラグを立てたことを示しており、前四半期の460万件の合計から86%増加している。

3ヵ月で960万件の削除が十分な数なのかは、Facebookの規模を勘案すると、多くの人は自身が持てないだろう。シアトル大学准教授のケイトリン・カールソンは2020年1月に、彼女と同僚がプラットフォームのヘイトスピーチルールに違反していると思われる300以上のFacebookの投稿を収集し、サービスのツールを使って報告した実験の結果を発表した。最終的に削除されたのは投稿の約半分だけだった。同社のモデレーターは、女性嫌悪(ミソジニー)よりも人種や民族的なスラーのケースを強制することに厳格だと言われる。

カールソンは、同社の2018年のポリシー更新によって大きな変化があったかどうかだったが、変更は、同社の意思決定にほとんど影響を与えていないように見えた、と指摘している。Facebookは、女性差別的なヘイトスピーチの削除や攻撃や脅迫の削除における一貫性の確立に問題を抱え、削除の決定において文脈を考慮することができないこと、ヘイトスピーチの削除プロセス内での透明性の一般的な欠如という状況にもさらされていた、とカールソンは主張した。

コンテンツモデレーション

コンテンツモデレーションは、投稿、画像、動画、あるいはハッシュタグを含むユーザーが生成したコンテンツをスクリーニングして、何がソーシャルメディアプラットフォーム、ウェブサイト、あるいは他のオンラインアウトレットに掲載されるか、あるいは残るかを決定するために使用される、共有された特性を持つ一連のプラクティス。このプロセスには、多くの場合、3つの異なるフェーズが含まれている。

第一に、編集部のレビューだ。これは、公開前の映画に与えられる評価のように、コンテンツが利用可能になる前に課される監視を指す。ソーシャルメディアの場合、エディトリアルレビューは、ソーシャルメディアプラットフォームが設定したコミュニティ基準を指すことが多い。

次に自動検出ですが、これは削除プロセスを支援するために洗練されたソフトウェアを利用している。プラットフォームはアルゴリズムおよび/または人工知能を使用して、アップロード前とアップロード後の両方でコミュニティ基準に違反するコンテンツを削除する。Facebookの2019年第1四半期の透明性報告書によると、同社はユーザーが報告する前に、サイト上のヘイトスピーチの65%を積極的に削除した。

この分野の最近の研究では、ソーシャルメディアのコンテンツからヘイトスピーチを除去するアルゴリズムのベストプラクティスが出てきていることが示唆されている。2017年の研究では、アルゴリズムがヘイトスピーチとユーモアを含む単なる攻撃的なスピーチを区別するのに役立つ細かいラベルが効果的であることがわかった。

ただし、検出器が補足できない投稿は依然として山のようにあり、その探知と削除は、正社員ではなく契約社員によって行われており、このようなゴーストワーカーと呼ばれる非正規労働者が一日中有害なコンテンツをスクリーンで眺め続けていることは物議を醸している。

参考文献

  1. M. Duggan. "Online harassment 2017,” Pew Research Center" July 11, 2017. accessed July 15, 2020.
  2. Caitlin Ring Carlson, Haley Rousselle. Report and repeat: Investigating Facebook's hate speech removal process. Received 20 September 2019; revised 4 December 2019; accepted 5 December 2019.

Photo: CEO Mark Zuckerberg at Facebook Communities Summit 2019 by Facebook media resources.

Read more

米国のEV革命は失速?[英エコノミスト]

米国のEV革命は失速?[英エコノミスト]

米国人は自動車が大好きだ。バッテリーで走らない限りは。ピュー・リサーチ・センターが7月に発表した世論調査によると、電気自動車(EV)の購入を検討する米国人は5分の2以下だった。充電網が絶えず拡大し、選べるEVの車種がますます増えているにもかかわらず、このシェアは前年をわずかに下回っている。 この言葉は、相対的な無策に裏打ちされている。2023年第3四半期には、バッテリー電気自動車(BEV)は全自動車販売台数の8%を占めていた。今年これまでに米国で販売されたEV(ハイブリッド車を除く)は100万台に満たず、自動車大国でない欧州の半分強である(図表参照)。中国のドライバーはその4倍近くを購入している。

By エコノミスト(英国)
労働者の黄金時代:雇用はどう変化しているか[英エコノミスト]

労働者の黄金時代:雇用はどう変化しているか[英エコノミスト]

2010年代半ばは労働者にとって最悪の時代だったという点では、ほぼ誰もが同意している。ロンドン・スクール・オブ・エコノミクスの人類学者であるデイヴィッド・グレーバーは、「ブルシット・ジョブ(どうでもいい仕事)」という言葉を作り、無目的な仕事が蔓延していると主張した。2007年から2009年にかけての世界金融危機からの回復には時間がかかり、豊かな国々で構成されるOECDクラブでは、労働人口の約7%が完全に仕事を失っていた。賃金の伸びは弱く、所得格差はとどまるところを知らない。 状況はどう変わったか。富裕国の世界では今、労働者は黄金時代を迎えている。社会が高齢化するにつれて、労働はより希少になり、より良い報酬が得られるようになっている。政府は大きな支出を行い、経済を活性化させ、賃上げ要求を後押ししている。一方、人工知能(AI)は労働者、特に熟練度の低い労働者の生産性を向上させており、これも賃金上昇につながる可能性がある。例えば、労働力が不足しているところでは、先端技術の利用は賃金を上昇させる可能性が高い。その結果、労働市場の仕組みが一変する。 その理由を理解するために、暗

By エコノミスト(英国)
中国は地球を救うのか、それとも破壊するのか?[英エコノミスト]

中国は地球を救うのか、それとも破壊するのか?[英エコノミスト]

脳腫瘍で余命いくばくもないトゥー・チャンワンは、最後の言葉を残した。その中国の気象学者は、気候が温暖化していることに気づいていた。1961年、彼は共産党の機関紙『人民日報』で、人類の生命を維持するための条件が変化する可能性があると警告した。 しかし彼は、温暖化は太陽活動のサイクルの一部であり、いつかは逆転するだろうと考えていた。トゥーは、化石燃料の燃焼が大気中に炭素を排出し、気候変動を引き起こしているとは考えなかった。彼の論文の数ページ前の『人民日報』のその号には、ニヤリと笑う炭鉱労働者の写真が掲載されていた。中国は欧米に経済的に追いつくため、工業化を急いでいた。 今日、中国は工業大国であり、世界の製造業の4分の1以上を擁する。しかし、その進歩の代償として排出量が増加している。過去30年間、中国はどの国よりも多くの二酸化炭素を大気中に排出してきた(図表1参照)。調査会社のロディウム・グループによれば、中国は毎年世界の温室効果ガスの4分の1以上を排出している。これは、2位の米国の約2倍である(ただし、一人当たりで見ると米国の方がまだひどい)。

By エコノミスト(英国)