FacebookのAIはヘイトスピーチの検出に苦戦

ソーシャルメディアにはヘイトスピーチが溢れています。Facebookはこのようなコンテンツをサイト上で禁止しているが、ユーザーから報告されたヘイトスピーチの半分しか削除されていないという報告がある。検出器に引っかからないヘイトスピーチは、ゴーストワーカーと呼ばれる非正規労働者が検出、削除している現実がある。

FacebookのAIはヘイトスピーチの検出に苦戦

要約

ソーシャルメディアにはヘイトスピーチが溢れている。Facebookはこのようなコンテンツをサイト上で禁止しているが、ユーザーから報告されたヘイトスピーチの半分しか削除されていないという報告がある。検出器に引っかからないヘイトスピーチは、ゴーストワーカーと呼ばれる非正規労働者が検出、削除している現実がある。

ヘイトスピーチの氾濫

ソーシャルメディアのコンテンツにはヘイトスピーチが氾濫している。米国では、アフリカ系アメリカ人の4人に1人が人種や民族を理由にオンラインで標的にされ、ヒスパニック系の10人に1人が標的にされている(Duggan, 2017)。この問題は、Facebook、Google、Microsoft、TwitterがAnti-Defamation League (ADL)と提携して「サイバーヘイト問題解決ラボ」を設立し、増大するオンラインヘイトの潮流に対処するために悪化している。

企業がユーザーの表現を規制することができる方法の1つは、利用規約とコミュニティ基準だ。これらのポリシーにより、ソーシャルメディア企業はサイト上で憎悪的なコンテンツがどのように規制されるかを規定するルールを設定することができる。Facebookは、プラットフォーム上でのヘイトスピーチを具体的に禁止しており、自動検出とコミュニティのフラグを組み合わせてヘイトスピーチを特定し、サイトから削除している。同社独自の透明性報告書によると、Facebookは2019年第1四半期にヘイトスピーチを含む400万件のコンテンツに対して「措置を講じた」と報告している。

Facebookは2018年5月以降、許容される言論の基準をどのように実施しているかについて四半期ごとに報告書を発表している。最新の報告によると、同社は2020年第1四半期にヘイトスピーチとみなされるコンテンツを960万個削除しており、2019年の第4四半期の570万個から増加している。この合計は記録的なもので、2019年第3四半期に削除された700万件を上回った。

第1四半期に削除された960万件の投稿のうち、Facebookは、ユーザーが報告する前に88.8%の投稿をソフトウェアが検出したと発表した。それは、アルゴリズムが第1四半期にヘイトスピーチのために850万件の投稿にフラグを立てたことを示しており、前四半期の460万件の合計から86%増加している。

3ヵ月で960万件の削除が十分な数なのかは、Facebookの規模を勘案すると、多くの人は自身が持てないだろう。シアトル大学准教授のケイトリン・カールソンは2020年1月に、彼女と同僚がプラットフォームのヘイトスピーチルールに違反していると思われる300以上のFacebookの投稿を収集し、サービスのツールを使って報告した実験の結果を発表した。最終的に削除されたのは投稿の約半分だけだった。同社のモデレーターは、女性嫌悪(ミソジニー)よりも人種や民族的なスラーのケースを強制することに厳格だと言われる。

カールソンは、同社の2018年のポリシー更新によって大きな変化があったかどうかだったが、変更は、同社の意思決定にほとんど影響を与えていないように見えた、と指摘している。Facebookは、女性差別的なヘイトスピーチの削除や攻撃や脅迫の削除における一貫性の確立に問題を抱え、削除の決定において文脈を考慮することができないこと、ヘイトスピーチの削除プロセス内での透明性の一般的な欠如という状況にもさらされていた、とカールソンは主張した。

コンテンツモデレーション

コンテンツモデレーションは、投稿、画像、動画、あるいはハッシュタグを含むユーザーが生成したコンテンツをスクリーニングして、何がソーシャルメディアプラットフォーム、ウェブサイト、あるいは他のオンラインアウトレットに掲載されるか、あるいは残るかを決定するために使用される、共有された特性を持つ一連のプラクティス。このプロセスには、多くの場合、3つの異なるフェーズが含まれている。

第一に、編集部のレビューだ。これは、公開前の映画に与えられる評価のように、コンテンツが利用可能になる前に課される監視を指す。ソーシャルメディアの場合、エディトリアルレビューは、ソーシャルメディアプラットフォームが設定したコミュニティ基準を指すことが多い。

次に自動検出ですが、これは削除プロセスを支援するために洗練されたソフトウェアを利用している。プラットフォームはアルゴリズムおよび/または人工知能を使用して、アップロード前とアップロード後の両方でコミュニティ基準に違反するコンテンツを削除する。Facebookの2019年第1四半期の透明性報告書によると、同社はユーザーが報告する前に、サイト上のヘイトスピーチの65%を積極的に削除した。

この分野の最近の研究では、ソーシャルメディアのコンテンツからヘイトスピーチを除去するアルゴリズムのベストプラクティスが出てきていることが示唆されている。2017年の研究では、アルゴリズムがヘイトスピーチとユーモアを含む単なる攻撃的なスピーチを区別するのに役立つ細かいラベルが効果的であることがわかった。

ただし、検出器が補足できない投稿は依然として山のようにあり、その探知と削除は、正社員ではなく契約社員によって行われており、このようなゴーストワーカーと呼ばれる非正規労働者が一日中有害なコンテンツをスクリーンで眺め続けていることは物議を醸している。

参考文献

  1. M. Duggan. "Online harassment 2017,” Pew Research Center" July 11, 2017. accessed July 15, 2020.
  2. Caitlin Ring Carlson, Haley Rousselle. Report and repeat: Investigating Facebook's hate speech removal process. Received 20 September 2019; revised 4 December 2019; accepted 5 December 2019.

Photo: CEO Mark Zuckerberg at Facebook Communities Summit 2019 by Facebook media resources.

Read more

新たなスエズ危機に直面する米海軍[英エコノミスト]

新たなスエズ危機に直面する米海軍[英エコノミスト]

世界が繁栄するためには、船が港に到着しなければならない。マラッカ海峡やパナマ運河のような狭い航路を通過するとき、船舶は最も脆弱になる。そのため、スエズ運河への唯一の南側航路である紅海で最近急増している船舶への攻撃は、世界貿易にとって重大な脅威となっている。イランに支援されたイエメンの過激派フーシ派は、表向きはパレスチナ人を支援するために、35カ国以上につながる船舶に向けて100機以上の無人機やミサイルを発射した。彼らのキャンペーンは、黒海から南シナ海まですでに危険にさらされている航行の自由の原則に対する冒涜である。アメリカとその同盟国は、中東での紛争をエスカレートさせることなく、この問題にしっかりと対処しなければならない。 世界のコンテナ輸送量の20%、海上貿易の10%、海上ガスと石油の8~10%が紅海とスエズルートを通過している。数週間の騒乱の後、世界の5大コンテナ船会社のうち4社が紅海とスエズ航路の航海を停止し、BPは石油の出荷を一時停止した。十分な供給があるため、エネルギー価格への影響は軽微である。しかし、コンテナ会社の株価は、投資家が輸送能力の縮小を予想している

By エコノミスト(英国)
新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

1960年代以来、世界中のエンジニアが回転デトネーションエンジン(RDE)と呼ばれる新しいタイプのジェット機を研究してきたが、実験段階を超えることはなかった。世界最大のジェットエンジン製造会社のひとつであるジー・エアロスペースは最近、実用版を開発中であると発表した。今年初め、米国の国防高等研究計画局は、同じく大手航空宇宙グループであるRTX傘下のレイセオンに対し、ガンビットと呼ばれるRDEを開発するために2900万ドルの契約を結んだ。 両エンジンはミサイルの推進に使用され、ロケットや既存のジェットエンジンなど、現在の推進システムの航続距離や速度の限界を克服する。しかし、もし両社が実用化に成功すれば、超音速飛行を復活させる可能性も含め、RDEは航空分野でより幅広い役割を果たすことになるかもしれない。 中央フロリダ大学の先端航空宇宙エンジンの専門家であるカリーム・アーメッドは、RDEとは「火を制御された爆発に置き換える」ものだと説明する。専門用語で言えば、ジェットエンジンは酸素と燃料の燃焼に依存しており、これは科学者が消炎と呼ぶ亜音速の反応だからだ。それに比べてデトネーシ

By エコノミスト(英国)
ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

今月初め、イギリス、エストニア、フィンランドの海軍がバルト海で合同演習を行った際、その目的は戦闘技術を磨くことではなかった。その代わり、海底のガスやデータのパイプラインを妨害行為から守るための訓練が行われた。今回の訓練は、10月に同海域の海底ケーブルが破損した事件を受けたものだ。フィンランド大統領のサウリ・ニーニストは、このいたずらの原因とされた中国船が海底にいかりを引きずった事故について、「意図的なのか、それとも極めて稚拙な技術の結果なのか」と疑問を呈した。 海底ケーブルはかつて、インターネットの退屈な配管と見なされていた。現在、アマゾン、グーグル、メタ、マイクロソフトといったデータ経済の巨人たちは、中国と米国の緊張が世界のデジタルインフラを分断する危険性をはらんでいるにもかかわらず、データの流れをよりコントロールすることを主張している。その結果、海底ケーブルは貴重な経済的・戦略的資産へと変貌を遂げようとしている。 海底データパイプは、大陸間インターネットトラフィックのほぼ99%を運んでいる。調査会社TeleGeographyによると、現在550本の海底ケーブルが活動

By エコノミスト(英国)