アマゾンのアルゴリズムがワクチンの誤情報を拡散 - 新研究

ワシントン大学の研究者によると、彼らの調査では、Amazonは書籍、電子書籍、アパレル、健康とパーソナルケアなどのカテゴリに属する健康に関する誤った情報を提供する製品を「大量に」ホストしていることが明らかになった。

アマゾンのアルゴリズムがワクチンの誤情報を拡散 - 新研究

ワシントン大学の研究者によると、彼らの調査では、Amazonは書籍、電子書籍、アパレル、健康とパーソナルケアなどのカテゴリに属する健康に関する誤った情報を提供する製品を「大量に」ホストしていることが明らかになったという。彼らはまた、Amazonのレコメンドエンジンに「フィルターバブル」効果があることを発見したと主張しており、誤った情報に基づく健康商品の推薦には、より多くの健康上の誤った情報が含まれている、と主張している。

Amazonは特に、そのプラットフォーム上で健康関連製品を規制していないことについて、いくつかの技術評論家からの批判に直面している。最近の例を考えてみましょう。祈りのヒーリング、ハーブトリートメント、抗ウイルスビタミンサプリメントなど、コロナウイルス治療のための医学的に検証されていないいくつかの製品がAmazonで増殖していたため、このような治療法の事例がいくつかメディアで報道された後、同社は100万個の偽製品を削除しなければならなかったほどであるという。

「問題のあるコンテンツの規模は、Amazonが誤った情報、特に健康に関する誤った情報の大規模な拡散装置である可能性を示唆している。Amazonは問題のある健康関連コンテンツをホストしているだけでなく、そのリコメンデーションアルゴリズムは、潜在的に疑わしい健康製品をシステムのユーザーに押し付けることで、エンゲージメントを促進する」と共著者らは書いている。

ワシントン大学大学院博士候補のPrerna Junejaと同大情報・計算機科学の助教授Tanushree Mitraは、15日間連続して調査を実施し、毎日5つの異なるAmazonフィルターで結果を分類した。「注目の商品」「価格の安い順から高い順」「価格の高い順から低い順」「カスタマーレビュー」「新着商品」の5つの異なるAmazonフィルターの結果を並べ替えた。結果として得られた36,000件の検索結果と16,815件の商品ページの推奨事項にラベルを付け、健康に関する誤った情報に対する姿勢、つまり予防接種を推進しているか、否定しているか、中立的であるかどうかを調べた。

2回目の「パーソナライズされた」調査は、検索結果、レコメンド内容、および自動補完提案で返される誤情報の量に対する顧客の行動履歴の影響を調べた。論文によると、Amazonの履歴は、商品の検索、検索してクリックする、検索してクリックした後にカートに追加する、Googleなどのサードパーティのウェブサイトで検索する、などの1週間の期間にされた行動を含んでいる。

両監査の結果を分析した結果、研究者らは、多くのワクチン関連のクエリで返された検索結果には、誤った情報に基づいた商品が多数含まれており、"高い誤情報バイアス"と特徴づけられていることを発見しました。さらに、誤情報に基づいた製品は、「デマを訂正する」製品よりも上位にランクされ、誤情報に基づいた製品にアクションを起こした顧客は、ホームページ、製品ページの推奨事項、購入前の推薦において、より多くの誤った情報を提示されたとMitraらは述べている。

「多くの検索エンジンやソーシャルメディアのプラットフォームでは、過去の閲覧履歴や購入履歴に基づいてアルゴリズムが好むと考える商品を推奨することで、ユーザーのプラットフォーム上での体験を高めるためにパーソナライゼーションを採用している。しかし、チェックを怠ると、パーソナライゼーションは問題のあるコンテンツのウサギの穴にユーザーを誘導してしまうというマイナス面もある」とMitraらは書いている。「私たちの分析では、Amazon上にエコーチャンバーが存在しており、ユーザーが誤った情報に基づいた書籍に対して現実世界での行動を行うと、様々なレコメンデーションの中でより多くの誤った情報が提示されることが明らかになった。抗ワクチン本を1回クリックしただけで、他の似たような抗ワクチン本でホームページが埋め尽くされる可能性がある。ワクチンやその他の健康関連のトピックを別の方法で扱い、高品質の検索と推薦を保証するプラットフォームが急務となっている」

Mitraらは、一つの潜在的な解決策として、ワクチン関連の検索結果に存在する誤報の量を知らせることができる「バイアスメーター」を提案している。Mitraらはまた、Amazonに対して、スポンサーシップを介した健康関連の誤った情報に基づいた書籍のプロモーションを止めるように促している。 研究者らは、彼らが注釈を付けたスポンサー付きの推奨事項の中で、98の誤った情報に基づいた製品を発見した。このため、専門家によって評価された健康関連製品のラベルを導入するように促している。さらに、研究者らは、誤った情報に基づいたコンテンツへの暴露を減らすために、プラットフォームの検索と推薦アルゴリズムに誤情報を考慮した設計をもたらすことを推奨している。

参考文献

Prerna Juneja, Tanushree Mitra. Auditing E-Commerce Platforms for Algorithmically Curated Vaccine Misinformation. arXiv:2101.08419 [cs.HC]

Photo by Christian Wiediger on Unsplash

Read more

宮崎市が実践するゼロトラスト:Google Cloud 採用で災害対応を強化し、市民サービス向上へ

宮崎市が実践するゼロトラスト:Google Cloud 採用で災害対応を強化し、市民サービス向上へ

Google Cloudは10月8日、「自治体におけるゼロトラスト セキュリティ 実現に向けて」と題した記者説明会を開催し、自治体向けにゼロトラストセキュリティ導入を支援するプログラムを発表した。宮崎市の事例では、Google WorkspaceやChrome Enterprise Premiumなどを導入し、災害時の情報共有の効率化などに成功したようだ。

By 吉田拓史
​​イオンリテール、Cloud Runでデータ分析基盤内製化 - 顧客LTV向上と従業員主導の分析体制へ

​​イオンリテール、Cloud Runでデータ分析基盤内製化 - 顧客LTV向上と従業員主導の分析体制へ

Google Cloudが9月25日に開催した記者説明会では、イオンリテール株式会社がCloud Runを活用し顧客生涯価値(LTV)向上を目指したデータ分析基盤を内製化した事例を紹介。従業員1,000人以上がデータ分析を行う体制を目指し、BIツールによる販促効果分析、生成AIによる会話分析、リテールメディア活用などの取り組みを進めている。

By 吉田拓史
Geminiが切り拓くAIエージェントの新時代:Google Cloud Next Tokyo '24, VPカルダー氏インタビュー

Geminiが切り拓くAIエージェントの新時代:Google Cloud Next Tokyo '24, VPカルダー氏インタビュー

Google Cloudは、年次イベント「Google Cloud Next Tokyo '24」で、大規模言語モデル「Gemini」を活用したAIエージェントの取り組みを多数発表した。Geminiは、コーディング支援、データ分析、アプリケーション開発など、様々な分野で活用され、業務効率化や新たな価値創出に貢献することが期待されている。

By 吉田拓史