アマゾンのアルゴリズムがワクチンの誤情報を拡散 - 新研究

ワシントン大学の研究者によると、彼らの調査では、Amazonは書籍、電子書籍、アパレル、健康とパーソナルケアなどのカテゴリに属する健康に関する誤った情報を提供する製品を「大量に」ホストしていることが明らかになった。

アマゾンのアルゴリズムがワクチンの誤情報を拡散 - 新研究

ワシントン大学の研究者によると、彼らの調査では、Amazonは書籍、電子書籍、アパレル、健康とパーソナルケアなどのカテゴリに属する健康に関する誤った情報を提供する製品を「大量に」ホストしていることが明らかになったという。彼らはまた、Amazonのレコメンドエンジンに「フィルターバブル」効果があることを発見したと主張しており、誤った情報に基づく健康商品の推薦には、より多くの健康上の誤った情報が含まれている、と主張している。

Amazonは特に、そのプラットフォーム上で健康関連製品を規制していないことについて、いくつかの技術評論家からの批判に直面している。最近の例を考えてみましょう。祈りのヒーリング、ハーブトリートメント、抗ウイルスビタミンサプリメントなど、コロナウイルス治療のための医学的に検証されていないいくつかの製品がAmazonで増殖していたため、このような治療法の事例がいくつかメディアで報道された後、同社は100万個の偽製品を削除しなければならなかったほどであるという。

「問題のあるコンテンツの規模は、Amazonが誤った情報、特に健康に関する誤った情報の大規模な拡散装置である可能性を示唆している。Amazonは問題のある健康関連コンテンツをホストしているだけでなく、そのリコメンデーションアルゴリズムは、潜在的に疑わしい健康製品をシステムのユーザーに押し付けることで、エンゲージメントを促進する」と共著者らは書いている。

ワシントン大学大学院博士候補のPrerna Junejaと同大情報・計算機科学の助教授Tanushree Mitraは、15日間連続して調査を実施し、毎日5つの異なるAmazonフィルターで結果を分類した。「注目の商品」「価格の安い順から高い順」「価格の高い順から低い順」「カスタマーレビュー」「新着商品」の5つの異なるAmazonフィルターの結果を並べ替えた。結果として得られた36,000件の検索結果と16,815件の商品ページの推奨事項にラベルを付け、健康に関する誤った情報に対する姿勢、つまり予防接種を推進しているか、否定しているか、中立的であるかどうかを調べた。

2回目の「パーソナライズされた」調査は、検索結果、レコメンド内容、および自動補完提案で返される誤情報の量に対する顧客の行動履歴の影響を調べた。論文によると、Amazonの履歴は、商品の検索、検索してクリックする、検索してクリックした後にカートに追加する、Googleなどのサードパーティのウェブサイトで検索する、などの1週間の期間にされた行動を含んでいる。

両監査の結果を分析した結果、研究者らは、多くのワクチン関連のクエリで返された検索結果には、誤った情報に基づいた商品が多数含まれており、"高い誤情報バイアス"と特徴づけられていることを発見しました。さらに、誤情報に基づいた製品は、「デマを訂正する」製品よりも上位にランクされ、誤情報に基づいた製品にアクションを起こした顧客は、ホームページ、製品ページの推奨事項、購入前の推薦において、より多くの誤った情報を提示されたとMitraらは述べている。

「多くの検索エンジンやソーシャルメディアのプラットフォームでは、過去の閲覧履歴や購入履歴に基づいてアルゴリズムが好むと考える商品を推奨することで、ユーザーのプラットフォーム上での体験を高めるためにパーソナライゼーションを採用している。しかし、チェックを怠ると、パーソナライゼーションは問題のあるコンテンツのウサギの穴にユーザーを誘導してしまうというマイナス面もある」とMitraらは書いている。「私たちの分析では、Amazon上にエコーチャンバーが存在しており、ユーザーが誤った情報に基づいた書籍に対して現実世界での行動を行うと、様々なレコメンデーションの中でより多くの誤った情報が提示されることが明らかになった。抗ワクチン本を1回クリックしただけで、他の似たような抗ワクチン本でホームページが埋め尽くされる可能性がある。ワクチンやその他の健康関連のトピックを別の方法で扱い、高品質の検索と推薦を保証するプラットフォームが急務となっている」

Mitraらは、一つの潜在的な解決策として、ワクチン関連の検索結果に存在する誤報の量を知らせることができる「バイアスメーター」を提案している。Mitraらはまた、Amazonに対して、スポンサーシップを介した健康関連の誤った情報に基づいた書籍のプロモーションを止めるように促している。 研究者らは、彼らが注釈を付けたスポンサー付きの推奨事項の中で、98の誤った情報に基づいた製品を発見した。このため、専門家によって評価された健康関連製品のラベルを導入するように促している。さらに、研究者らは、誤った情報に基づいたコンテンツへの暴露を減らすために、プラットフォームの検索と推薦アルゴリズムに誤情報を考慮した設計をもたらすことを推奨している。

参考文献

Prerna Juneja, Tanushree Mitra. Auditing E-Commerce Platforms for Algorithmically Curated Vaccine Misinformation. arXiv:2101.08419 [cs.HC]

Photo by Christian Wiediger on Unsplash