レコメンドによるフィルターバブルがあなたの考えを変える

ジャーナリストのイーライ・パリサーは、個人化技術の普及により、ネット利用者が多様な情報源や視点に接する機会が減らされていると主張した。彼は「フィルターバブル」という用語を生み出し、多様な視点やコンテンツから人々を効果的に隔離するオンラインパーソナライゼーションの可能性を説明した。パリサーは推薦などの個人化技術により、利用者は知らないうちに、自身が関心があるとされる限定された話題の情報にしか接しないようになっており、まるで『泡』の中に閉じ込めらたような状態になっていると状況を描写する。そのため，利用者が新たな話題に関心をもつ機会が奪われたり、社会の中での情報や認識の共有が困難になるなどの影響があると指摘しているのだ。

機械学習は、オンライン製品の推薦システム（レコメンデーションエンジン）で広く使用されている。推薦システムは企業の収益性に重要な役割を果たす。たとえば、Amazonはかつて、売上の35％が推薦システムによるものだと報告した。 2012年のNetflixの報告によると、ユーザーが見たものの75％は推薦システムによるものだった。

推薦システムは、同業者や専門家よりもユーザーの選択に大きな影響を与える。ユーザーの意思決定努力を軽減し、ユーザーの意思決定の質を向上する。しかし、推薦システムの初期の頃から、研究者は、推薦システムによって「グローバルビレッジ」が部族に分裂するのではないかと考えていた。

推薦システムによって行われた決定は、ユーザーの信念と好みに影響を与え、学習システムが受け取るフィードバックに影響を与える可能性がある。そのようなシステムがさまざまな情報への露出を狭め、ユーザーの関心を変える自己強化パターンにつながる可能性があるという懸念が高まっている。この自己強化のプロセスがフィードバックループである。この現象は、ユーザーと社会に影響を与える、いわゆる「エコーチェンバー」または「フィルターバブル」を引き起こす可能性がある。

推薦システムとフィルターバブルの関連性の検証は続けられてきた。Nguyenらは、協調フィルタリング（訪問者と似た行動履歴を持つ利用者のデータを基に、訪問者が購入する可能性が高いアイテムをおすすめする手法）を採用する推薦システムがユーザーの触れるアイテムが狭められていることを発見した。ただし、Nguyenは推薦されているアイテムを実際に消費するユーザーがアイテムをより積極的に評価するという証拠も発見している。つまり、彼らはユーザーの触れるアイテムは推薦システムのせいで狭められているもののそれが彼らの満足感につながっている可能性があると主張している。

Googleの子会社であるDeepMindの研究者Ray Jiangらは今年の3月にフィルターバブルに関する論文を発表した。Jiangらは推薦システムとユーザーの間のフィードバックループは、「エコーチェンバー」と「フィルターバブル」を発生させ、ユーザーのコンテンツへの露出を狭め、最終的に彼らの世界観を変えうると主張した。

この論文では、エコーチェンバーとは、ユーザーが類似コンテンツに繰り返しさらされることで、関心が強化される現象を指す。一方、フィルターバブルは、ユーザーがさらされるコンテンツの領域が狭まる現象を指している。両者は区別されるものの同類である。

推薦システムの動作がフィルターバブルを生成する際の影響を調査するために、 Jiangらは、ユーザーの関心が縮退するダイナミクスを持っていると仮定し、ダイナミクスのさまざまなモデルを検討した。Jiangらは、推薦システム側には、システム設計において縮退速度に影響する3つの独立した要因、つまりモデルの精度、探索量、および候補プールの成長率があることを特定した。

それから、 Jiangらは合成データといくつかの古典的なバンディットアルゴリズムを使用したシミュレーションで、ユーザーのダイナミクスとレコメンダーシステムの動作の相互作用を確認した。

研究チームは興味深い提案をしている。フィルターバブルやエコーチェンバーに対抗する最適な方法は、より探索的な推薦アルゴリズムを設計することである。あまり確かでないものを表示してユーザーの関心を広げるようにすることだ。「システムの縮退に対する最善の解決策は、連続的なランダム探索と候補プールの少なくとも直線的な成長」と論文は指摘する。

Jiangらは彼らのシミュレーションには2つの制約があることに言及している。 第一に、ユーザーの関心は直接観察されない隠された変数であるため、縮退を確実に研究するためには、実際にはユーザーの関心に対する適切な尺度が必要ということ。第二に、アイテムとユーザーは互いに独立していると仮定したが、現実の社会はアイテムとユーザーはその相互依存をもっている。彼らは将来の研究で、相互に依存する可能性のあるアイテムとユーザーの場合に分析を拡張するという。

参考文献

Tien T. Nguyen Pik-Mai Hui F. Maxwell Harper Loren Terveen Joseph A. Konstan. Exploring the filter bubble: the effect of using recommender systems on content diversity. 2018.

Ray Jiang, Silvia Chiappa, Tor Lattimore, Andras Gyorgy, Pushmeet Kohli. Degenerate Feedback Loops in Recommender Systems

神嶌 敏弘.  赤穂 昭太郎. 麻生 英樹. 佐久間 淳.情報中立推薦システム. 2012.

デイヴィッド・サンプター. 数学者が検証! アルゴリズムはどれほど人を支配しているのか? あなたを分析し、操作するブラックボックスの真実. 2019

Photo by Paweł Czerwiński on Unsplash