検索業界の惨状はAI時代の不吉な兆候だ［ブルームバーグ・ビジネスウィーク］

(ブルームバーグ・ビジネスウィーク) -- 先日の土曜日の夜、退屈していたテクノロジー企業の幹部が、噂に聞いていた人工知能アプリで遊んでみることにした。マシュー（仮名）というその経営幹部は、たいていの人がインターネットでものを探すのと同じ方法で始めた。ノートパソコンを開き、GoogleにそのAI企業の名前「Midjourney」を入力した。彼はノートパソコンを開き、GoogleにMidjourneyというAI会社の名前を入力した。彼は一番上の検索結果をクリックし、さらに数回クリックしてアプリをダウンロードしてインストールした。

彼が実際にクリックしたのは、GoogleがMidjourneyを装った詐欺師に売った広告だったのだ。マシューは、自分のコンピューターにアクセスした人物がまだ自分の個人情報を持っているかもしれないと心配しているため、匿名を要求した。彼はうっかり「情報窃取（infostealer系）マルウェア」をインストールしてしまったのだ。Auroraとして知られるこのマルウェアは、彼の暗号資産ウォレット、ソーシャルメディア・アカウント、そして他の何者かにアクセスしていた。ハッカーはマシューのCoinbaseウォレットの中身、数十万ドルの暗号通貨を彼以外の銀行に送金した。マシューは言う。「これはあなたの生活すべてに共通することだ。無防備で、傷つけられやすいと感じられるだろう」

マシューは、もっと用心しなかった自分を責めているが、明らかな詐欺を結果ページのトップに表示させたGoogleも責めている。この失敗は、Googleの検索結果のリンクが完璧に客観的で信頼できるものであるかのような感覚を与える一方で、どのリンクが広告なのかを見分けにくくするようなデザインの選択によって拡大した（Googleは広告を「スポンサード」と表示しているが、そのラベルを見落とすのは簡単だ）。

マシューの経験は、検索市場を支配するGoogleのコストと、詐欺を抑制する明らかな能力に関する長年の疑問を提起している。そして、Googleがその実験的な（時には事実に反する）チャットボット検索エンジンから詐欺や誤った情報を排除するのは、予想以上に難しいかもしれないことを示唆している。GoogleのBardでは、同社が提供する情報の出所を特定するのはさらに難しくなりそうだ。

7月下旬までにマシューがクリックした広告は消えていたが、Googleの検索結果のトップ付近にはまだ偽Midjourneyのウェブサイトが表示されていた。「まだ検索結果に表示されているという事実は、許しがたいことです」と彼は言う。「私は彼らを信頼していたが、それは偽りの信頼だった」。偽Midjourneyの検索広告は、ブルームバーグ・ビジネスウィークからの問い合わせの直後にGoogleから消えた。Googleは偽のリスティングについてコメントを控えたが、人間のレビュアーとソフトウェアを組み合わせてこのようなコンテンツを削除しているという。また、昨年は52億件の広告をポリシー違反で削除したという。「Googleの保護を回避しようとする悪質な行為者がいる一方で、Googleのシステムは質の高い情報を提供し、スパムや悪質な行為と戦う上で非常に効果的です」と、同社の広報担当者であるネッド・エドリアンスは言う。

Googleがマシューに表示した広告が悪意あるものであることを見抜くのに高度な詐欺対策システムは必要なかったはずだ。その広告はMidjourneyのウェブサイトを指していたが、会社名の "o" の部分を "0" に置き換えていた。Redditには、マシューがクリックする前に、まさにこのことを警告するスレッドがあった。コネチカット州の民主党上院議員リチャード・ブルメンタールは2022年の書簡で、Googleが「危険な詐欺、なりすまし、サイバー犯罪への対処を日常的に怠ってきた」と非難した。さらに、Midjourneyにはダウンロード可能なアプリすらなく、チャットアプリのDiscord経由でアクセスする。

同様の事例は、Googleの歴史を通じて定期的に現れている。例えば7月下旬、デジタルデザイナーのシュムリ・エヴァースは、詐欺師がGoogleを騙してデルタ航空やその他の大手航空会社の偽の電話番号を教え、偽の航空券を販売していたことを発見した。Googleはエヴァースがツイートした後、この誤りを訂正したが、批判的な人々は、同社は以前から同様の電話番号詐欺について認知していたと言う。「このような乗っ取りは、過去15年間毎年起きている」と、デジタル・マーケティングと検索マーケティングについて企業にアドバイスをしているニア・メディアの共同設立者、マイク・ブルメンタールは言う。「Googleは長い間、こうした詐欺のコストを社会に押し付けてきた」。

詐欺師たちは、花屋、鍵屋、ホテルの電話番号をすり替えている、とブルーメンタールは言う。「私たちはこのような誤解を招く行為を容認していませんし、詐欺と闘うために常に監視し、プラットフォームを進化させています」と、アドリアンスは航空会社の詐欺について言及している。

Googleはまた、より巧妙な操作にもさらされている。検索エンジンのマーケティング担当者は、時にはChatGPTや同様のサービスの助けを借りて、特定のカテゴリーの検索結果ページを、多くの場合何の役にも立たない、ジャンクで自己宣伝的なウェブサイトで埋め尽くしている。Atlantic誌が昨年「Google検索の公然の秘密」と表現したこの問題は、ユーザーが偽の検索結果をフィルタリングしようとするトリックに頼る原因となっている。最もポピュラーな手法のひとつは、検索に「Reddit」という単語を加えることで、マーケティングやスパムの氾濫を免れているとされるソーシャル・ネットワークを使うことだ。別のアプローチとしては、GoogleをTikTokに置き換えるというものがある。TikTokは、レストランやレシピ、旅行のヒントを探している場合、よりスパム性の低い検索結果を得ることができる。最後に、BardやMicrosoftがBing検索エンジンのために開発したチャットボットがある。

Googleによれば、大半の顧客は検索結果の品質に満足しており、このカテゴリーにおける同社の優位性が20年間ほとんど揺るがなかった理由の少なくとも一端を説明している。Similarwebによれば、同社は検索エンジンで91％の市場シェアを誇っている。

議会は、ユーザーが作成したコンテンツに関する法的責任からウェブサイトを保護する通信品位法230条を改正することで、さらに圧力をかけることができる。しかし、そのような措置は激しく争われるであろうし、議会は近年そのような問題に取り組む能力を示していない。より可能性が高いのは、米司法省と州検事総長が起こす訴訟で、Googleを数年前に買収した2つの広告ネットワークから切り離そうとするものだ。Googleは、この訴訟は「競争の激しい広告テクノロジー分野で勝者と敗者を選ぼうとする試み」だと述べている。

これらの政府による訴訟は、何年も解決しそうにない。その間、マシューは友人や親戚に注意を促している。最終的には連邦捜査局（FBI）の助けで90％の資金を回収することができたが、今後は暗号資産ではなく従来の銀行に資金を預けるという。しかし彼は、人々がまだ同様の詐欺に引っかかっていることを心配している。「現時点では、Googleは十分に洗練されているので、Midjourneyのような単純なものを検索すると、一番上のリンクがMidjourneyのウェブサイトになると思います」と彼は言う。「ただ、解決できていない現実的な問題があります」

The Sorry State of Search Is an Ominous Sign for the AI Era

By Max Chafkin

© 2023 Bloomberg L.P.

翻訳：吉田拓史、株式会社アクシオンテクノロジーズ