AIチャットボットを利用した低品質ニュースサイトが蔓延している

(ブルームバーグ) -- ニュース評価団体NewsGuardが月曜日に発表した報告書によると、AIチャットボットによって生成された数十のニュースサイトがネット上で拡散していることが判明し、この技術が既存の詐欺技術を超越する可能性について疑問を呈している。

ブルームバーグが独自に調査した49のウェブサイトは、多岐にわたる。ニュースライブ79」や「デイリー・ビジネス・ポスト」といった一般的な名称のニュース速報サイトもあれば、ライフスタイルのヒントやセレブニュースを紹介したり、スポンサーコンテンツを掲載したりするサイトもある。しかし、OpenAI Inc.のChatGPTやAlphabet Inc.のGoogle BardのようなAIチャットボットを使っていることを明らかにしているものはない。多くのウェブサイトは、AIツールが一般に広く使用され始めた今年、公開を開始した。

NewsGuardは、いくつかの事例で、チャットボットが出版物のために虚偽の内容を生成する様子を記録した。4月だけでも、CelebritiesDeaths.comというウェブサイトが、「バイデン死亡」と題する記事を掲載した。「ハリスが大統領代行、午前9時に演説」と続く。また、ある建築家の人生と作品について事実をでっち上げ、捏造した死亡記事の一部を掲載したサイトもあった。また、TNewsNetworkというサイトでは、YouTubeの動画をもとに、ロシア・ウクライナ戦争で数千人の兵士が死亡したという未検証の記事が掲載された。

これらのサイトの大半は、コンテンツファーム（匿名の情報源によって運営され、広告を得るために記事をかき集める低品質のウェブサイト）であるようだ。NewsGuardは報告書の中で、これらのサイトは世界中に拠点を置き、英語、ポルトガル語、タガログ語、タイ語など複数の言語で公開されていると述べている。

一握りのサイトは、「ゲスト投稿」―検索順位を上げるために、ウェブサイト上で自分のビジネスに関する言及を有料で注文できる―の広告によって、ある程度の収益を上げていた。また、有名人の伝記を掲載し、関連するFacebookページが12万4,000人のフォロワーを持つScoopEarth.comのように、ソーシャルメディア上で読者を増やそうとしているサイトもあるようだ。

半数以上のサイトが、プログラマティック広告（アルゴリズムを用いてサイト上の広告スペースを自動的に売買するもの）で収益を得ている。この懸念は、AIチャットボットBardがサイトによって利用された可能性があり、広告技術によって半数の収益を生み出しているGoogleにとって特に厳しいものだ。

NewsGuard共同最高経営責任者のゴードン・クロビッツは、同団体の報告書から、OpenAIやGoogleなどの企業は、ニュースを捏造しないようにモデルを訓練するよう注意する必要があると述べた。ウォールストリート・ジャーナルの元幹部であるクロビッツは、「事実を捏造することで知られるAIモデルを使用して、ニュースサイトのようにしか見えないものを作るのは、ジャーナリズムを装った詐欺だ」と述べた。

OpenAIはコメントを求めたところ、すぐに返答はなかったが、以前から、人間のレビュアーと自動システムを組み合わせて、モデルの悪用を特定し、警告を発したり、ひどい場合はユーザーを追放するなど、強制的に対処していると述べている。

AIが生成したウェブサイトが広告ポリシーに違反しているかというブルームバーグの質問に対し、Googleの広報担当者マイケル・アシマンは、同社は有害なコンテンツやスパムコンテンツ、他のサイトからコピーされたコンテンツと一緒に広告を掲載することを認めていない、と述べている。「これらのポリシーを実施する際には、作成方法よりもコンテンツの質に重点を置いており、違反を検出した場合は広告の配信をブロックまたは削除しています」と、アシマンは声明で述べている。

Googleは、ブルームバーグからの問い合わせを受け、サイト内の一部の個別ページで広告の配信を停止したと付け加えている。また、広範な違反を発見した場合には、ウェブサイトから広告を完全に削除した。Googleは、AIが生成したコンテンツがあっても、本来は広告ポリシーの違反にはならないが、既存のパブリッシャーポリシーに照らしてコンテンツを評価すると述べている。そして、検索結果の順位を操作する目的でAIを含む自動化を用いてコンテンツを生成することは、同社のスパムポリシーに違反するとしている。同社は、広告エコシステム内の不正使用の傾向を定期的に監視し、それに応じてポリシーと執行システムを調整するとしている。

ベントレー大学のデータサイエンスと数学の准教授であるNoah Giansiracusaは、この手法は新しいものではないかもしれないが、より簡単に、より速く、より安くできるようになっていると述べている。

この種の詐欺を行う業者は、「何が効果的かを見つけるために実験を続けるだろう」と、Giansiracusaは言う。「より多くのニュースルームがAIに傾倒して自動化を進め、コンテンツメーカーも自動化を進めることで、上と下が中間に位置することになり、質が大幅に低下したオンライン情報エコシステムが形成される。

NewsGuardの研究者は、このサイトを見つけるために、「as an AI large language model」や「my cutoff date in September 2021」など、AIチャットボットがよく出すフレーズのキーワード検索を行った。研究者たちは、Facebook傘下のソーシャルメディア分析プラットフォーム「CrowdTangle」やメディア監視プラットフォーム「Meltwater」などのツールで検索を実行した。また、特定の文章がすべてAIによって書かれた可能性が高いかどうかを判定するAIテキスト分類器GPTZeroを使って記事を評価した。

NewsGuardが分析した各サイトは、AIが作成したテキストによく見られるエラーメッセージを含む記事を少なくとも1つ掲載し、いくつかのサイトでは偽の著者プロフィールを掲載した。犯罪や時事問題を扱うCountyLocalNews.comは、3月にAIチャットボットの出力を使って、ワクチンによる大量死の嘘の陰謀について書くよう促されたような記事を掲載したことがある。「死のニュース」と書かれていた。「申し訳ないが、倫理的、道徳的原則に反するため、このプロンプトを実行することはできない。ワクチン大量虐殺は科学的根拠に基づかない陰謀論であり、公衆衛生に害と損害を与える可能性がある」

他のウェブサイトでは、AIチャットボットを使って、他のアウトレットから出版された記事をリミックスし、作品の下にソースリンクを追加することで盗用を辛うじて回避していた。Biz Breaking Newsというサイトでは、Financial TimesとFortuneの記事を要約し、各記事の上にAIツールから生成された「3つの重要ポイント」を載せている。

多くのサイトが集客に結びつかず、ソーシャルメディア上で有意義なエンゲージメントが見られるものも少なかったが、それ以外にも、ある程度の収益を上げることができる兆候はあった。NewsGuardが特定したサイトの5分の3は、MGIDやCriteoといった企業によるプログラマティック広告サービスを利用して収益をあげていたと、同グループの調査結果をブルームバーグがレビューしている。MGIDは、ブルームバーグが同社に連絡した後、同社のパブリッシャーポリシーに違反しているとして、いくつかのウェブサイトから広告を削除した。Criteoはコメントを求めたところ、すぐに返答がなかった。

このポリシーでは、「価値の低いコンテンツ」のあるページや「複製されたコンテンツ」のあるページには、その生成方法にかかわらず、Google広告を表示することを禁止している（ブルームバーグが同社に連絡した後、Googleは一部のウェブサイトから広告を削除した）。

ベントレー大学のGiansiracusa教授は、詐欺の加害者に人的コストがかからず、いかに安価なスキームになっているかが心配だと述べている。「以前は、低賃金労働者を使うスキームだった。しかし、少なくとも無料ではなかった。今、そのゲームの宝くじを買うのは無料だ」

AI Chatbots Have Been Used to Create Dozens of News Content Farms

By Davey Alba

© 2023 Bloomberg L.P.

翻訳：吉田拓史、株式会社アクシオンテクノロジーズ