急速に進歩する言語AIが人々の意見を操る恐れ

新研究は、目覚ましい進歩を遂げている言語AIが、現在インターネット上で活発に行われている世論操作を高度化してしまう恐れについて警鐘を鳴らしている。

急速に進歩する言語AIが人々の意見を操る恐れ
Photo by camilo jimenez

ジョージタウン大学セキュリティ・新興テクノロジーセンター(CSET)、OpenAI、スタンフォード大学インターネット観測所(SIO)の科学者による新研究は、目覚ましい進歩を遂げている言語AIが、現在インターネット上で活発に行われている世論操作を高度化してしまう恐れについて警鐘を鳴らしている。

大規模言語モデル(LLM)は大規模なコンテンツ作成を可能にし、人件費を削減し、ボット活動の検出をより困難にすることで、インフルーエンス・オペレーション(影響力工作)を後押しできることを研究者は発見している。

研究者は、LLMがアクター、行動、コンテンツというインフルーエンス・オペレーションの3つの重要な要素にすべてに影響を与えると見ている。

LLMは、まとまった長文のテキストを簡単に生成できるため、より多くのアクターが影響力行使にLLMを利用することに魅力を感じるようになるでしょう。これまでコンテンツの作成には人間のライターが必要でだったが、これにはコストがかかり、拡張性も低く、また行為者がその活動を隠そうとする場合にはリスクが伴う。

LLMは完璧ではなく、テキストを生成する際に愚かなミスを犯すことがある。しかし、LLMと結合したライターは、ゼロから書くのではなく、コンピューターで生成されたテキストを編集することで、より生産的になることができる。言語モデルは、より使いやすく、信頼性が高く、効率的になる可能性が高い。

論文の共同執筆者でCSETのサイバーAIプロジェクトの研究員であるジョシュ・A・ゴールドスタイン博士は、VentureBeatに「プロパガンダ担当者にとって、言語生成ツールは役に立つ可能性が高いと主張している:コンテンツを生成するコストを押し下げ、同じ量のコンテンツを作るのに必要な人間の数を減らすことができる」と述べた。

Read more

​​イオンリテール、Cloud Runでデータ分析基盤内製化 - 顧客LTV向上と従業員主導の分析体制へ

​​イオンリテール、Cloud Runでデータ分析基盤内製化 - 顧客LTV向上と従業員主導の分析体制へ

Google Cloudが9月25日に開催した記者説明会では、イオンリテール株式会社がCloud Runを活用し顧客生涯価値(LTV)向上を目指したデータ分析基盤を内製化した事例を紹介。従業員1,000人以上がデータ分析を行う体制を目指し、BIツールによる販促効果分析、生成AIによる会話分析、リテールメディア活用などの取り組みを進めている。

By 吉田拓史
Geminiが切り拓くAIエージェントの新時代:Google Cloud Next Tokyo '24, VPカルダー氏インタビュー

Geminiが切り拓くAIエージェントの新時代:Google Cloud Next Tokyo '24, VPカルダー氏インタビュー

Google Cloudは、年次イベント「Google Cloud Next Tokyo '24」で、大規模言語モデル「Gemini」を活用したAIエージェントの取り組みを多数発表した。Geminiは、コーディング支援、データ分析、アプリケーション開発など、様々な分野で活用され、業務効率化や新たな価値創出に貢献することが期待されている。

By 吉田拓史