ディープ・フェイク革命はレガシーメディアの復活をもたらすかもしれない：Leonid Bershidsky

(ブルームバーグ・オピニオン) -- ロシアのポップミュージックプロデューサー、ヨシフ・プリゴジンは、ウラジミール・プーチンとロシアのウクライナ侵攻を公然と支持している。しかし、今月初め、プリゴジンが制裁を受けた億万長者ファルカド・アクメドフとの罵り合いの電話会話を録音したものと思われるものがYouTubeに流出し、その中で両者は「サタン」プーチンの強欲で無能なチーム、彼の愚かな戦争について罵っている。

その会話の内容は多少興味深く、侮辱や不満は笑い話になるが、結局のところ、この録音からは特に何も見えてこない。プーチンが快楽主義的なビジネスエリートの意に反してロシアを戦争に引きずり込んだこと、このエリートが制裁の不都合に憤り、それでもプーチンに公に立ち向かおうとしないのは、それが破滅への確実な道だからだということは、侵略から1年が経った今でもほとんど新しい知識ではない。プリゴジンは、この会話、あるいは少なくともその一部は、人工知能を使って作成されたものであり、今日、そうでないことを証明することは不可能であると主張している。

プリゴジンはインタビューで、「ニューラルネットワークは今日、あらゆる種類の奇跡を起こす」と述べた。「この録音は、私たちが言ったフレーズと、生成されたものの決して言わなかったフレーズが混在しています」

プーチンがハーグで逮捕され裁判にかけられる様子、プーチンが習近平主席の前で膝を屈する様子、ドナルド・トランプが逮捕に抵抗しようとするが結局は刑務所に入る様子、バレンシアガの偽パファーコートを着たフランシス法王、といったリアルな偽映像を世界が見た今、なぜロシアの富豪2人がプーチンを中傷する偽電話の音声が出ても不思議ではない。大規模言語モデル（LLM）が、生死にかかわらずあらゆる作家の文体を説得力を持って模倣できる今、ほろ酔いの音楽プロデューサーの文体を作れない理由はない。

写真、テキスト、オーディオ、ビデオファイルといったデジタルオブジェクトが生成AIによって作られたものかどうか、すぐに見分けがつくと主張する人がいるが、彼らはすでにそうしている。 バイラル画像のローマ法王の右足が奇妙な形をしていること、眼鏡が全く合っていないこと、とにかく、彼はこんな太ったものは着ないということに気づいているの。専門家によれば、プリゴジン・アクメトフの録音は、全部または一部を偽造することは不可能に近い（100％不可能ではない）。しかし、過去の経験に根ざした専門的な知識に基づいているとはいえ、私はそのような主張をあまり信用しない。今は革命的な時代であり、ChatGPTやMidjourneyのようなAIサービスの質の飛躍は非常に大きく、完全にリアルなアウトプットを期待しない方が近視眼的であるだろう。あらゆるメディアの生成のしやすさは、すでに指数関数的に高まっているように見える。イギー・ポップがかつて歌ったように、「偽りが真になるまで、昼が夜になるまで、間違ったことが正しく感じられるようになるまで」、私たちは間違いなくこのようなことを強制的に教え込まれることになる。ほとんどの人は、メディアファイルを認証するために必要な複雑なツールを使うことはおろか、よく見ようともしないでしょう。

最近まで、優れたディープフェイクの出現はニュースになるものだった。偽物は喜ばれ、否定され、暗い未来が半ば本気で予言された。今でも、ローマ法王の画像やその類の画像は、このように扱われている。しかし、未来はすでに到来しているのだから、このような取り上げ方は時代に乗り遅れている。偽物は新しい現実の一部であり、プリゴジンの弁護はどこにでもあるものになり、偽物を素人が作るのと同じくらい簡単に頼ることができるようになる運命にある。

この進展は、ニュースソースとしてのソーシャルネットワークの終焉を告げるものである。現在、アメリカ人の約半数がソーシャルネットワークをニュースソースとして利用しているが、ソーシャルネットワークに掲載されているものが昔ながらの方法で本物かどうか、つまり、署名した人と同じ人が作ったものかどうか、描かれているものが何を描いているのかを見分けることはもはや不可能であることに気づけば、彼らはやめるだろう。もちろん、必ずしもそうなるとは限りませんが、私たちの多くは、嫌な現実を直視するよりも、快適な世界のバージョンを探すことを好む。しかし、真実の合理的な近似値を求める人々にとって、TwitterやFacebookなどの利用は、確実な有用性を欠き、より時間を要するものになるだろう。今でさえ、ノイズをフィルタリングするのは大変なことだ。即座に改ざん可能なデジタルリアリティでは、常に注意を払う必要がある。

Twitterのオーナーであるイーロン・マスクは、人工的な存在ではなく人間との交流を続けたいソーシャルネットワークユーザーにとって、アカウント認証にお金を払うことが唯一の選択肢であると主張している。「1アカウントあたり1円未満で10万個の人間そっくりのボットを作るのは、今や些細なことだ」と彼はツイートしている。「有償認証はボットのコストを～10,000%増加させる」。さらに彼は、有償認証によって、ユーザーの「For You」アルゴリズムのフィードに未認証の（つまり無報酬の）アカウントを表示しなくなるため、Twitterがまもなく唯一の信頼できるネットワークになると予測している。この議論は、マスクが収益を上げるのに役立つかもしれないが、他の観点から見るとほとんど意味をなさない。AIが生成したコンテンツが大量生産者にとってどれだけ有用かにもよるが、マスクが請求している1アカウントあたり7ドルという金額は、許容範囲内のコストかもしれない。

AI革命は、今日、ほとんどの学生、一部の学者、多くのジャーナリストが好んで使う研究手段であるウェブ検索にも大打撃を与えるだろう。検索結果にリンクが張られていても、それが偽の情報源につながる可能性がある。現在のツールは、LLMによって作成されたコンテンツで、本や学術雑誌全体を埋めることができる。今日、信頼できるソースと見なされているものが、明日、新しい「魔法の」テクニックのトリガーハッピーな使用によって、取り返しのつかないほど破壊されるかもしれない。このように、脳の拡張機能としての検索、つまり今日ほとんどの人が使っている方法は、潜在的にグロテスクな現実修正装置になる可能性がある。

真の革命は、染み付いた習慣のパターンを一掃することが多い。しかし、その革命は、さらに古く、忘れ去られたものを呼び戻すかもしれない。

ハイテク業界が「レガシーメディア」と呼ぶようになったメディアは、失った信用と影響力を取り戻す機会を得ている。30年前と同様、アナログ・デジタルを問わず、人と接し、現実のアーカイブに触れることが、実態を知るためのほぼ唯一の方法となった。好奇心旺盛な情報探索者や、信憑性に不安を抱く情報消費者にとって、直接の情報源から情報を得る能力は、突然、価値を増すことになる。ジャーナリストは、訓練されたコミュニケーターであり、インタビュアーであり、無数の退屈な文書の中からニュースになるような意味のある粒を探し出す人たちだ。現代のハイテクツールに魅了されて、最近これらのスキルを実践していない人でも、これらのツールが存在する前に、物事がどのように行われていたかをすぐに思い出すことができる。

私たちが所属する「レガシーメディア」は、テクノロジーが参入障壁をなくしたことで、情報のゲートキーパーとしての役割を失ってしまった。今、検証され、証明された本物の情報を得る能力と、偽造を許さない厳格なルールが、突然、再び意味を持つようになった。しかし、守るべき仕事を持つ特定のジャーナリストと、守るべき評判を持つ報道機関が録音したものは別問題だ。ヨシフ・プリゴジンのAIによる防御は、復讐心に燃えるプーチンには通じないかもしれない。しかし、一介のニュース消費者としては、プリゴジンの声が本当に録音された通りのことを言ったのかどうか、確証が持てない。

メディアは、この機会をまだ無駄にするかもしれない。このチャンスを生かすには、人力での取材や現場での活動という基本に立ち返ることが必要で、それには費用がかかるかもしれない。しかし、その価値はある。 ニュースというのは、ハンドメイドの靴やオーダーメイドの自転車よりも幅広い魅力を持つ職人的な製品であり、それらのように、最も完璧なAIモデルの出力で置き換えられるものではない。

The Deepfake Revolution May Bring a Media Revival: Leonid Bershidsky

© 2023 Bloomberg L.P.

翻訳：吉田拓史、株式会社アクシオンテクノロジーズ