AI研究者が心拍検出を利用してディープフェイク動画を特定

先週発表された研究では、ビンガムトン大学とインテルの研究者たちが、ディープフェイクの検出を超えて、どのディープフェイク・モデルが博士の手を加えた動画を作ったのかを認識するAIを導入した。研究者たちは、ディープフェイクモデルの動画には、ユニークな生物学的・生成的ノイズ信号が残されていることを発見した。

AI研究者が心拍検出を利用してディープフェイク動画を特定

フェイスブックとツイッターは今週初め、4年前の米大統領選に干渉したロシアのトロールファーム「インターネット調査局」に関連したソーシャルメディアのアカウントを削除し、フェイスブックの最大1億2600万人のユーザーに誤報を拡散していた。今日、Facebookは11月の選挙日を前に、誤報を抑制することを目的とした施策を展開した。

ディープフェイクは、壮大なミームを作ったり、ニコラス・ケイジをすべての映画に登場させたりすることができるが、選挙を壊滅させることもできる。選挙妨害の脅威が高まる中、AI研究者の2つのチームは最近、心臓の鼓動の証拠を見ることでディープフェイクを識別する新しいアプローチを導入した。

既存のディープフェイク検出モデルは、不自然なまぶたの動きや顔の端の歪みを追跡するなど、従来のメディアフォレンジックの手法に焦点を当てている。2018年には、ユニークな「GANフィンガープリント」を検出するための最初の研究が導入された。 しかし、光電脈波法は、血流が皮膚の色のわずかな変化をどのように引き起こすかといった視覚的な手がかりを、人間の心拍に変換する。リモート光電脈波法のアプリケーションはヘルスケアのような分野で模索されているが、生成モデルが人間の血液の動きを模倣できることが現在知られていないため、光電脈波法はディープフェイクスの識別にも使用されている。

先週発表された研究では、ビンガムトン大学とインテルの研究者たちが、ディープフェイクの検出を超えて、どのディープフェイク・モデルが博士の手を加えた動画を作ったのかを認識するAIを導入した。研究者たちは、ディープフェイクモデルの動画には、ユニークな生物学的・生成的ノイズ信号が残されていることを発見した。彼らが「ディープフェイク・ハートビート」と呼ぶものだ。この検出アプローチは、研究者らが光電脈波セルと呼んでいる、人の顔の32の異なるスポットからの残留生物学的信号を探す。

「我々は、任意の動画のソース生成モデルを予測するディープフェイクソース検出器を提案する。我々の知る限りでは、我々のアプローチは、ディープフェイク動画の生成モデルの残差を解釈するソース検出のためのより深い分析を行った最初のものだ」と論文は記述する。「我々の重要な発見は、これらの生物学的信号を、モデルごとの残差のシグネチャ変換を含む偽の心臓の鼓動として解釈できるという事実から浮かび上がってきます。したがって、動画の真正性を判断するだけでなく、動画を生成するソースモデルを分類するために、これらの生物学的信号の新たな探求が生まれる」。

ディープフェイク動画データセットを用いた実験では、光電脈波法セルアプローチは97.3%の精度でディープフェイクを検出し、人気のあるディープフェイクデータセット「FaceForensics++」から生成ディープフェイクモデルを93.4%の精度で同定した。

この論文「How Do the Hearts of Deep Fakes Beat? Deep Fake Source Detection via Interpreting Residuals with Biological Signals」は先週発表され、今月下旬に開催されるInternational Joint Conference on Biometricsでの発表に向けて受理された。

別の最近の研究では、アリババグループ、九州大学、南洋理工大学、天津大学のAI研究者が、視覚的な光電脈波法から人間の心拍を認識するディープフェイク検出モデル「DeepRhythm」を発表した。著者らは、DeepRhythmがこれまでの動画中の生身の人物を識別するための既存のモデルと異なるのは、リズムパターンを認識しようとするためであると述べている。「偽物の動画にはまだ心臓のリズムが残っているかもしれないが、そのパターンはディープフェイクの手法によって減少しており、本物とは異なる」ためだ。

DeepRhythmは、ネットワークモデルのさまざまな段階で、心臓リズム運動増幅モジュールと学習可能な空間-時間的注意メカニズムを組み込んでいる。研究者は、FaceForensics++をベンチマークとして使用した場合、DeepRhythmは多数の最先端のディープフェイク手法を凌駕すると述べている。

「FaceForensics++とDeepfake Detection Challenge-previewのデータセットでの実験結果は、我々の手法が最先端の手法を凌駕するだけでなく、様々な劣化にもロバストであることを示しています」とチームは書いている。「DeepRhythm. DeepRhythm: Exposing DeepFakes with Attentional Visual Heartbeat Rhythms」と題された論文は、6月に発表され、先週修正され、10月に開催されるACM Multimedia conferenceでの発表に向けて受理された。

両グループの研究者は、将来的には光電脈波法ステムを既存の映像認証手法と組み合わせる方法を模索したいと述べている。そうすれば、ディープフェイク動画をより正確に、あるいはよりロバストに識別する方法を実現できるようになるでしょう。

今週初め、MicrosoftはAzure向けにVideo Authenticationのディープフェイク検出サービスを発表した。その導入の一環として、ビデオ認証は、AI財団のReality Defenderプログラムを通じて、ニュースメディアや政治キャンペーンで利用できるようになっている。

選挙妨害への懸念が高まる中、現時点では、トランプ大統領とそのチームによって流布された捏造ビデオやデマが、ディープフェイクよりも大きな脅威となっているようだ。

Read more

AI時代のエッジ戦略 - Fastly プロダクト責任者コンプトンが展望を語る

AI時代のエッジ戦略 - Fastly プロダクト責任者コンプトンが展望を語る

Fastlyは、LLMのAPI応答をキャッシュすることで、コスト削減と高速化を実現する「Fastly AI Accelerator」の提供を開始した。キップ・コンプトン最高プロダクト責任者(CPO)は、類似した質問への応答を再利用し、効率的な処理を可能にすると説明した。さらに、コンプトンは、エッジコンピューティングの利点を活かしたパーソナライズや、エッジにおけるGPUの経済性、セキュリティへの取り組みなど、FastlyのAI戦略について語った。

By 吉田拓史
宮崎市が実践するゼロトラスト:Google Cloud 採用で災害対応を強化し、市民サービス向上へ

宮崎市が実践するゼロトラスト:Google Cloud 採用で災害対応を強化し、市民サービス向上へ

Google Cloudは10月8日、「自治体におけるゼロトラスト セキュリティ 実現に向けて」と題した記者説明会を開催し、自治体向けにゼロトラストセキュリティ導入を支援するプログラムを発表した。宮崎市の事例では、Google WorkspaceやChrome Enterprise Premiumなどを導入し、災害時の情報共有の効率化などに成功したようだ。

By 吉田拓史
​​イオンリテール、Cloud Runでデータ分析基盤内製化 - 顧客LTV向上と従業員主導の分析体制へ

​​イオンリテール、Cloud Runでデータ分析基盤内製化 - 顧客LTV向上と従業員主導の分析体制へ

Google Cloudが9月25日に開催した記者説明会では、イオンリテール株式会社がCloud Runを活用し顧客生涯価値(LTV)向上を目指したデータ分析基盤を内製化した事例を紹介。従業員1,000人以上がデータ分析を行う体制を目指し、BIツールによる販促効果分析、生成AIによる会話分析、リテールメディア活用などの取り組みを進めている。

By 吉田拓史
Geminiが切り拓くAIエージェントの新時代:Google Cloud Next Tokyo '24, VPカルダー氏インタビュー

Geminiが切り拓くAIエージェントの新時代:Google Cloud Next Tokyo '24, VPカルダー氏インタビュー

Google Cloudは、年次イベント「Google Cloud Next Tokyo '24」で、大規模言語モデル「Gemini」を活用したAIエージェントの取り組みを多数発表した。Geminiは、コーディング支援、データ分析、アプリケーション開発など、様々な分野で活用され、業務効率化や新たな価値創出に貢献することが期待されている。

By 吉田拓史