フェイスブックとツイッターは今週初め、4年前の米大統領選に干渉したロシアのトロールファーム「インターネット調査局」に関連したソーシャルメディアのアカウントを削除し、フェイスブックの最大1億2600万人のユーザーに誤報を拡散していた。今日、Facebookは11月の選挙日を前に、誤報を抑制することを目的とした施策を展開した。

ディープフェイクは、壮大なミームを作ったり、ニコラス・ケイジをすべての映画に登場させたりすることができるが、選挙を壊滅させることもできる。選挙妨害の脅威が高まる中、AI研究者の2つのチームは最近、心臓の鼓動の証拠を見ることでディープフェイクを識別する新しいアプローチを導入した。

既存のディープフェイク検出モデルは、不自然なまぶたの動きや顔の端の歪みを追跡するなど、従来のメディアフォレンジックの手法に焦点を当てている。2018年には、ユニークな「GANフィンガープリント」を検出するための最初の研究が導入された。 しかし、光電脈波法は、血流が皮膚の色のわずかな変化をどのように引き起こすかといった視覚的な手がかりを、人間の心拍に変換する。リモート光電脈波法のアプリケーションはヘルスケアのような分野で模索されているが、生成モデルが人間の血液の動きを模倣できることが現在知られていないため、光電脈波法はディープフェイクスの識別にも使用されている。

先週発表された研究では、ビンガムトン大学とインテルの研究者たちが、ディープフェイクの検出を超えて、どのディープフェイク・モデルが博士の手を加えた動画を作ったのかを認識するAIを導入した。研究者たちは、ディープフェイクモデルの動画には、ユニークな生物学的・生成的ノイズ信号が残されていることを発見した。彼らが「ディープフェイク・ハートビート」と呼ぶものだ。この検出アプローチは、研究者らが光電脈波セルと呼んでいる、人の顔の32の異なるスポットからの残留生物学的信号を探す。

「我々は、任意の動画のソース生成モデルを予測するディープフェイクソース検出器を提案する。我々の知る限りでは、我々のアプローチは、ディープフェイク動画の生成モデルの残差を解釈するソース検出のためのより深い分析を行った最初のものだ」と論文は記述する。「我々の重要な発見は、これらの生物学的信号を、モデルごとの残差のシグネチャ変換を含む偽の心臓の鼓動として解釈できるという事実から浮かび上がってきます。したがって、動画の真正性を判断するだけでなく、動画を生成するソースモデルを分類するために、これらの生物学的信号の新たな探求が生まれる」。

ディープフェイク動画データセットを用いた実験では、光電脈波法セルアプローチは97.3%の精度でディープフェイクを検出し、人気のあるディープフェイクデータセット「FaceForensics++」から生成ディープフェイクモデルを93.4%の精度で同定した。

この論文「How Do the Hearts of Deep Fakes Beat? Deep Fake Source Detection via Interpreting Residuals with Biological Signals」は先週発表され、今月下旬に開催されるInternational Joint Conference on Biometricsでの発表に向けて受理された。

別の最近の研究では、アリババグループ、九州大学、南洋理工大学、天津大学のAI研究者が、視覚的な光電脈波法から人間の心拍を認識するディープフェイク検出モデル「DeepRhythm」を発表した。著者らは、DeepRhythmがこれまでの動画中の生身の人物を識別するための既存のモデルと異なるのは、リズムパターンを認識しようとするためであると述べている。「偽物の動画にはまだ心臓のリズムが残っているかもしれないが、そのパターンはディープフェイクの手法によって減少しており、本物とは異なる」ためだ。

DeepRhythmは、ネットワークモデルのさまざまな段階で、心臓リズム運動増幅モジュールと学習可能な空間-時間的注意メカニズムを組み込んでいる。研究者は、FaceForensics++をベンチマークとして使用した場合、DeepRhythmは多数の最先端のディープフェイク手法を凌駕すると述べている。

「FaceForensics++とDeepfake Detection Challenge-previewのデータセットでの実験結果は、我々の手法が最先端の手法を凌駕するだけでなく、様々な劣化にもロバストであることを示しています」とチームは書いている。「DeepRhythm. DeepRhythm: Exposing DeepFakes with Attentional Visual Heartbeat Rhythms」と題された論文は、6月に発表され、先週修正され、10月に開催されるACM Multimedia conferenceでの発表に向けて受理された。

両グループの研究者は、将来的には光電脈波法ステムを既存の映像認証手法と組み合わせる方法を模索したいと述べている。そうすれば、ディープフェイク動画をより正確に、あるいはよりロバストに識別する方法を実現できるようになるでしょう。

今週初め、MicrosoftはAzure向けにVideo Authenticationのディープフェイク検出サービスを発表した。その導入の一環として、ビデオ認証は、AI財団のReality Defenderプログラムを通じて、ニュースメディアや政治キャンペーンで利用できるようになっている。

選挙妨害への懸念が高まる中、現時点では、トランプ大統領とそのチームによって流布された捏造ビデオやデマが、ディープフェイクよりも大きな脅威となっているようだ。