AI研究者が心拍検出を利用してディープフェイク動画を特定

先週発表された研究では、ビンガムトン大学とインテルの研究者たちが、ディープフェイクの検出を超えて、どのディープフェイク・モデルが博士の手を加えた動画を作ったのかを認識するAIを導入した。研究者たちは、ディープフェイクモデルの動画には、ユニークな生物学的・生成的ノイズ信号が残されていることを発見した。

AI研究者が心拍検出を利用してディープフェイク動画を特定

フェイスブックとツイッターは今週初め、4年前の米大統領選に干渉したロシアのトロールファーム「インターネット調査局」に関連したソーシャルメディアのアカウントを削除し、フェイスブックの最大1億2600万人のユーザーに誤報を拡散していた。今日、Facebookは11月の選挙日を前に、誤報を抑制することを目的とした施策を展開した。

ディープフェイクは、壮大なミームを作ったり、ニコラス・ケイジをすべての映画に登場させたりすることができるが、選挙を壊滅させることもできる。選挙妨害の脅威が高まる中、AI研究者の2つのチームは最近、心臓の鼓動の証拠を見ることでディープフェイクを識別する新しいアプローチを導入した。

既存のディープフェイク検出モデルは、不自然なまぶたの動きや顔の端の歪みを追跡するなど、従来のメディアフォレンジックの手法に焦点を当てている。2018年には、ユニークな「GANフィンガープリント」を検出するための最初の研究が導入された。 しかし、光電脈波法は、血流が皮膚の色のわずかな変化をどのように引き起こすかといった視覚的な手がかりを、人間の心拍に変換する。リモート光電脈波法のアプリケーションはヘルスケアのような分野で模索されているが、生成モデルが人間の血液の動きを模倣できることが現在知られていないため、光電脈波法はディープフェイクスの識別にも使用されている。

先週発表された研究では、ビンガムトン大学とインテルの研究者たちが、ディープフェイクの検出を超えて、どのディープフェイク・モデルが博士の手を加えた動画を作ったのかを認識するAIを導入した。研究者たちは、ディープフェイクモデルの動画には、ユニークな生物学的・生成的ノイズ信号が残されていることを発見した。彼らが「ディープフェイク・ハートビート」と呼ぶものだ。この検出アプローチは、研究者らが光電脈波セルと呼んでいる、人の顔の32の異なるスポットからの残留生物学的信号を探す。

「我々は、任意の動画のソース生成モデルを予測するディープフェイクソース検出器を提案する。我々の知る限りでは、我々のアプローチは、ディープフェイク動画の生成モデルの残差を解釈するソース検出のためのより深い分析を行った最初のものだ」と論文は記述する。「我々の重要な発見は、これらの生物学的信号を、モデルごとの残差のシグネチャ変換を含む偽の心臓の鼓動として解釈できるという事実から浮かび上がってきます。したがって、動画の真正性を判断するだけでなく、動画を生成するソースモデルを分類するために、これらの生物学的信号の新たな探求が生まれる」。

ディープフェイク動画データセットを用いた実験では、光電脈波法セルアプローチは97.3%の精度でディープフェイクを検出し、人気のあるディープフェイクデータセット「FaceForensics++」から生成ディープフェイクモデルを93.4%の精度で同定した。

この論文「How Do the Hearts of Deep Fakes Beat? Deep Fake Source Detection via Interpreting Residuals with Biological Signals」は先週発表され、今月下旬に開催されるInternational Joint Conference on Biometricsでの発表に向けて受理された。

別の最近の研究では、アリババグループ、九州大学、南洋理工大学、天津大学のAI研究者が、視覚的な光電脈波法から人間の心拍を認識するディープフェイク検出モデル「DeepRhythm」を発表した。著者らは、DeepRhythmがこれまでの動画中の生身の人物を識別するための既存のモデルと異なるのは、リズムパターンを認識しようとするためであると述べている。「偽物の動画にはまだ心臓のリズムが残っているかもしれないが、そのパターンはディープフェイクの手法によって減少しており、本物とは異なる」ためだ。

DeepRhythmは、ネットワークモデルのさまざまな段階で、心臓リズム運動増幅モジュールと学習可能な空間-時間的注意メカニズムを組み込んでいる。研究者は、FaceForensics++をベンチマークとして使用した場合、DeepRhythmは多数の最先端のディープフェイク手法を凌駕すると述べている。

「FaceForensics++とDeepfake Detection Challenge-previewのデータセットでの実験結果は、我々の手法が最先端の手法を凌駕するだけでなく、様々な劣化にもロバストであることを示しています」とチームは書いている。「DeepRhythm. DeepRhythm: Exposing DeepFakes with Attentional Visual Heartbeat Rhythms」と題された論文は、6月に発表され、先週修正され、10月に開催されるACM Multimedia conferenceでの発表に向けて受理された。

両グループの研究者は、将来的には光電脈波法ステムを既存の映像認証手法と組み合わせる方法を模索したいと述べている。そうすれば、ディープフェイク動画をより正確に、あるいはよりロバストに識別する方法を実現できるようになるでしょう。

今週初め、MicrosoftはAzure向けにVideo Authenticationのディープフェイク検出サービスを発表した。その導入の一環として、ビデオ認証は、AI財団のReality Defenderプログラムを通じて、ニュースメディアや政治キャンペーンで利用できるようになっている。

選挙妨害への懸念が高まる中、現時点では、トランプ大統領とそのチームによって流布された捏造ビデオやデマが、ディープフェイクよりも大きな脅威となっているようだ。

Read more

OpenAI、法人向け拡大を企図 日本支社開設を発表

OpenAI、法人向け拡大を企図 日本支社開設を発表

OpenAIは東京オフィスで、日本での採用、法人セールス、カスタマーサポートなどを順次開始する予定。日本企業向けに最適化されたGPT-4カスタムモデルの提供を見込む。日本での拠点設立は、政官の積極的な姿勢や法体系が寄与した可能性がある。OpenAIは法人顧客の獲得に注力しており、世界各地で大手企業向けにイベントを開催するなど営業活動を強化。

By 吉田拓史
アドビ、日本語バリアブルフォント「百千鳥」発表  往年のタイポグラフィー技法をデジタルで再現

アドビ、日本語バリアブルフォント「百千鳥」発表 往年のタイポグラフィー技法をデジタルで再現

アドビは4月10日、日本語のバリアブルフォント「百千鳥」を発表した。レトロ調の手書き風フォントで、太さ(ウェイト)の軸に加えて、字幅(ワイズ)の軸を組み込んだ初の日本語バリアブルフォント。近年のレトロブームを汲み、デザイン現場の様々な要望に応えることが期待されている。

By 吉田拓史
新たなスエズ危機に直面する米海軍[英エコノミスト]

新たなスエズ危機に直面する米海軍[英エコノミスト]

世界が繁栄するためには、船が港に到着しなければならない。マラッカ海峡やパナマ運河のような狭い航路を通過するとき、船舶は最も脆弱になる。そのため、スエズ運河への唯一の南側航路である紅海で最近急増している船舶への攻撃は、世界貿易にとって重大な脅威となっている。イランに支援されたイエメンの過激派フーシ派は、表向きはパレスチナ人を支援するために、35カ国以上につながる船舶に向けて100機以上の無人機やミサイルを発射した。彼らのキャンペーンは、黒海から南シナ海まですでに危険にさらされている航行の自由の原則に対する冒涜である。アメリカとその同盟国は、中東での紛争をエスカレートさせることなく、この問題にしっかりと対処しなければならない。 世界のコンテナ輸送量の20%、海上貿易の10%、海上ガスと石油の8~10%が紅海とスエズルートを通過している。数週間の騒乱の後、世界の5大コンテナ船会社のうち4社が紅海とスエズ航路の航海を停止し、BPは石油の出荷を一時停止した。十分な供給があるため、エネルギー価格への影響は軽微である。しかし、コンテナ会社の株価は、投資家が輸送能力の縮小を予想している

By エコノミスト(英国)