進化するディープフェイク技術によって、実際には起きなかったシーンの証拠を作ることが可能になったことで、不安が高まっています。有名人が知らず知らずのうちにポルノの主役になっていたり、政治家が実際には言ったことのない言葉を話しているように見えるビデオに登場したりしています。

ディープフェイクへの懸念は、対策の普及につながっています。新しい法律は、人々がディープフェイクを作ったり、配布したりするのを阻止することを目的としています。2019年の初め、FacebookやTwitterなどのソーシャルメディアプラットフォームは、ネットワーク上でのディープフェイクを禁止しました。また、コンピュータビジョンやグラフィックスの会議では、ディープフェイクに対する防御方法についてのプレゼンテーションが盛んに行われています。

では、ディープフェイクとは何なのか、なぜ人々はディープフェイクを心配しているのでしょうか?

ディープフェイクとは何か?

ディープフェイク技術は、世界中の誰もが実際には参加していないビデオや写真にシームレスに縫い合わせることができます。このような機能は何十年も前から存在しており、俳優の故ポール・ウォーカーが映画『Fast & Furious 7』で復活したのもこのためです。しかし、このような効果を生み出すためには、かつては専門家でいっぱいのスタジオ全体で1年を要していました。現在では、ディープフェイク技術、つまり新しい自動コンピュータグラフィックスや機械学習システムが、画像やビデオをより迅速に合成することができるようになりました。

しかし、「ディープフェイク」という言葉には多くの混乱があり、コンピュータビジョンやグラフィックスの研究者はこの言葉を嫌悪しています。この言葉は、AIによって生成された最先端の動画から、詐欺の可能性があると思われる画像まで、あらゆるものを表現するものになっています。

ディープフェイクと呼ばれるものの多くは、単にそうではありません。

ディープフェイクスはどのようにして作られるのか?

ディープフェイクの主な成分は機械学習であり、これにより、より速く、より低コストでディープフェイクを作成することが可能になりました。誰かのディープフェイクビデオを作るには、まず、作成者は、その人の何時間もの実際のビデオ映像上でニューラルネットワークを訓練し、様々な角度や照明の下でその人がどのように見えるかをリアルに「理解」します。その後、訓練されたネットワークとコンピュータグラフィックス技術を組み合わせて、別の俳優に人物のコピーを重ね合わせます。

AIが加わったことで、このプロセスは以前よりも速くなりましたが、このプロセスでは、完全に架空の状況に人物を配置した信憑性のある合成ができるまでに時間がかかります。また、作成者は、画像内の明らかなブリップやアーチファクトを避けるために、訓練されたプログラムのパラメータの多くを手動で微調整しなければなりません。このプロセスは簡単ではありません。

多くの人は、敵対的生成ネットワーク(GAN)と呼ばれる深層学習アルゴリズムの種類が、将来的にディープフェイク開発の主要なエンジンになると想定しています。GANで生成された顔は、実際の顔と見分けることは不可能に近い。ディープフェイクの最初の監査では、GANに全セクションを割いており、誰でも洗練されたディープフェイクを作成することが可能になることを示唆しています。

GANで生成された顔。この世に実在しない人物。Imagined by a GAN (generative adversarial network) StyleGAN2 (Dec 2019) - Karras et al. and Nvidia

しかし、最近のほとんどのディープフェイク動画はアルゴリズムによって生成されていますが、その際、GANはあまり目立った役割を果たしていません

GANは作業が難しく、膨大な量のトレーニングデータを必要とします。モデルが画像を生成するのには、他の手法に比べて時間がかかります。そして何よりも重要なのは、GANモデルは画像の合成には向いていますが、動画の作成には向いていないということです。時間的な一貫性を維持したり、あるフレームから次のフレームまで同じ画像を揃えたりするのが難しいのです。

最もよく知られているオーディオの「ディープフェイク」もGANを使用していません。カナダのAI企業Dessa(現在はSquareが所有)がトークショーの司会者ジョー・ローガンのを使って、彼が言ったことのない文章を口にしたとき、GANは関与していませんでした。実際、今日のディープフェイクの大部分は、AIと非AIアルゴリズムを混合的に使って作られています。

誰がディープフェイクを作ったのか?

サッカースターのデビッド・ベッカムが9つの言語を流暢に話している様子が広く報道されている動画は、ドイツのミュンヘン工科大学で開発されました。

そして、MITの研究者たちは、リチャード・ニクソン元米大統領が、アポロ11号が失敗した場合、彼が国家のために準備していた代替演説を行うという不気味な映像を公開しました。

しかし、政府や研究者が心配しているのは、これらのディープフェイクではない。ディープフェイクはハイテクである必要はなく、社会構造に破壊的な影響を与えるものであることが最も脅威的です。

ディープフェイクの名前は、2017年に、Googleのオープンソースのディープラーニングライブラリを使ってポルノ出演者の顔を女優の顔と入れ替えるために、r/deepfakesと名乗るRedditのユーザーに由来している。今日、発見されているDIYのディープフェイクスの内部のコードは、ほとんどがこのオリジナルのコードから派生したものであり、いくつかは楽しい思考実験とみなされるかもしれないが、そのほとんどはポルノです。

DIY技術が真の脅威となるほど洗練されたものになるのはいつ頃なのかについては、研究者の間でコンセンサスが得られていません。しかし、最終的には、誰もがスマートフォンでアプリを起動して、他人のリアルな顔写真を作成することができるようになるだろうと、専門家は確信しています。

2020年8月に開かれたブラックハット・コンピュータ・セキュリティ・カンファレンスで、セキュリティ会社FireEyeのデータサイエンティストであるフィリップ・タリーは、人工知能研究所のオープンソースのソフトウェアがどれだけ簡単に誤報キャンペーンに適応できるかをテストするために、トム・ハンクスのディープフェイクを作成した。彼は「経験の少ない人でも、これらの機械学習モデルを使って、かなり強力なことができる」と主張しました。

フル解像度で見ると、FireEyeの偽ハンクスの画像には、不自然な首のひだや肌の質感などの欠陥がありました。しかし、眉毛のしわや、見る者を冷静に見つめる緑灰色の目など、俳優の顔のお馴染みのディテールは正確に再現されている。SNSのサムネイル程度の規模であれば、AIが作った画像は簡単に本物と見間違えるほどです。

タリーは、ハンクスの画像をオンラインで数百枚集め、オープンソースの顔生成ソフトウェアを選んだ被写体に合わせて調整するために100ドル弱の費用をかけるだけで、画像を作ることができたと説明しました。調整したソフトウェアを使って、彼はハンクスの顔を作ることは容易だったといいます。

ディープフェイクは何に使われているのか?

現在、ディープフェイクがもたらす最も明確な脅威は、女性に対するものであり、現在インターネット上で展開されているディープフェイクの96パーセントを占めるのは、非同意のポルノです。ほとんどのターゲットは有名人ですが、ディープフェイクが偽の復讐ポルノの作成に使用されているという報告が増えています。

しかし、ターゲットは女性だけではありません。ディープフェイクは、学校でも職場でも、誰でも人を馬鹿げた、危険な、または危険なシナリオに陥れることができるので、いじめをより一般的に可能にする可能性があります。

企業は、ディープフェイクが詐欺を加速させる役割を果たす可能性があることを心配しています。ディープフェイクの音声が、従業員を騙して詐欺師にお金を送金させるためにCEOの詐欺に使われたという未確認の報告があります。恐喝が主要な利用事例になる可能性があります。バイオメトリクス企業のiProovによるサイバーセキュリティ業界の世論調査では、回答者の4分の3以上が、ディープフェイクに関する懸念の第一位は本人確認詐欺でした。回答者の主な懸念事項は、ディープフェイクがオンラインでの不正な支払いや個人の銀行サービスへのハッキングに使用されることでした。

政府にとっては、ディープフェイクが民主主義に危険をもたらすというのが大きな懸念です。女性有名人をポルノビデオに出演させることができるが、それは再選するため立候補している政治家にも同じことができます。2018年には、既婚者であるブラジルのサンパウロ州知事ジョアン・ドリアが乱交に参加している動画が浮上しました。彼はそれがディープフェイクだと主張した。他にも例はあった。2018年には、長らく体調不良と推定されていたガボンのアリ・ボンゴ大統領が、国民を安心させるために不審な動画で急浮上し、クーデター未遂事件に火をつけた。

これらの未確認の事件が物事の不確実性を高めたことは、現在の能力がどのようなものであっても、ディープフェイクの最大の危険性となるでしょう。

悪質なディープフェイクを止めるには?

ディープフェイクに関するいくつかの米国の法律がこの1年で施行されました。各州は、ディープフェイクポルノを犯罪化し、選挙に関連したディープフェイクの使用を禁止する法案を導入しています。テキサス、バージニア、カリフォルニアはディープフェイクポルノを犯罪化し、12月には大統領が国防権限化法の一部として初の連邦法に署名しました。しかし、これらの新法は、加害者がこれらの管轄区域のいずれかに住んでいる場合にのみ有効です。

しかし、米国以外では、ディープフェイク詐欺を禁止するために具体的な行動をとっているのは中国と韓国だけです。イギリスでは、法律委員会が現在、ディープフェイクのさまざまな作成方法に対処することを視野に入れて、リベンジポルノに関する既存の法律を見直しています。しかし、欧州連合(EU)は、他の種類のオンライン誤情報と比較して、これを差し迫った問題とは見ていないようです。

そのため、米国が先頭に立っている一方で、推進されている法律が強制力を持っているか、正しく強調されているかの証拠はほとんどありません。

また、多くの研究機関では、例えば透かしやブロックチェーンを組み込むなど、操作された動画を識別して検出するための斬新な方法が開発されていますが、より説得力のあるディープフェイクを作成するために、すぐにゲーム化されないディープフェイク検出器を作るのは難しいのです。

それでも、テック企業は試みています。Facebookは、バークレー大学やオックスフォード大学などの研究機関から研究者を募り、ディープフェイク検出器を構築し、新たな禁止措置の実施を支援しました。Twitterはまた、そのポリシーに大きな変更を加え、さらに一歩進んで、完全に削除されていないディープフェイクにタグを付ける方法を計画していると報じられています。そしてYouTubeは2月に、米国の選挙、投票手続き、または2020年の米国国勢調査に関連したディープフェイク動画を許可しないことを改めて表明しました。

Reality DefenderとDeeptraceと呼ばれる2つのプログラムは、ディープフェイクをあなたの生活から遠ざけることを目的としています。DeeptraceはAPI上で動作し、受信メディアを事前に選別し、明らかな操作を検疫ゾーンに迂回させます。AI Foundationという会社が建設中のプラットフォーム「Reality Defender」も同様に、操作された画像や動画にタグを付けて、被害が出る前に袋に入れておくことを望んでいます。

参考文献

  1. Sally Adee. "World’s First Deepfake Audit Counts Videos and Tools on the Open Web". IEEE Spectrum. 07 Oct 2019.
  2. Philip Tully, Lee Foster. "Repurposing Neural Networks to Generate Synthetic Media for Information Operations". August 05, 2020.