要点

ディープフェイクの脅威は、画像の捏造によるフェイクニュースキャンペーンではなく、本物の画像に対し、「それはディープフェイクではないか」と疑問を提起することで、その画像の信頼性を貶めることができることだ、とサイバーセキュリティ企業であるDeeptrace Labsの報告書は指摘している。

大統領のディープフェイク疑惑がクーデターを誘発

2018年末、中部アフリカに位置する共和制国家ガボンの人々は数ヶ月間、大統領であるアリ・ボンゴの姿を公の場で見ていなかった。一部の人々は、彼が病気か、あるいは死んでいるのではないかと疑い始め、政府はそれを隠蔽していた。憶測を止めるために、政府はボンゴが脳卒中を患っていたが、健康であったと発表した。その直後、政府は恒例の新年の挨拶をするボンゴのビデオを公開した。

しかし、緊張を和らげるどころか、ビデオは正確に反対のことをした。デジタル権利団体「国境なき医師団」によって発見されたように、多くの人々は、すぐに映像がAIの助けを借りて偽造された、あるいは改変されたメディアの一部ではないかと疑った。このような疑念は、政府が何かを隠しているのではないかという疑念を煽った。一週間後、軍はそれを理由の一部に掲げビデオを引用して、クーデターを開始した(それは後に失敗した)。

その後の法医学的分析では ビデオの改ざんや操作は見つからなかった。だが、「ディープフェイクかもしれない」という疑念は、すでに不安定な状況を加速させるのに十分だったのだ。

2020年のアメリカ大統領選挙に向けてのリードアップでは、ますます説得力のあるディープフェイク技術が、このようなフェイクされたメディアが政治的な意見にどのように影響を与えるかについての懸念につながっている。しかし、この映像加工の検出に特化したサイバーセキュリティ企業であるDeeptrace Labsの新しい報告書によると、ディープフェイクが実際にフェイクニュースキャンペーンに使用された事例は知られていないという。より強力な効果をもたらしているのは、ディープフェイクがそのように利用される可能性があることを知ったことだ。

「ディープフェイクはフェイクメディアが本物であるかのように見えるという点で政治にリスクをもたらすが、今、より具体的な脅威は、ディープフェイクのアイデアがいかに本物をフェイクに見せるために発動されるかということです」と、報告書の著者の一人であるヘンリー・アジャダーは記述している。「ディープフェイクの政治的影響を推測するセンセーショナルな報道は、ディープフェイクが影響を与えた実際の事例に影を落としている」。

ディープフェイクではないかとの疑念が向けられたガボンのアリ・ボンゴ大統領の新年の挨拶。実際には本物だった。

ドキュメンテーションはもはや証拠ではない

ディープフェイクが登場して以来、人権活動家やディスインフォメーションの専門家は、これらの別々でありながら絡み合った脅威に警鐘を鳴らしてきた。過去2年間、米国のハイテク企業や政策立案者は、1つ目の問題にほぼ独占的に焦点を当ててきた。しかし、専門家をさらに悩ませているのは2つ目の問題だ。ディープフェイクを作成する障壁は急速に低下しているかもしれないが、何かの真実性に疑問を呈するためには、技術は全く必要ない。「これはディープフェイクなのではないか」と疑問を差し挟むことで、対象の信頼性を毀損することができる。

メディアへの信頼を損なうことは、特に脆弱な政治環境において、深い影響を及ぼす可能性がある。ここ数カ月、多くの研究グループや、フェイスブックグーグルなどのテック企業は、検出アルゴリズムを訓練するためのデータベースや、デジタル写真ファイルに組み込んで改ざんされたかどうかを明らかにする透かしなど、偽物を暴くためのツールに力を入れてきた。また、いくつかの新興企業は、写真や動画を撮影したときに確認するコンシューマー向けアプリケーションを通じて信頼を構築する方法にも取り組んでおり、コンテンツのバージョンが後で流通した場合に比較の基準となるようにしている。

しかし、テック企業は人間によるコンテンツのモデレーターを雇う必要があり、メディア機関は、検出と検証の両方についてジャーナリストやファクトチェッカーを訓練する必要がある。現場での報道は、動画が現実を反映しているかどうかを確認し、重要なニュアンスのレイヤーを追加することができる。