ついに戦争にディープフェイクが使われた

Facebookの親会社であるメタは16日、ウクライナのゼレンスキー大統領が、国民に対し降伏するよう求める、架空の声明を発表しているディープフェイク動画を削除した。

このディープフェイクは、ハッキング疑惑の後、TV24のウクライナのニュースウェブサイトで最初に公開された。ビデオでは、編集されたゼレンスキーの像が演壇に立ち、ウクライナはドンバス地方をロシアに「返すことにした」と宣言し、自国の戦争努力は失敗したと話している。

動画では、ゼレンスキーの頭は現実よりもコミカルに大きく、周囲の体よりもピクセルの加工感が高い。偽物の声も実際の声よりずっと低い。

President Zelensky has uploaded a video to refute the fake video of him in the tweet above or that he ever called on his troops to lay down their arms. TV24's hacked website still has a screenshot of the fake video along with a transcript of it. pic.twitter.com/bPpYQAZubw

— Shayan Sardarizadeh (@Shayan86) March 16, 2022

Metaのセキュリティポリシー責任者であるNathaniel Gleicherは、水曜日に連投ツイートを出し、同社のプラットフォームからこの動画が削除されたことを発表している。「本日未明、私たちのチームは、ゼレンスキー社長が実際には行っていない声明を発表したことを示すと主張するディープフェイク動画を特定し、削除した。この動画は、侵害されたとされるウェブサイトに掲載され、その後、インターネット上で公開され始めた」とGleicherは述べている。

1/ Earlier today, our teams identified and removed a deepfake video claiming to show President Zelensky issuing a statement he never did. It appeared on a reportedly compromised website and then started showing across the internet.

— Nathaniel Gleicher (@ngleicher) March 16, 2022

今月初め、ウクライナ政府は、兵士や民間人がネット上でゼレンスキー大統領の動画に遭遇した場合、特に彼がロシアの侵攻に降伏すると発表した場合は、一旦停止するよう警告する声明を発表している。声明の中でウクライナ戦略コミュニケーションセンターは、ロシア政府はウクライナ人に降伏するよう説得するためにディープフェイクを使用する可能性が高いと述べていた。

「このような技術で作られた動画は本物と見分けがつかないほどだ。これは偽物。彼の目的は、混乱させ、パニックを引き起こし、市民の不信を買い、我が軍の撤退を扇動することだ」と同センターは声明は述べている。「安心してください。ウクライナは屈服しない」

ディープフェイクがインターネット上で流通し始めた後、ゼレンスキーは自身の公式Instagramアカウントに、このビデオを否定する動画を投稿した。「武器を置くよう助言する最新の幼稚な挑発については、ロシア連邦の軍隊が武器を置いて帰国するよう助言するだけだ」と述べた。「我々は家にいて、ウクライナを守っている」

フェイスブックは米大統領選を前に、2020年にディープフェイクなどの加工動画をプラットフォームから禁止した。この方針には、人工知能や機械学習アルゴリズムによって作成され、ユーザーを「誤解させる可能性が高い」コンテンツが含まれる。