Deepfake

ディープフェイク(「ディープラーニング」と「フェイク」の合成語)は、既存の画像や動画の中の人物を他人の似顔絵に置き換える合成メディアである。コンテンツを偽造する行為は新しいものではないが、ディープフェイクは機械学習や人工知能の強力な技術を利用して、騙す可能性の高い映像や音声コンテンツを操作したり生成したりするものである。 ディープフェイクを生成するために使用される主な機械学習手法はディープラーニングに基づいており、オートエンコーダーやジェネレーティブ・アドバサリアル・ネットワーク(GAN)などのニューラル・ネットワーク・アーキテクチャを訓練することが含まれる。ディープフェイクは、有名人のポルノビデオ、リベンジポルノ、フェイクニュース、デマ、金融詐欺などへの利用で広く注目を集めています。これにより、業界と政府の両方から、ディープフェイクの使用を検出し、制限するための対応が求められています。

過去の動画から「偽ウィンブルドン」を生成するスタンフォード大のAI
ML

過去の動画から「偽ウィンブルドン」を生成するスタンフォード大のAI

スタンフォード大学の研究者たちは、大量の試合映像を使って選手の行動予測モデルを作成するスポーツ分析のトレンドに触発され、このようなモデリングと画像ベースのレンダリングを組み合わせて、トップテニスプロのスタイルとパフォーマンスを模倣したインタラクティブに制御可能なビデオ「スプライト」を構築した。

AI研究者が心拍検出を利用してディープフェイク動画を特定
ML

AI研究者が心拍検出を利用してディープフェイク動画を特定

先週発表された研究では、ビンガムトン大学とインテルの研究者たちが、ディープフェイクの検出を超えて、どのディープフェイク・モデルが博士の手を加えた動画を作ったのかを認識するAIを導入した。研究者たちは、ディープフェイクモデルの動画には、ユニークな生物学的・生成的ノイズ信号が残されていることを発見した。

ディープフェイクとは?
Deepfake

ディープフェイクとは?

進化するディープフェイク技術によって、実際には起きなかったシーンの証拠を作ることが可能になったことで、不安が高まっています。有名人が知らず知らずのうちにポルノの主役になっていたり、政治家が実際には言ったことのない言葉を話しているように見えるビデオに登場したりしています。

「安くて簡単なディープフェイク」の登場
Deepfake

「安くて簡単なディープフェイク」の登場

セキュリティ会社のデータサイエンティスト、フィリップ・タリーは、ハンクスの画像をオンラインで数百枚集め、オープンソースの顔生成ソフトウェアを選んだ被写体に合わせて調整するために100ドル弱の費用をかけるだけで、画像を作ることができた。調整したソフトウェアを使って、彼はハンクスの顔を作ることは容易だった。

テンセント「ディープフェイクは実は役に立つかもしれない」
Video

テンセント「ディープフェイクは実は役に立つかもしれない」

AI計画に関する新しいホワイトペーパーの中で、テンセントは、同社は、ディープフェイク技術は 「単なる『フェイク』や『ごまかし』ではなく、高度に創造的で画期的な技術である」と強調している。規制当局に対しては、社会に潜在的な利益をもたらす可能性のある技術を取り締まることを避けるよう促している。

ディープフェイク最大の脅威は画像の信憑性を貶めること
Deepfake

ディープフェイク最大の脅威は画像の信憑性を貶めること

ディープフェイクの脅威は、画像の捏造によるフェイクニュースキャンペーンではなく、本物の画像に対し、「それはディープフェイクではないか」と疑問を提起することで、その画像の信頼性を貶めることができることだ、とサイバーセキュリティ企業であるDeeptrace Labsの報告書は指摘している。

Facebookが10万のディープフェイクのデータセットを公開
Deepfake

Facebookが10万のディープフェイクのデータセットを公開

FacebookはAIを利用して、AIが生成した偽物を撃退しようとしている。加工を加えられた動画を見分けるためにAIを訓練するために、過去最大規模のディープフェイクのデータセットを公開した。3,426人の俳優と既存の顔の入れ替え技術を使って作成された10万以上の写真クリップである。

ディープフェイクのドキュメンタリー映画での使用が物議を醸す
Deepfake

ディープフェイクのドキュメンタリー映画での使用が物議を醸す

迫害されたゲイとレズビアンのチェチェン人を題材にしたHBOのドキュメンタリー映画で、ディープフェイクを用いて出演者の身元を守るため、ディープフェイクによって本人の顔を隠した。機械学習で人の脳を騙している映像をノンフィクション映画と呼ぶべきか、この作品は問題を提起している。

You've successfully subscribed to Axion デジタル経済メディア!
Could not sign up! Invalid sign up link.