ディープフェイク

ディープフェイク(「ディープラーニング」と「フェイク」の合成語)は、既存の画像や動画の中の人物を他人の似顔絵に置き換える合成メディアである。コンテンツを偽造する行為は新しいものではないが、ディープフェイクは機械学習や人工知能の強力な技術を利用して、騙す可能性の高い映像や音声コンテンツを操作したり生成したりするものである。 ディープフェイクを生成するために使用される主な機械学習手法はディープラーニングに基づいており、オートエンコーダーやジェネレーティブ・アドバサリアル・ネットワーク(GAN)などのニューラル・ネットワーク・アーキテクチャを訓練することが含まれる。ディープフェイクは、有名人のポルノビデオ、リベンジポルノ、フェイクニュース、デマ、金融詐欺などへの利用で広く注目を集めています。これにより、業界と政府の両方から、ディープフェイクの使用を検出し、制限するための対応が求められています。

過去の動画から「偽ウィンブルドン」を生成するスタンフォード大のAI

AI

過去の動画から「偽ウィンブルドン」を生成するスタンフォード大のAI

スタンフォード大学の研究者たちは、大量の試合映像を使って選手の行動予測モデルを作成するスポーツ分析のトレンドに触発され、このようなモデリングと画像ベースのレンダリングを組み合わせて、トップテニスプロのスタイルとパフォーマンスを模倣したインタラクティブに制御可能なビデオ「スプライト」を構築した。

By 吉田拓史
AI研究者が心拍検出を利用してディープフェイク動画を特定

AI

AI研究者が心拍検出を利用してディープフェイク動画を特定

先週発表された研究では、ビンガムトン大学とインテルの研究者たちが、ディープフェイクの検出を超えて、どのディープフェイク・モデルが博士の手を加えた動画を作ったのかを認識するAIを導入した。研究者たちは、ディープフェイクモデルの動画には、ユニークな生物学的・生成的ノイズ信号が残されていることを発見した。

By 吉田拓史
「安くて簡単なディープフェイク」の登場

ディープフェイク

「安くて簡単なディープフェイク」の登場

セキュリティ会社のデータサイエンティスト、フィリップ・タリーは、ハンクスの画像をオンラインで数百枚集め、オープンソースの顔生成ソフトウェアを選んだ被写体に合わせて調整するために100ドル弱の費用をかけるだけで、画像を作ることができた。調整したソフトウェアを使って、彼はハンクスの顔を作ることは容易だった。

By 吉田拓史
テンセント「ディープフェイクは実は役に立つかもしれない」

動画

テンセント「ディープフェイクは実は役に立つかもしれない」

AI計画に関する新しいホワイトペーパーの中で、テンセントは、同社は、ディープフェイク技術は 「単なる『フェイク』や『ごまかし』ではなく、高度に創造的で画期的な技術である」と強調している。規制当局に対しては、社会に潜在的な利益をもたらす可能性のある技術を取り締まることを避けるよう促している。

By 吉田拓史
ディープフェイク最大の脅威は画像の信憑性を貶めること

ディープフェイク

ディープフェイク最大の脅威は画像の信憑性を貶めること

ディープフェイクの脅威は、画像の捏造によるフェイクニュースキャンペーンではなく、本物の画像に対し、「それはディープフェイクではないか」と疑問を提起することで、その画像の信頼性を貶めることができることだ、とサイバーセキュリティ企業であるDeeptrace Labsの報告書は指摘している。

By 吉田拓史
Facebookが10万のディープフェイクのデータセットを公開

ディープフェイク

Facebookが10万のディープフェイクのデータセットを公開

FacebookはAIを利用して、AIが生成した偽物を撃退しようとしている。加工を加えられた動画を見分けるためにAIを訓練するために、過去最大規模のディープフェイクのデータセットを公開した。3,426人の俳優と既存の顔の入れ替え技術を使って作成された10万以上の写真クリップである。

By 吉田拓史
ディープフェイクのドキュメンタリー映画での使用が物議を醸す

ディープフェイク

ディープフェイクのドキュメンタリー映画での使用が物議を醸す

迫害されたゲイとレズビアンのチェチェン人を題材にしたHBOのドキュメンタリー映画で、ディープフェイクを用いて出演者の身元を守るため、ディープフェイクによって本人の顔を隠した。機械学習で人の脳を騙している映像をノンフィクション映画と呼ぶべきか、この作品は問題を提起している。

By 吉田拓史