「安くて簡単なディープフェイク」の登場

セキュリティ会社のデータサイエンティスト、フィリップ・タリーは、ハンクスの画像をオンラインで数百枚集め、オープンソースの顔生成ソフトウェアを選んだ被写体に合わせて調整するために100ドル弱の費用をかけるだけで、画像を作ることができた。調整したソフトウェアを使って、彼はハンクスの顔を作ることは容易だった。

「安くて簡単なディープフェイク」の登場

先週のブラックハット・コンピュータ・セキュリティ・カンファレンスで、セキュリティ会社FireEyeのデータサイエンティストであるフィリップ・タリーは、人工知能研究所のオープンソースのソフトウェアがどれだけ簡単に誤報キャンペーンに適応できるかをテストするために、トム・ハンクスのディープフェイクを作成した。彼は「経験の少ない人でも、これらの機械学習モデルを使って、かなり強力なことができる」と主張した。

フル解像度で見ると、FireEyeの偽ハンクスの画像には、不自然な首のひだや肌の質感などの欠陥がある。しかし、眉毛のしわや、見る者を冷静に見つめる緑灰色の目など、俳優の顔のお馴染みのディテールは正確に再現されている。SNSのサムネイル程度の規模であれば、AIが作った画像は簡単に本物と見間違えるほどだ。

タリーは、ハンクスの画像をオンラインで数百枚集め、オープンソースの顔生成ソフトウェアを選んだ被写体に合わせて調整するために100ドル弱の費用をかけるだけで、画像を作ることができた。調整したソフトウェアを使って、彼はハンクスの顔を作ることは容易だった。

図1: StlyeGAN2を微調整することで、インターネット上で自由に入手可能な画像(左下の3枚の画像など)から、好みのターゲットの似顔絵(右の3枚の画像など)を安価にスケールで生成することができる。Source: FireEye

タリーは、他のオープンソースのAIソフトウェアを使用して、3つのYouTubeクリップから俳優の声を模倣することも試みたが、あまり印象的な結果は得られなかったという。

図2. SV2TTS を微調整することで、インターネット上で録音した音声ファイルや動画ファイルを使って任意のターゲットから携帯電話品質の音声を生成し(左下の3つのサンプルクリップなど)、微調整後にその話者に任意のカスタムテキストを口述させることができる(右の3つの音声サンプルなど)。Source: FireEye

人がどれだけ安く簡単に通過可能な偽の写真を生成することができるか実証することによって、FireEyeプロジェクトは、オンラインの偽情報が通過可能な画像や音声を生成するAI 技術によって拡大される可能性があるという懸念に信憑性をもたせている。これらの技術とその出力は、しばしば「ディープフェイク」と呼ばれている。この呼び方は、2017年後半にハリウッド女優の顔を含むように変更されたポルノ動画を投稿したRedditアカウントの名前から取られた。

インターネットの荒野で観察されるディープフェイクのほとんどは低品質で、ポルノや娯楽目的で作成されている。これまでのところ、ディープフェイクの悪質な利用として最も多くの記録が残っているのは、女性への嫌がらせです。企業のプロジェクトやメディア制作では、より大きな予算で、動画を含むより洗練された出力を作成することができる。FireEyeの研究者は、最小限のリソースやAIの専門知識で、誰かが洗練されたAIの研究におんぶに抱っこになる方法を示したかった。

タリーのディープフェイク実験は、学術や企業のAI研究グループが最新の進歩を公然と公開し、しばしばコードを公開する方法(オープンソース)を利用したものだ。彼は「ファインチューニング」として知られている技術を使った。これは、大規模なデータセットの例を使って多額の費用をかけて構築された機械学習モデルを、はるかに小さな例のプールを使って特定のタスクに適応させるものだ。

偽トム・ハンクスを作るために、タリーは昨年、Nvidiaが公開した顔生成モデルを適応させた。Nvidiaは、強力なグラフィック・プロセッサのクラスタ上で数日かけて数百万の例題の顔を処理することで、そのソフトウェアを作った。タリーは、それをクラウドでレンタルした1台のGPU上で、1日もかからずにハンクス・ジェネレーターに適応させた。別の方法として、彼は自分のラップトップと30秒の音声クリップ3つ、そして大学院生がGoogleの音声合成プロジェクトをオープンソースで再現したものだけを使って、数分でハンクスの声を複製した。

AI研究者間の競争がさらなる進歩を促し、それらの結果が共有されると、ディープフェイクの生成コストはもっと低くなる可能性が高い。「このままでは、社会全体に悪影響を及ぼす可能性がある」とタリーはカンファレンスで発言した。タリーは以前、インターンと協力して、AIテキスト生成ソフトウェアが、2016年の大統領選挙を操作しようとしたロシアのインターネット諜報部が作成したものと同じようなコンテンツを作成できることを示したこともある。

FireEyeのプロジェクトは、最小限のリソースとオープンソースのAI研究の成果で何が実現できるかを示すことで、実用的な詳細を明らかにしている。Hwangは、こうした情報と、誤情報組織がどのように活動しているかについて知られていることを組み合わせることは、最悪のシナリオを考えるよりも、ディープフェイクの脅威を評価するためのより良い方法だと指摘した。

Facebookは最近、10万のディープフェイクのデータセットを公開し、その上で訓練された最も性能の高いディープフェイク検出器に50万ドルを提供した。優勝者は、Facebookのデータセットからディープフェイクを65%検出したが、これでは不十分だ。

参考文献

Philip Tully, Lee Foster. "Repurposing Neural Networks to Generate Synthetic Media for Information Operations". August 05, 2020.

Photo: このオバマはディープフェイクです。

Read more

OpenAI、法人向け拡大を企図 日本支社開設を発表

OpenAI、法人向け拡大を企図 日本支社開設を発表

OpenAIは東京オフィスで、日本での採用、法人セールス、カスタマーサポートなどを順次開始する予定。日本企業向けに最適化されたGPT-4カスタムモデルの提供を見込む。日本での拠点設立は、政官の積極的な姿勢や法体系が寄与した可能性がある。OpenAIは法人顧客の獲得に注力しており、世界各地で大手企業向けにイベントを開催するなど営業活動を強化。

By 吉田拓史
アドビ、日本語バリアブルフォント「百千鳥」発表  往年のタイポグラフィー技法をデジタルで再現

アドビ、日本語バリアブルフォント「百千鳥」発表 往年のタイポグラフィー技法をデジタルで再現

アドビは4月10日、日本語のバリアブルフォント「百千鳥」を発表した。レトロ調の手書き風フォントで、太さ(ウェイト)の軸に加えて、字幅(ワイズ)の軸を組み込んだ初の日本語バリアブルフォント。近年のレトロブームを汲み、デザイン現場の様々な要望に応えることが期待されている。

By 吉田拓史
新たなスエズ危機に直面する米海軍[英エコノミスト]

新たなスエズ危機に直面する米海軍[英エコノミスト]

世界が繁栄するためには、船が港に到着しなければならない。マラッカ海峡やパナマ運河のような狭い航路を通過するとき、船舶は最も脆弱になる。そのため、スエズ運河への唯一の南側航路である紅海で最近急増している船舶への攻撃は、世界貿易にとって重大な脅威となっている。イランに支援されたイエメンの過激派フーシ派は、表向きはパレスチナ人を支援するために、35カ国以上につながる船舶に向けて100機以上の無人機やミサイルを発射した。彼らのキャンペーンは、黒海から南シナ海まですでに危険にさらされている航行の自由の原則に対する冒涜である。アメリカとその同盟国は、中東での紛争をエスカレートさせることなく、この問題にしっかりと対処しなければならない。 世界のコンテナ輸送量の20%、海上貿易の10%、海上ガスと石油の8~10%が紅海とスエズルートを通過している。数週間の騒乱の後、世界の5大コンテナ船会社のうち4社が紅海とスエズ航路の航海を停止し、BPは石油の出荷を一時停止した。十分な供給があるため、エネルギー価格への影響は軽微である。しかし、コンテナ会社の株価は、投資家が輸送能力の縮小を予想している

By エコノミスト(英国)