ディープフェイクがTikTokで偽情報キャンペーン、個人情報詐欺、公人や有名人の信用を落とすために使われることが多くなってきている。
TikTokでは、現在、ディープフェイク動画が後を絶たない。 ディープフェイクとは、被写体の顔や体をデジタル処理で加工し、別人（通常は有名人）のように見せかけた動画のことだ。 この「@deeptomcriuse」は、トム・クルーズになりすましたディープフェイク動画を多数投稿し、約360万人のフォロワーを集めている。
ディープフェイクの作成に必要な技術は高度だが、その技術はますます身近になり、検出ソフトウェアや規制は遅れをとっている。 また、ディープフェイク技術は、亡くなった俳優を本物そっくりに蘇らせたり、歴史を再現したりすることも可能だ。 一方で、有名人など、コンテンツを発信することで評価を得ている人たちの信用を落とすために、ディープフェイクが利用されている例も後をたたない。
ディープフェイクが増えると、政治的コミュニケーション、健康メッセージ、選挙キャンペーンにおいて、検証可能な映像を提供することが困難になる。 人の顔がディープフェイク・ポルノに利用されている。 このほかにも、個人情報の詐取や詐欺に利用されており、特に、信頼できる「同僚」や「親戚」から送金を依頼するビデオメッセージの形で利用されている。
ディープフェイクの制作者は、これらの動画をリアルに見せるために必要な時間と労力を強調している。 例えば、TikTokのアカウント「@deeptomcruise」の視覚効果およびAIアーティストであるChris Umeはその一人だ。 より多くのディープフェイクアプリが開発されればされるほど、よりスキルの低い人々が本物そっくりのディープフェイクを作り出すことが多くなると予想される。
ディープフェイク技術の進歩に、法整備や規制、検知ソフトが追いつくのは難しい。 2019年、Facebookは、アメリカの政治家ナンシー・ペロシの加工された動画が、ディープフェイクの定義に当てはまらず、削除できなかったとして批判を浴びた。
オーストラリアでは、ニューサウスウェールズ州の企業アシュアストの弁護士が、既存の著作権法や名誉毀損法がディープフェイクからオーストラリア人を守るには不十分である可能性があると主張している。
法整備の試みが始まっている。カリフォルニア州では、選挙期間中に候補者のデジタル加工されたコンテンツを投稿または配布することを違法としている。
