日記

AIによる動画合成技術『ディープフェイク』で人は騙され続ける?

フェイク

日本で悪意あるディープフェイク画像逮捕者が出たというニュースがありました。
「ディープフェイク職人」を初摘発。人工知能を使ってAV出演者の顔を芸能人とすり替える

警視庁保安課によると、
AV出演者の顔を2人の女性芸能人とすり替えた動画を自身が運営する有料サイトに掲載し、
不特定多数の人に2人が出演しているように印象づけて名誉を傷つけたほか、
制作会社の著作権を侵害した疑いがある。
大槻容疑者は今年4~7月、同様の動画を海外のサイトに載せ、
別の2人の女性芸能人の名誉を毀損するなどした疑いがある。

被害者がAVに出演しているかのように見せかけたことから、警視庁などは名誉毀損に当たると判断した。

僕はディープフェイクがよく分からないので、
・ディープフェイクとはなんなのか?
・ディープフェイク映像の凄さ
二つを取り上げてみたいと思います。

ディープフェイクとは?

「深層学習(ディープラーニング)」と「偽物(フェイク)」を組み合わせた混成語。
人工知能を利用した人物画像合成の技術のことを言う。
「敵対的生成ネットワーク(GANs)」と呼ばれる機械学習技術を使用して、既存の画像と映像を、元となる画像または映像に重ね合わせて結合することで生成される。 既存と元の映像を結合することにより、実際には起こっていない出来事で行動している1人あるいは複数人の偽の映像が生み出されることとなる。

そのような偽の映像で、例えば、実際にはしていない性行為をしているように見せかけたり、実際とは異なる言葉やジェスチャーに変更するといった政治的な利用が可能となる。
これらの機能により、有名人のポルノビデオまたはリベンジポルノの偽造作成のため、ディープフェイクが使用される可能性がある。

さらに、ディープフェイクは、虚偽報道や悪意のあるでっち上げを作成するためにも使用され得る

wikipediaより

ディープフェイク映像


違和感なく見れる?
ホームアローンより、カルキンの顔がシルベスタ・スタローンに!

一枚目は成人男性の顔に成人女性だから違和感あるけど、
男児の顔に成人男性の顔をはめ込んでも違和感ないね!
顔つきが鋭いけど、肌年齢は子供のまま。

アプリもある

結構精密なはめ込み動画が
アプリで簡単に作れてしまう時代・・・
恐ろしい。

まとめ

近い将来、動画の証拠能力も認められない時代が来るのかな?
これは封印指定される技術ですわ・・・

面白いけど上手に使わないとだね。

COMMENT

メールアドレスが公開されることはありません。