偽動画「ディープフェイク」急増 一般人にも被害の懸念

偽動画「ディープフェイク」急増 一般人にも被害の懸念

  • 産経ニュース
  • 更新日:2020/11/20

人工知能(AI)の顔認証技術を悪用した精巧な偽動画「ディープフェイク」が、インターネット上で増加し、世界中で懸念が高まっている。女性有名人のわいせつ動画や、政治家が問題発言をする動画などが作成されており、名誉毀損(きそん)や情報操作に発展する恐れもある。一方で、復讐(ふくしゅう)のために交際相手の裸の写真を流出させるリベンジポルノに悪用される可能性もあり、有名人だけでなく一般人の身近でも対策が必要だ。(南里咲)

56万円の広告収入

「生活のためにやっていた」。女性芸能人のわいせつ動画を作成したとして、京都府警が名誉毀損容疑などで逮捕した男はこう供述した。男はアダルトビデオの出演者に女性芸能人の顔を合成した偽動画を100本以上作成。1~6月にサイトの広告収入などで約56万円を得ていたという。

ディープフェイクはAIの先端技術「ディープラーニング(深層学習)」と「フェイク(偽物)」の合成語。2017年に米国で投稿されたことがきっかけで、広まったとされる。作成は容易で、府警に逮捕された男はネット上で無料で入手できるアプリを使用。「女性芸能人が本当に裸になっているように見えるほど精巧だった」と、男が作成した偽動画を見た府警幹部は明かす。

このような手軽さや精巧さもあり、被害は急拡大しているが、専門家らは有名人に限らず、一般人への被害を懸念する。ネット問題に詳しい最所義一弁護士(神奈川県弁護士会)は、日本での一般人の被害は把握していないとした上で、「ネット上で誹謗(ひぼう)中傷をする人間は面白半分で行う。同じような感覚で、リベンジポルノなどに悪用されることは十分あり得る」と指摘する。

SNSの写真が素材に

偽動画は素材となる写真が多ければ多いほど作成しやすいため、「さまざまな角度からの写真をSNS(会員制交流サイト)上に多く投稿している人は、注意が必要だ」と警鐘を鳴らした。

また、これまでリベンジポルノの被害は実際に撮影された裸の写真が流出するケースが主だったが、府警幹部は「ディープフェイクが広まれば、裸の写真を撮影したことがない人でも、顔写真さえあれば被害に遭う可能性があり、死活問題になる」と危機感を募らせる。

今月には、神奈川県立高校で、デジタル加工で変形させた顔の画像を拡散されるいじめを受けた男子生徒が不登校になる事案も発覚しており、ディープフェイクも同様に悪用される恐れは否定できない。米国では実際にリベンジポルノに使われた例もあり、昨年7月にバージニア州は加害者に最大1年間の懲役と2500ドル(約30万円)の罰金を科す法改正をした。

被害防止へ対策進む

ディープフェイクが急速に増加する一方、被害を食い止めようとする動きも進んでいる。

オランダのIT企業の調査によると、今年6月時点で約4万9千件の偽動画が存在しており、2年前の6倍以上に急増。被害者の半数は米国人だが、日本人の割合も4%を占める。国内で被害を受けた芸能人は約200人、公開されている動画は約3500本に上るとみられ、深刻な問題になっている。

ツイッター社は3月、政治家の映像を改竄(かいざん)した動画が投稿された場合、警告ラベルを表示する措置を導入。リツイート(転載)や「いいね」を付ける前にも警告文を表示し、利用者に注意を促す。

フェイスブック社は1月、見る人をだますことを目的とした偽動画の削除を表明。ユーチューブも2月、同様の措置を取ると発表した。米国企業が相次いで対策に踏み切った背景には、大統領選への悪影響を防ぐ狙いがあったとみられる。

日本でも文部科学省が今年度、フェイクニュースやフェイク動画を検知して対処する技術の研究を戦略目標に掲げており、国立情報学研究所はディープフェイクを自動識別する技術の研究を進めている。

No image

この記事をお届けした
グノシーの最新ニュース情報を、

でも最新ニュース情報をお届けしています。

外部リンク

  • このエントリーをはてなブックマークに追加