「AIトレパク」が問題に

「AIトレパク」が問題に

  • ASCII.jp
  • 更新日:2023/01/25
No image

3DアバターのVRMのスクショアプリ「VRM Posing Desktop」を使いVRMで画像(左)を作成後、Stable DiffusionのWebUIでimg2imgを行ってイラスト風の画像(右)を生成したもの。(画像:筆者作成)

画像生成AIの「img2img」が議論を起こしています。

img2imgとは、画像生成AIの機能の1つ「Image-to-Image」の略称。画像を読み込ませて、テキストで指定するプロンプトと合わせて画像生成すると、元となる画像のイメージを踏襲した画像を作ってくれるという機能です。

たとえば3DアバターのVRMデータを読み込ませるだけでアニメ風の絵が生成されます。パラメーターの設定次第ですが、元のキャラクターの特徴もそのまま踏襲させることが可能です。元となる画像を用意することで、同じ顔つきのやポーズの画像が生成を容易にすることができるわけですね。

この原理を応用して、たとえばMMDで制作した初音ミクの3Dの動画ををコマ単位で分割して読み込ませ、バッチ処理をかけてアニメ風のPVにするなどという新しい使い方の例もいくつも登場してきています。

AI使って精製した初音ミクが回るだけ pic.twitter.com/DXOeZrxoFW
— 卓球少年サブ (@takkyuu_ehehep)
January 20, 2023
from Twitter

img2imgによる「トレパク」疑惑

img2imgは非常に強力な機能なのですが、強力なだけにトラブルも出てきてしまっています。たとえば1月1日に、あるAI絵師がTwitterで、AI絵師の地位を向上させるために100人ほどからAI画像を集めて画集を出そうという企画を出したことがありました。企画は多くの賛同者を集めることができたために、実際に始まろうとしていました。

ところがその後、その人が発表していたAI画像は、他人が描いたイラストを左右反転させて、img2imgで変換して生成しているだけではないかという指摘が入ったんですね。画像生成AIを使った、いわゆる「トレパク」じゃないかというわけです。そのうち、他のイラストレーターがPixivなどに投稿していた元画像ではないかと思われる画像が発見されていきました。

投稿者本人は自身の手によるものとする「下書き」を公開して反論しましたが、公開された元絵からは当初のイラストを生成することができないと指摘されました。その下書きは自分で生成した画像をトレースした可能性が高いとも推測されました。複数のユーザーが元イラストから同じ画像を生成できないかと調べたものの、完全一致の画像を生成することもできませんでした。

画像生成AIには、文字によるプロンプト(命令文)だけでは苦手なキャラクターのポーズというものがあります。具体的にはしゃがんだり、腕を組んだりするポーズです。体のパーツの前後関係が発生したり、重なったりするような複雑な姿勢は絵が破綻することが多いという特性があります。そのため元となる姿勢の画像を用意してimg2imgを使うのは、狙った構図を作るには非常に効果が高く、画像生成AIの持つ強みの一つでもあります。

問題となった画像も「しゃがんだポーズ」で、画像生成AIが苦手とするポースでした。そうなると、体の線が偶然一致する可能性は極めて低く、img2imgをするための元画像があると考える方が自然ということになります。

No image

img2imgを使うと、座っているような画像(左)のような画像生成AIが苦手とする画像も、比較的ポーズを維持して出力することができる。(画像:筆者作成)

No image

プロンプトのみだと、複雑な姿勢を生成するのにはかなり限界がある。img2imgと同じプロンプトでもまるで違う印象の画像が生成されてしまう。誰かが描いたイラストとまったく同じ姿勢の画像が出てくることは確率的にはほぼない。(画像:筆者作成)

画像の類似性については、画像検索に強いロシアの検索サイトYandexでも確かめられます。投稿されていたイラストで検索すると、img2imgの元になったと指摘された画像が真っ先に候補として出てきました。画像を反転してGoogle Imagesにかけても、やはり同じ候補が真っ先に出ることを確認しています。

この問題が厄介なのは、著作権は親告罪なので、まずは著作権者が指摘しなければ権利者でもない第三者にとって問題なのかどうかもあいまいであることです。さらに、著作権違反をしているかという以前に、画像生成AIで作った画像そのものに著作性があるかどうかについてもまだ司法判断がないため明確な基準がありません。img2imgで生成された画像が、どの程度であれば著作権が認められる可能性がある「創作的寄与」があるのか、現状では判断がつかないのです。

今回の場合、img2imgの元データを明確な特定の著作物を使って作成しているとすると「依拠性が高い」と判断され、著作権侵害があるとみなされる可能性が高いのではないかと考えます。しかし、どうやってそれを証明するかという問題がついて回るため、裁判を実際にやってみないとわからない状況です。しかし、わざわざ、裁判にまで訴えて証明するべき事案にまでなるかというと、金銭的な損害もほぼないため難しいのではないでしょうか。

img2imgでアダルト画像の収益化を目指すケースも

一方で、img2imgトレパクはすでに常態化しつつあるとも言われています。img2imgでも、通常の画像生成プロセスと同じように、1分もあれば画像を作れてしまうためです。完成度の高いイラストを元画像として使えば、簡単により良い画像が作れるため、img2imgを使った画像を「自分の作品」としてSNSに投稿する人が後を絶ちません。

さらに、img2imgでお金を稼ごうという明確な悪意があると考えられるケースも出てきました。

Twitterでは、アダルト系の二次創作イラストの画像を無断でimg2imgで読み込んだものとおぼしき画像を、pixivFANBOXで月額有料の会員制で大量に公開しているユーザーがいると報告されています。画像生成AIで作ったアダルト画像が電子書籍として販売されることがありますが、そこにimg2imgが悪用されはじめているわけですね。

No image

pixivFANBOX

該当ユーザーは数百枚単位でアダルト画像をimg2imgで読み込ませて画像を生成しているようです。筆者も投稿されている画像のうち何枚かを画像検索にかけてみたところ、元画像と思われる複数の画像がヒットし、さらに複数の作者の作品がヒットしました。現在、元イラストの著作者が気付いている様子はまだありません。

こうしたことがやがて起きるだろうと予想されていたことではありますが、露骨に出てきてしまったというところです。こうした活動をしているユーザーは、収益を目的として活動していると思われるため、注意しても活動を中止する可能性は低いでしょう。実際に注意をした人は、返信なくSNSのアカウントをブロックされたと報告しています。

現在、pixivFANBOXとしては特段の対応をしていないようですが、今後、特に投稿者が収益を得られるサービスでは課題となってくると考えられます。

今後ガイドラインの整備が進むかどうかがポイント

こうしたなか、漫画家で参議院議員の赤松健氏は1月8日に「驚異の進化を遂げる画像生成AI ~赤松健の現時点での提言~」という動画をYouTubeにアップロードしています。赤松氏はこの動画の中で、画像生成AIに付いて説明し、既存の絵師側がどのように見ているのか、弁護士の視点からの著作権に関する部分の説明などをしたあとに現状の認識を披露しました。

赤松氏は、成熟の段階を3段階の「レベル1(あまり良くない状態)」、「レベル2(良くなる途上の状態)」、「レベル3(成熟した状態)」と分けています。現在は、レベル2の「技術やガイドライン等でわいせつ画像・権利侵害画像の生成をある程度コントロールできている」段階だと論じています。「良くなっていく途中、過渡期・途上の状態である」ともしています。

No image

img2imgを展開しているサービスでも、「自分が描いたイラストだけをそこに入れてくださいねってガイドラインが出ている」というケースを紹介しつつ、段々と不安があった段階が解決されつつあるとしています。そして、YouTubeを例にあげて、時間をかけていずれは権利者への還元がなされるようなレベル3の段階にまでたどり着くとしています。「爆発的な発展を経て、ガイドラインで少しずつコントロールできていく。その後、成熟した状態になって、皆が納得する状態に、今近づいている」と。

そのうえで、「私の考えでは法改正は必要ない」と結論付けています。法改正では技術の発展を阻害してしまうこと、日本で規制しても海外で規制されていないので差ができてしまうことをその理由としてあげています。一方で、「今後の政策として、クリエイター、権利者団体、技術者、法律の専門家そういった方々と継続的に意見交換してその状況を発信していく、その上でガイドラインの策定とか啓蒙をどんどん行なっていくべきである」としています。

新しい技術が登場すると、悪意を持って自分の自尊心を満たすために使用したり、ルールの穴を使って収益化を目指す人は必ず出てきます。まだまだ、レベル2だとしても、初期段階ではないかと考えます。法改正を通じた拙速な規制は、影響力が大きすぎるので、行なうべきではないと考えます。

しかし、今回のケースの場合のように、img2imgにおいて、どこまでが許される線とするべきものなのか、特に収益化が可能なSNSプラットフォーマーやその関係者によるガイドラインの策定とその実効性を伴った実施は、早晩、必ず必要になってくるでしょう。

筆者紹介:新清士(しんきよし)

No image

1970年生まれ。デジタルハリウッド大学院教授。慶應義塾大学商学部及び環境情報学部卒。ゲームジャーナリストとして活躍後、VRゲーム開発会社のよむネコ(現Thirdverse)を設立。VRマルチプレイ剣戟アクションゲーム「ソード・オブ・ガルガンチュア」の開発を主導。著書に8月に出た『メタバースビジネス覇権戦争』(NHK出版新書)がある。

新清士 編集●ASCII

この記事をお届けした
グノシーの最新ニュース情報を、

でも最新ニュース情報をお届けしています。

外部リンク

  • このエントリーをはてなブックマークに追加