G7広島サミットでも議題となったAI（人工知能）の危険性への対策として、フェイク画像の生成を防ぐ新たな技術が広がり始めています。
ソフトウェアメーカーのアドビは、言葉を打ち込むとAIが自然な画像を合成する新たな機能を画像編集ソフトに搭載すると発表しました。
テスト版では2カ月で1億点以上の画像が作り出されるなど注目を集めています。
しかし、最近フェイク画像の影響で株価が下落したり、世界的な写真コンテストで優勝したりするなど生成AIへの懸念も高まっています。
そこで今回の画像編集ソフトで軍隊に攻撃された画像を追加しようとすると、「ガイドラインに違反するためできません」と表示されました。
また、特定のキャラクターのAI画像を作ろうとすると、似ても似つかぬものが出てきました。
アドビ・西山正一CDO：「スピーディーに（画像を）生成するなかでも1つ1つ安心して使えるような配慮が施されている」
AIが学習するデータから著作権に問題があるものを除き、権利を侵害しないように設計されているといいます。
さらに、サイトに画像を取り込むと、「AIで生成された」との表示や、元となった画像などが出てきます。
アドビなど1000社以上からなる団体は、その画像がどういう過程を経て作られたかをたどれる仕組みづくりを進めています。
