「私の写真が裸にされた･･･」＝AI改ざん被害で法廷闘争へ

実在する人物の写真が無断で使われ、人工知能（AI）によってヌードやセクシーな衣装姿に加工された画像がSNSで拡散――。近年、こうした悪質なAI使用による被害が相次ぎ、深刻な社会問題となっている。とりわけ注目を集めているのが、歌手のジュリー・ユカリ氏（31）が標的となったケースだ。本人は強い精神的ショックを受け、ついに法的措置に踏み切る決意を固めたと、5日付コレイオ・ブラジリエンセ（1）が報じた。

発端は新年早々の何気ない投稿だった。ユカリ氏は、愛猫とともにベッドに横たわる写真をXに投稿。年始のあいさつ代わりの一枚で、特別な意味はなかった。投稿直後は祝福のコメントが寄せられるなど、穏やかな反応が続いていた。

ところが翌日、事態は一変する。午前10時ごろ、見知らぬ人物から突然メッセージが届いた。「君の写真をマイクロビキニ姿に加工する依頼を受けた」。その後、自身の写真がAIツール「グロック（Grok）」によって改ざんされ、ランジェリー姿やヌードにされた画像がネット上に出回っていることを知ったという。

ユカリ氏は、「グロックは公共のプラットフォームだし、そんな画像が作れるとは思ってもいなかった。アカウントをブロックすれば写真は使われないと聞いていたが、他の女性も同じ被害に遭っていることを知り、ブロックしても画像は生成され続け、見られてしまうと分かった」と憤りを口にした。

5日付カナル・テックなど（2）（3）によると、グロックはXに導入されたAIツールだが、ディープフェイク画像の生成に悪用されるケースが急増。特に女性や子供の写真を性的に加工する行為が問題視されている。ブラジルではエリカ・ヒルトン連邦下議が使用停止を求める告発を行い、フランスやインド、マレーシアでもAI規制強化の動きが進んでいる。未成年者への影響は、各国共通の深刻な懸念材料だ。

被害は精神面にも大きな傷を残した。「汚されたような気分になり、知人がその画像を見るのではないかという恐怖に襲われた。あまりにもリアルで、本物と見分けがつかないほどだった」とし、さらに、自分が性的コンテンツを発信していると誤解されることへの不安もあったという。

ユカリ氏はSNS上で、「女性への軽視が社会に蔓延している」と強く訴えた。「軽蔑が感染症のように広がり、被害者がまるで悪者扱いされる」。あまりの苦しさに、アカウント削除を考えたことも明かしている。それでも最終的には、「自分の権利を守る」として法的措置を選んだ。

X側は、問題の画像が規約違反であることを認めているが、ユカリ氏は「これほど簡単にポルノが拡散されるのは異常」と批判。匿名アカウントの存在が責任追及を困難にしている点にも触れ、「ネット上の犯罪も、現実世界の犯罪と同じくらい深刻だ」と警鐘を鳴らした。不正に画像を使用した人物や、削除を拒否したXを提訴する構えだ。

最後にユカリ氏は、AI規制の必要性を強調。「成人女性だけでなく、子供まで性的に扱われている。名誉や評判を傷つけ、将来、犯罪の証拠として悪用される可能性もある」と危機感をあらわにしている。