ソーシャルメディア利用率が世界で最も高い国の一つブラジルは、ディープフェイクが拡散されやすい環境であり、多くの有名人が被害に遭っている。今年初め人気歌手アニータは、AIで作成した自分のアバターと対話する動画をソーシャルメディアで公開し「AIは私たちの特徴を盗む」と批判した。有名なドラウジオ・ヴァレーラ医師は偽の薬を推奨して販売する動画をAIで作られ、拡散された。フォーブス誌（1）やグローボ（2）（3）など現地メディアが報じた。
世界的にはスカーレット・ヨハンソン、テイラー・スウィフト、ミハエル・シューマッハ、ブラジル国内ではネイマール、エリアナ、アナ・マリア・ブラガ、イベッチ・ザンガーロ、マノ・ブラウン、ジャデ・ピコンら有名人がディープフェイク動画に悪用されている。
これら多くの有名人のディープフェイク動画は詐欺商品の広告に利用されるなどし、関連する犯罪が世界中で多発している。犯人らは、顔だけでなく声なども偽造する技術を持ち合わせている。彼らは不正に収益を得るためにAI技術を利用し、ソーシャルネットワーク上で偽広告を拡散している。その他、ネット上では、肖像権の悪用、偽の商品、金融詐欺など様々な偽情報の拡散が横行している。
AI（人工知能）専門家で、ブラジル最大級のオンライン学習プラットフォームのプロジェクトマネージャーを務めるファブリコ・カラーロ氏は「これらディープフェイク動画は、世論操作にも利用される可能性がある」と懸念点を挙げた。さらに「ティーンエイジャーの間ではクラスメートを辱めるためにディープフェイクが作られている。また犯罪者達は、一般人を脅迫するために偽のコンテンツを作っている」と指摘する。
ブラジル最高の視聴率を誇るニュース番組「ジョルナル・ナショナル」のニュースキャスターのウイリアム・ボーネル氏もディープフェイク被害者の一人だ。昨年10月、彼が特定の市議会議員を推薦する動画や、金融商品を薦める偽動画が詐欺師らによって拡散された。
これに対してボーネル氏は、「私はジャーナリストだから広告に出られない。だから、二つの大きな危険性がある。ひとつは商品宣伝に私が関わっていると思われること、もうひとつは政治的宣伝に、だ。人工知能を使って商品販売をシミュレートするなら、同様に政治家を売り込むのにも人工知能が使える。どちらも私が関われない分野で、私は犯罪被害を受けている」と話した。
被害は人物にとどまらず、銀行も標的にされている。ブラジル経済社会開発銀行（BNDES）を狙った詐欺では、犯人がBNDES職員を名乗り、偽の広告費用請求書を送ったケースが発生している。
誰かが引き落とし詐欺に遭うと銀行の信用が一気に下がる。BNDESのコンプライアンス担当のルイス・ナバーロさんは、「利用者はこのような詐欺を防げただろうと怒りを露わにしているが不可能なことだ。現在、関与した人物の名前開示を申請している。私たちは司法を通じて保障を求め続ける」と話した。
専門家は詐欺に遭わない為には、友人や家族から受け取った写真や動画、音声等の情報であっても「疑うこと」を勧めている。
次のような点に注意して、ディープフェイクを見極める実践的方法もあるという。
【目や口】体と音声や口の動きが一致せず、どこか不自然な動きになっている。【光や影】不自然な明るさになっている。【声や音声の質】本人の普段のイントネーションとどこか違いがあり、人工的に聞こえる。【不自然な身体の動き】ジェスチャーや身体の動きにどこか不自然な点がある。【センセーショナルなメッセージを疑う】詐欺師は視聴者にインパクトを与え、緊急性を訴えるセンセーショナルなメッセージを利用することが多い。【信頼できる情報源か】怪しいと思う場合には、情報源を調べる、又は直接問い合わせして確認をする。