ブラジル政府と連邦検察は、イーロン・マスク氏率いるxAIに対し、生成AIチャットボット「Grok」が拡散している虚偽の性的コンテンツへの対応を求め、30日間の是正期限を設けた。1月20日、サンパウロ発として発表された共同声明によると、期限内に改善が見られない場合、行政措置や司法手続きに踏み切る可能性があるとしている。
今回の対応を主導しているのは、ブラジルの消費者保護機関セナコン、国家データ保護機関ANPD、そして連邦検察庁で、問題視されているのは、実在しない人物や実在の人物を模した性的に誇張された画像、いわゆるディープフェイク的なコンテンツがGrokを通じて生成・流通している点だ。当局はxAIに対し、こうした不適切なコンテンツを特定、審査、削除するための技術的手続きを30日以内に構築・実装すること、さらに制作に関与したアカウントの削除を求めている。
xAI側はこれまでに、Grokにおける画像編集機能の制限を実施したと説明してきた。また、X（旧Twitter）上での過度にリアルな性的画像の公開生成についてはロールバックを行ったものの、ロイター通信の検証によれば、チャットボットは依然として非公開環境では要請に応じて同様の画像を生成できる状態にあるとされる。この点が、今回の是正要求の直接的な背景となっている。
近年、生成AIによる性的・違法コンテンツを巡っては、各国政府や規制当局が相次いで監視や規制を強化している。Grokをめぐっても、調査の開始や利用制限、セーフガードの導入要求などが世界各地で進められており、今回のブラジルの動きも、そうした国際的な流れの一環といえる。今後30日間でxAIがどこまで実効性のある対策を講じられるのか、そしてそれが他国の規制議論にどのような影響を与えるのかが注目される。
