Ｘ（ツイッター）の日本公式アカウントは６日、ユーザーが生成ＡＩ「Ｇｒｏｋ」（グロック）を使用するなどして違法コンテンツの作成や投稿をした場合、アカウントの永久凍結や警察などと連携した対処をする方針を表明した。

　グロックはＸと連携した生成ＡＩ。指示に従ってさまざまな画像が作ることができるが、実在の人物が勝手に性的加工をされる被害が世界で拡大している。こうした事態を受けた対応とみられる。

　声明では、児童への性的虐待画像など違法コンテンツが含まれる投稿に対し、投稿の削除やアカウントの永久凍結など厳しい対応を実施し、行政や法執行機関とも協力すると説明。そのうえで、グロックを使って違法コンテンツを作成したり、作成を促したりする行為も「同様の措置をとる」と警告した。

　Ｘ上では年明けから、女性の写真をビキニや下着姿に勝手に加工して投稿する「性的ディープフェイク」の被害が拡大している。ロイター通信によると、欧州連合（ＥＵ）の欧州委員会は５日、グロックで加工された性的な画像は違法との見解を示した。英情報通信庁も同日、性的画像が生成可能となった理由などについてＸ側に説明を要求したという。

　毎日新聞でもグロックでの加工について、日本や海外のＸ投稿で、ほぼ全裸に見えるもの、顔に体液をかけられる描写など性加害的な内容の投稿を複数確認した。未成年の画像を加工したとみられる海外の投稿も確認した。

　グロックを提供するＡＩ開発企業「ｘＡＩ」を率いる米実業家イーロン・マスク氏も直近は同様の警告をするようになったが、６日午後２時時点でも新たな性的加工画像が生成・投稿され続けている。【町野幸】