Grok : suite aux débordements liés aux deepfakes à caractère sexuel, le Gouvernement saisit le procureur de la République

Depuis quelques jours, des milliers de requêtes ont été formulées à Grok – l’intelligence artificielle du réseau social X – demandant de dénuder des femmes. Si parfois cela a été demandé directement par les femmes elles-mêmes, les demandes ont été très souvent faites par des hommes sur des femmes sans leur consentement.

Une affaire qui alourdit le dossier contre X

La fonctionnalité n’a absolument rien de nouveau mais elle a été particulièrement utilisée en ce début d’année et elle reste totalement illégale, d’autant plus quand les demandes de retouches concernent des enfants comme cela a pu être observé.

Devant ces faits, deux députés ont décidé de saisir le parquet de Paris selon Tech & Co. Et cela va alourdir l’enquête déjà en cours contre le réseau social d’Elon Musk sur le fondement de l’article 226-8-1 du code pénal qui précise par ailleurs que cela peut être puni de 2 ans de prison et de 60 000 euros d’amende.

De son côté, le gouvernement par le biais des ministres Roland Lescure, Anne le Hénanff et Aurore Bergé a annoncé avoir signalé ces faits au procureur de la République et à Pharos en vertu de l’article 40 du code de procédure pénale afin notamment d’obtenir leur retrait immédiat tout en rappelant que « les atteintes à caractère sexuel commises en ligne constituent des infractions pénales à part entière et tombent pleinement sous le coup de la loi ».

Par ailleurs, les ministres ont également interpellé l’Arcom au titre de possibles manquement de la plateforme à ses obligations découlant du DSA, notamment en ce qui concerne la prévention et l’atténuation des risques liés à la diffusion de contenus illicites.

Bien que ce soit X qui soit visé ici, les internautes qui ont demandé ces images peuvent également l’être dans ce cadre et ces derniers risquent jusqu’à trois ans de prison et 75 000 euros d’amende.