Grok : l’Arcom rappelle les règles à suivre lors de la diffusion de contenus intimes non consentis sur X

Il y a quelques jours, de nombreux contenus à caractères intime ont été postés sur X de manière non consentie suite à des demandes effectuées à Grok, l’IA du réseau social d’Elon Musk.

Prévenir la plateforme puis le signaleur

L’Autorité de régulation de la communication audiovisuelle et numérique a été saisie à de nombreuses reprises mais la procédure doit se passer un peu différemment, l’Arcom rappelle d’ailleurs la marche à suivre.

Tout d’abord, les utilisateurs doivent signaler les contenus illicites à la plateforme. Ce signalement marque la première étape de la procédure et engage la responsabilité de la plateforme si elle n’agit pas rapidement pour en faire cesser la diffusion comme le prévoit le règlement européen sur les services numériques aussi connu sous le nom de DSA.

Selon l’Arcom, ce n’est pas son rôle de faire cesser cette diffusion illicite et il faut pour cela solliciter l’association Point de Contact qui a été désigné par le régulateur comme étant un signaleur de confiance.

Si le premier point n’a pas eu d’effet, l’Arcom invite les personnes victimes ainsi que les personnes témoins de la diffusion sur X d’une image pédopornographique générée par Grok de la saisir mais uniquement si elles ne sont pas parvenues à faire cesser la diffusion desdites images ou si les mécanismes prévus dans le cadre du DSA n’ont pas été mises en place correctement par la plateforme.

Les preuves sont à envoyer à recueil-preuves-rsn@arcom.fr

L’Arcom vérfie les manquements de X à ses obligations

L’Arcom est le coordinateur des services numériques et veille à la bonne application du règlement sur les services numériques. Le régulateur réunit les preuves qui pourraient contribuer à définir les manquements de X à ses obligations en rapport au DSA et les transmettra au régulateur irlandais qui a tout pouvoir pour ensuite sévir contre la plateforme.

Par ailleurs, l’Autorité pourra également communiquer les infractions dont elle a connaissance au Parquet de Paris qui pourra engager une poursuite pénale à l’encontre de X.