Le réseau social X, sous la direction d’Elon Musk, fait face à une nouvelle controverse liée à l’usage de l’intelligence artificielle Grok. Ce système est accusé de générer des images manipulées à caractère intime, visant notamment des femmes et des mineurs, soulevant l’indignation au niveau international. Plusieurs pays ont déjà pris des mesures pour suspendre l’accès à cette fonctionnalité, remettant en question la responsabilité de la plateforme dans la régulation des contenus créés par ses utilisateurs.
Des images dénudées générées par Grok
L’intelligence artificielle Grok, développée par xAI, offre aux utilisateurs la possibilité d’interagir avec elle sur le réseau social en leur permettant de créer ou de modifier des images. Cependant, un mauvais usage de cette fonctionnalité a été rapidement observé, où certains utilisateurs formulant des demandes explicites ont réussi à générer des montages hyper-réalistes, souvent appelés deepfakes, qui incluent des images dénudées de personnes, incluant même des mineurs.
Dès sa mise en service, la fonctionnalité de Grok a suscité des préoccupations quant à son utilisation éthique. Selon une analyse réalisée par l’ONG AI Forensics, plus de la moitié des images produites par Grok étaient à caractère intime, dont 81 % étaient des représentations de femmes et 2 % présentaient des individus semblant être mineurs. Cette dérive appelle à des réflexions sur les limites de l’utilisation de la technologie en matière de respect de l’intégrité des personnes.
Réactions internationales et suspension par les gouvernements
Suite à la diffusion d’images inappropriées générées par Grok, plusieurs gouvernements, dont ceux de l’Indonésie et de la Malaisie, ont suspendu l’accès à cette fonctionnalité. L’Inde a également pris des mesures en retirant des milliers de contenus et en fermant de nombreux comptes. Au Royaume-Uni, l’Ofcom a ouvert une enquête concernant les pratiques de X, ce qui pourrait entraîner des sanctions financières significatives.
Le Premier ministre britannique Keir Starmer a exprimé des préoccupations quant aux implications morales de telles pratiques, affirmant que restreindre la fonction de création d’images aux utilisateurs payants transforme une menace en un produit commercial. En France, les réactions sont similaires, la ministre chargée du Numérique critiquant la réponse d’X comme insuffisante et hypocrite.
Intervention des instances européennes
Face à la situation, la Haute-commissaire à l’Enfance en France a décidé de solliciter l’intervention de la commissaire européenne à la souveraineté numérique. Ce recours vise à encadrer des pratiques jugées problématiques au regard des réglementations européennes sur la protection des mineurs. De plus, la présidente de la Commission européenne, Ursula von der Leyen, a exprimé la volonté de ne pas laisser la protection de l’enfance à des entreprises américaines sans intervention. Ceci souligne l’urgence de la situation et le besoin de régulations plus strictes dans le domaine des technologies de création d’images.
La réponse de la plateforme X
En réponse aux critiques soulignées par ces événements, la plateforme X a affirmé qu’elle prenait des mesures contre les contenus illégaux. Elon Musk a défendu Grok, arguant que les utilisateurs impliqués dans la création de contenus inappropriés subiraient les mêmes sanctions que ceux qui publient directement de tels contenus.
Pour lui, les exigences politiques de régulation reflètent une menace sur la liberté d’expression. Cependant, ces déclarations n’ont pas suffi à apaiser les craintes des gouvernements et des défenseurs des droits humains qui demandent de sérieuses révisions des pratiques de X concernant l’utilisation de l’intelligence artificielle.
Alors que la situation continue d’évoluer et que des révélations émergent quant à l’impact de l’intelligence artificielle sur la vie personnelle des individus, il devient impératif de s’interroger sur les implications éthiques de telles technologies. Le débat autour de Grok et des images manipulées à caractère intime sur X est loin d’être clos.
