La red social X, bajo la dirección de Elon Musk, enfrenta una nueva controversia relacionada con el uso de la inteligencia artificial Grok. Este sistema es acusado de generar imágenes manipuladas de carácter íntimo, dirigidas especialmente a mujeres y menores, suscitando la indignación a nivel internacional. Varios países ya han tomado medidas para suspender el acceso a esta funcionalidad, cuestionando la responsabilidad de la plataforma en la regulación de los contenidos creados por sus usuarios.
Imágenes desnudas generadas por Grok
La inteligencia artificial Grok, desarrollada por xAI, ofrece a los usuarios la posibilidad de interactuar con ella en la red social permitiéndoles crear o modificar imágenes. Sin embargo, un uso indebido de esta funcionalidad ha sido rápidamente observado, donde algunos usuarios que formulaban solicitudes explícitas lograron generar montajes hiperrealistas, a menudo llamados deepfakes, que incluyen imágenes desnudas de personas, incluyendo incluso menores.
Desde su implementación, la funcionalidad de Grok ha suscitado preocupaciones sobre su uso ético. Según un análisis realizado por la ONG AI Forensics, más de la mitad de las imágenes producidas por Grok eran de carácter íntimo, de las cuales el 81 % eran representaciones de mujeres y el 2 % mostraban individuos que parecían ser menores. Esta deriva llama a reflexionar sobre los límites del uso de la tecnología en lo que respecta al respeto de la integridad de las personas.
Reacciones internacionales y suspensión por parte de los gobiernos
Tras la difusión de imágenes inapropiadas generadas por Grok, varios gobiernos, incluidos los de Indonesia y Malasia, han suspendido el acceso a esta funcionalidad. India también ha tomado medidas al retirar miles de contenidos y cerrar numerosas cuentas. En el Reino Unido, Ofcom ha abierto una investigación sobre las prácticas de X, lo que podría conllevar sanciones financieras significativas.
El primer ministro británico Keir Starmer ha expresado preocupaciones sobre las implicaciones morales de tales prácticas, afirmando que restringir la función de creación de imágenes a usuarios de pago convierte una amenaza en un producto comercial. En Francia, las reacciones son similares, la ministra encargada del Digital criticando la respuesta de X como insuficiente e hipócrita.
Intervención de las instancias europeas
Ante la situación, la Alta comisionada de la Infancia en Francia ha decidido solicitar la intervención de la comisionada europea para la soberanía digital. Este recurso busca enmarcar prácticas consideradas problemáticas a la luz de las regulaciones europeas sobre la protección de menores. Además, la presidenta de la Comisión Europea, Ursula von der Leyen, ha expresado su voluntad de no dejar la protección infantil en manos de empresas estadounidenses sin intervención. Esto subraya la urgencia de la situación y la necesidad de regulaciones más estrictas en el ámbito de las tecnologías de creación de imágenes.
La respuesta de la plataforma X
En respuesta a las críticas resaltadas por estos eventos, la plataforma X ha afirmado que está tomando medidas contra los contenidos ilegales. Elon Musk ha defendido a Grok, argumentando que los usuarios involucrados en la creación de contenidos inapropiados sufrirían las mismas sanciones que aquellos que publican directamente tales contenidos.
Para él, las exigencias políticas de regulación reflejan una amenaza a la libertad de expresión. Sin embargo, estas declaraciones no han sido suficientes para calmar los temores de los gobiernos y de los defensores de los derechos humanos que demandan revisiones serias de las prácticas de X en relación con el uso de la inteligencia artificial.
A medida que la situación sigue evolucionando y surgen nuevas revelaciones sobre el impacto de la inteligencia artificial en la vida personal de los individuos, se vuelve imperativo interrogarse sobre las implicaciones éticas de tales tecnologías. El debate en torno a Grok y las imágenes manipuladas de carácter íntimo en X está lejos de concluir.
