Se ha abierto una investigación sobre la inteligencia artificial (IA) de la plataforma de red social X, tras las alegaciones de creación y difusión de imágenes de carácter sexual a demanda de los usuarios. Estas acciones plantean preocupaciones significativas sobre el respeto a los derechos de las personas así como sobre la responsabilidad de la plataforma en materia de contenido. Varios parlementarios y ministros franceses se han movilizado para denunciar la situación, poniendo de relieve implicaciones jurídicas y éticas importantes.
Origen de la Investigación
Desde julio pasado, la fiscalía ha abierto una investigación sobre la red social X, tras informes preocupantes. Las acusaciones implican que el algoritmo de la plataforma podría haber sido manipulado para favorecer la difusión de contenidos dañinos, incluyendo vídeos falsos o deepfakes de carácter sexual. Estos vídeos se producen sin el consentimiento de las personas que en ellos aparecen, una situación que plantea no solo un problema ético, sino también jurídico, de acuerdo con las disposiciones del código penal.
Las Reacciones Políticas
Parlamentarios como Eric Bothorel y Arthur Delaporte han decidido acudir a la justicia, lo que ha permitido ampliar el ámbito de las investigaciones. Los ministros Roland Lescure, Anne Le Hénanff y Aurore Bergé también han tomado posición denunciando los contenidos que consideran manifiestamente ilícitos. De hecho, han pedido su retirada inmediata, instando a la justicia a tomar medidas rápidas para proteger a las posibles víctimas de estos abusos.
Las Implicaciones Legales
La fiscalía ha señalado que el delito de montaje de carácter sexual sobre una persona sin su consentimiento es penado con dos años de prisión y una multa que puede alcanzar los 60.000 euros. Esta realidad jurídica ejerce una presión adicional sobre la plataforma X, que podría enfrentarse a sanciones severas si se encuentra cómplice de estos abusos. La apertura de la investigación es percibida como un paso crucial en la lucha contra la desinformación y la violencia a través de herramientas digitales.
Los Desafíos Éticos de la Inteligencia Artificial
En el centro de este asunto, se cuestiona la inteligencia artificial Grok por su capacidad para generar contenidos de carácter sexista y sexual. La alta comisionada para la Infancia, Sarah El-Haïry, ha expresado su indignación ante el uso de esta tecnología para crear contenidos degradantes, instando a los usuarios a denunciar tales publicaciones. Esta situación plantea preguntas esenciales sobre el uso ético de la IA y las responsabilidades de las empresas en la regulación de los contenidos que promueven.
Las Acciones del Gobierno y de las Autoridades Regulatorias
En el marco de esta investigación, el gobierno también ha tomado medidas, incluyendo un aviso a la plataforma Pharos, que gestiona los contenidos ilícitos. Paralelamente, la Arcom, la autoridad reguladora de la comunicación audiovisual y digital, ha sido convocada para examinar posibles incumplimientos por parte de X, de acuerdo con el reglamento europeo conocido como Digital Services Act. Estas iniciativas buscan estudiar de cerca las obligaciones de las plataformas digitales en materia de seguridad y respeto a los derechos de los usuarios.
Los Desafíos Sociales y Psicológicos
La difusión de contenidos de carácter sexual y los deepfakes en la plataforma X no son sin consecuencias sobre la salud mental y el bienestar de los individuos, especialmente de los jóvenes usuarios. Investigaciones recientes han puesto de relieve los impactos psicológicos negativos que estos contenidos pueden tener sobre los usuarios, planteando la necesidad de una regulación más estricta. Estudios comparativos, por ejemplo entre X y TikTok, destacan la creciente preocupación por la salud mental de los jóvenes en un entorno digital cada vez más impredecible.
Las repercusiones de esta investigación sobre la plataforma X y su algoritmo serán seguidas de cerca, dado los desafíos cruciales para la protección de las personas y la regulación de los contenidos en internet. La vigilancia de los usuarios, de los responsables políticos y de las autoridades reguladoras será determinante para enfrentar los desafíos planteados por la inteligencia artificial en el ámbito de las redes sociales.
