Con la llegada de las elecciones locales del próximo 3 de junio, Corea del Sur intensifica sus esfuerzos para combatir la desinformación alimentada por la inteligencia artificial. Dentro de la Comisión Nacional Electoral (NEC), equipos se dedican a rastrear los contenidos generados por IA en las redes sociales, una batalla que se prevé notable dado el ritmo al que evoluciona esta tecnología. Esta lucha plantea preocupaciones sobre la capacidad de los votantes para distinguir entre lo verdadero y lo falso y destaca el desafío que representa la regulación de la información en la era digital.
Una batalla en las redes sociales
En una oficina típicamente surcoreana, empleados trabajan para detectar los contenidos potencialmente engañosos difundidos en las redes sociales, especialmente en plataformas como Instagram y YouTube. A medida que se acercan las elecciones, esta misión cobra una importancia considerable, con la necesidad de identificar videos y artículos que a menudo son muy realistas, producidos por modelos de IA de última generación. El equipo se muestra particularmente atento, ya que cada nuevo avance tecnológico hace que su trabajo sea aún más difícil, como indica Choi Ji-hee, una de las responsables de esta iniciativa.
Tecnología de identificación y desinformación
El software desarrollado por el Estado para identificar los contenidos generados por IA muestra una precisión estimada del 92%. Sin embargo, este dato no brinda un respiro a los equipos, ya que los contenidos manipulados se vuelven cada vez más sofisticados. Por ejemplo, videos falsos pueden simular eventos significativos o crear narrativas engañosas a partir de elementos virales. Los empleados de la NEC deben ser meticulosos e innovadores en su enfoque para denunciar y bloquear estos elementos nocivos. La guerra contra la desinformación se asemeja a un verdadero “juego de la moles”, subraya el analista Kim Ma-ru, quien menciona el constante desafío de detectar falsedades en línea.
Regulaciones cada vez más estrictas
Para apoyar esta lucha, se han implementado regulaciones desde la revisión de la legislación en 2023, aumentando las sanciones contra el uso indebido de técnicas de manipulación, como los deepfakes. La legislación impone penas de hasta siete años de prisión para los reincidentes en la creación de contenidos fraudulentos. En este sentido, Kim Myuhng-joo, al frente del Korea AI Safety Institute, reconoce que aunque estas reglas puedan parecer draconianas, la opinión pública coincide en la necesidad de una regulación estricta para mantener la integridad del proceso electoral.
Los desafíos del discernimiento para los votantes
El auge de la IA en Corea del Sur representa un verdadero desafío para la democracia, ya que un informe indica que más del 45% de los surcoreanos utilizan herramientas de IA generativa. Este entusiasmo plantea preguntas sobre la capacidad de los ciudadanos para distinguir entre una información veraz y una información falsa. Jung Hui-hun, especialista en criminalística digital en la NEC, enfatiza cuán difícil se ha vuelto para los votantes hacer diferencias, un hecho aún más alarmante considerando el impacto que la desinformación puede tener en las decisiones políticas.
Las consecuencias potenciales de las noticias falsas
Los riesgos de la desinformación no son solo teóricos: pueden tener consecuencias reales y a veces dramáticas. Durante las últimas elecciones, eventos similares ya habían puesto de relieve los peligros de la información falsa. Por ejemplo, en 2024, un video fabricado por IA que simulaba una huelga de hambre de un candidato fue ampliamente compartido. Tales manipulaciones contribuyen a la proliferación de teorías de conspiración, amenazando la confianza del público en el proceso electoral.
La lucha contra la desinformación se ha convertido, por lo tanto, en un desafío crucial para las instituciones surcoreanas, que buscan garantizar elecciones justas y transparentes en un paisaje mediático cada vez más complejo. La necesidad de sensibilizar a los votantes y detectar eficazmente los contenidos engañosos es esencial para preservar la integridad democrática.
Para saber más sobre el fenómeno creciente de la desinformación y el uso de la IA en el ámbito político, puede consultar trabajos como los de las autoridades sobre el auge de los videos falsificados o el análisis de el impacto de los deepfakes en la sociedad actual. Siga también las discusiones en torno a las regulaciones internacionales ante esta amenaza.
