Frente al rápido auge de la inteligencia artificial, Noruega, Canadá, Finlandia y otros países abogan por reglas comunes y una supervisión internacional. Esta iniciativa diplomática está tomando forma sin el apoyo de los Estados Unidos, que rechazan por el momento un marco global vinculante, aun cuando sus empresas ocupan una posición dominante en el sector.
Inteligencia artificial: una coalición occidental quiere establecer reglas comunes, sin los Estados Unidos
Un intercambio entre líderes a la origen de una iniciativa diplomática
El proyecto comenzó con una conversación informal entre el primer ministro noruego, Jonas Gahr Store, y su homólogo canadiense, Mark Carney. Los dos líderes intercambiaban regularmente cuando Store le preguntó si Canadá aceptaría unirse a un grupo de países occidentales que desean reflexionar sobre nuevas reglas internacionales para la inteligencia artificial. Según el líder noruego, la respuesta canadiense llegó en cuestión de minutos: Ottawa estaba dispuesto a participar.
Esta adhesión se inscribe en una dinámica diplomática más amplia. El manejo de los riesgos asociados a la IA también estuvo en la agenda de un encuentro entre Mark Carney y el presidente francés Emmanuel Macron, organizado el 20 de septiembre en San Pedro y Miquelón. En este contexto, Canadá pidió al Consejo de Seguridad de las Naciones Unidas que examine las cuestiones de seguridad asociadas a esta tecnología.
Pocos días después, Jonas Gahr Store y el presidente finlandés Alexander Stubb publicaron una declaración conjunta firmada por 22 países. En ella llaman a reforzar la supervisión internacional y recuerdan que la inteligencia artificial debe permanecer bajo la dirección, supervisión y control de los humanos. Su propuesta incluye particularmente la creación de un mecanismo global de seguimiento de los avances de la IA.
Reglas comunes para una tecnología sin fronteras
Para los gobiernos involucrados, los efectos de la inteligencia artificial ahora exceden las fronteras nacionales. Los sistemas de IA pueden ser desarrollados en un país, utilizados en otro y tener consecuencias a nivel mundial. Esta interdependencia alimenta la idea de que una respuesta limitada a las legislaciones nacionales puede no ser suficiente para prevenir los usos más peligrosos.
La iniciativa evoca, con las diferencias propias de cada contexto, los esfuerzos internacionales realizados después de la Segunda Guerra Mundial para reducir los riesgos asociados a las armas nucleares. La analogía subraya la ambición de construir principios compartidos en torno a una tecnología estratégica. Sin embargo, eso no significa que las dos situaciones sean idénticas: la IA es una tecnología polivalente, desarrollada y desplegada por actores públicos y privados en muchos sectores.
Los riesgos y los temas de gobernanza varían así según los usos. En el ámbito de la salud, por ejemplo, la inteligencia artificial puede apoyar la investigación y las prácticas médicas, al mismo tiempo que plantea cuestiones de fiabilidad y control humano, como se explora en este artículo sobre la IA en medicina, entre potencial y vigilancia.
Las preocupaciones también se centran en los usos de la IA para producir o modificar imágenes y contenidos. Las posibles transformaciones de las profesiones de la imagen, desde modelos hasta diseñadores gráficos, ilustran las repercusiones económicas y profesionales de estas herramientas, descritas en este dossier dedicado a la recreación de rostros y a la evolución de los oficios creativos.
Washington reacio a un marco internacional vinculante
Una potencia de primer plano opuesta a reglas globales
La principal dificultad para los defensores de una gobernanza común radica en la posición de los Estados Unidos. El país alberga varias de las empresas más grandes del sector y cuenta con un ecosistema central para la investigación y el desarrollo de modelos avanzados. La inteligencia artificial también se ha convertido en un motor de crecimiento y un factor clave de valorización para las grandes compañías tecnológicas estadounidenses.
A pesar de este peso, Washington se muestra poco favorable a la creación de un marco internacional vinculante. Jonas Gahr Store describió un contraste entre los gobiernos dispuestos a asumir sus responsabilidades colectivamente y aquellos que priorizan la competencia estratégica. En particular, criticó la idea de que la prioridad debería ser adelantarse a China en lugar de negociar salvaguardias comunes.
Durante su discurso ante la Asamblea General de la ONU el 22 de septiembre, Donald Trump rechazó la idea de un marco internacional destinado a regular la inteligencia artificial. Esta oposición complica las discusiones: los Estados Unidos figuran entre las principales potencias que diseñan los modelos más avanzados e influyen fuertemente en su difusión en todo el mundo.
China es el otro actor principal cuya ausencia plantearía problemas. Los expertos estiman que un acuerdo negociado sin las dos grandes potencias de la IA podría quedar en gran medida como un símbolo. James Lewis, exfuncionario del Departamento de Estado estadounidense que trabajó en ciberseguridad durante la administración de Obama, señala que sería difícil limitar las consecuencias de usos militares o peligrosos si los principales productores de esta tecnología no participan en las negociaciones.
Esta dificultad está relacionada también con la relación de fuerzas entre los países que utilizan las herramientas de IA y los países que albergan a las empresas y laboratorios más influyentes. Los gobiernos más activos en los llamados a la regulación suelen ser aquellos que dependen de tecnologías desarrolladas en otros lugares. Por lo tanto, una coalición sin los principales polos de investigación podría contribuir a establecer principios, pero tendría dificultades para hacerlos aplicables a los actores que configuran el sector.
Los desafíos económicos y financieros de la regulación
El debate sobre las reglas de la IA supera el marco diplomático, ya que las decisiones regulatorias pueden afectar la innovación, la competencia y los mercados. Las instituciones financieras también se preguntan sobre los riesgos y las transformaciones relacionados con la automatización y las nuevas herramientas de inteligencia artificial, como muestra este artículo sobre cómo Wall Street percibe la IA como un nuevo desafío.
Para los Estados, la dificultad radica en definir garantías que limiten los usos de riesgo sin impedir las aplicaciones consideradas beneficiosas. Una norma internacional podría centrarse en la transparencia, las evaluaciones de seguridad, la responsabilidad de los desarrolladores o las condiciones de despliegue de ciertos sistemas. Queda por determinar quién se encargaría de verificar el cumplimiento de estas reglas y qué medios estarían disponibles en caso de incumplimiento.
Empresas tecnológicas también demandan una gobernanza compartida
OpenAI y Anthropic abogan por una coordinación internacional
Los llamados a una mejor coordinación no provienen únicamente de los gobiernos. Algunas empresas responsables de los modelos de IA más avanzados también apoyan la idea de que la gobernanza no debe dejarse únicamente a las empresas tecnológicas. El 23 de septiembre, Sam Altman, director general de OpenAI, defendió ante la ONU una participación más amplia en las decisiones que determinan el futuro de la inteligencia artificial.
Argumentó que, si la IA debe ser democrática, las decisiones más importantes no pueden ser tomadas únicamente por laboratorios privados concentrados en la región de San Francisco. Esta posición plantea una cuestión central: ¿cómo involucrar a gobiernos, expertos independientes, empresas y ciudadanos en la elaboración de las reglas, sin confiar todo el poder de decisión a los actores que desarrollan los sistemas?
Dario Amodei, al frente de Anthropic, también transmitió al Consejo de Seguridad de la ONU propuestas relacionadas con la seguridad de la inteligencia artificial. Entre las sugerencias mencionadas figura la prohibición internacional de ciertos usos que podrían facilitar el diseño de armas biológicas. Tal propuesta ilustra la voluntad de definir límites precisos para aplicaciones consideradas particularmente sensibles.
Los usos de la inteligencia artificial también plantean cuestiones de derechos individuales y control democrático. En Europa, una iniciativa presentada como un medio para otorgar a los ciudadanos un poder inédito y anónimo sobre el control de la IA muestra que el debate también abarca el papel del público en la gobernanza de estas herramientas: los ciudadanos europeos y su poder sobre la inteligencia artificial.
Una idea de órgano de control ya discutida en el sector
La creación de una estructura encargada de supervisar los riesgos relacionados con la IA ya se había mencionado antes de los actuales llamados a una coalición internacional. En julio, Demis Hassabis, entonces director general y ahora presidente de Google DeepMind, había propuesto la idea de un organismo financiado por las empresas del sector. Su consejo habría reunido a especialistas independientes y representantes del ecosistema de inteligencia artificial.
El modelo propuesto se inspiraba en la Finra, un organismo estadounidense que cumple ciertas funciones de regulación en el ámbito financiero. El proyecto había suscitado interés en ciertos círculos económicos, pero luego fue dejado de lado tras la oposición de varias figuras importantes de la tecnología, entre ellas Mark Zuckerberg, Jensen Huang y Elon Musk, ante Donald Trump.
Esta experiencia pone de relieve las divergencias que atraviesan el sector mismo. Algunas empresas ven en una coordinación de las garantías de seguridad y legitimidad; otras temen que un control externo restrinja su margen de maniobra. Por lo tanto, el debate se centra tanto en el contenido de las normas como en la identidad de las instituciones que las elaborarán y las harán cumplir.
Una coalición frente a los riesgos de seguridad y los usos malintencionados
La seguridad de la IA en el centro de las discusiones internacionales
La demanda canadiense dirigida al Consejo de Seguridad de la ONU atestigua la voluntad de inscribir la inteligencia artificial en las discusiones internacionales sobre seguridad. Los gobiernos se preocupan, en particular, por la posibilidad de que sistemas avanzados faciliten operaciones malintencionadas, refuercen capacidades militares o hagan más accesibles ciertos conocimientos sensibles.
Los riesgos no se limitan a aplicaciones militares. Las herramientas de IA también pueden asociarse con la creación de contenidos engañosos, violaciones a la privacidad o formas de violencia dirigidas a personas. La actualidad en torno a un caso relacionado con un ataque con cócteles molotov contra la vivienda de Sam Altman recuerda, sin establecer un vínculo directo entre un acto y los debates regulatorios, que los líderes del sector también pueden estar expuestos a amenazas: el caso relacionado con el ataque contra la casa del líder de OpenAI.
Para los promotores de un marco común, la cuestión es entonces distinguir los riesgos que pueden ser regulados por normas nacionales de aquellos que requieren cooperación entre Estados. Los sistemas digitales circulan rápidamente y los modelos pueden ser reutilizados en diferentes contextos. Una supervisión internacional podría facilitar el intercambio de información, el seguimiento de los avances técnicos y la identificación de prácticas que presenten peligros transfronterizos.
La participación de las grandes potencias, un desafío decisivo
La coalición impulsada por Noruega, Canadá, Finlandia y sus socios puede contribuir a estructurar el debate y a hacer emerger principios comunes. Pero la efectividad de un acuerdo dependería en gran medida de la adhesión de los países que desarrollan y despliegan una parte importante de los sistemas de inteligencia artificial. La ausencia de los Estados Unidos y de China limitaría el alcance de cualquier medida destinada a los actores principales del sector.
Normas elaboradas sin estas potencias podrían, no obstante, influir en las prácticas de otros países y en las expectativas de las organizaciones internacionales. También podrían servir de base para discusiones posteriores, precisando los objetivos buscados y los mecanismos de seguimiento deseados. La cuestión sigue siendo si estas reglas serían voluntarias, integradas en las legislaciones nacionales o asociadas a compromisos internacionales más formales.
Por el momento, los esfuerzos diplomáticos se multiplican, las empresas presentan sus propias propuestas y los gobiernos buscan definir su papel en la supervisión de la IA. El debate, que durante mucho tiempo se centró en los círculos técnicos y económicos, se instala ahora en el centro de los intercambios entre líderes y dentro de las instituciones internacionales.
