Durante su primer día en Francia, el Papa León XIV situó la inteligencia artificial en el corazón de un discurso pronunciado en el Elíseo ante Emmanuel Macron. Alertó sobre el riesgo de que una sociedad seducida por las promesas de las máquinas sacrifique la autonomía humana, la diversidad de las conciencias y la capacidad de discernimiento. Desde la concentración del poder tecnológico hasta la protección de los jóvenes, su intervención llama a enmarcar esta transformación mediante una reflexión ética y una gobernanza colectiva.
En el Elíseo, una advertencia sobre el lugar del humano
Llegado a Francia unas horas antes, León XIV dedicó una parte de su visita a una cuestión que ahora atraviesa los debates políticos, económicos y sociales: ¿qué lugar se debe otorgar a la inteligencia artificial en las sociedades humanas? Ante el presidente de la República, el soberano pontífice advirtió sobre un futuro en el que la abundancia de tecnologías haría olvidar lo que distingue y protege a la persona.
Su intervención no solo se refería a las prestaciones de las herramientas digitales. El Papa más bien cuestionó las elecciones de sociedad que acompañan su desarrollo: ¿quién las diseña, quién las controla y para qué fines se utilizan? Llamó a no dejar que las máquinas definan solas las prioridades colectivas ni reduzcan a los individuos a datos, perfiles o resultados calculados.
Para León XIV, el riesgo es tomar como un progreso sin límites un universo tecnológico que prometería comodidad, rapidez y eficiencia, pero que también podría moldear comportamientos y decisiones. Así, insistió en la necesidad de colocar a la persona humana en el centro de toda reflexión dedicada a la IA.
El discernimiento frente al «paraíso de las máquinas»
El Papa retomó una fórmula asociada al escritor Georges Bernanos para expresar su temor ante un mundo donde la creciente presencia de máquinas terminaría por alterar la humanidad. Esta advertencia se dirige especialmente a una cultura de la eficiencia que corre el riesgo de anteponer la rapidez y la rentabilidad a la libertad, la responsabilidad y el juicio personal.
Frente a sistemas capaces de producir textos, recomendar contenidos o automatizar tareas, el discernimiento ético se convierte, según él, en una necesidad. No se trata de rechazar toda innovación, sino de desarrollar los conocimientos y referencias que permitan evaluar sus efectos. La cuestión es también saber si las personas conservan la posibilidad de comprender las herramientas, de impugnar sus decisiones y de elegir cómo intervienen en su vida.
Esta preocupación se suma a las interrogantes suscitadas por la rápida adopción de estas tecnologías. En Francia, el interés por los servicios de inteligencia artificial ha tocado a una parte importante de la población, con un uso particularmente marcado entre los jóvenes, como relata este artículo sobre la exploración de los servicios de IA por los franceses. Esta difusión refuerza el desafío de la educación: usar estas herramientas supone también comprender sus límites y consecuencias.
Preservar la libertad y la diversidad de las conciencias
León XIV defendió la idea de que una sociedad libre no debe intentar homogeneizar los pensamientos. Debe, por el contrario, preservar la diversidad de las conciencias, fomentar el diálogo y evitar que tecnologías potentes se conviertan en instrumentos de control. Esta vigilancia concierne tanto a su concepción como a su despliegue en las instituciones, las empresas y los servicios cotidianos.
Los sistemas algorítmicos pueden influir en la información a la que cada uno tiene acceso, en las elecciones que se le proponen y en las decisiones tomadas sobre él. Por lo tanto, su funcionamiento no constituye un asunto exclusivamente técnico. Las reglas que los enmarcan, la transparencia de sus usos y la posibilidad de pedir cuentas a sus responsables también son asuntos de elecciones democráticas.
La vida cultural ilustra también la diversidad de usos posibles. La inteligencia artificial puede convertirse en una herramienta de creación o colaboración, a la vez que plantea interrogantes sobre el lugar de los artistas y sobre la naturaleza misma de la obra. La película Oedipus, King of IA, realizada con la participación de una inteligencia artificial, da un ejemplo concreto de estas nuevas formas de producción.
Una transformación que trasciende la mera innovación técnica
La reflexión del Papa se inscribe en una tradición más antigua de la doctrina social de la Iglesia. Su nombre pontificio evoca a León XIII, autor a finales del XIXe siglo de un texto mayor dedicado a los conmociones del trabajo y del capital durante la revolución industrial. Según François Mabille, director del Observatorio geopolítico de lo religioso, León XIV considera la IA como una transformación profunda, comparable por su envergadura a los cambios provocados por la industrialización.
En esta perspectiva, la inteligencia artificial no puede ser tratada como una simple novedad comercial. Transforma las actividades profesionales, la circulación de la información y las relaciones de poder. Las ganancias de productividad que promete plantean una cuestión central: ¿quién se beneficiará de la riqueza producida, y quién tendrá el poder de decidir sobre su uso?
Las inversiones anunciadas en este ámbito refuerzan esta interrogante. Paolo Benanti, consejero del Vaticano sobre cuestiones de inteligencia artificial, ha mencionado montos considerables comprometidos por las más grandes empresas tecnológicas. Una tal concentración de medios financieros y de capacidades de cálculo puede aumentar la influencia de un número limitado de actores, mientras que los Estados y los ciudadanos luchan por tener peso en las orientaciones adoptadas.
Concentración del poder y gobernanza internacional
El control de los datos, de las infraestructuras digitales y del poder informático representa un desafío estratégico. Si estos recursos son poseídos por unas pocas empresas o gobiernos, pueden ejercer una influencia determinante sobre el desarrollo de las herramientas y las condiciones de su acceso. El Vaticano se preocupa, en particular, por las aplicaciones militares de la IA así como por las posibilidades de vigilancia masiva que podría facilitar.
León XIV aboga para que los debates éticos no permanezcan en simples declaraciones de principio. El Vaticano ha establecido una comisión interdisciplinaria encargada de trabajar en sus posiciones sobre la inteligencia artificial. Esta iniciativa se suma a los intercambios realizados con académicos y responsables del sector tecnológico, con el objetivo de anticipar las consecuencias sociales y políticas de estos sistemas.
Paolo Benanti también mencionó la posibilidad de crear un tribunal internacional de inteligencia artificial. Esta propuesta evidencia la dificultad de enmarcar tecnologías que cruzan fronteras y cuyas decisiones pueden afectar a poblaciones alejadas de sus diseñadores. También plantea la cuestión de los mecanismos capaces de asegurar una responsabilidad común y de limitar las prácticas abusivas.
Proteger a los niños y apoyar el aprendizaje
Durante su visita, el Papa se dirigió a la Unesco, donde insistió en la protección de los niños y jóvenes. Las herramientas digitales deben, según él, apoyar su desarrollo y educación sin reducir su libertad de pensar. Su vulnerabilidad no puede justificar su explotación, ya sea en forma de una recolección excesiva de datos, de una exposición a contenidos inapropiados o de una dependencia de los servicios digitales.
La cuestión del aprendizaje es particularmente sensible. Los asistentes automatizados pueden ayudar en la búsqueda de información o en la realización de ciertos ejercicios, pero su uso no debe hacer desaparecer el esfuerzo de comprensión, la curiosidad y la capacidad de verificar las respuestas. Así, surgen interrogantes sobre el lugar futuro del conocimiento y sobre el riesgo de que el aprendizaje humano sea relegado detrás de las herramientas que proporcionan resultados inmediatos, como desarrolla esta reflexión sobre el futuro del aprendizaje humano en la era de la IA.
El director general de la Unesco, Khaled el-Enany, por su parte, presentó a la organización como un lugar de reflexión sobre las reglas que permiten a las sociedades comprender y dominar la inteligencia artificial. Defendió una tecnología accesible y equitativa, llamada a servir a las poblaciones en lugar de sustituir la inteligencia humana, de la cual debe respetar la primacía.
Colocar al ser humano en el centro de las elecciones tecnológicas
Las advertencias del Papa se insertan en un debate más amplio sobre la relación entre el ser humano y las máquinas. La IA puede mejorar ciertas actividades y abrir nuevos usos, pero también puede alimentar el miedo al reemplazo, confundir responsabilidades o hacer que los individuos se vuelvan dependientes de sistemas opacos. Este tema está en el centro del episodio 90 de Minutes Intelligence Artificielle, dedicado al ser humano frente a la amenaza del reemplazo.
Esta reflexión también concierne a la manera en que las sociedades valoran el tiempo, el trabajo y la eficacia. En otro registro, el artículo sobre la agricultura y la celebración de la lentitud explora un enfoque que invita a no medir el progreso únicamente por la velocidad de producción. Hace eco de la crítica a un modelo donde la aceleración técnica podría convertirse en un fin en sí mismo.
Al llamar a un discernimiento ético, a la protección de las libertades y a una gobernanza más amplia, León XIV busca hacer reconocer que la inteligencia artificial implica elecciones colectivas. La cuestión no es solo saber lo que las máquinas pueden lograr, sino determinar los límites que las sociedades desean establecerles y los derechos que quieren preservar frente a su desarrollo.
