Desde la pascalina hasta los sistemas de inteligencia artificial capaces de producir textos, imágenes o actuar en un ordenador, las máquinas transforman nuestra relación con el trabajo y la creación. Pero su eficacia no basta para atribuirles voluntad, comprensión o una verdadera intención: la cuestión central sigue siendo el lugar del ser humano en las decisiones y las obras que contribuyen a hacer nacer.
En el siglo XVII, Blaise Pascal inventó una máquina que realizaba mecánicamente ciertas operaciones aritméticas. En aquella época, la pascalina despertaba asombro: realizaba rápidamente cálculos que hasta entonces se hacían a mano. Varios siglos después, la inteligencia artificial provoca una fascinación comparable. Redacta, traduce, clasifica información y ayuda a los usuarios en tareas diversas. Sin embargo, entre la automatización de una operación y el ejercicio de una voluntad, la diferencia sigue siendo fundamental.
Por tanto, mencionar a Pascal a propósito de la inteligencia artificial no consiste únicamente en recordar que diseñó una máquina calculadora. Su obra también invita a reflexionar sobre los límites del automatismo, la naturaleza del pensamiento y aquello que distingue una operación eficaz de un acto verdaderamente humano. La comparación ilumina tanto las promesas de las nuevas tecnologías como las preguntas que suscita su uso.
La pascalina, una máquina que facilita el cálculo
Una proeza mecánica al servicio de los usuarios
La máquina diseñada por Pascal tenía una función concreta: ayudar a realizar sumas y restas. Gracias a un mecanismo de engranajes, era posible efectuar ciertas operaciones sin que el usuario tuviera que dominar cada etapa del cálculo. Así, la máquina reducía el esfuerzo necesario y permitía hacer las cuentas con mayor rapidez.
Esta facilidad es uno de los rasgos más destacados del invento. El instrumento se hace cargo de parte del trabajo y limita los errores derivados de los cálculos repetidos. Permite al usuario obtener un resultado sin tener que mantener constantemente la atención ni contar con una gran experiencia en aritmética. La máquina no hace que el usuario sepa más: facilita una tarea al hacerse cargo de una parte de la operación.
Este desplazamiento del trabajo hacia un mecanismo pudo provocar un sentimiento ambivalente. La admiración ante un invento espectacular se mezcla con la inquietud de ver reproducida por un artefacto una capacidad humana. Esta reacción recuerda algunas inquietudes contemporáneas: cuando las herramientas realizan cada vez mejor tareas que antes estaban reservadas a las personas, ¿cómo redefinir la competencia, el esfuerzo y el valor de la intervención humana?
Automatizar no es querer
La pascalina ejecuta operaciones de acuerdo con su funcionamiento material. No elige el objetivo del cálculo, no comprende los datos ni se representa el significado del resultado. Es el usuario quien determina qué hay que calcular, introduce la información necesaria e interpreta el resultado obtenido. La máquina actúa, pero no actúa por iniciativa propia.
Esta distinción entre ejecución e intención sigue siendo esencial para comprender las tecnologías actuales. Un sistema de inteligencia artificial puede producir una respuesta convincente o llevar a cabo una secuencia de acciones sin experimentar deseo ni fijarse por sí mismo un fin en el sentido humano del término. Su rendimiento puede dar la impresión de iniciativa, pero esta depende de los objetivos, las instrucciones, los datos y los parámetros de los que deriva su funcionamiento.
Algunos modelos recientes se presentan como capaces de utilizar un ordenador de manera autónoma, encadenando acciones en distintas interfaces. Esta evolución amplía el campo de la automatización, pero no hace desaparecer la cuestión del origen de la decisión: ¿quién definió la tarea, los límites de actuación y los criterios de éxito? Los sistemas autónomos que manejan un ordenador hacen especialmente concreta esta pregunta.
La voluntad humana frente a la automatización
Una máquina puede liberar tiempo, pero no decidir cómo utilizarlo
El valor de una herramienta automatizada suele medirse por su capacidad para hacerse cargo de tareas largas, repetitivas o complejas. Al permitir dedicar menos tiempo a ciertas operaciones, puede abrir nuevas posibilidades. Pero el tiempo liberado no determina por sí solo qué se hará después. La decisión de aprovechar ese tiempo, dedicarlo a una actividad creativa o perseguir otros objetivos sigue correspondiendo a las personas.
La facilidad también conlleva un riesgo: confundir la fluidez de un resultado con la calidad del juicio que lo produjo. Una respuesta rápida puede ser errónea, una operación puede ejecutarse sin que se hayan evaluado suficientemente sus consecuencias y una recomendación puede parecer pertinente pese a basarse en información inadecuada. La automatización a veces mejora la eficacia, pero no exime de verificar, comprender y asumir las decisiones.
Esta vigilancia afecta ahora a ámbitos alejados del simple cálculo. En los debates presupuestarios, por ejemplo, la IA puede modificar la manera de tratar los datos, elaborar previsiones o comparar opciones. Sin embargo, su papel en las decisiones públicas depende de los métodos elegidos y de las personas que interpretan sus resultados. Las transformaciones de la elaboración del presupuesto mediante la inteligencia artificial ilustran cómo la herramienta puede influir en las decisiones sin sustituir la responsabilidad política.
De la asistencia a la delegación
Utilizar la inteligencia artificial como ayuda no significa necesariamente confiarle toda la tarea. Un usuario puede servirse de ella para explorar ideas, resumir un documento o preparar un primer borrador, y luego revisar el resultado, corregirlo y decidir qué desea conservar. En este caso, la máquina proporciona material de trabajo, mientras que la persona mantiene la responsabilidad de la elección y de la forma final.
La situación cambia cuando el usuario delega una decisión sin examinar el resultado ni comprender sus consecuencias. Entonces, la frontera entre asistencia y sustitución se vuelve más difícil de trazar. Cuanto más interviene un sistema en operaciones importantes, más necesario resulta saber quién controla su funcionamiento, quién puede cuestionar sus recomendaciones y quién responde de sus efectos.
Esta cuestión de la responsabilidad no afecta únicamente a las decisiones individuales. También concierne a las organizaciones que integran la IA en sus procedimientos y a las instituciones que la utilizan para orientar sus decisiones. La eficacia técnica no basta para establecer la legitimidad de un uso: también hay que tener en cuenta los objetivos perseguidos, las personas afectadas y los medios para verificar los resultados.
La creación literaria ante el reto de la inteligencia artificial
Producir un texto no significa necesariamente ser su autor
Los sistemas de IA pueden generar textos que adoptan las formas de la conversación, la narración o la argumentación. Esta capacidad hace más urgente una antigua pregunta: ¿qué convierte un enunciado en una obra y a quién debe atribuirse su creación? La mera presencia de frases nuevas no resuelve la cuestión de la autoría. También hay que examinar el papel de las elecciones, la interpretación y la responsabilidad en el proceso creativo.
La reflexión de Pascal sobre las ideas ya formuladas por otras personas permite arrojar luz sobre este problema. Dos personas pueden expresar una idea semejante sin darle el mismo sentido ni medir sus implicaciones de la misma manera. Por tanto, la originalidad no siempre reside en la absoluta novedad de las palabras. También depende de cómo un autor comprende una idea, la vincula a una experiencia y la integra en un discurso cuyo alcance asume.
Una inteligencia artificial puede combinar formulaciones y producir un resultado coherente a partir de los datos y las instrucciones que se le proporcionan. Pero esta producción no demuestra, por sí sola, que el sistema comprenda lo que enuncia ni que crea en la veracidad de sus frases. La apariencia de intención en el texto no debe confundirse con una intención experimentada y asumida por un sujeto humano.
Imaginación, elección y responsabilidad
La creación asistida por IA no se reduce a oponer una máquina a un artista. Un autor puede recurrir a una herramienta para probar distintas opciones, explorar un estilo o superar una dificultad técnica. Después puede seleccionar, transformar o rechazar las propuestas obtenidas. En este proceso, la contribución humana no necesariamente desaparece: se desplaza hacia el planteamiento, la selección y la reescritura.
Sin embargo, la proporción correspondiente al ser humano y a la máquina varía según el uso. Una obra puede estar fuertemente guiada por decisiones personales o ser principalmente el resultado de instrucciones generales seguidas de pocas modificaciones. En ese caso, es importante distinguir entre la producción de un contenido, la dirección de un proceso y la responsabilidad asociada a su difusión. La cuestión de la autoría no se resuelve observando únicamente el resultado final.
Los debates sobre la creación se inscriben en una reflexión más amplia sobre los efectos políticos de la inteligencia artificial. Las herramientas generativas pueden modificar la circulación de imágenes, textos e ideas, así como las condiciones en que se producen y reciben. Los desafíos políticos de la creación en la era de la IA muestran por qué la cuestión de la originalidad trasciende el ámbito de la práctica artística por sí sola.
Los límites de la comparación entre Pascal y la IA
Continuidad técnica, pero profundas diferencias
La pascalina y los sistemas contemporáneos tienen en común que delegan ciertas operaciones en dispositivos técnicos. Esta continuidad explica que se asocie con frecuencia a Pascal a los debates sobre la inteligencia artificial. Sin embargo, las capacidades y los mecanismos de las tecnologías actuales son mucho más complejos, y la comparación no debe borrar las diferencias entre una máquina calculadora y un sistema que procesa grandes cantidades de datos para generar respuestas diversas.
La pascalina seguía un mecanismo diseñado para realizar un conjunto limitado de operaciones. Las herramientas de IA actuales son capaces de procesar situaciones más diversas y adaptarse a solicitudes formuladas en lenguaje corriente. Esto no significa, sin embargo, que posean conciencia o voluntad. Sigue siendo necesario separar el rendimiento observable de la experiencia interior que a veces se atribuye erróneamente a las máquinas.
En el ámbito de la inteligencia artificial se anuncian con regularidad nuevas capacidades. Estas pueden ampliar los usos prácticos de estas herramientas y hacer que su funcionamiento sea más difícil de prever para los usuarios. Los avances recientes de la IA en Europa forman parte de esta evolución, en la que el progreso técnico viene acompañado de preguntas sobre el control, la evaluación y los usos deseables.
Comprender lo que la máquina no comprende
Los resultados de un sistema automatizado se producen a partir de un funcionamiento técnico, datos e instrucciones. Aunque sean convincentes, pueden contener errores, reproducir sesgos u omitir elementos esenciales. Por tanto, la capacidad de generar una respuesta no equivale a la capacidad de determinar su veracidad, su pertinencia moral o sus consecuencias en un contexto particular.
La diferencia entre cálculo y juicio también se hace evidente cuando una herramienta interviene en un ámbito delicado. Un sistema puede detectar patrones en los datos, pero corresponde a las personas que lo utilizan determinar si esos patrones son pertinentes y si la decisión que se deriva de ellos es aceptable. La intervención humana no consiste únicamente en pulsar un botón: implica plantear las preguntas adecuadas y evaluar las respuestas obtenidas.
Esta responsabilidad se extiende a la seguridad de los sistemas. Una herramienta capaz de actuar o procesar datos también puede convertirse en un objetivo, ser utilizada de forma indebida o producir efectos imprevistos. Los desafíos de ciberseguridad asociados a la inteligencia artificial recuerdan que la aparente autonomía de una máquina exige medidas de control, protección y supervisión. Los desafíos que la IA plantea a la ciberseguridad subrayan la importancia de no desvincular la innovación de la prevención de riesgos.
El lugar del ser humano en los sistemas inteligentes
Definir los objetivos y mantener el control
La voluntad humana se manifiesta, en particular, al definir los fines que se encomiendan a las máquinas. Un sistema puede optimizar una tarea, pero los seres humanos deben decidir qué hay que optimizar y qué no puede reducirse a una medida de rendimiento. La rapidez, el coste o el volumen de producción no son, por sí solos, criterios suficientes para determinar el valor de una acción o una obra.
Mantener el control también supone poder comprender el papel de la máquina en una decisión. Cuando un resultado es difícil de explicar, resulta más complicado verificarlo o cuestionarlo. Por tanto, los usuarios y las organizaciones necesitan saber cuándo interviene la IA, qué límites regulan su uso y qué etapas de control humano están previstas.
La proliferación de sistemas capaces de actuar en varias etapas hace que esta exigencia sea especialmente importante. Cuantas más operaciones pueda realizar una herramienta sin intervención inmediata, más necesario es definir de antemano el alcance de su actuación y las condiciones en las que una persona puede interrumpirla. La autonomía técnica puede facilitar ciertas tareas, pero no debe ocultar el origen de los objetivos ni diluir la responsabilidad de quienes los han fijado.
Una relación que debe pensarse, en lugar de una simple oposición
La máquina no tiene por qué ser adversaria de la inteligencia humana. Puede ampliar las capacidades de una persona, simplificar un trabajo u ofrecer nuevas formas de explorar una cuestión. El problema aparece cuando se atribuye a la herramienta una comprensión que no ha demostrado tener o cuando se renuncia por completo al juicio que exige su uso.
Así, la comparación entre Pascal y la IA invita a distinguir lo que un mecanismo puede hacer de lo que una persona decide que haga. La pascalina realizaba cálculos sin comprender su alcance; los sistemas actuales producen contenidos más variados, pero su soltura no basta para demostrar que tienen una intención. Para los creadores y los responsables de la toma de decisiones, la cuestión sigue siendo qué parte corresponde al ser humano al definir el objetivo, interpretar el resultado y aceptar sus consecuencias.
