Dalla pascalina ai sistemi di intelligenza artificiale capaci di produrre testi, immagini o di agire su un computer, le macchine trasformano il nostro rapporto con il lavoro e la creatività. Ma la loro efficacia non basta ad attribuire loro una volontà, una comprensione o una vera intenzione: la questione centrale resta quella del posto dell’essere umano nelle decisioni e nelle opere che contribuiscono a far nascere.
Nel XVII secolo, Blaise Pascal inventò una macchina che eseguiva meccanicamente alcune operazioni aritmetiche. All’epoca, la pascalina suscitò stupore: eseguiva rapidamente calcoli che fino ad allora si facevano a mano. Diversi secoli dopo, l’intelligenza artificiale suscita una fascinazione analoga. Redige, traduce, classifica informazioni e assiste gli utenti in compiti diversi. Eppure, la differenza tra automatizzare un’operazione ed esercitare una volontà resta fondamentale.
Richiamare Pascal parlando di intelligenza artificiale, quindi, non significa soltanto ricordare che progettò una macchina calcolatrice. La sua opera invita anche a riflettere sui limiti dell’automatismo, sulla natura del pensiero e su ciò che distingue un’operazione efficace da un atto veramente umano. Il confronto mette in luce sia le promesse delle nuove tecnologie sia le questioni che il loro utilizzo solleva.
La pascalina, una macchina che facilita il calcolo
Un’impresa meccanica al servizio degli utenti
La macchina progettata da Pascal aveva una funzione precisa: aiutare a eseguire addizioni e sottrazioni. Grazie a un meccanismo di ingranaggi, era possibile eseguire alcune operazioni senza che l’utente dovesse padroneggiare ogni fase del calcolo. La macchina riduceva così lo sforzo necessario e permetteva di effettuare i conteggi più rapidamente.
Questa facilità è uno degli aspetti più caratteristici dell’invenzione. Lo strumento si fa carico di una parte del lavoro e limita gli errori legati ai calcoli ripetuti. Permette all’utente di ottenere un risultato senza dover concentrare continuamente la propria attenzione né possedere una grande esperienza in aritmetica. La macchina non rende il suo utente più esperto: rende un compito più accessibile facendosi carico di una parte dell’operazione.
Questo trasferimento del lavoro a un meccanismo poteva suscitare sentimenti ambivalenti. L’ammirazione per un’invenzione spettacolare si mescola alla preoccupazione di vedere una capacità umana riprodotta da un artefatto. Questa reazione richiama alcune domande contemporanee: quando gli strumenti svolgono sempre meglio compiti un tempo riservati alle persone, come ridefinire la competenza, lo sforzo e il valore dell’intervento umano?
Automatizzare non significa volere
La pascalina esegue operazioni secondo il proprio funzionamento materiale. Non sceglie lo scopo del calcolo, non comprende i dati e non si rappresenta il significato del risultato. È l’utente a stabilire che cosa calcolare, a inserire le informazioni necessarie e a interpretare il risultato ottenuto. La macchina agisce, ma non agisce di propria iniziativa.
Questa distinzione tra esecuzione e intenzione resta essenziale per comprendere le tecnologie attuali. Un sistema di intelligenza artificiale può produrre una risposta convincente o svolgere una sequenza di azioni senza provare desiderio né porsi da sé un fine nel senso umano del termine. Le sue prestazioni possono dare l’impressione di un’iniziativa, ma questa dipende dagli obiettivi, dalle istruzioni, dai dati e dai parametri da cui deriva il suo funzionamento.
Alcuni modelli recenti vengono presentati come capaci di utilizzare un computer in modo autonomo, concatenando azioni su diverse interfacce. Questa evoluzione amplia il campo dell’automazione, senza tuttavia far venir meno la questione dell’origine della decisione: chi ha definito il compito, i limiti d’azione e i criteri di successo? I sistemi autonomi che utilizzano un computer rendono questa domanda particolarmente concreta.
La volontà umana di fronte all’automazione
Una macchina può liberare tempo, senza decidere come utilizzarlo
L’utilità di uno strumento automatizzato si misura spesso dalla sua capacità di farsi carico di compiti lunghi, ripetitivi o complessi. Permettendo di dedicare meno tempo ad alcune operazioni, può aprire nuove possibilità. Ma il tempo liberato non determina da solo che cosa si farà in seguito. La scelta di utilizzare questo tempo a disposizione, di dedicarlo a un’attività creativa o di perseguire altri obiettivi resta una decisione umana.
La facilità comporta anche un rischio: quello di confondere la fluidità di un risultato con la qualità del giudizio che lo ha prodotto. Una risposta rapida può essere errata, un’operazione può essere eseguita senza averne valutato a sufficienza le conseguenze e una raccomandazione può sembrare pertinente pur basandosi su informazioni inadeguate. L’automazione talvolta migliora l’efficienza, ma non esime dal controllare, comprendere e assumersi la responsabilità delle decisioni.
Questa vigilanza è ormai necessaria anche in ambiti lontani dal semplice calcolo. Nei dibattiti di bilancio, per esempio, l’IA può modificare il modo di trattare i dati, elaborare previsioni o confrontare opzioni. Il suo ruolo nelle decisioni pubbliche dipende tuttavia dai metodi scelti e dalle persone che ne interpretano i risultati. Le trasformazioni dell’elaborazione del bilancio dovute all’intelligenza artificiale illustrano come lo strumento possa influire sulle scelte senza sostituirsi alla responsabilità politica.
Dall’assistenza alla delega
Utilizzare un’intelligenza artificiale come supporto non significa necessariamente affidarle l’intero compito. Un utente può servirsene per esplorare idee, riassumere un documento o preparare una prima bozza, per poi riprendere il risultato, correggerlo e decidere che cosa desidera conservarne. In questo caso, la macchina fornisce materiale di lavoro, mentre la persona mantiene la responsabilità della scelta e della forma finale.
La situazione cambia quando l’utente delega una decisione senza esaminare il risultato né comprenderne le conseguenze. Il confine tra assistenza e sostituzione diventa allora più difficile da tracciare. Quanto più un sistema interviene in operazioni importanti, tanto più è necessario sapere chi ne controlla il funzionamento, chi può contestarne le raccomandazioni e chi risponde dei suoi effetti.
La questione della responsabilità non riguarda solo le scelte individuali. Coinvolge anche le organizzazioni che integrano l’IA nelle proprie procedure e le istituzioni che se ne servono per orientare le decisioni. L’efficacia tecnica non basta a stabilire la legittimità di un uso: occorre considerare anche gli obiettivi perseguiti, le persone interessate e i mezzi per verificare i risultati.
La creazione letteraria alla prova dell’intelligenza artificiale
Produrre un testo non significa necessariamente esserne l’autore
I sistemi di IA possono generare testi che riprendono le forme della conversazione, della narrazione o dell’argomentazione. Questa capacità rende più urgente una domanda antica: che cosa fa di un enunciato un’opera e a chi bisogna attribuirne la creazione? La semplice presenza di frasi nuove non risolve la questione dell’autore. Occorre esaminare anche il ruolo delle scelte, dell’interpretazione e della responsabilità nel processo creativo.
La riflessione di Pascal sulle idee già formulate da altri permette di fare luce su questo problema. Due persone possono esprimere un’idea simile senza attribuirle lo stesso significato né valutarne le stesse implicazioni. L’originalità, quindi, non risiede sempre nella novità assoluta delle parole. Dipende anche dal modo in cui un autore comprende un’idea, la collega a un’esperienza e la inserisce in un discorso di cui assume la portata.
Un’intelligenza artificiale può assemblare formulazioni e produrre un risultato coerente a partire dai dati e dalle istruzioni che le vengono forniti. Ma questa produzione non dimostra, da sola, che il sistema comprenda ciò che enuncia o creda nella verità delle proprie frasi. L’apparenza di un’intenzione nel testo non deve essere confusa con un’intenzione provata e assunta da un soggetto umano.
Immaginazione, scelta e responsabilità
La creazione assistita dall’IA non si riduce a contrapporre una macchina a un artista. Un autore può ricorrere a uno strumento per provare diverse possibilità, esplorare uno stile o superare una difficoltà tecnica. Può poi selezionare, trasformare o rifiutare le proposte ottenute. In questo processo, il contributo umano non scompare necessariamente: si sposta verso l’impostazione, la selezione e la riscrittura.
Il contributo rispettivo dell’essere umano e della macchina varia tuttavia a seconda degli usi. Un’opera può essere fortemente guidata da scelte personali oppure derivare principalmente da istruzioni generiche seguite da poche modifiche. Diventa quindi importante distinguere la produzione di un contenuto, la direzione di un processo e la responsabilità legata alla sua diffusione. La questione dell’autore non si risolve osservando soltanto il risultato finale.
I dibattiti sulla creazione si inseriscono in una riflessione più ampia sugli effetti politici dell’intelligenza artificiale. Gli strumenti generativi possono modificare la circolazione di immagini, testi e idee, così come le condizioni in cui vengono prodotti e recepiti. Le questioni politiche della creazione nell’era dell’IA mostrano perché la questione dell’originalità vada oltre il solo ambito della pratica artistica.
I limiti del confronto tra Pascal e l’IA
Continuità tecnica, ma differenze profonde
La pascalina e i sistemi contemporanei hanno in comune il fatto di delegare alcune operazioni a dispositivi tecnici. Questa continuità spiega perché Pascal venga spesso associato alle discussioni sull’intelligenza artificiale. Tuttavia, le capacità e i meccanismi delle tecnologie attuali sono molto più complessi, e il confronto non deve cancellare le differenze tra una macchina calcolatrice e un sistema che elabora grandi quantità di dati per generare risposte diverse.
La pascalina seguiva un meccanismo progettato per eseguire un insieme limitato di operazioni. Gli strumenti di IA attuali sono capaci di trattare situazioni più diversificate e di adattarsi a richieste formulate nel linguaggio comune. Ciò non significa, tuttavia, che possiedano una coscienza o una volontà. È ancora necessario distinguere le prestazioni osservabili dall’esperienza interiore che talvolta, a torto, si attribuisce alle macchine.
Nel campo dell’intelligenza artificiale vengono annunciati regolarmente nuove capacità. Possono ampliare gli usi pratici di questi strumenti e rendere il loro funzionamento più difficile da prevedere per gli utenti. I recenti sviluppi dell’IA in Europa si inseriscono in questa evoluzione, in cui i progressi tecnici sono accompagnati da questioni relative al controllo, alla valutazione e agli usi auspicabili.
Capire ciò che la macchina non capisce
I risultati di un sistema automatizzato sono prodotti sulla base di un funzionamento tecnico, di dati e di istruzioni. Anche quando sono convincenti, possono contenere errori, riprodurre pregiudizi o tralasciare elementi essenziali. La capacità di generare una risposta non equivale quindi alla capacità di valutarne la verità, la pertinenza morale o le conseguenze in un contesto particolare.
La differenza tra calcolo e giudizio emerge anche quando uno strumento interviene in un ambito delicato. Un sistema può individuare regolarità nei dati, ma spetta alle persone che lo utilizzano stabilire se tali regolarità siano pertinenti e se la decisione che ne deriva sia accettabile. L’intervento umano non consiste soltanto nel premere un pulsante: implica porre le domande giuste e valutare le risposte ottenute.
Questa responsabilità si estende anche alla sicurezza dei sistemi. Uno strumento capace di agire o di trattare dati può anche diventare un bersaglio, essere utilizzato in modo improprio o produrre effetti imprevisti. Le questioni di cybersicurezza legate all’intelligenza artificiale ricordano che l’apparente autonomia di una macchina richiede misure di controllo, protezione e sorveglianza. Le sfide che l’IA pone alla cybersicurezza sottolineano l’importanza di non separare l’innovazione dalla prevenzione dei rischi.
Il posto dell’essere umano nei sistemi intelligenti
Definire gli obiettivi e mantenere il controllo
La volontà umana si manifesta, in particolare, nella definizione delle finalità affidate alle macchine. Un sistema può ottimizzare un compito, ma spetta agli esseri umani decidere che cosa ottimizzare e che cosa non può essere ridotto a una misura di prestazione. La rapidità, il costo o il volume di produzione non sono, da soli, criteri sufficienti per determinare il valore di un’azione o di un’opera.
Mantenere il controllo significa anche poter comprendere il ruolo della macchina in una decisione. Quando un risultato è difficile da spiegare, diventa più complicato verificarlo o contestarlo. Gli utenti e le organizzazioni devono quindi sapere quando interviene l’IA, quali limiti ne regolano l’uso e quali fasi di controllo umano sono previste.
La diffusione di sistemi capaci di agire in più fasi rende questo requisito particolarmente importante. Quanto più uno strumento può eseguire operazioni senza un intervento immediato, tanto più è necessario definire in anticipo l’ambito della sua azione e le condizioni in cui una persona può interromperla. L’autonomia tecnica può facilitare alcuni compiti, ma non deve rendere invisibile l’origine degli obiettivi né diluire la responsabilità di chi li ha stabiliti.
Una relazione da ripensare, anziché una semplice opposizione
La macchina non è necessariamente nemica dell’intelligenza umana. Può ampliare le capacità di una persona, semplificare un lavoro o offrire nuovi modi di esplorare una questione. Il problema si presenta quando si attribuisce allo strumento una comprensione che non ha dimostrato, oppure quando ci si sottrae completamente al giudizio che il suo utilizzo richiede.
Il confronto tra Pascal e l’IA invita quindi a distinguere ciò che un meccanismo può fare da ciò che una persona sceglie di fargli fare. La pascalina eseguiva calcoli senza comprenderne la portata; i sistemi attuali producono contenuti più vari, ma la loro disinvoltura non basta a dimostrare che possiedano un’intenzione. Per i creatori come per i decisori, la questione resta quella del contributo umano nella definizione dello scopo, nell’interpretazione del risultato e nell’accettazione delle sue conseguenze.
