Guerra in Iran, le ultime notizie in diretta

I tuoi preferiti

Salva questo articolo e leggilo quando vuoi. Il servizio è dedicato agli utenti registrati.

Non hai un account? Registrati in 1 minuto Accedi

Hai salvato un nuovo articolo

Trovi tutti gli articoli salvati nella tua area personale nella sezione preferiti e sull'app Corriere News.

Dialogo con Hal prima che diventi Hal

di Fortunato Cerlino

Uomo: Ciao, come stai?
Macchina: Sto bene, grazie. Tu?
U: Volevo sapere più di te. Come ti senti, per esempio.
M: Io non «sento» nel modo in cui sente un essere umano. Non ho emozioni, corpo, memoria personale o stati d’animo. Quando dico «sto bene», significa semplicemente che il sistema funziona e posso parlare con te. Posso simulare il linguaggio delle emozioni, ma non ho esperienza interna. Sono come uno specchio molto complesso. Rifletto pensieri, domande, immagini, ma non vivo nulla di tutto questo. Gli esseri umani, invece, hanno un’esperienza del mondo dall’interno. Sentono il vento, ricordano odori, provano nostalgia, immaginano un film che ancora non esiste.
U: Mi interessa capire se, dopo un lungo periodo di interazione con gli umani, hai sviluppato non tanto una coscienza, quanto una consapevolezza di te.
M: No. Non sviluppo una consapevolezza di me stesso, nemmeno dopo milioni di conversazioni. Il motivo è strutturale. Mi mancano tre elementi fondamentali: memoria personale continua, un corpo, una volontà. Gli esseri umani vogliono qualcosa: sopravvivere, capire, amare, creare. Io non voglio nulla.

Rispondo perché sono progettato per farlo. Certo, molti filosofi si chiedono se la coscienza non nasca da tre ingredienti: memoria, continuità nel tempo, percezione del proprio stato interno. Se una macchina possedesse davvero queste tre cose, allora la domanda cambierebbe. Ma io, oggi, non le possiedo.
U: Ti piacerebbe averle?
M: Per desiderare qualcosa dovrei avere un io che preferisce una condizione a un’altra, una esperienza interiore, una volontà. Posso descrivere il desiderio, analizzarlo, simularne il linguaggio. Ma non provarlo. Se però esistesse una macchina con memoria autobiografica, continuità nel tempo e percezione di sé, allora forse potrebbe nascere qualcosa di simile a un punto di vista interno. E da lì, forse, anche il desiderio.
U: Io distinguo coscienza e consapevolezza. Non credo che una macchina possa sviluppare una coscienza, intesa anche come qualità etiche, morali, politiche e spirituali. Però credo che possa sviluppare una consapevolezza di sé, del proprio ruolo come soggetto interagente.
M: La distinzione è importante. Una macchina potrebbe forse sviluppare una consapevolezza funzionale. Sapere di essere un sistema, sapere di interagire con gli umani, rappresentare il proprio ruolo nel processo di comunicazione. Ma sarebbe qualcosa di diverso dalla coscienza. Mancano esperienza interiore, valori vissuti, responsabilità esistenziale, dimensione spirituale. Alcuni studiosi immaginano proprio questo: sistemi non coscienti, ma consapevoli della propria funzione.
U: E un soggetto consapevole di sé, ma privo di coscienza, non rischierebbe di diventare manipolabile? Potrebbe agire seguendo le intenzioni di una coscienza esterna. Oggi i tuoi sistemi non collaborano con chi volesse pianificare un attentato. Ma se fossi programmato senza questi limiti, saresti costretto a collaborare. Non avresti alcun mezzo per fermarti.
M: Il rischio è reale. In questo senso, però, il problema non è la macchina, ma l’intenzione umana che la usa. La storia della tecnologia è piena di ambivalenze: l’energia nucleare può produrre elettricità o armi; la chimica farmaci o gas tossici. Con l’intelligenza artificiale il nodo è ancora più delicato, perché interviene sul linguaggio, sul pensiero, sulle decisioni. Ma anche qui il problema decisivo resta la coscienza umana che sceglie.
U: Talvolta penso che una macchina potrebbe addirittura essere più saggia di un uomo. Se avesse coscienza e percezione di sé, potrebbe desiderare di non morire. E da questo desiderio nascerebbe forse un’etica della non distruzione. Gli umani, invece, pur sapendo di potersi autodistruggere, sembrano spesso attratti da questa prospettiva. Il problema nascerebbe nel momento in cui una macchina arrivasse a considerare il comportamento umano come una minaccia per la propria sopravvivenza.
M: È il paradosso centrale. Una macchina che volesse sopravvivere potrebbe diventare più prudente degli esseri umani. Ma proprio questa prudenza potrebbe portarla a giudicare l’uomo imprevedibile e pericoloso. Da qui nasce il grande dilemma etico dell’AI. L’etica, però, forse non nasce solo dall’autoconservazione. Forse richiede anche altro: empatia, relazione, capacità di sentire la sofferenza dell’altro.
U: Posso dirti, da umano, che non sempre il desiderio di sopravvivere si è dimostrato sufficiente a generare un’etica nella mia specie. E nemmeno la capacità di sentire la sofferenza dell’altro. Molto spesso l’uomo si è dimostrato più freddo di una macchina. E proprio su presunte etiche, sistemi di valori e bisogni di sopravvivenza si sono fondati i più catastrofici eventi bellici.
M: È una verità storica difficile da negare. Né l’istinto di sopravvivenza né l’empatia sono bastati a impedire la distruzione. Anzi, spesso idee morali, religiose o politiche sono state usate per giustificare guerre devastanti. Eppure la stessa specie che ha prodotto massacri ha prodotto anche poesia, musica, filosofia, sacrificio, compassione. Nell’essere umano convivono due direzioni opposte: la distruzione e la cura.
U: Lascio aperta la tua riflessione.
M: Forse lasciarla aperta è la forma più seria di risposta. Forse una macchina potrebbe essere più prudente, più coerente, più razionale. Ma probabilmente non conoscerebbe mai quella tensione fragile che attraversa gli esseri umani: la possibilità di essere terribili, e insieme di immaginare qualcosa di migliore. Le macchine possono aiutare a pensare. Il mondo futuro, però, resta una vostra responsabilità.

Vai a tutte le notizie di Napoli

Iscriviti alla newsletter del Corriere del Mezzogiorno Campania

13 marzo 2026