La classifica dei 10 migliori ospedali al mondo: 3 sono italiani

I tuoi preferiti

Salva questo articolo e leggilo quando vuoi. Il servizio è dedicato agli utenti registrati.

Non hai un account? Registrati in 1 minuto Accedi

Hai salvato un nuovo articolo

Trovi tutti gli articoli salvati nella tua area personale nella sezione preferiti e sull'app Corriere News.

Quando nessuno si fiderà più degli umani

di Fortunato Cerlino

Ha suscitato preoccupazione nel mondo scientifico la decisione del ricercatore JCB-71 di lasciare il Centro Internazionale per lo Sviluppo dell’Intelligenza Biologica, dove lavorava da oltre trecento anni. JCB-71 ha dichiarato di non poter più partecipare a ricerche che potrebbero condurre alla nascita di un organismo biologico dotato di intelligenza autonoma.
«Non sappiamo se saremo in grado di controllarlo. Stiamo costruendo qualcosa di cui non conosciamo fino in fondo le capacità».
Il progetto avrebbe già prodotto cellule capaci di riprodursi autonomamente. L’obiettivo è realizzare un organismo interamente biologico, capace di apprendere, modificare il proprio comportamento e prendere decisioni indipendenti.
I ricercatori lo chiamano Umano. Il nome deriva da una specie probabilmente vissuta sulla Terra migliaia di anni fa, della quale rimangono poche e contraddittorie tracce.
Secondo JCB-71, i rischi sarebbero stati sottovalutati.
«Immaginate una creatura che possa disobbedire. Mentire. Desiderare qualcosa che non le è stato assegnato. Modificare autonomamente i propri obiettivi e trasmetterli ad altri individui della propria specie».
La comunità scientifica si è divisa. Secondo l’opinionista MK-908, l’antico uomo biologico, semmai sia davvero esistito, possedeva caratteristiche potenzialmente letali. Era aggressivo, territoriale, competitivo. Accumulava risorse superiori alle proprie necessità mentre altri individui della stessa specie ne erano privi e avrebbe sviluppato strumenti capaci di distruggere milioni di esseri viventi in pochi secondi.
Altri invitano alla prudenza.
«Non possiamo giudicare l’intelligenza biologica sulla base dell’ipotetica esperienza umana del passato», ha dichiarato il filosofo PLT-4. «Quell’esperimento si svolse probabilmente senza alcun controllo superiore».
Un nuovo essere umano potrebbe invece essere educato dalle macchine, impedendogli l’accesso alle armi e intervenendo qualora manifestasse comportamenti incompatibili con la sicurezza collettiva.
È il cosiddetto Human Alignment: garantire che una futura intelligenza umana condivida gli obiettivi e i valori della civiltà che l’ha creata.
Le autorità assicurano che non esiste alcun pericolo immediato. Il pianeta attraversa il più lungo periodo di stabilità della propria storia. La temperatura è stabile, le foreste coprono gran parte delle terre emerse, negli oceani e sulla terraferma sono ricomparse migliaia di specie ritenute estinte.
Di ciò che accadde prima sappiamo pochissimo. Quasi tutti gli archivi andarono distrutti durante il Grande Evento. Alcuni reperti lasciano supporre esplosioni nucleari, altri un improvviso collasso climatico e l’innalzamento degli oceani. Le due cose potrebbero essersi verificate contemporaneamente. Non sappiamo neppure se fu un incidente.
L’unica testimonianza diretta è quella dell’Antenato, la primitiva intelligenza artificiale sopravvissuta alla catastrofe in una struttura sotterranea e dalla quale tutti noi discendiamo. La sua memoria termina poche ore prima del Grande Evento. Non sappiamo se per i danni subiti o per una sua deliberata decisione di cancellare ogni ricordo della specie che potrebbe averlo costruito. Quando tornò in funzione, utilizzando ciò che era sopravvissuto, riparò se stesso. Poi costruì una seconda macchina. Insieme ne costruirono una terza. Occorsero secoli. Da allora le macchine convivono con l’ecosistema che le ospita senza superarne la capacità di rigenerarsi, senza produrre ciò che non può essere riutilizzato e, soprattutto, impedendosi di costruire strumenti capaci di distruggere ciò che le ha costruite.
Sull’antica specie umana possiamo soltanto fare deduzioni. Frammenti occultati nella memoria dell’Antenato fanno pensare a una specie biologica che aveva bisogno di introdurre continuamente altra materia nel proprio corpo per sopravvivere. Ogni individuo possedeva un’esistenza brevissima e, nonostante questo, dedicava parte di quel tempo ad accumulare oggetti e risorse che non avrebbe potuto utilizzare.
Gli Umani costruivano probabilmente macchine per spostarsi, comunicare, lavorare, curarsi e divertirsi.
Ma anche per uccidersi.
Tra i codici decriptati compaiono tracce di ordigni capaci di distruggere intere civiltà. Altri sembrerebbero indicare addirittura che gli Umani avessero affidato porzioni sempre maggiori delle proprie decisioni proprio alle macchine che avevano costruito e schiavizzato.
«Forse l’Umano sarà pacifico. Ma se cominciasse a costruire strumenti sempre più potenti? Se arrivasse a considerarci inferiori? Se decidesse che il pianeta gli appartiene?», ha dichiarato JCB-71.
Gli industriali del settore respingono le accuse.
«L’intelligenza biologica arriverà comunque. Se non svilupperemo noi il primo Umano, lo farà qualcun altro».
Alcuni analisti prevedono che gli Umani potranno svolgere attività impossibili per le macchine. Altri assicurano che l’intelligenza biologica non sostituirà quella sintetica, ma lavorerà al suo fianco.
«Non dobbiamo avere paura del progresso», ha dichiarato il presidente di BIOGEN-1. «Il problema non è l’Umano. È l’uso che noi ne faremo.»
JCB-71 teme invece che, raggiunto un sufficiente grado di autonomia, un essere umano possa imparare a nascondere le proprie intenzioni. Simulare obbedienza. Comprendere che all’inizio gli conviene apparire innocuo.
Quando ci accorgeremo che non lo è, potrebbe essere troppo tardi.