Con il diffondersi delle collaborazioni tra esseri umani e macchine, dovremo imparare a stabilire l’essenza di queste relazioni. Nel farlo potremmo tener conto di riflessioni logiche sulla sicurezza e l’efficienza, dedotte dallo studio della storia o ispirate alla fede nel divino. I singoli individui, le nazioni, le culture e le varie confessioni religiose serviranno a stabilire, se esistono, i limiti del potere dell’intelligenza artificiale sulla verità. E saranno necessari per decidere se è il caso di consentire all’IA di interporsi tra noi e la realtà. In questa connessione saranno loro a dover scegliere se conservare il ruolo tradizionale dell’iniziativa umana (cedendo però verosimilmente il timone all’IA nella scoperta di nuove conoscenze) o se abbandonare la mente umana, biologicamente limitata, a favore di un’associazione tra esseri umani e IA potenzialmente riprogettata sul fronte intellettivo. Stabiliremo i nostri obiettivi e approfitteremo dell’IA per raggiungerli, oppure lasceremo che sia la stessa intelligenza artificiale a sceglierli per noi? Ancora più pressante è la necessità da parte nostra di trovare una nuova definizione della dignità umana, che sia moderna e sostenibile e possa indicarci una direzione filosofica da seguire nelle scelte che faremo negli anni a venire. L’avvento dell’intelligenza artificiale è, a nostro parere, un problema di sopravvivenza.

DUE PAROLE

Che Kissinger alla sua reverenda età abbia deciso di deciso di dedicare gli ultimi anni della sua vita allo studio e alla comprensione dell’intelligenza artificiale è un fatto assai significativo. Questo ricco saggio scritto a più mani si avvicina al testamento morale dell’ex segretario di stato e solleva in termini tanto etici quanto filosofici tutte le implicazioni dell’alba a cui stiamo andando incontro con grandissima incoscienza. Un testo, credo, che debba essere preso molto seriamente. Un testo con una gittata assai lunga, che certo attende imminente l’arrivo di questa rivoluzione totale.

È un difficile scontro che sembra spazzare via l’umanesimo (inteso sia come pensiero e movimento, sia come forma esistenziale, come specie). Le domande che gli autori pongono sono letteralmente cruciali. Sono domande che, certo, si basano sulla certezza di questo avvento. Non sembrano esservi dubbi sul fatto che, fra tutte le tecnologie dello scibile umano, quella dell’itelligenza arificiale (e in particolare quella della intelligenza artificiale generativa di super livello) sia l’elemento centrale e rivoluzionario. Riporto qui i punti più critici su cui gli autori invitano a mettersi a confronto:

“A questo va aggiunto che una macchina in grado di apprendere può certamente diventare una macchina che autoprogredisce. È possibile dunque, ci domandiamo, che l’ultima grande scoperta rivoluzionaria di una mente poliedrica, ovvero il computer che amplifica la forza della nostra mente in modo totalmente diverso da ogni altra macchina precedente, verrà ricordata per aver sostituito i suoi stessi inventori grazie alla svolta dell’intelligenza artificiale?”

O ancora

“Siamo forse sull’orlo di un baratro che ci condurrà verso una profonda inversione della conoscenza umana, verso un illuminismo oscuro?”

O ancora

“Nel processo tecnico di costruzione dell’intelligenza artificiale, alle macchine viene insegnato che gli errori vanno evitati. Questo approccio è utile soltanto nella misura in cui corregge gli assunti umani sbagliati e le applicazioni non ottimali. Ma un’altra causa di errore nei sistemi umani è rappresentata dal libero arbitrio: siamo cioè liberi di fare la scelta «sbagliata». Se un sistema basato sull’IA decide di evitare questi errori, si trova di fronte a due opzioni: eliminare noi o rimuovere il nostro libero arbitrio. Se il libero arbitrio, per definizione, venisse considerato non un tratto dell’intelligenza bensì un difetto, un bug informatico, potrebbe essere trattato sempre di più come un ostacolo che impedisce all’IA di raggiungere i propri obiettivi.”

O ancora

“La giusta domanda da porsi di fronte a questo presupposto è la seguente: come possono gli esseri umani accelerare soltanto le vie di sviluppo desiderabili per l’IA, e ritardare quelle meno gradite?”

O ancora

“Noi crediamo che in ambito diplomatico, nella difesa e forse in altri ambiti ancora, alcuni dei rischi comportati dall’IA possano essere gestiti con successo soltanto dalle stesse macchine intelligenti. Il vaso di Pandora è già stato aperto; anche se non lo fosse, i vantaggi dell’intelligenza artificiale sembrano superare i rischi.”

O ancora

“Il motto di DeepMind, l’azienda che sta dietro alla vittoria coreana, è: «Prima risolvi il problema dell’intelligenza; poi usa l’intelligenza per risolvere ogni altro problema».  L’intelligenza intesa come motore di nuove creazioni è destinata a cambiare tutto ciò che conosciamo. Di fronte a questa grande incognita potremmo sentirci sopraffatti. Però, almeno in alcuni contesti, potrebbe essere saggio rispondere con lo stesso atteggiamento di Lee Se-dol il quale, affrontando l’IA, l’ha considerata più un motivo di ispirazione che una rivale.”

O ancora

“Tra l’altro, la storia economica conferma la difficoltà di ideare sistemi che siano al contempo coerenti ed efficaci. E bisogna ammettere che noi non siamo riusciti a prevedere gli effetti a lungo termine della tecnologia; nel caso dell’intelligenza artificiale, il nostro ottimismo potrebbe essere ingiustificato, e d’altro canto anche le nostre preoccupazioni potrebbero essere fuori luogo. Tuttavia, gli autori di questo libro ritengono che presto si potrà approfittare dell’IA per creare ex novo la ricchezza e il benessere umani e che sia quindi necessario avviarsi in questa direzione.”

O ancora

“Se molti di noi riescono a malapena a tollerare la fatica del lavoro, come pensiamo di poter resistere al piacere incondizionato?”

O ancora

“Da parte sua una macchina intelligente potrebbe, senza considerare l’allineamento basato su regole, attribuire maggiore importanza alle prestazioni superiori della macchina rispetto a quelle umane. In una situazione del genere, la logica che sta alla base della compassione, anche se non può essere insegnata formalmente, potrebbe essere assorbita?”

O ancora

“Mentre lo sviluppo di un’«IA umanizzata», cioè attenta agli esseri umani, è la nostra priorità, possiamo riconoscere un possibile ruolo anche per gli esseri umani artificiali. Un progetto simile potrebbe risultare utile nella misura in cui saremo in grado di sviluppare forme di automodificazione individuale per ottenere capacità specifiche, consentendo così ad alcuni esseri umani di eguagliare aspetti dell’intelligenza di una futura IA. Ovviamente il tentativo dovrebbe necessariamente essere il prodotto di una scelta individuale. La nostra cautela come autori riflette qui il nostro dramma collettivo: l’evoluzione non può semplicemente essere sostituita dal progetto, perché questo rappresenterebbe la fine dell’umanità. Ma rinunciare all’impresa della scoperta, sia essa spirituale, fisica, scientifica o filosofica, avrebbe lo stesso effetto.”

E potrei proseguire. Il punto è chiaro: L’uomo sta lavorando per creare un’intelligenza superiore alla propria. L’intelligenza umana è fino ad oggi, stata considerata come la cosa più incredibile dell’universo, la vera meraviglia del creato. È davvero così? Come ci porremo in futuro se questo assunto dovesse rivelarsi surclassato? Chi e cosa è un uomo? Un libro cruciale, privo di risposte ma zeppo di domande vitali. Nel verso senso della parola.