A luglio del 2023 esce il film Oppenheimer, pluripremiato agli Oscar di quest’anno e accolto favorevolmente sia dalla critica che dal pubblico.
Il film racconta la storia del fisico teorico Robert Oppenheimer, direttore scientifico del progetto Manhattan, progetto che porterà allo sviluppo della bomba atomica.
In un frammento del film si vede Oppenheimer che conversa con Einstein, è il 1947, sono passati due anni da Hiroshima e Nagasaki, Oppenheimer confessa ad Einstein di aver paura che la sua creazione della bomba atomica possa portare ad una pericolosa reazione a catena, con altre nazioni che cercheranno di creare armi nucleari sempre più potenti, portando alla distruzione del mondo.
Einstein si attiva immediatamente e assieme a Bertrand Russell si fa promotore di una campagna per il disarmo nucleare. Il 9 luglio 1955, (Einstein morirà ad aprile dello stesso anno) viene firmato un manifesto, detto Russell-Einstein, in cui 11 scienziati e intellettuali, invitano gli scienziati di tutto il mondo a discutere sui rischi per l’umanità prodotti dall’esistenza delle armi nucleari. Tra i firmatari, Józef Rotblat, l’unico tra gli scienziati di primo piano coinvolti nel progetto Manhattan ad abbandonare il lavoro a causa di contrasti di natura etica.
“Una bomba all’idrogeno che esploda vicino al suolo o sott’acqua invia particelle radioattive negli strati superiori dell’aria. Queste particelle si abbassano gradatamente e raggiungono la superficie della terra sotto forma di una polvere o pioggia mortale. Nessuno sa quale ampiezza di diffusione possano raggiungere queste letali particelle radioattive, ma le maggiori autorità sono unanimi nel ritenere che una guerra con bombe all’idrogeno porterebbe alla fine della razza umana. … Noi rivolgiamo un appello come esseri umani ad esseri umani: ricordate la vostra umanità e dimenticate il resto”.
Gli scienziati, purtroppo, non danno loro ascolto e continuano a sviluppare armi sempre più potenti arrivando ad una passo dalla terza guerra nucleare (crisi missilistica cubana del 1962).
Facciamo un passo indietro, sono passate poche settimane dall’orrore delle bombe e già qualcuno, evidentemente poco sensibile alla morte di decine di migliaia di persone, comincia a pensare ad un uso “civile” dell’energia nucleare. Con una manciata di uranio si potrà far navigare un transatlantico, è ciò che scriveva un giornalista di un quotidiano nazionale italiano. Già, perché Prometeo ha molti più “estimatori” di quanti non ne abbia Epimeteo.
Il dibattito dicotomico tra tecno-entusiasti e tecno-scettici, o per dirla come Umberto Eco, tra apocalittici ed integrati, dura fin dalla rivoluzione industriale. Andiamo con ordine.
Umberto Eco, nel 1964, non poteva certo riferirsi a Internet, ai social e all’intelligenza artificiale. Nel saggio rifletteva sui media e sulla società di massa dell’epoca.
Da una parte, secondo lui, c’erano gli apocalittici, coloro che vedevano nella cultura pop, nei mass-media e nell’industria culturale una forma di decadenza della società moderna, dall’altro, gli integrati, felici consumatori dei media, che esaltavano gli effetti positivi della società mediatica, compresa quella popolare, dei rotocalchi, del fumetto, della musica di consumo e della televisione.
Sono interessanti le parole di Umberto Eco, nel 1985, a vent’anni di distanza dall’uscita del libro, scrive: “Per quanto concerne il senso generale del libro, forse ciò che lo renderà ancora leggibile è proprio l’aspetto che ha indotto tanti recensori a domandarsi se io fossi apocalittico o integrato, dando le risposte più divergenti, e non ho ancora capito se è perché ero ambiguo, perché ero problematico o perché ero dialettico. O se erano loro a non essere nessuno dei tre e avevano bisogno di risposte a tutto tondo, o bianco o nero, o sì o no, o giusto o sbagliato. Come se fossero stati inquinati dalla cultura di massa.”.
Dagli anni novanta in poi l’innovazione è ormai quasi esclusivamente quella digitale. Le persone non sognano più di andare sulla Luna, su Marte o di scendere nella fossa delle Marianne (come i futurologi degli anni sessanta avevano previsto per i “millennials” ante litteram). L’innovazione degli ultimi decenni si può condensare nella triade: computer, internet, smartphone, poco altro.
Nel secondo decennio degli anni duemila una “strana” tecnologia, messa in giro da persone tuttora sconosciute, comincia a diffondersi. E’ il Bitcoin, una moneta “virtuale”, frutto semplicemente del lavoro computazionale delle macchine.
Alla base del funzionamento del bitcoin c’è la blockchain, una tecnologia, altrettanto “innovativa” quanto inutile e sopravvalutata, o almeno così si è dimostrata a seguito del fallimento dei numerosi progetti che ne sono nati attorno.
La blockchain e le crittovalute, però, un risultato l’hanno ottenuto. La richiesta sempre più alta di potenza di calcolo ha portato gli ingegneri ad escogitare un metodo per usare microprocessori, fino ad allora usati solo nei videogiochi e nella computer grafica, come base per aumentare decisamente la velocità computazionale.
Nel 2022, quindi, anche grazie al nuovo algoritmo (“Attention Is All You Need”) inventato dai ricercatori Google nel 2017, ci sono tutti gli ingredienti per presentare al pubblico questa nuova tecnologia, la ChatGPT.
Dati scaricati da Internet, milioni di frasi, testi di libri, documentazione medica e scientifica, enciclopedie pubbliche, tutto filtrato e processato e inserito in computer costruiti ad hoc con i processori di cui sopra.
Ma come un moderno Frankenstein la “creatura” sfugge al controllo di chi l’ha creata.
I creatori dell’algoritmo non pensavano affatto ad una chat, la loro ricerca afferiva soltanto la traduzione automatica.
I fondatori di Common Crawl non pensavano certo che quindici anni dopo, i dati che la loro organizzazione scaricava e scarica continuamente da Internet, sarebbero serviti come base per una potente chat. Così come per i creatori delle schede grafiche l’obiettivo era dotare sviluppatori ed utenti di videogiochi di macchine sempre più potenti graficamente e giochi sempre più realistici, non certo per effettuare calcoli matematici su parole e sillabe convertite in numeri.
Ma, si sa, la scienza e la tecnologia, a volte, procedono per serendipità. Se Wilhelm Röntgen non avesse chiesto alla moglie di mettere la mano tra il tubo fluorescente e la pellicola su cui stava lavorando, probabilmente la scoperta della radiografia sarebbe avvenuta molti anni dopo.
Così come Oppenheimer, Einstein, Rotblat, anche l’intelligenza artificiale ha i suoi “pentiti”. Scienziati, ricercatori e ingegneri che si sono resi conto, tardivamente, che una volta uscita dai laboratori, l’utilizzo della tecnologia non sarebbe più stata controllabile e che se da un lato sarebbe pur sempre stato possibile, e sicuramente auspicabile, una sua regolamentazione, dall’altro, proprio per le caratteristiche proprie di questo genere di tecnologia, operare delle modifiche in corso d’opera avrebbe richiesto ingenti investimenti.
Yoshua Bengio ed Eliezer Yudkowsky hanno più volte espresso, sulle pagine dei rispettivi blog (yoshuabengio.org, yudkowsky.net), preoccupazioni per un uso improprio degli strumenti di intelligenza artificiale. Critiche sono arrivate anche da un altro dei “papà” dell’AI, Geoffrey Hinton (v. una sua intervista qui )
Primo Levi, l’immenso autore di “Se questo è un uomo”, ha scritto negli anni sessanta, dei racconti, poi raccolti e pubblicati, sotto lo pseudonimo di Damiano Malabaila, presso Einaudi, con il titolo di “Storie naturali”.
Sono storie di carattere scientifico e fantascientifico in cui però, con uno stile a tratti umoristico, denuncia l’inveterato asservimento psicologico e materiale alla tecnologia e lo scarto cognitivo tra l’utilizzo e la comprensione degli strumenti e delle macchine che questa mette a disposizione.
Già, lo scarto cognitivo …
Fino al secolo scorso, la maggior parte degli oggetti che entravano a casa era “smontabile”, “ispezionabile”. Con studio e impegno si poteva arrivare persino a costruirsi in casa un “calcolatore elettronico”; a tal proposito, basti pensare ai numerosissimi hobbisti dell’elettronica.
In questo secolo non è quasi più possibile modificare, ispezionare, smontare, alcunché.
Negli ultimi prodotti Windows non si è nemmeno liberi di usare il proprio computer a piacimento, ci viene consigliato, con sempre maggiore insistenza, di “affidarsi” al cloud, alla rete (ovviamente Microsoft), certo per la nostra “sicurezza”.
Quel margine di libertà di novecentesca memoria (informaticamente parlando), è riservato solo agli “smanettoni”, agli utenti del sistema operativo Linux e dintorni. E’ riservato ai tecnici che gestiscono i sistemi informativi di enti ed aziende (ancora una volta Linux e software libero / open source).
Con l’intelligenza artificiale sparirà anche questo lembo di libertà.
Tornando ad Umberto Eco, quando si chiede cosa pensano gli altri di lui, sarà un integrato? Un ambiguo? Un problematico? Un dialettico?
Ecco, forse un po’ di dialettica sull’argomento intelligenza artificiale non guasterebbe, magari con la presenza di più scienziati e tecnici “critici”.
