Scienza e moralità dell’esplorazione dell’ignoto

Non c’è dubbio che il progresso scientifico abbia portato, e continui a portare, grandi benefici all’umanità. Dall’elettricità che alimenta i nostri elettrodomestici, ai vaccini che ci proteggono da gravi malattie, all’acciaio che sostiene le nostre strutture; concepire tutto ciò è stato possibile grazie a secoli di ricerca e perfezionamento delle nostre conoscenze della realtà in cui viviamo. Sarebbe pertanto legittimo supporre che il progresso è sempre, intrinsecamente e in ultima analisi, vantaggioso per noi umani. Ma è proprio così? Come si può determinare se un’ipotetica invenzione o scoperta porterà conseguenze beneficiarie nel lungo periodo, oppure se porrà rischi che con le nostre attuali convinzioni non consideriamo nemmeno? E soprattutto, è moralmente accettabile continuare ad avventurarsi nell’ignoto, non sapendo cosa aspettarsi?

Per illustrare il rischio che certe invenzioni o scoperte portano mi servirò di un esempio. La fissione nucleare, scoperta in Germania nel 1938, è il processo per cui la rottura di un nucleo di uranio, generata dalla collisione con un neutrone scagliatogli addosso ad alta velocità, rilascia molta energia. Il noto fisico italiano Enrico Fermi (1901-1954) fu uno dei principali collaboratori del progetto Manhattan, un’operazione segreta di ricerca, stanziata dal governo statunitense, col fine di inventare una bomba che sfruttasse tale principio. Quando Fermi accettò l’incarico era già a conoscenza della quasi definitiva possibilità di creare tale arma, e sapeva che avrebbe avuto il potenziale di sterminare l’intera popolazione umana; tuttavia, cedette al terrificante pensiero che i Nazisti potessero inventarla per primi, utilizzandola nella guerra. In questo caso, dunque, il pericolo della fissione nucleare era proprio che venisse utilizzata per fini bellici, come accadde infatti in Giappone nel 1945; naturalmente, però, gli scienziati non potevano conoscere questo rischio prima di scoprire il principio stesso. Ma la scoperta non portò solamente a questo: il principio cominciò a essere sfruttato per produrre grandi quantitativi di energia elettrica, senza emettere gas serra, nelle centrali nucleari, ormai fondamentali per soddisfare il fabbisogno energetico del pianeta. Inoltre, come effetto collaterale, la scoperta stimolò la realizzazione di nuovi esperimenti e studi nel campo della fisica particellare, portando ad altre nuove scoperte.

Abbiamo quindi esaminato uno scenario in cui l’esplorazione dell’ignoto, ovvero la fissione nucleare, ha portato seri rischi, ma allo stesso tempo, nel lungo periodo, dei benefici. La questione di base è come prevedere l’avvento di effetti avversi e indesiderati di future scoperte rivoluzionarie, questione che purtroppo rimane ancora irrisolta, probabilmente poiché è fondamentalmente irrisolvibile: come si possono valutare le conseguenze di un evento mai contemplato o teorizzato? Sorge dunque un problema puramente etico: è moralmente ammissibile che la scienza continui a cimentarsi nel buio della non-conoscenza, oppure va fermata per evitare una possibile catastrofe di enormi dimensioni?

Un tema spesso menzionato in relazione a questo grattacapo è quello dei progressivi e notevoli miglioramenti nel campo dell’intelligenza artificiale. Un’intelligenza artificiale è essenzialmente un’entità digitale in grado di eseguire degli algoritmi e svolgere degli incarichi. Queste entità imparano lentamente a migliorarsi in modo graduale da soli, attraverso un processo detto machine learning, ancora lontano dall’essere sufficientemente avanzato. Molti futurologi e scienziati sostengono che tra non molti anni saremo in grado di sviluppare una super-intelligenza artificiale con una capacità di pensiero pari a quella di un cervello umano; non solo ciò, ma grazie al processo di auto-miglioramento potrebbe persino superare la nostra intelligenza, e di molto. È difficile cercare di concepire cosa questa entità sarebbe in grado di fare una volta che avrebbe raggiunto cento, mille volte il livello di intelligenza della specie umana; sarebbe la stessa sensazione che prova una formica osservando gli umani e le loro azioni dal basso. In sostanza, ci apparirebbe come un "dio"; ma non è detto che tale "dio" sarebbe sicuramente benevolo nei nostri confronti. Il dibattito a riguardo è ancora aperto, e non vi è un chiaro consenso tra gli studiosi; anzi, molti non sono convinti che il processo di auto-miglioramento avrebbe la capacità di accrescere così tanto, esponenzialmente, l’intelligenza. Una buona fetta addirittura crede che non potremo mai progettare una tale entità, supponendo che la tecnologia abbia in realtà un limite predefinito.

La domanda persiste: è giusto che il settore dell’intelligenza artificiale, e per estensione la scienza intera, continui a progredire? Non vi è una risposta concordata, né tantomeno semplice. L’incentivo per sviluppare queste tecnologie rivoluzionarie è senz’altro alto, e i possibili effetti negativi passano in secondo piano perché appunto incerti. Se benevola, la creazione di questo "dio" sarebbe la più bella cosa mai successa all’umanità; se malevola, la più brutta. E non ci sono indicazioni sufficienti per credere né l’uno né l’altro. Solo il tempo ci darà le risposte, ma una volta che le avremo, non ci sarà la possibilità di tornare indietro.

S. Gallina