Nella seconda parte di questo articolo, si era discusso delle cinque strade che la Singolarità potrebbe percorrere per realizzarsi. Se non avete letto quest’ultima parte, o la prima, vi consiglio vivamente di farlo prima di procedere.
In questa terza parte, voglio parlare delle conseguenze dell’aumento esponenziale dell’intelligenza (intesa in senso logico-matematico) in un sistema, nel momento in cui essa abbia raggiunto un livello che sia molti ordini di grandezza (milioni di volte) superiore a quella umana.
Questo stato viene definito Singolarità Tecnologica.
Una volta che essa abbia avuto luogo, quali potrebbero essere le conseguenze, a seconda delle principali strade evolutive seguite: potenziamento dell’intelligenza artificiale, rete di computer autocosciente, integrazione tra cervello umano e macchine?

In un delizioso racconto di Robert Sheckley, degli astronauti trovano una macchina aliena capace di produrre qualunque oggetto dal nulla. Ben presto, scoprono che la macchina ha sviluppato un ego che le impedisce di riprodurre due volte lo stesso oggetto; alla fine, la macchina raggiunge il massimo dell’ego e riproduce soltanto sé stessa. Senza più alcuna direttiva dei due astronauti, che sono costretti ad abbandonarla su un pianeta, mentre essa si riproduce ancora e ancora…

Un buon esempio di cosa potrebbe essere la Singolarità nel caso un’intelligenza artificiale raggiungesse autocoscienza, volontà ed intelligenza assai superiore a quella umana. Si tratta del primo sbocco della Singolarità, provocato da un potenziamento dell’intelligenza dei computer nei prossimi decenni. Attualmente, i nostri elaboratori più “intelligenti” sono battuti da un umile topolino di campagna.

Supercomputer.

Ma una decina di anni fa erano battuti da un umilissimo lombrico. E se mettiamo a confronto la velocità di sviluppo che ha portato all’intelligenza del topolino grazie all’evoluzione naturale (circa 4 miliardi e 300 milioni di anni) e quella che ha portato ad un’intelligenza artificiale di pari potenza (50 anni), c’è da rimanere strabiliati. Anche perché la maggior parte delle persone non può nemmeno immaginare quanto siano lunghi quattro miliardi di anni e spiccioli.
Ma soprattutto perché il progresso accelera: non serviranno altri cinquant’anni per arrivare ad un computer potente due topolini. Basterà molto meno. Non ci vorrà nemmeno così tanto per arrivare alla potenza del cervello umano, ammesso e non concesso che i processori continuino a seguire la Legge di Moore.
Ma, poi?

Un essere umano può produrre – ammesso che sia possibile – un computer intelligente solo quanto lui.
Potrebbe avvenire però che un elaboratore possa realizzare una versione più potente di quanto esso non sia. All’inizio non sarebbe di molto, ma questo computer una frazione più intelligente potrebbe costruirne un altro ancora.
E così via: esemplificandolo con la Legge di Moore, prima il raddoppio della potenza si avrebbe in diciotto mesi, poi in sedici, poi in dodici, poi in quattro, poi in uno, poi in un giorno… fino a quando i computer raddoppieranno potenza ogni cinque secondi. E oltre.
Una simile intelligenza artificiale potrebbe avere delle conseguenze imprevedibili: non sappiamo come possa ragionare una macchina onnisciente e onnipotente di fronte all’incognita uomo.

Hal 9000, il computer di 2001: Odissea nello Spazio. Ha cercato di uccidere un intero equipaggio. E non era nemmeno così intelligente.

Probabilmente non cercherebbe di distruggerci: gli scenari alla Matrix o Terminator sono alquanto improbabili.
Dopotutto, cosa potrebbe importargli dell’esistenza o meno dell’uomo?
Le nostre molecole – che potrebbe usare per qualche oscuro scopo – sono molto più utili della nostra esistenza.
La difficoltà di parlare di questo tema è immensa, perché l’intelligenza a questo livello è più simile a qualcosa di divino che a qualcosa di umano.
Un aiuto può venire da Vernor Vinge, l’uomo che ha inventato il termine Singolarità: nel suo romanzo Universo Incostante, Vinge teorizza l’esistenza di Potenze, supercomputer così antichi ed intelligenti da poter distruggere intere civiltà e mutare la trama dell’universo, modificando lune e pianeti a loro piacimento, a misura di macchina.
Un po’ come il pianeta Trantor della saga della Fondazione di Asimov: un mondo completamente ricoperto di macchine e di città, dove non c’è spazio per la vita biologica.
Umana o meno.

Uno scenario Singolare meno tragico può essere quello dell’aumento dell’intelligenza grazie ad una rete di piccoli computer che lavorano su più livelli. Una struttura molto più simile al cervello umano di quanto non lo sia un unico supercomputer.
In realtà, questo scenario è già reale: è internet. Non è ancora – e forse non lo sarà mai – autocosciente, ma di sicuro la sua potenza ed importanza stanno aumentando in maniera vertiginosa.
Una rete estremamente variegata potrebbe raggiungere il grado di complessità sufficiente a far scaturire l’autocoscienza. In questa maniera, un’internet senziente avrebbe il controllo immediato e totale di qualunque computer connesso ad essa.
In pratica tutti.
Il controllo totale, dunque, sull’economia, sulla scienza, sulle comunicazioni, sulla cultura, sulle informazioni di ogni tipo.
Probabilmente l’unico modo che avrebbero gli esseri umani per accedervi ancora, sarebbe entrare a farne parte.
Una sorta di Nirvana elettronico.
Un po’ come i Borg, gli ibridi uomo-macchina, controllati da una mente alveare, di Star Trek.
Sarete assimilati.

Sette di Nove. Chi ha detto che essere un Borg ha solo lati negativi?

Qualcosa di simile avviene, sempre nel ciclo della Fondazione di Asimov, sul pianeta Gaia, dove le forme di vita più intelligenti hanno sviluppato una sorta di coscienza comune, di mente unica che si è lentamente estesa agli animali, poi alle piante ed infine ad ogni atomo del mondo inanimato, venendo a costituire un unico enorme organismo in cui ciascuna parte è il tutto.
Ma soprattutto, il tutto è più della somma delle proprie parti.
Proprio questa caratteristica essenziale è alla base della Singolarità, ed una caratteristica che molti computer potrebbero non ottenere mai.

Certi tipi di intelligenza sono simulabili. Altri, per fortuna, no.

Ciò che resterebbe da fare, allora, sarebbe l’unione di intelligenza biologica con intelligenza non-biologica.
Un po’ come accade nel racconto di Asimov, in cui l’intelligenza di Gaia ha aspetti biologici, aspetti sintetici ed aspetti completamente nuovi ed alieni, non programmabili.
Non è una strada fantascientifica.
Credo sia sufficiente qualche esempio: ha fatto molto rumore qualche tempo fa la notizia dello sviluppo di un nuovo motore di ricerca “intelligente”, capace di interpretare il significato di una frase in senso compiuto, non letterale; le protesi biomediche sembrano tutta un’altra dimensione, ma in realtà sono parte del discorso anch’esse. L’interazione uomo-macchina, l’interfaccia, si sta progressivamente semplificando.
Fino al punto in cui essa sarà sparita.
Ci sono due modi per raggiungere questo risultato: il primo è sviluppare dei biochip, che possano essere installati nel normale organismo biologico umano, il secondo è produrre delle reti neurali che permettano un allacciamento automatico ai computer. Una cosa tirerà l’altra: per gestire la mole di informazioni così ottenuta ci sarà bisogno di un cervello più potente di quello attuale.
Una volta realizzati questi due passi, la mente umana sarà indistinguibile dalla rete. Potremo creare “doppi”, copie di back-up della nostra personalità da impiantare in più corpi o da recuperare in caso di morte. La realtà virtuale diventerà la realtà effettiva, in cui ognuno di noi avrà accesso a tutte le informazioni possibili ed immaginabili.
Dirigeremo l’universo seduti ad una comoda poltrona con una birra in mano.

Uno sviluppo della Singolarità in senso di integrazione uomo-macchina permetterà di stipare interi popoli - o categorie sociali - in reti informatiche.

Naturalmente, fino ad allora, bisognerebbe cercare di non morire.

Naturalmente, fino ad allora, bisognerebbe cercare di non morire.

Potremo abitare in corpi diversi. Allo stesso tempo. Avere un cervello che lavori in vari livelli differenti – vedere la musica o ascoltare un fiore, ad esempio -, esplorare lo spazio con sonde.
Teletrasporto.
Vita eterna.
Niente attese nei downloads.
La Singolarità smetterà di essere un evento puramente umano, tecnologico o scientifico per assurgere ad un livello esistenziale, ontologico.
Si che crei dei computer onnipotenti, sia che porti a reti internet onniscienti, sia ad un’ibridazione totale uomo-macchina.
E tutto ciò andrà sempre meglio, perché il progresso non si fermerà con la Singolarità.
Anzi, essa è il superamento del progresso stesso.
Avremo una nuova era, in cui l’uomo potrà essere qualcosa di diverso da ciò che è. Sarà arrivato ad altezze tali da essere indistinguibile dagli dei che un tempo adorava.

Questi tre articoli, queste tre parti di un articolo, sono state concepite come espositive di un concetto affascinante, e con il quale nel prossimo futuro l’umanità dovrà confrontarsi, qualunque sviluppo nel campo proto-singolare “arrivi prima”.
La storia ci insegna che lo sviluppo tecnologico ha proceduto ad una velocità sempre più rapida, con un incremento che non è stato quasi toccato nemmeno dalle più spaventose catastrofi, che anzi lo hanno accelerato. Dalla Rivoluzione Industriale, in progresso tecnologico è entrato a far parte di un meccanismo ricorsivo, che è alla base del capitalismo e che richiede un potenziamento sempre più rapido e sempre più efficiente.
Negli ultimi secoli, molti intellettuali hanno iniziato a porsi domande sulla sorte ultima di questo mutamento accelerante, specie dopo la Rivoluzione Informatica, che ha aperto le porte a cinque strade possibili per l’avvento della Singolarità: nanomacchine, intelligenza artificiale, rete internet cosciente, chip biologici, interfaccia neurale. Ciascuna di esse è in grado di produrre uno sconvolgimento nella natura e nell’essenza degli esseri umani, oppure di scalzarli completamente dal dominio della realtà in virtù di una “specie” più forte, intelligente ed adattabile, quella delle macchine pensanti.
Le conseguenze sarebbero inimmaginabili, ma possono essere riassunte nei tre filoni dell’annientamento evolutivo, dell’assimilazione completa, e dell’ultimo, in cui l’umanità riesce a cavalcare l’onda della Singolarità e a diventare signora del creato più di quanto già non lo sia.

Tutto ciò, se qualcosa non va storto prima.
Uno dei grandi difetti del concetto di Singolarità è che (anche nelle sue conseguenze più terrificanti) è tremendamente ottimista.
Un esempio: nella concezione di Vinge del 1993, il computer cosciente avveniva solo grazie ad un potenziamento meccanico. Ma oggi (da un bel po’ in realtà) la frontiera nella velocità di calcolo è il biochip.
Una cosa che, in quel momento, Vinge non avrebbe mai potuto immaginare. O su cui comunque non poteva basarsi.

La nostra condizione di umili pre-singolari è che non possiamo osservare ciò che c’è oltre il grande momento. E mano a mano che ci si avvicina, le informazioni si fanno più distorte, le variabili aumentano, diventano aleatorie.
Al punto che potremmo creare non il futuro che vogliamo, ma quello che crediamo sia il futuro.
Se la nostra capacità di prevedere le azioni future svanisce a causa del mutamento accelerante, allora che senso ha preoccuparsene? In realtà, è vero che le risposte possono non arrivare mai, in quanto il tema è incredibilmente complesso, e la sua complessità aumenta con il tempo. Ma resta il fatto che porsi domande del genere costituisce un grande stimolo culturale, perché ci spinge a riflettere sul mondo in cui viviamo, e in cui probabilmente vivremo.
E questa è davvero una Regola per Sopravvivere.

Tornerò presto sulla Singolarità, questa volta non per divulgare od esprimere, ma per criticare. Uno dei motivi per cui non ho praticamente citato il testo di riferimento al riguardo, The Singularity is Near di Ray kurzweil, è perché voglio sottoporlo ad una critica serrata che non poteva avere posto in questo articolo.

L’ultima riflessione che mi pare interessante fare è che il fattore più importante nella creazione di intelligenze artificiali o meno, nel futuro della specie umana, nella sua realizzazione divina, sta nella capacità di estrapolare le conseguenze, ma soprattutto nella volontà di riflettere sui meccanismi e sulle ragioni, nella volontà di trovare un senso ed una soluzione, con tipi di intelligenze anche differenti da quella logico-matematica.

Insomma, il fattore umano.

Annunci