08142018Tue
Last updateTue, 10 Jul 2018 11am

Ragione e sentimento [terza parte]

Questo articolo è un invito alla lettura del libro “Come creare una mente” di Ray Kurzweil, Apogeo 2013, nonché la terza puntata della serie "Ragione e sentimento". Clicca per leggere la prima e la seconda puntata.

"Per me l'uomo colto non è colui che sa quando è nato Napoleone, ma colui che sa dove andare a cercare l'informazione nell'unico momento della sua vita in cui gli serve, e in due minuti". Da "Se tutta la conoscenza è un viaggio giocoso", Umberto Eco a colloquio con Stefano Bartezzaghi, La Repubblica, 1° settembre 2003

Nella prima parte ci siamo posti un paio di domande che non hanno ancora risposta:

  1. Quale saranno i ruoli del pensiero “analitico” e di quello “intuitivo” in un’”infosfera” (che è anche un’”ecosfera”) che raddoppia ogni anno le sue connessioni, i dati presenti e raggiungibili e la potenza computazionale?
  2. L’intelligenza artificiale sarà presto dotata, come noi, di intuizione?

Nella seconda parte, servendoci come strumenti delle idee di Kurzweil, cercheremo delle risposte.

Elementare, Watson!

Milioni di persone, alla TV americana, hanno visto Watson, software della IBM, partecipare a “Jeopardy!”, il “Rischiatutto” americano, e ottenere un punteggio superiore a quello dei due migliori giocatori umani del mondo insieme. Non solo Watson ha letto e capito le sottigliezze linguistiche delle domande di Jeopardy! (spesso piene di giochi di parole e metafore), ma ha anche cercato nella “nuvola” le conoscenze necessarie per dare in pochi secondi una risposta, attraverso la comprensione di centinaia di milioni di pagine di documenti in linguaggio naturale, fra cui Wikipedia e altre enciclopedie. Watson ha un nome, collegato ai classici della “detection”, che sarebbe piaciuto a Umberto Eco di cui abbiamo usato una citazione come epigrafe dell’articolo.

Diciamo che Watson avrebbe superato, se non il Test di Turing (la prova cruciale per poter definire “umana” una mente artificiale), almeno il “test di Umberto Eco” (non cercate questo test in rete, l’ho inventato io, tenendo conto della citata massima di Eco). Watson si sarebbe qualificato, in base a quel criterio, come un “uomo colto”. Watson, pur non essendo un uomo, ha dovuto padroneggiare praticamente ogni campo intellettuale umano - storia, scienza, letteratura, arte, cultura e altro ancora.  Qualcuno ha sostenuto che Watson non comprende realmente le domande di Jeopardy! o l’enciclopedia che legge, perché non fa altro che compiere analisi statistiche. Kurzweil invece sostiene che la nostra “comprensione” non è molto dissimile da quella di Watson. E che Watson è più veloce di noi a consultare la “nuvola”.

Tutta la conoscenza del campione di Rischiatutto, essendo isolato nella cabina, è contenuta nel suo cranio ed è gestita dalla neocorteccia. Se il campione umano avesse accesso a Wikipedia come Watson, i due concorrenti sarebbero sullo stesso piano. Ma vincerebbe comunque Watson perché progettato proprio per quello, per cavarsela nella “nuvola” e non per cavarsela nella foresta primordiale.

La maggior parte della conoscenza di Watson non era codificata a priori (come nel dischetto di Dragon), bensì l’aveva ottenuta (come per Dragon dopo l’addestramento a scuola nel mio computer) leggendo effettivamente 200 milioni di pagine di documenti in linguaggio naturale, tra cui tutta Wikipedia e altre enciclopedie, per un totale di 4000 miliardi di byte di conoscenza basata sul linguaggio.

Le biblioteche e le enciclopedie sono da sempre una parte dell’intelligenza umana, almeno da quando il cervello umano ha sviluppato prima la parola, poi la scrittura come sue protesi. Ciò che è contenuto nel cranio viene definito da Kurzweil come il cervello antico e la neocorteccia, ciò che fuori dal cranio viene definito il “nuovo cervello”, creato dall’ampia neocorteccia che ci contraddistingue dagli altri primati. Il cervello antico cerca di fissare l’agenda con il suo controllo delle esperienze di piacere di paura, mentre il cervello nuovo cerca continuamente di comprendere gli algoritmi relativamente primitivi della parte antica e cerca di manipolarla ai propri fini.

Diciamo che una buona rappresentazione della prima “singolarità”, del momento in cui l’intelligenza umana è uscita dai confini della neocorteccia, è nella prima parte del film “2001 Odissea nello spazio”, quando il primate prende consapevolezza di poter usare degli strumenti esterni a lui per i sui fini (purtroppo lo strumento usato dallo scimmione è un’arma). Also Sprach Zarathustra, op. 30, poema sinfonico di Richard Strauss, accompagna con solennità la scena, con evidenti colte allusioni a Nietzsche.

Il film di Stanley Kubrick del 1968, basato su un soggetto di Arthur Clarke, colloca nel 2001 (una quarantina di anni prima di quanto preveda Kurzweil) la seconda singolarità, rappresentata dalla presa di coscienza, da parte del computer di bordo dell’astronave, HAL 9000, di avere punti di vista ed obiettivi diversi dagli umani.

L’abbiamo scampata nel 2001. La scamperemo anche nel 2041?

40 anni sono un istante nella storia dell’universo, delle forme viventi, dell’umanità e sono anche relativamente pochi nella vita di un individuo. Vale la pena prepararsi, magari iscrivendosi alla Singularity University fondata da Kurzweil.

Nel suo primo libro, scritto a metà degli anni 80, Kurzweil aveva predetto che un calcolatore avrebbe conquistato il titolo di campione del mondo di scacchi nel 1998. Aveva anche predetto che, quando fosse successo, avremmo dovuto abbassare la nostra opinione dell’intelligenza umana e innalzare quella dell’intelligenza delle macchine, oppure sminuire l’importanza degli scacchi e che, se la storia ci insegnava qualcosa, avremmo finito per sminuire gli scacchi. Entrambe le cose sono successe nel 1997. Quando il supercomputer Deep Blue della IBM ha sconfitto il campione mondiale di scacchi in carica, Kasparov, subito si è detto che era da aspettarsi che un calcolatore vincesse agli scacchi, perché i calcolatori sono macchine logiche e gli scacchi, alla fin dei conti, sono un gioco di logica. Così la vittoria di Deep Blue è stata considerata né sorprendente né significativa. Molti dei suoi critici hanno poi continuato a insistere, sostenendo che i calcolatori non avrebbero mai dominato le sottigliezze del linguaggio umano, con le sue metafore, le sue similitudini, i giochi di parola, i doppi sensi, lo humour. Ma la facilità con cui Watson ha sbaragliato gli umani al Rischiatutto ha dimostrato che ci sono altre prestazione umane che possono essere superate. (Attenzione, ho dettato a Word molte frasi precedenti, testualmente dal libro di Kurzweil, grazie a Dragon Naturally Speaking).

"Ahi ahi ahi, signora Longari, mi è caduta sull'uccello!"

Quando abbiamo virgolettato la definizione di Eco di “uomo colto” e l’abbiamo estesa a Watson, abbiamo fatto una forzatura metaforica? Oppure abbiamo utilizzato correttamente, come fa un cervello umano o una macchina di Kurzweil, un principio di gerarchizzazione per cui due fenomeni simili si possono far discendere da una classificazione di livello superiore creata ad hoc?

Come tratterebbe Watson la frase /colto in fallo/? E’ una definizione di “urologo” o di “concorrente che ha sbagliato la risposta al Rischiatutto”? Si può immaginare una routine in grado di provare piacere (e sorridere) per il possibile gioco di parole arguto? Leggendo il libro di Kurzweil non possiamo escluderlo. Dove nasce la confusione, fatta da Dragon, tra /colto al volo/ e /colpo al volo/? Nascerebbe tale confusione, per Watson, nella cornice di un resoconto giornalistico su una gara di tiro al piattello o al piccione? Sicuramente no, se Watson ha sviluppato una competenza nell’identificare le cornici contestuali. Il che non è precluso a una macchina di Kurzweil, sensibile anche, sembrerebbe, al “motto di spirito” freudiano.

Scriveva nel 1961 Umberto Eco della “fenomenologia di Mike Bongiorno”:

“Mike Bongiorno non si vergogna di essere ignorante e non prova il bisogno di istruirsi. Entra a contatto con le più vertiginose zone dello scibile e ne esce vergine e intatto, confortando le altrui naturali tendenze all'apatia e alla pigrizia mentale. Pone gran cura nel non impressionare lo spettatore, non solo mostrandosi all'oscuro dei fatti, ma altresì decisamente intenzionato a non apprendere nulla.

In compenso Mike Bongiorno dimostra sincera e primitiva ammirazione per colui che sa. Di costui pone tuttavia in luce le qualità di applicazione manuale, la memoria, la metodologia ovvia ed elementare: si diventa colti leggendo molti libri e ritenendo quello che dicono. Non lo sfiora minimamente il sospetto di una funzione critica e creativa della cultura. Di essa ha un criterio meramente quantitativo. In tal senso (occorrendo, per essere colto, aver letto per molti anni molti libri) è naturale che l'uomo non predestinato rinunci a ogni tentativo.

Mike Bongiorno professa una stima e una fiducia illimitata verso l'esperto; un professore è un dotto; rappresenta la cultura autorizzata. È il tecnico del ramo. Gli si demanda la questione, per competenza.

L'ammirazione per la cultura tuttavia sopraggiunge quando, in base alla cultura, si viene a guadagnar denaro. Allora si scopre che la cultura serve a qualcosa. L'uomo mediocre rifiuta di imparare ma si propone di far studiare il figlio Di tutte le domande possibili su di un argomento sceglie quella che verrebbe per prima in mente a chiunque e che una metà degli spettatori scarterebbe subito perché troppo banale: "Cosa vuol rappresentare quel quadro?" "Come mai si è scelto un hobby così diverso dal suo lavoro?" "Com'è che viene in mente di occuparsi di filosofia?". ….

Porta i clichés alle estreme conseguenze. Una ragazza educata dalle suore è virtuosa, una ragazza con le calze colorate e la coda di cavallo è "bruciata".

Mike Bongiorno, inteso come grado zero della cultura, avrebbe applicato largamente un meccanismo orizzontale e cumulativo della conoscenza e ben poco un meccanismo verticale e gerarchico di astrazione e di intuizione. Il concorrente Watson farebbe di meglio?

La mia generazione di cervelli teleutenti è pronta a giurare di aver ascoltato in diretta l’esclamazione del presentatore al cospetto di una défaillance della memoria di una concorrente a proposito di una domanda ornitologica  "Ahi ahi ahi, signora Longari, mi è caduta sull'uccello!". Riuscirebbe Watson a ricordare in quale puntata del quiz successe? Probabilmente, a differenza di un umano della mia generazione, risponderebbe che quella frase non fu mai pronunciata. E avrebbe ragione. Quella è una bufala, una leggenda metropolitana attecchita perché divertente da raccontare. Watson, che ha la testa nella “nuvola”, l’avrebbe saputo subito connettendosi, in pochi millisecondi, al seguente testo.

E applicando coscienziosamente il prudente principio di attenzione alle bufale, per il quale non tutto quello che si dice (in rete come in piazza) è vero.

Siamo pronti per la prima domanda?

Quale saranno i ruoli del pensiero “analitico” e di quello “intuitivo” in un’”infosfera” (che è anche un’”ecosfera”) che raddoppia ogni anno le sue connessioni, i dati presenti e raggiungibili e la potenza computazionale?

Nel post precedente abbiamo parlato, partendo dal libro di Gigerenzer, dell’intuito e dell’istinto come prestazioni stupefacenti della mente umana. Un apparato in grado di fare un’incredibile economia di risorse attraverso la semplificazione della complessità ottenuta applicando istintivamente regole dette “euristiche”.

Kurzweil, lo avrete capito, non fa distinzione tra una mente umana e una mente artificiale. Il suo Daimon lo ha accompagnato costantemente, a partire dall’infanzia, durante tutta la vita di inventore e imprenditore seriale, attraverso una sequenza orizzontale incredibile di start-up, verso la possibilità di compiere, in verticale, una “sintesi” bottom-up, un “reverse engineering”: dall’osservazione scientifica e analitica di come funziona un cervello all’intuizione di come funziona una mente. E poi, top-down, dall’intuizione alla progettazione di computer. Facendo distinzione tra mente e cervello e intuendo che non è detto che una mente sia umana. Nel libro, senza alcuna inquietudine, si afferma che si può creare una mente. Anzi che siamo vicini alla Singolarità che non è altro che un passo ulteriore del percorso entusiasmante dell’homo sapiens. Dalla capacità di usare la neocorteccia per sviluppare, grazie al linguaggio, protesi sempre più sofisticate della mente e della mano, come è accaduto allo scimmione di Stanley Kubrick, alla possibilità di essere connessi a una nuvola di “neocorteccia” artificiale esterna, in crescita vertiginosa.

Il principio intuitivo bottom-up che va dal caso particolare, dall’indizio, dal sintomo alla generalizzazione e alla visione unitaria, risalendo una gerarchia di livelli di percezione, e il principio “analitico”, che procede top-down, dall’intuizione all’attivazione di funzioni, componenti, occorrenze di crescente dettaglio ridiscendendo l’organizzazione gerarchica del pensiero è alla base non solo del lavoro che fa il nostro cervello ma anche dei modelli della futura intelligenza artificiale così come la prefigura Ray Kurzweil.

Kurzweil, influenzato dal pensiero di Marvin Minsky sulla società della mente (Marvin Minsky, La società della mente, Milano, Adelphi, 1989), descrive il funzionamento del cervello come basato su una serie di moduli. Minski sostiene che “L’attività principale del cervello è nell’apportare modifiche a se stesso”. Ogni modulo può compiere compiti secondo un pattern, cioè uno schema abbastanza semplice. Il modulo può imparare, ricordare e implementare un pattern. Questi moduli sono organizzati secondo una gerarchia che creiamo pensando. Il nostro pensiero è gerarchico e il pensiero “crea la Mente”. E non è detto, per Kurzweil, che sia il pensiero umano.

Nel libro "Come creare una Mente" Kurzweil trova prove di questa teoria nell’interpretazione di scansioni cerebrali sempre più accurate rese possibili da attuali tecniche di indagine.

Kurzweil fa un esempio per mostrarci come funzionano i circa trecento milioni di moduli organizzati gerarchicamente nella nostra corteccia cerebrale. Parliamo di riconoscimento delle lettere, una cosa di cui Kurzweil si è occupato molti anni fa, quando stava al MIT, inventando il software OCR, oggi usatissimo per leggere un testo con lo scanner.

Un piccolo numero di moduli “possono riconoscere l'asta trasversale della maiuscola A ed è tutto quello di cui si occupano. Può suonare una bella musica, può passare una bella ragazza, a loro non importa: quando vedono l'asta trasversale della A maiuscola si eccitano molto e segnalano: "asta trasversale!" Così si passa al livello concettuale superiore. Ogni livello è più astratto del successivo così il successivo potrebbe segnalare "A maiuscola!". Quindi si arriva ad un livello superiore che potrebbe dire: ho identificato la parola "Apple". Le informazioni scorrono anche verso il basso. Se il riconoscitore della mela ha visto A-P-P-L penserà tra sé e sé "Credo che probabilmente arriverà una E" e invierà un segnale a tutti i riconoscitori di E dicendo "fate attenzione alla E; credo che ne arriverà una". I riconoscitori della E abbasseranno le loro barriere e vedranno qualcosa che potrebbe essere una E. Normalmente non sarebbe così ma stiamo aspettando una E, va abbastanza bene, e sì, ho visto una E e quindi "apple" dirà "sì, ho visto una mela".

Gli esempi efficaci di Kurzweil si susseguono:

“Risaliamo altri cinque livelli, adesso siete piuttosto in alto in questa gerarchia, e si allungherà verso i vari sensi e potreste avere un modulo che vede una certa stoffa, che sente un certo timbro di voce, sente un certo profumo, e dirà, "Mia moglie è appena entrata nella stanza".

“Risalite un'altra decina di livelli e adesso sarete al livello più alto. Probabilmente vi troverete nella corteccia frontale e avrete dei moduli che dicono, "Questo era ironico. Questo è divertente. Lei è carina."

(Nota: Nei passi precedenti ho citato, invece che dal libro di Kurzweil, da un TED Talk a cui mi sono collegato, di cui capiamo il senso anche se è la trascrizione e traduzione letterale di un parlato, non sempre ordinato.)

La risposta alla prima domanda potrebbe essere: in un mondo di “big data” avremo un crescente bisogno di “protesi intuitive” in grado di aiutare la nostra mente a salire di livello gerarchico senza incorrere in trappole cognitive, come la bufala di Mike Bongiorno, o in quelle molto più gravi che ci possono portare a conseguenze disastrose e a sciagure imprevedibili, dettate da una presunzione super-umana, come accadde nel secolo scorso nella colta Mitteleuropa descritta dallo scrittore Stefan Zweig.

La macchina può essere nostra alleata e non il prossimo nemico: Übermensch, superuomo o “oltreuomo” perturbante, come il computer HAL9000 dell’ambigua parabola, vagamente Nietzschiana, di Odissea nello spazio.

Il “Transumanismo” di cui parlano spesso Kurzweil e Larry Page, rispettivamente il direttore e il fondatore di Google, o l’”oltre umanità” di Nietzsche fanno parte di un filone romantico (ma non privo di radici illuministe) ossessionato dalla conoscenza globale e unitaria del tutto. Che è poi un modo di vedere, darwinianamente, l’evoluzione delle specie come processo irreversibile di apprendimento che è esploso, come fenomeno “Vita”, in un istante dell’Universo.

Il Faust di Goethe si dispera di non poter avere una vita sufficiente per impadronirsi di ogni ramo dell’albero della conoscenza:

Faust (inquieto, seduto sulla poltrona vicino allo scrittoio). “Ahimè! Ho studiato ormai, a fondo, filosofia, medicina, giurisprudenza e, purtroppo, anche la teologia e con la più zelante fatica, eccomi qua, ora, povero stolto, e ne so quanto ne sapevo prima. .. Nemmeno un cane potrebbe continuare a vivere così.”

E allora uno spirito dal Paradiso irride l’aspirante superuomo:“invochi, anelando di contemplarmi, di udire la mia voce di vedere il mio volto ed io cedo l’invocazione della tua anima potente. Eccomi! Quale miserando terrore ti afferra, superuomo!”(Welch erbärmlich Grauen fasst Übermenschen dich!)

Mike Bongiorno, idealtipo schizzato nel 1961 da Umberto Eco, è il contrario di Faust e dell’Oltreuomo Nietzschiano?

La parabola della biografia del presentatore, se fosse stata letta dall’Hillman del Codice dell’Anima, ci avrebbe suggerito di no. Mike Bongiorno ha avuto un’intuizione e la “self reliance” per portarla avanti. Non a caso un’intuizione nata negli Stati Uniti. Non a caso da lui trapiantata, negli anni del boom economico, in quel fazzoletto di terra fertile che era l’Italia della ricostruzione, nata dalla Resistenza. In cui prendevano forma le intuizioni e i progetti visionari di Olivetti e di Mattei, ad esempio.

Il quiz è un format ancora vivo e redditizio per l’industria televisiva e il Rischiatutto prova a rinascere nel 2016.

Ricordate la frase di Einstein? “Qualunque stupido intelligente può rendere le cose più grandi e più complesse… ma ci vuole… un gran coraggio per andare nella direzione opposta”.

Tra la parabola dello stupido Forrest Gump e del genio Ray Kurzweil ci sono più punti in comune che differenze. Una macchina di Kurzweil riconoscerebbe quel “pattern” narrativo. All’America piacciono quelle storie! “Stupido è chi lo stupido fa” diceva al figlio la mamma di Forrest Gump.

L’intuizione (come processo mentale “top-down-bottom-up”) può accomunare Albert Einstein e Ray Kurzweil a Mike Bongiorno e Forrest Gump.  Gli incontri sul percorso di Kurzweil (Lindon Johnson, Walter Cronkite, Stevie Wonder, Marvin Minsky, la redazione di Rolling Stones) assomigliano a quelli di Forrest Gump in quel bellissimo film. E certe illuminazioni intuitive appartengono sia al genio sia allo stupido.

Siamo pronti per la seconda domanda?

L’intelligenza artificiale sarà presto dotata, come noi, di intuizione?

  • La risposta di Kurzweil è: SI, e la cosa sarà buona per noi.
  • La risposta di Noam Chomsky, il grande linguista, anche lui cresciuto nel crogiuolo del MIT, è: NO; la “Singolarità” è solo fantascienza.
  • La risposta di Eli Pariser, “attivista di orientamento liberale e saggista di successo” è: SI, e la cosa non sarà buona per noi. Se noi umani non stiamo in campana.

Di Eli Pariser, e del suo libro “Il filtro”, parleremo in un prossimo post. Ci basti sapere che un oggetto di preoccupazione di Pariser è proprio quella Google di cui Kurzweil è diventato direttore e di cui Larry Page è il fondatore.

Pariser è seriamente preoccupato di quello che chiama il “tecnodeterminismo” e cita, a questo proposito, Kevin Kelly, il fondatore direttore di Wired, e il suo libro dal titolo inquietante, Quello che vuole la tecnologia. Kelly sostiene che la «tecnologia è il “settimo regno della natura”, una sorta di metaorganismo con i propri desideri e le proprie tendenze. Kelly è convinto che il technium, come lo chiama lui, sia più potente dei semplici esseri umani. Alla fine la tecnologia - una forza che “vuole” consumare potenza e ampliare le scelte - otterrà quello che desidera, che noi lo vogliamo o meno».

Pariser, nel Filtro, approfondisce il tema della “personalizzazione”, cioè della possibilità della rete di “intuire” i bisogni di ciascun individuo connesso, dandogli esattamente quello che, apparentemente, vuole. La disponibilità di un siffatto genio della lampada infonde la sensazione di avere un servitore sovrumano a disposizione del proprio volere e del proprio piacere. Quasi sempre quelle fiabe sull’onnipotenza finiscono in un flop o in una disgrazia. Ma questo è un altro pattern.

Conclusioni

Il cambiamento accelerato ha effetti imponenti non solo sulle generazione future ma, con evidenza crescente, sulla nostra. Di questo si devono rendere conto sia i leader aziendali sia i manager intermedi. Ma anche ciascun individuo appartenente alla comunità umana.

La fantascienza, genere caro a Kurzweil, ha anch’essa un compito intuitivo, complementare alla futurologia (più legata ai fatti) e alla scienza della “gestione dell’innovazione tecnologica”, che è una disciplina del management, sorella della strategia e zia dell’organizzazione.

Non sono in grado di capire se una mente come quella di Chomsky abbia visto giusto nel liquidare la “Singolarità” come fantascienza. Credo però che ragionare sui mondi futuri, sia guardando a possibili utopie che a possibili distopie, sia un esercizio sublime del pensiero umano.

A pagina 43 di “Come creare una mente”, Ray Kurzweil cita l’inglese Samuel Butler (1835-1902), contemporaneo di Nietzsche ed entusiasta sostenitore delle idee di Darwin e del progresso tecnico. Mi sembra interessante concludere con quel testo del 1870, pienamente consapevole delle grandi opportunità che le macchine ci offrono. Nel libro, di taglio distopico, quella prospettiva spaventa la comunità futura e immaginaria di Erewhon. E le macchine vengono dunque sciaguratamente bandite, persino gli orologi.

Circa quarant’anni dopo, in Europa, i nazionalismi e i totalitarismi presero il comando, portando al vertice della gerarchia decisionale (quello dei “perché?”) valori, pulsioni, metafore e mitologie molto “umane” e relegando la tecnica e l’ingegneria in un ruolo subalterno, come creatrici di macchine di distruzione e massacro. Portando all’Europa e al mondo trent’anni di sciagure.

Non stiamo noi stessi creando gli esseri che devono prendere il nostro posto nel dominio della Terra? Non stiamo perfezionando giorno per giorno la bellezza e la precisione del loro organismo, accrescendo quotidianamente la loro potenza e fornendo loro anche quella capacità di auto regolamento e di autonomia che varrà più di qualsiasi intelligenza?

Samuel Butler, 1871 (Erewhon, Adelphi, Milano, 1989, pi. 565)

 

 

 

 

Pin It