Il problema, dicono gli esperti, è che non si sa per quale motivo il cervello artificiale prenda una decisione invece di un’altra. Non è un problema banale. Tre miliardi di persone, ogni giorno, utilizzano Google per decidere gli acquisti, per controllare le attività della politica e per il tempo libero. Se tutto questo ricadesse sotto le dinamiche “incomprensibili” dell’apprendimento automatico e dell’intelligenza artificiale, diventerebbe improvvisamente più realistica la visione da incubo di Hal 2000, il computer impazzito raccontato da Stanley Kubrick in “2001 Odissea nello spazio”.
“Google sta perdendo il controllo”. Si tratta della preoccupazione più gettonata al momento nelle riunioni dell’azienda che condiziona più di due terzi delle ricerche di tutto il mondo sul web. Questa preoccupazione ha un nome, “Rankbrain”. Si tratta del sistema avviato in fase sperimentale un anno fa da Google per utilizzare le reti neurali dell’intelligenza artificiale nei flussi delle ricerche compiute ogni giorno da circa tre miliardi di persone. Edmond Lau, che ha lavorato con il team di ricerca di Google ed è l’autore del libro “The Effective Engineer”, ha scritto recentemente in un blog di discussione specialistica che, con l’apprendimento automatico (machine learning, la caratteristica principale di “Rankbrain”), diventa “difficile da spiegare e verificare il motivo per cui un particolare risultato di ricerca abbia un range più alto di un altro risultato per una determinata query. Diventa difficile, inoltre, modificare direttamente una macchina basata sul sistema di apprendimento automatico per privilegiare l’importanza di certi segnali rispetto ad altri”. Sono molti i cosiddetti “ex-googler” che condividono questa analisi. Intanto ai vertici di Google, proprio in questi giorni, c’è stato un avvicendamento che acquista un valore simbolico. Amit Singhal, 46 anni, un veterano di Google, supervisore del motore di ricerca più potente del mondo, ha ceduto la poltrona a John Giannandrea, il manager che, fino a pochi giorni fa coordinava e dirigeva la ricerca sull’intelligenza artificiale. Si tratta di un momento di svolta importante per una vicenda iniziata solo un anno fa. All’inizio del 2015, come riportato dettagliatamente da un report di Bloomberg, fu proprio Singhal a dare l’approvazione perché si aprisse una frazione (non piccola, dicono gli esperti) dei flussi del motore di ricerca alle sperimentazioni delle reti neurali di “Rankbrain”. Dopo l’iniziale apertura, però, Singhal ha cominciato ad esprimere le proprie perplessità. Dice Edmund Lau che Singhal ha “un pregiudizio filosofico contro il machine learning”.
Ingegneria e filosofia hanno poco in comune, apparentemente, e la materia è molto complessa. Si può però provare a sintetizzarla in questo modo. Il motore di ricerca di Google funziona da anni grazie a migliaia di algoritmi scritti dai ricercatori interni. Questi algoritmi vengono continuamente aggiornati sulla base dell’analisi dei giganteschi flussi di dati che si riversano ogni secondo nei server di Google. Si tratta, nonostante le dimensioni, di un sistema che è interamente controllato dalla mente umana. Google ha avuto anche la necessità di spiegarlo all’Antitrust europeo. Era stato accusato di manipolare artificiosamente i dati e le risposte alle query per sfavorire i concorrenti. I tecnici di Google, dopo l’indagine dell’Antitrust europea, stanno lavorando alacremente per rimettere le cose a posto. “Rankbrain”, invece, funziona in un modo diverso.
I suoi risultati si basano sui calcoli eseguiti in pochi millisecondi dalle reti neurali profonde, reti di hardware e software che riproducono in un qualche modo la rete dei neuroni del cervello umano.
Analizzando in ogni momento enormi quantità di dati digitali, queste reti neurali possono imparare a identificare le foto, a riconoscere i comandi vocali in uno smartphone e, soprattutto, a essere più efficienti nelle risposte. Dicono gli esperti che possono imparare un compito così bene da superare gli esseri umani.
Possono fare tutto più velocemente e possono farlo in una scala molto più grande. Il problema però, dicono gli esperti, è che non si sa per quale motivo il cervello artificiale prenda una decisione invece di un’altra. Non è un problema banale. Su Google, ormai, si muovono i tre grandi driver della vita politica, economica e sociale del mondo intero. Tre miliardi di persone, ogni giorno, utilizzano Google per decidere gli acquisti, per controllare le attività della politica e per il tempo libero. Se tutto questo ricadesse sotto le dinamiche “incomprensibili” dell’apprendimento automatico e dell’intelligenza artificiale, diventerebbe improvvisamente più realistica la visione da incubo di Hal 2000, il computer impazzito raccontato da Stanley Kubrick in “2001 Odissea nello spazio”.
