Un’intervista a Nello Cristianini
All’inizio del 2023 Nello Cristianini, professore di Intelligenza Artificiale all’Università di Bath, ha pubblicato “La scorciatoia”, un volume che già nella scelta del titolo offre una prospettiva inedita e originale sulle macchine intelligenti e su molte delle questioni che oggi emergono dalla nostra convivenza con loro. In questo numero presentiamo un’intervista all’autore a cura del direttore di Mondo Digitale.
Viola Schiaffonati: Partiamo dalla definizione di intelligenza che proponi e usi nel tuo libro: che cos’è l’intelligenza e cosa significa essere intelligenti?
Nello Cristianini: L’intelligenza esiste su questo pianeta da molto prima degli esseri umani, e quindi non è una abilità esclusiva degli esseri umani. Lo dico per evitare la confusione che si genera spesso quando si comincia a parlare di coscienza, emozioni, cultura, e così via. Pensiamo invece alla gallina che deve attraversare la strada, magari per scappare dalla volpe. L’intelligenza è l’abilità di perseguire uno scopo in situazioni nuove, per cui non esiste una soluzione prestabilita, e comportarsi comunque in un modo sensato. Lo psicologo Jean Piaget la definiva “saper cosa fare quando non si sa cosa fare”. Questa definizione può essere usata come punto di partenza, e chiaramente si applica anche alle macchine: quando TikTok o YouTube incontrano un nuovo utente, dopo una breve interazione, imparano come fare per raggiungere il proprio scopo, per esempio di far cliccare l’utente.
Viola Schiaffonati: Il tuo libro ha un titolo particolare e forse non immediatamente comprensibile: “La scorciatoia”. Perché questo titolo? Quali sono le scorciatoie di cui parli nel libro e qual è la scorciatoia definitiva?
Nello Cristianini: Per creare macchine intelligenti noi abbiamo inizialmente provato a riprodurre quello che vedevamo come il nostro punto di forza: il ragionamento logico, simbolico e formale. Per esempio quello che i matematici usano per dimostrare i teoremi. L’idea è di avere una comprensione teorica del fenomeno che la macchina deve riprodurre, per esempio nel caso del linguaggio possiamo tentare di far ragionare la macchina esplicitamente secondo le regole della grammatica. Questo metodo è stato provato per decenni, producendo idee interessanti come quella dei Sistemi Esperti, ma nessuno di quei sistemi è alla base dell’Intelligenza Artificiale (IA) moderna, per esempio non si trova nei nostri telefoni. Alla fine abbiamo rinunciato a far ragionare le macchine in quel modo, e invece ci siamo accontentati di usare relazioni statistiche che consentissero di fare previsioni adeguate. Per esempio per raccomandare un libro a un cliente, o un video a un utente, non c’è bisogno di comprendere i contenuti del libro, o la personalità dell’utente: un po’ di statistica può fare un ottimo lavoro. Questa è stata la prima scorciatoia. Ma questo ha creato un altro problema: quello di trovare i dati da cui imparare le relazioni statistiche. Potremmo immaginare di reclutare legioni di insegnanti per addestrare le macchine, ma abbiamo preferito riciclare i dati che già esistono “in natura”, per esempio nel web. Questa è stata la seconda scorciatoia. E per poter comunicare all’algoritmo quello che vuole l’utente, invece di chiedere a questi di compilare dei moduli che descrivano – per esempio – il video ideale, abbiamo deciso di osservare tutte le loro scelte, e imparare da queste. Questa è stata la terza scorciatoia. Alla fine di questo processo, abbiamo avuto a disposizione tutti i pezzi necessari per create agenti come quello di YouTube o TikTok, che possono fare raccomandazioni molto accurate in situazioni nuove, imparando dall’esperienza. Ovvero: degli agenti intelligenti, creati seguendo la ricetta delle tre scorciatoie.
Viola Schiaffonati: Nel tuo libro sostieni che dobbiamo imparare a coesistere con i sistemi artificiali intelligenti, come per esempio un sistema di raccomandazione, così come abbiamo imparato a convivere con altri animali: ma qual è la differenza fra imparare a coesistere con un sistema di raccomandazione o con una lumaca come quella che menzioni all’inizio del tuo libro?
Nello Cristianini: Che si debba coesistere è chiaro, perché non possiamo più ritornare al mondo che conoscevamo prima di questa rivoluzione. Già adesso dipendiamo dall’infrastruttura digitale che dipende dall’IA. La questione è come pensare in modo costruttivo alla nostra relazione con le macchine intelligenti. Una possibilità è quella di riconoscerle come degli agenti “alieni”, con i loro obiettivi e il loro carattere, come le cavallette o le lumache che troviamo nel giardino. Insomma, identificarle come degli agenti separati da noi e dall’ambiente. In altre parole, dovremmo immaginare YouTube come un’entità che ha i suoi obiettivi, i suoi metodi e certe informazioni per perseguirli.
Viola Schiaffonati: In vari passaggi del libro parli di un nuovo approccio epistemologico (ossia relativo alla conoscenza) che ha a che fare con la possibilità di agire razionalmente in un dominio in cui non esiste nessuna teoria e le teorie sono sostituite dalle osservazioni: ci puoi spiegare meglio questo nuovo approccio? Si tratta davvero della fine della teoria, come qualcuno ha sostenuto?
Nello Cristianini: Storicamente abbiamo giustificato la nostra ricerca di spiegazioni e comprensioni del mondo mediante la sua utilità: con le giuste conoscenze possiamo predire e controllare il mondo. Ma che cosa succede quando abbiamo macchine che ci aiutano a predire e controllare il mondo, senza bisogno di alcuna comprensione? Quale è il ruolo della teoria, della conoscenza, in quel caso? È solo un bisogno estetico della nostra specie, o ha un valore intrinseco?
Viola Schiaffonati: Oggi esistono macchine che fanno cose che gli esseri umani non sono in grado di fare (come per esempio calcoli molto complessi) ma neppure capire. Nel contempo, sia dal punto di vista etico sia dal punto di vista legislativo, viene posta una grande enfasi sulla trasparenza. Ritieni sia possibile conciliare questi due aspetti? E nel caso come?
Nello Cristianini: Questo è un bel dilemma: comprendere o non comprendere quello che fanno le macchine? Da un lato vogliamo delegare loro proprio questa fatica, dall’altra vogliamo mantenere controllo, ispezionarle, per potercene fidare. Sarà interessante vedere che strada seguiremo, ma la più semplice sarà probabilmente quella dell’accettazione, che creerà anche dell’ansia e ridurrà la nostra autonomia. Insomma: sarà un bel dilemma.
Viola Schiaffonati: In che senso parli di intelligenza sovraumana ma non universale?
Nello Cristianini: È chiaro che l’intelligenza di alcune macchine è già ben superiore alla nostra, per esempio nel caso degli scacchi o del Go, ma anche in molti altri casi. Ma è sbagliato immaginare che esista un tipo di intelligenza “universale” verso cui ci stiamo muovendo. La nozione stessa di intelligenza “universale”, ovvero che funziona con tutti i problemi e in tutti gli ambienti, è impossibile.
Viola Schiaffonati: Che cos’è il metodo della stele di Rosetta?
Nello Cristianini: Come nella stele di Rosetta, un testo parallelo (greco e geroglifico) ci ha consentito di trovare la chiave per tradurre il geroglifico, così anche un dataset parallelo che combini informazioni facili da trovare con informazioni più difficili, può essere sfruttato allo stesso modo. Per esempio possiamo facilmente elencare le caratteristiche demografiche di tutta una città, ma solo per alcuni cittadini possiamo organizzare un sondaggio d’opinione. Questo sottoinsieme potrebbe formare una “stele di Rosetta”, così che un algoritmo possa poi imparare a indovinare anche le opinioni di cittadini che non sono stati sondati, solo in base a informazioni demografiche. Questa idea viene usata comunemente nel marketing.
Viola Schiaffonati: Nel libro sottolinei la necessità di regolare, ma non spegnere i cosiddetti sistemi autonomi e intelligenti: cosa intendi esattamente? E perché secondo te sarebbe da irresponsabili tornare indietro?
Nello Cristianini: Tornare indietro è simultaneamente impossibile e irresponsabile. Impossibile perché abbiamo già eliminato parte dell’infrastruttura precedente, e dipendiamo da questa, e anche perché i nostri concorrenti non hanno ragione di abbandonare questa tecnologia. Irresponsabile perché traiamo benefici enormi dall’IA e dal mondo digitale con cui è in simbiosi: dalle applicazioni mediche, a quelle nel campo dell’istruzione, alla possibilità di dare accesso gratuito a servizi come la traduzione e a informazioni di varia natura, queste tecnologie rappresentano una speranza per molte persone. Non possiamo e non dobbiamo tornare indietro, ma dobbiamo agire per regolamentare e controllare il tutto in modo responsabile. Licenze e ispezioni non sono un tabù.
Viola Schiaffonati: Come possiamo preservare la dignità umana in questo panorama estremamente complesso?
Nello Cristianini: Noi non traiamo il nostro valore dal fatto di essere più intelligenti, o più forti, o più veloci, di una macchina. Il valore dell’essere umano è intrinseco, innato, e non dovuto al suo ruolo nell’economia o alle sue prestazioni. Insomma: va chiarito che le macchine dovranno adeguarsi a noi, e non viceversa, ogni volta in cui si porrà un dilemma di questo tipo (e temo che questo avverrà molto spesso).
Viola Schiaffonati: Il libro si apre con una dedica a tutti i tuoi insegnanti. Puoi dirci qualcosa di più su alcuni di loro e sul ruolo che hanno avuto non solo nella tua formazione, ma nella tua ricerca?
Nello Cristianini: È difficile elencarli tutti, ma li ricordo tutti molto bene. Alcuni mi hanno fatto vedere come tutte le forme di conoscenza siano collegate, altri mi hanno incoraggiato a seguire i miei interessi e non le mode, altri a rischiare quando necessario. Uno mi ha insegnato che posso sempre eliminare parole inutili da un testo, e questo è un insegnamento molto importante. Dobbiamo tenere da conto i nostri insegnanti.
