Presso il Ristorante O’ Sole Mio di Ischia si è tenuto un “caminetto rotariano” centrato su un tema di strettissima attualità: l’intelligenza artificiale. Il presidente Vincenzo Molino ha ospitato il prof. Paolo Casati, milanese di nascita, domano di adozione e Ischitano per passione. 56 anni sposato e con una figlia, da più di 20 è in Poste Italiane e negli ultimi 10 anni si è occupato di ricerca sull’applicazione dell’intelligenza artificiale e sulla valutazione degli impatti della stessa sui sistemi di controllo.
Riflessioni di Paolo Casati
I processi di controllo che voglio richiamare non sono quei processi svolti da organi dello stato come il controllo di polizia, il controllo del rispetto delle norme civili, o quello di funzioni di un’azienda come il controllo di qualità o il controllo contabile, ma quei processi di controllo che ne sono alla base e che sono legati in modo indissolubile alla nostra quotidianità. I processi di controllo a cui mi riferisco sono semplici sequenze di azioni che consistono nell’osservare una situazione, confrontarla con uno stato atteso o desiderato e intraprendere un’azione correttiva ogni qual volta si rilevi uno scostamento tra il primo e il secondo. Se ci si ferma a riflettere su questo genere di processi di retroazione, ci si rende facilmente conto che essi sono ovunque intorno a noi: sono quello che facciamo quando guidiamo un automobile per andare al supermercato sterzando per rimanere in carreggiata e frenando per evitare un bambino che attraversa all’improvviso la strada per rincorrere una palla, ma anche quello che facciamo controllando che il gas con cui abbiamo scaldato il latte per colazione sia spento o, ancora, quando diciamo ai nostri figli che stanno guardando troppa televisione invece di studiare.
Questi processi che agiamo in continuazione sono per lo più inconsapevoli, e quando dico inconsapevoli non mi riferisco a quei processi automatici come il sistema simpatico che interviene nel controllo delle funzioni corporee involontarie mantenendo l’equilibrio del nostro organismo, ma a quei processi che coinvolgono il cervello e che possiamo governare. Dico “possiamo” perché, in realtà, nella stragrande maggioranza dei casi il nostro autocontrollo, ovvero il controllo dei nostri processi di controllo, è estremamente limitato.
Il motivo di questa limitazione può essere trovato nelle conclusioni a cui sono giunti due psicologi israeliani, Daniel Kahneman, premio Nobel per l’economia nel 2002 che, insieme ad Amos Tversky, ha gettato le basi per la cosiddetta “economia comportamentale”, dimostrando che le decisioni umane sono spesso guidate da fattori emotivi e cognitivi, piuttosto che da una razionalità puramente economica. In termini molto pratici, Kahneman ha descritto due diversi modi di pensare che ognuno di noi adotta: uno, il più lento, logico e conscio, richiede concentrazione e sforzo, ma è essenziale per risolvere problemi complessi e prendere decisioni accurate; l’altro, più veloce, è automatico, emozionale e inconscio, e restituisce risposte rapide e intuitive, ma può portare a conclusioni errate quando è influenzato da meccanismi associativi o da bias cognitivi, ovvero distorsioni definite dal contesto delle singole persone, esperienze, preconcetti, emozioni…
Quando utilizziamo il pensiero veloce, per intenderci, facciamo delle approssimazioni o, per usare un termine di un altro psicologo comportamentale e Premio Nobel Herbert Simon, delle “euristiche”, ovvero scorciatoie mentali che ci consentono di risolvere problemi ed esprimere giudizi in modo rapido ed efficiente. Queste strategie “a spanne” accorciano il tempo dei processi decisionali e di controllo e consentono alle persone di funzionare senza fermarsi costantemente a pensare alla loro prossima linea d’azione. Ci rendiamo, quindi, conto che, nonostante siamo esseri intelligenti, non siamo sempre razionali e questo rappresenta la risposta evolutiva al problema fondamentale dell’enorme dispendio di energie necessarie al pensiero razionale che risulta limitato dalla quantità di tempo a disposizione e dalla quantità di informazioni che si riescono a elaborare; ragionare per approssimazione risulta, pertanto, la soluzione più efficiente e che, tutto sommato, nella maggior parte dei casi funziona.
Per introdurre il tema dell’Intelligenza Artificiale, si pensi che studi recenti stimano che, sotto il profilo dell’efficienza, il nostro cervello, che ci consente di fare tutto ciò che facciamo, consumi circa 130 Watt al giorno, vale a dire il consumo di una lampadina di media potenza, mentre i computer, che oggi riescono a emulare la sua capacità di calcolo che si stima di circa 10 petaflop di operazioni al secondo, richiedono lo sforzo congiunto di migliaia di elaboratori, ciascuno dei quali necessita di molta più energia della nostra misera lampadina. Ora, in questo scenario efficiente, ma fallace e facilmente condizionato da bias in cui si muovono i nostri processi di controllo, dove la nostra capacità di autocontrollo, così dispendiosa, interviene solo saltuariamente, come si sviluppa la relazione con le tecnologie di Intelligenza Artificiale che promettono capacità di pensiero simili a quelle dell’uomo?
Efficienti, efficaci e seduttive, le tecnologie basate sull’IA entrano nelle nostre case attraverso i dispositivi che fanno parte della quotidianità, cellulari, assistenti vocali, addirittura elettrodomestici tradizionalmente considerati “stupidi”, come una lavatrice che sceglie il miglior programma di lavaggio al posto nostro, o frigoriferi che, oggi, si preoccupano di acquistare i cibi al posto nostro garantendo la disponibilità delle scorte alimentari.
La nostra percezione è che il ricorso a queste tecnologie ci semplifichi la vita, estendendo le nostre stesse capacità, soprattutto dal momento in cui, oggi, è possibile ottenere azioni, o risposte, senza nessuna competenza tecnica e rivolgendoci alla macchina con il linguaggio naturale, quasi stessimo intrattenendo un discorso con noi stessi. Diversamente da quanto accadeva in precedenza, quando, per ottenere qualcosa da un esperto con più conoscenze di noi, ci si rivolgeva allo stesso con l’umiltà di chi sa di non sapere, il dubbio sulla bontà delle risposte ottenute e la consapevolezza della cautela necessaria nel fare propri gli indirizzi ricevuti. Un po’ come Renzo Tramaglino ne “I Promessi Sposi” quando si rivolge all’”Azzeccagarbugli” per essere tutelato dalla legge.
Anche le tecnologie migliori, infatti, sbagliano, se si considera che, nella migliore delle ipotesi, gli algoritmi utilizzati forniscono esiti sulla base della minore probabilità di errore, come nel caso, ormai comune, di una e-mail importante cancellata dai sistemi come potenzialmente dannosa; inoltre, noi ne facciamo un utilizzo che può gradualmente, ma inesorabilmente, cambiarci, portandoci ad abitudini lontane da noi stessi, come nella situazione in cui ci affidiamo alle scelte di un’assistente vocale per l’ascolto della musica.
Oggi, per i rischi che queste tecnologie implicano e, soprattutto, per il fatto che esse sono nelle mani di poche grandi organizzazioni, i governi di tutti i paesi sviluppati si preoccupano di tutelare i diritti dei propri cittadini rispetto all’uso distorsivo e distorto che chi sviluppa può mettere in atto. La recente normativa europea si focalizza maggiormente sulla tutela dei diritti individuali, quali la privacy e l’utilizzo dell’Intelligenza Artificiale per il bene e non, invece, per il male, sociale; la normativa statunitense, al contrario, da sempre più concentrata sugli aspetti economici, tende, in particolare, a tutelare il diritto d’autore e dell’ingegno.
Attenzione, però, al fatto che nessuna normativa, né le ancora giovani regole di recente definizione e introduzione, né quelle che si svilupperanno in futuro, saranno in grado di evitare i rischi legati ad un uso individuale inconsapevole ed improprio della tecnologia: in sostanza, dovremo estendere i nostri processi di controllo razionali a quella parte di intelligenza che delegheremo all’uso delle macchine e, al tempo stesso, superare i nostri automatismi indotti dalla semplicità e comodità che le tecnologie offrono, procedendo razionalmente con processi lenti e ponderati. Non sempre il nostro navigatore indica la strada più veloce e solo noi possiamo sapere quanta fretta abbiamo di arrivare all’ospedale…
