Non faccIAmoci plasmare. Il nuovo saggio di Pamela Boldrin

L’intelligenza artificiale è una “macchina” potentissima che occorre conoscere bene, prestando grande attenzione alle sue possibilità, e quindi alla sua eticità, all’invadenza nella dimensione umana, indicando alcuni strumenti per gestirla, per impedire che sfugga al controllo. Lo spiega bene Pamela Boldrin, autrice del libro Connessi e plasmati. In (dis)equilibrio tra saggezza umana e intelligenza artificiale (Nodo Edizioni), un breve, prezioso saggio, utile per comprendere i tanti effetti che sta avendo oggi, e quelli ancor più rilevanti che potranno venire per la vita di ciascuno di noi.
Boldrin, il suo libro si intitola Connessi e plasmati. In quale modo l’IA ci sta plasmando?
«Tutte le esperienze che facciamo ci plasmano. Questo accade in continuazione perché il cervello è un organo plastico, strutturato per farci adattare continuamente all’ambiente. Adattamento che di solito include apprendimento. Tuttavia, l’IA è una forma di tecnologia estremamente perturbante e pervasiva, forse come nessun’altra. Quindi la domanda è: che cosa stiamo apprendendo in questa occasione di modellamento? Spesso l’obiettivo dell’IA è facilitarci alcuni compiti, operazioni che possiamo delegare, a nostro beneficio, ma molto spesso essa è utilizzata per orientarci verso modalità operative che non ambiscono a renderci più liberi, più autonomi o più saggi. Spesso il compito delle IA è quello di guidare i nostri acquisti o orientare le nostre idee. In entrambi i casi però, i beneficiari non siamo noi utenti, ma grosse corporazioni con altrettanto grandi interessi che ormai nessuno può ignorare, vista la portata globale di queste aziende e il loro coinvolgimento nell’economia e nella geopolitica».
Quali sono i pericoli principali con l’IA?
«In modo generico potremmo dire che il pericolo risiede nel fatto che l’IA può “bussare alle nostre porte” presentandosi con l’intento di migliorare le nostre vite, velocizzarci alcuni compiti, sollevarci da certe seccature. In effetti, può fare tutte queste cose, tutte legittime. Tuttavia, come diceva il filosofo Hans Jonas, non dobbiamo temere gli utilizzi più pericolosi della tecnologia, perché a quello penseranno le leggi, ma ai suoi utilizzi più legittimi, che sono la vera essenza del loro dominio. Dobbiamo fare da noi lo sforzo per non cadere nel rischio della dipendenza, della creduloneria (penso a fake news e deep fake), della pigrizia (perché deleghiamo troppo), della perdita di abilità (sempre perché deleghiamo troppo). Ma anche rischi come l’allontanamento dalle relazioni umane, l’isolamento, la depressione. Siamo una specie per la capacità di creare comunità molto allargate; per continuare a farlo occorre stare tra umani, frequentarsi e dialogare per costruire visioni condivise sul futuro».
Quali sono le strade per controllare lo sviluppo dell’IA e limitarne i danni?
«Una strada è quella legislativa, tuttavia le leggi non possono governare tutta la realtà perché minerebbero la libertà degli individui. Da questo punto di vista, in Europa siamo più tutelati che in qualunque altro continente, perché gli interessi delle big tech sono più arginati e le libertà individuali sono ancora una grossa àncora verso eccessive liberalizzazioni. Tuttavia, queste forme di governance imposte dall’alto non possono essere sufficienti. È necessaria la conoscenza delle persone, come individui e come collettività, per calibrare i rischi e autoimporsi dei limiti. E qui risiede la vera sfida, perché l’etica si costruisce mettendo insieme i valori di una comunità, ma per essere comunità occorre condividere spazi, esperienze e visioni del mondo. In un mondo che corre sempre più veloce e con risorse tecnologiche che troppo spesso ci isolano o esasperano le differenze e le disuguaglianze, diventa ancora più difficile».
Sembra che ci sia una consapevolezza parziale riguardo a quel che può derivare dall’IA. Riusciremo a non perdere il controllo?
«Sicuramente se ne sta parlando molto, anche se troppo spesso le notizie puntano a toni sensazionalistici in merito a nuove possibilità e nuove minacce. Anche i media devono fare audience, purtroppo gli stessi giornalisti sono i primi a dover lottare per avere attenzione e non sempre la comunicazione è rispettosa in termini etici. C’è sicuramente più consapevolezza sulla necessità di proteggere i minori dall’esposizione eccessiva e dai rischi del mondo digitale. Sono convinta che molte persone, quelle con senso critico e buone reti umane, potranno resistere alla perdita del controllo. Ma ci sono molte persone con fragilità di tipo cognitivo, persone che non hanno tempo di approfondire le conoscenze o non si fidano dei suggerimenti giusti, o semplicemente non percepiscono i rischi possibili. I social media hanno indubbiamente un potere di seduzione enorme. Quanti sono veramente in grado di evitare questa insidiosa forma di passatempo?». 
Di recente è uscita la prima enciclica di papa Leone dedicata all’IA. Cosa l’ha colpita?
«L’enciclica, è secondo me, perfettamente coerente con l’urgenza del nostro tempo. Riconoscere che la tecnologia possiede il potere di perturbare umanità e pianeta in modo sempre più incisivo e con effetti irreversibili, dimostra che anche la Chiesa, forse più di altri, è consapevole delle priorità su cui focalizzarsi. Mi ha colpito la presenza di Christopher Olah, co-fondatore di Anthropic, alla presentazione di Magnifica Humanitas. Questa big tech, tra le più importanti, era nell’occhio del ciclone per dissidi con il governo americano a proposito delle sue posizioni critiche verso l’utilizzo dell’IA che il Pentagono pretendeva di fare acquistando il loro prodotto. Anthropic ha scelto di porre dei limiti etici all’utilizzo dell’IA, rinunciando all’offerta del Pentagono. Gli utenti hanno mostrato di apprezzare questo gesto, facendo così salire il valore dell’azienda. Questo significa con le dovute precauzioni, visto che sempre di un’azienda che mira al profitto stiamo parlando, è possibile fare business cercando di problematizzare il rischio e provare ad arginare i pericoli, ottenendo il consenso dei clienti».

Il libro. Connessi e plasmati. È fondamentale ricordare che l’IA è nelle mani di grandi aziende con scopo di lucro…

Nel suo saggio Connessi e plasmati, Pamela Boldrin compie un’analisi chiara e ben documentata su come l’IA si sta sviluppando e mette in guardia sui rischi e gli “effetti collaterali” dell’implementazione dell’IA. Ad esempio, l’autrice spiega come, a monte di ogni risultato o beneficio che l’IA può produrre, c’è da considerare che essa è nelle mani di chi ha come primo obiettivo il profitto e non ha, quindi, tra le proprie priorità il bene comune, l’eticità, la sostenibilità.
Non c’è quindi da stupirsi se «gli algoritmi tendono a consolidare la permanenza in una comfort zone mentale». E se «l’IA è programmata per compiacerci continuamente, anche a costo di cavalcare i nostri peggiori sentimenti nonché il nostro narcisismo».
L’autrice sottolinea anche come i mondi virtuali – IA, social, in generale Internet – condizionino in modo consistente le nostre giornate, assorbendo una fetta sempre più grande del nostro tempo, sottraendone di conseguenza alle relazioni con le altre persone, a esperienze concrete a contatto con l’ambiente naturale, per attività manuali, hobby. Nel libro, le neuroscienze e la filosofia si intrecciano per aprire uno sguardo critico sul nostro uso delle “macchine”, in un presente in cui gli obiettivi della tecnica coincidono sempre meno con il benessere dei singoli come delle società. Boldrin addita, quindi, la «necessità improcrastinabile di assumere una postura etica improntata alla prudenza», sottolineando che «forse un maggior senso critico ci aiuterebbe a non diventare una società di massa sempre più manovrabile».
Pamela Boldrin unisce un percorso di formazione in area sanitaria e di studi filosofici: una laurea magistrale in scienze filosofiche, un corso di perfezionamento in bioetica e un master in filosofia e storia della scienza e della tecnologia. Trevigiana, risiede a Noventa Padovana, Boldrin è stata docente a contratto all’Università di Padova.