“L’intelligenza artificiale non è né buona né cattiva, è uno specchio che riflette chi siamo”. Parola di Federico Neri, fisico e tecnologo

Federico Neri, prossimo ospite de I Venerdì di Siena è molte cose. Fisico e tecnologo, da oltre trent'anni è un pioniere degli studi e dell'applicazione dell'intelligenza artificiale al linguaggio. Nel 1995 ha iniziato a collaborare con il centro scientifico IBM di Parigi sui primi sistemi di text mining, diventando uno dei primi in Italia a specializzarsi nell'analisi delle opinioni e in quella dei sentiment. Dal 2024 è partner Deloitte e membro del Deloitte AI Institute. Ha appena pubblicato per Laterza il volume “Parlare agli algoritmi”, attualmente tra i libri più venduti sul tema in Italia.

L’incontro in Sala delle Lupe del 6 marzo ha un titolo provocatorio: “L'AI nuda”. Questo non solamente per differenziarci dai numerosi titoli di incontri dedicati al tema in tutta Italia, ma perché abbiamo la percezione che in effetti “il Re sia nudo”. L'AI non è né buona né cattiva, noi per differenziarci da essa facciamo appello alla nostra umanità e ci scordiamo che la tecnologia poi a volte la usiamo per spiare, condizionare intere società, fare guerre e altro.

Da ricercatore, esperto di fama internazionale e tecnico del campo, qual è il suo punto divista? L'AI altro non è che il nostro specchio digitale?

La metafora del re nudo centra perfettamente il problema. L’intelligenza artificiale non è né buona né cattiva: è uno specchio che riflette chi siamo, con tutte le nostre contraddizioni. E sì, spesso questo specchio ci mostra qualcosa che preferiremmo non vedere.

In trent’anni di lavoro in questo campo, dall’analisi linguistica per l’intelligence ai sistemi generativi moderni, ho imparato che ogni algoritmo che costruiamo porta impresse le nostre scelte, i nostri valori, ma anche i nostri pregiudizi e le nostre zone d’ombra. L’AI amplifica tutto questo, nel bene e nel male.

La contraddizione evidenziata nella domanda è molto reale: parliamo di tecnologia al servizio dell’umanità, però poi la usiamo per sorvegliare, manipolare, fare guerra. Non è l’algoritmo che decide tutto questo: siamo noi. La tecnologia ci offre nuovi strumenti potentissimi, tuttavia le scelte su come usarli restano umane, terribilmente umane.

Quello che rende l’AI uno specchio particolarmente scomodo è che cristallizza queste scelte in codice, le rende visibili, tracciabili, difficili da negare. Non possiamo più nasconderci dietro l’ambiguità o l’intenzionalità sfumata: un algoritmo fa esattamente quello per cui è stato progettato, senza ipocrisie.

Forse la domanda giusta non è “l’AI è il nostro specchio?” ma “siamo pronti a guardare onestamente cosa ci mostra questo specchio?”. Perché quello che vedo dopo trent’anni è che la tecnologia avanza velocissima, mentre la nostra capacità di guardarci allo specchio con sincerità procede molto più lentamente.

Che ruolo giocano in tutto questo le implicazioni etiche e regolamentari? Si ha la fondata sensazione che, se da una parte la regolamentazione, come da esempio l'AI ACT, appare cronicamente in ritardo rispetto agli sviluppi tecnologici, ancor più indietro sia la formulazione di regole e paradigmi etico comportamentali che in qualche modo vincolino gli sviluppatori e gli utenti (spesso assolutamente impreparati e inconsapevoli) di queste tecnologie. È d’accordo?

La percezione di un ritardo cronico è assolutamente fondata e il problema è strutturale. La tecnologia avanza con velocità esponenziale, mentre il diritto e soprattutto l’etica procedono necessariamente con più cautela. L’AI Act europeo è un tentativo importante e coraggioso, ma quando viene approvato fotografa una realtà che è già in parte cambiata.

Il problema più serio riguarda proprio la dimensione etica. Mentre la regolamentazione almeno prova a inseguire, la riflessione etica profonda è ancora più indietro. E questo crea una situazione paradossale: abbiamo sviluppatori tecnicamente preparatissimi che però navigano senza bussola etica in territori completamente inesplorati. E abbiamo utenti che usano quotidianamente tecnologie potentissime senza avere gli strumenti per comprenderne davvero le implicazioni.

In trent’anni di lavoro ho visto crescere la consapevolezza su questi temi, ma l’osservazione è corretta: mancano ancora paradigmi etici condivisi e soprattutto strumenti concreti per tradurli in pratica. Parliamo molto di “AI responsabile”, ma spesso resta uno slogan più che una guida operativa. Ho visto progetti brillanti dal punto di vista tecnico naufragare perché nessuno si era posto le domande giuste all’inizio: per chi stiamo costruendo questo sistema? Chi ne trarrà vantaggio? Chi potrebbe essere danneggiato?

La questione degli utenti impreparati e inconsapevoli è centrale e urgente. Serve un’alfabetizzazione digitale diffusa, ma serve anche qualcosa di più profondo: una cultura della responsabilità che parta dalla formazione, attraversi le aziende, arrivi fino alla società civile. Non basta sapere come funziona un sistema di AI, bisogna sviluppare la capacità di chiedersi perché dovrebbe funzionare in quel modo e se dovrebbe esistere.

Il rischio è che continuiamo a rincorrere, sempre un passo indietro. Forse dovremmo accettare che non riusciremo mai a “stare al passo” e invece costruire meccanismi più flessibili, basati su principi etici fondamentali piuttosto che su regole dettagliate che invecchiano troppo in fretta. Ma questo richiede un salto culturale importante, e mi chiedo se siamo davvero pronti a farlo.

Mi riferisco al suo libro, appena uscito, che sta riscontrando un notevole successo. Cosa significa per Lei' parlare agli algoritmi'?

Il riferimento al libro apre diverse riflessioni. “Parlare agli algoritmi” ha per me diversi significati che si sono stratificati in trent’anni di lavoro.

Il primo, più letterale, riguarda la ricerca: ho passato decenni cercando di far comprendere il linguaggio umano alle macchine, dal Text Mining degli anni Novanta ai moderni Large Language Model. È stato un dialogo continuo, fatto di frustrazioni e piccole epifanie, di tentativi ed errori, di momenti in cui sembrava impossibile e altri in cui improvvisamente tutto si illuminava.

Ma c’è un significato più ampio e più inquietante: oggi tutti noi, quotidianamente, “parliamo agli algoritmi”. Ogni volta che scriviamo una ricerca online, che interagiamo con un assistente vocale, che componiamo un messaggio sui social, stiamo dialogando con sistemi che ci ascoltano, ci interpretano, ci rispondono, ci profilano. Questo dialogo è diventato parte integrante della nostra vita, spesso senza rendercene pienamente conto.

Nel libro ho voluto raccontare questo viaggio non come una cronaca tecnica asettica, ma come un’esperienza umana. Perché dietro ogni avanzamento tecnologico ci sono persone con le loro speranze, le loro paure, i loro dubbi. C’è il ricercatore che lavora di notte su un problema che sembra irrisolvibile, c’è l’emozione della scoperta, c’è la responsabilità di chi sa che quello che sta costruendo cambierà la vita di milioni di persone.

“Parlare agli algoritmi” è anche un modo per parlare di noi stessi. Ogni sistema che costruiamo rivela qualcosa su chi siamo, su cosa ci importa, su come vediamo il mondo. È un tentativo di costruire ponti tra mondi che faticano a dialogare: il mondo della tecnica e quello dell’umanesimo, l’innovazione e la tradizione, il futuro e il passato.

Qual è il suo rapporto personale con Siena?

Siena occupa un posto speciale nel mio cuore, legato a momenti di grande bellezza e intensità. Quella primavera del 1994, quando venni qui con mia moglie per vedere la Maestà di Simone Martini dopo il restauro, fu un’esperienza che ci segnò profondamente entrambi. Trovarci insieme di fronte all’opera, nella sua magnificenza restaurata, in quella sala del Palazzo Pubblico, fu davvero emozionante. Sono momenti che restano impressi non solo per la bellezza dell’arte in sé, ma anche per la gioia di condividerli con chi ami.

L’arte medievale senese, Simone Martini e i fratelli Lorenzetti in particolare, rappresentano per me qualcosa che va oltre la storia dell’arte. C’è in loro una capacità straordinaria di coniugare innovazione tecnica e sensibilità umana, di usare linguaggi espressivi nuovi per comunicare valori profondi e universali. In un certo senso, erano i tecnologi del loro tempo: padroneggiavano le tecniche più avanzate dell’epoca – la prospettiva intuita, il chiaroscuro, la resa volumetrica – ma le mettevano sempre al servizio di una visione più alta.

Pensiamo ad esempio al “Buon Governo” di Ambrogio Lorenzetti. Quell’affresco è un tentativo straordinario di dare forma visiva a concetti astratti e complessi – la giustizia, la pace, la concordia civile. È esattamente quello che cerco di fare nel mio lavoro: rendere comprensibile e utilizzabile la complessità del linguaggio e del pensiero umano attraverso la tecnologia.

Ma Siena mi ricorda anche un’altra cosa importante: la tecnica, per quanto sofisticata, ha senso solo quando serve l’umano, quando crea bellezza e significato che vanno oltre la pura maestria esecutiva. Quei maestri del Trecento usavano la tecnica e lo stile – Simone Martini è ricordato spesso come il pittore che dipingeva le mani più eleganti del tempo – per raccontare storie che toccassero le persone, per creare opere che elevassero lo spirito, per lasciare qualcosa che durasse nei secoli.

Questo è quello che cerco di fare oggi con l’intelligenza artificiale: amplificarne le capacità di comprensione, di empatia, di connessione. Come facevano quei maestri senesi, cerco di costruire ponti tra innovazione e tradizione, tra il futuro che costruiamo e le radici profonde nel passato che non dovremmo mai dimenticare.

Ed è bello tornare a Siena, in questa città che conserva così intatta la memoria di quella straordinaria stagione artistica, per parlare ancora una volta di tecnologia e di umanità, di innovazione e di tradizione. Perché forse è proprio in luoghi come questo che possiamo trovare la prospettiva più giusta per guardare al futuro senza perdere di vista ciò che davvero conta.