L’immagine di Colle Santa Lucia non è un fake: il verdetto della startup Truebees sull’errore dell’IA

“Ho caricato una foto di Colle Santa Lucia su una piattaforma di vendita e mi è stata rifiutata con l’accusa di essere un’immagine realizzata con l’IA”. Cominciava così la disavventura digitale vissuta da Fabrizio Penso, grafico pubblicitario e fotografo amatoriale, che vi abbiamo raccontato nelle scorse settimane.

Il suo scatto al tramonto, che immortalava un borgo incastonato come un presepe tra le montagne delle Dolomiti Bellunesi, era stato bollato come un fake da un sistema di moderazione automatica. Una beffa kafkiana, consumata in un’epoca in cui i social network sono inondati da contenuti sintetici e la linea di confine tra vero e falso è diventata un campo minato.

Incuriositi da un cortocircuito così paradossale, i fondatori di Truebees, startup innovativa nata a Trento nel 2022 che unisce l’analisi forense avanzata e l’intelligenza artificiale per verificare l’autenticità dei contenuti digitali e orientarsi nella giungla dei media in rete, hanno deciso di contattare la nostra redazione, per provare a vederci chiaro. Per procedere a un’analisi dello scatto “incriminato” serviva necessariamente la disponibilità dell’autore che, a conferma della buona fede, non ha esitato a mettersi in gioco. Cosa è emerso dall’”indagine” di Truebees? Abbiamo chiesto a Giulia Boato (co-founder di Truebees) e Andrea Montibeller (co-founder e sviluppatore responsabile delle soluzioni tecnologiche) di spiegarci – in parole quanto più semplici, da inesperti totali in campo informatico e IA, i risultati delle analisi svolte. Spoiler: Fabrizio non ha mentito.

Giulia, Andrea, vi ringraziamo per la disponibilità ad andare in fondo alla “questione Colle Santa Lucia”. Per comprendere chi abbiamo di fronte, partiamo da una domanda semplice e diretta: cosa è Truebees?

Giulia Boato: Truebees nasce ufficialmente come start up nel 2024, dall’interazione con la ricerca universitaria: io e Andrea lavoriamo infatti nel campo universitario e facciamo ricerca in multimedia forensics (la disciplina scientifica che analizza immagini, video e audio per smascherare manipolazioni e risalire alla loro autenticità, ndr). L’avventura è iniziata in realtà nel 2022, con un piccolo progetto europeo cui abbiamo partecipato insieme a U-Hopper — un’azienda trentina che applicava l’intelligenza artificiale ai dati e ai media —, proponendo di sviluppare detector per immagini manipolate che lavorassero bene anche su dati condivisi sui social media. Al tempo si iniziava a disporre di soluzioni per la discriminazione dei dati manipolati o reali, ma se provavi ad applicarli ai contenuti condivisi sui social — quelli che chiamiamo dati in the wild, come una foto scattata e postata su Instagram o Facebook —, l’accuratezza crollava al 60%, praticamente come tirare una monetina. Per noi era evidente che ci dovesse essere un salto: siamo così riusciti a portare l’accuratezza oltre il 98%, pur trovandoci nel 2022, quando i dati generati dall’IA non erano ancora perfetti come quelli di oggi. Da lì è nata una forte intesa tra me e Daniele Miorandi, che era il CEO di U-Hopper e adesso è il CEO di Truebees. Abbiamo quindi chiamato in squadra Andrea, per occuparsi dello sviluppo degli algoritmi basati sull’IA per l’analisi dei media, mentre dalla parte di U-Hopper c’è Stefano Tovanotti, il nostro “uomo-interfaccia”, colui che si occupa del passaggio dalla ricerca allo sviluppo vero e proprio dei prodotti. Siamo un team eterogeneo.

Da inesperti in materia, la situazione vissuta da Fabrizio ci sembra l’esatto contrario dell’obiettivo per cui siete nati!

Giulia Boato: Esattamente, infatti il vostro articolo è risultato per noi di estremo interesse: era la prima volta che vedevamo un caso di real scambiato per fake e non viceversa. C’è un pensiero che condivido generalmente al termine delle interviste, oggi lo anticipo: finiremo col dover certificare il reale. Gartner ha pubblicato un aggiornamento secondo cui il prossimo anno il 70% dei media in circolazione sarà AI-generated. Siamo già su questi livelli. Il caso di Fabrizio ci pone di fronte a domande enormi: quanto siamo consapevoli e in grado di discriminare tra questi due mondi? Purtroppo, gli studi percettivi ci dicono che non siamo più tanto capaci di farlo da soli. Non siamo più in grado di distinguere le voci clonate, le immagini fake, e fra poco nemmeno i video, che stanno arrivando a un grado di realismo altissimo.

Chi sono i clienti cui si rivolge attualmente Truebees?

Giulia Boato: Abbiamo due livelli di servizio. Quello SaaS, disponibile online e focalizzato per ora sulle immagini, che viene utilizzato prevalentemente da freelance, giornalisti o persone che hanno bisogno di verificare la natura dei media e delle fonti prima di rielaborarli. Invece, a livello B2B — con clienti per cui customizziamo le soluzioni —, siamo in dialogo ad esempio con chi lavora nel campo assicurativo, perché iniziano ad avere enormi problemi con le frodi: scontrini falsificati per rimborsi maggiorati al ristorante, falsificazione di radiografie e richieste di rimborso per spese mediche e così via. Siamo in collegamento con un numero crescente di avvocati in Italia che devono verificare le fonti, e collaboriamo con aziende per l’analisi dei dati legati agli aspetti legali e alla reputazione aziendale. Inoltre, oltre alle immagini, ci muoviamo sui video, attualmente gestiti solo tramite richiesta diretta, in quanto richiedono maggiore impegno computazionale e conseguentemente un pricing variabile, e stiamo anche lavorando sull’analisi vocale per discriminare tra voce sintetica e reale.

Andiamo all’analisi dei file inviati da Fabrizio: come si è svolta e cosa hanno concluso i vostri detector? Fabrizio ha detto la verità o ci ha mentito?

Andrea Montibeller: L’approccio che abbiamo seguito è quello che usiamo anche per i casi forensi in ambito legale, per le assicurazioni o quando ad esempio un avvocato ci chiede la verifica di una fonte. Prima di tutto guardiamo i metadati, che sono un po’ come il libretto delle istruzioni di un’immagine: nei file RAW e DNG forniti da Fabrizio la struttura era perfettamente consona a un’immagine non generata dall’intelligenza artificiale. C’erano inoltre informazioni crittografate introdotte da standard come il C2PA, molto utili per identificare l’uso di software come Adobe Lightroom o Photoshop, usati per normali interventi di image enhancement o per estrapolare dettagli che il fotografo ritiene magari superflui in una foto paesaggistica.

Dopodiché siamo passati all’analisi del segnale e dei pixel con i nostri detector interni. Abbiamo utilizzato algoritmi di signal processing basati sulla letteratura — come l’analisi stocastica della compressione, le incoerenze a livello di pixel e le interpolazioni —, che hanno confermato che l’immagine proveniva da un RAW non manipolato, per poi essere convertita in JPEG, lo standard mondiale inventato per la trasmissione agile dei file. Infine, abbiamo fatto girare tre dei nostri detector proprietari, sviluppati internamente a Truebees, che analizzano in modo locale e globale le consistenze di pixel e le eventuali manipolazioni introdotte dall’IA: in tutti e tre i casi, l’immagine è risultata assolutamente autentica. Per gestire e orchestrare tutto questo flusso in modo efficiente, internamente ci facciamo affiancare da un piccolo assistente AI che gira sulle nostre macchine: inseriamo i parametri e ci produce una versione iniziale di un report, diciamo una bozza, che poi noi provvediamo a rianalizzare e revisionare punto per punto.

Com’è dunque possibile che una piattaforma di stock abbia respinto lo scatto accusandolo di essere un falso totale?

Andrea Montibeller: La capacità di distinguere un’immagine reale da una fake dipende dal training cui è sottoposta un’IA. È probabile che la fotografia di Colle Santa Lucia sia stata etichettata come un elemento fuori dalla distribuzione tipica con cui viene identificato un contenuto reale.

Potremmo semplificare col dire che è una foto troppo bella per essere vera, agli occhi dell’IA?

Giulia Boato: Proprio così. Oggi l’intelligenza artificiale ha superato la cosiddetta uncanny valley — quella valle percettiva in cui i computer, nei primi anni di evoluzione, generavano immagini cariche di deformazioni, imperfezioni o veri e propri “mostri” visivi. Ora la situazione si è capovolta: l’IA genera immagini esteticamente così pulite, rifinite e plausibili che sta spostando la nostra stessa percezione visiva. Pensate che anni fa abbiamo pubblicato uno studio da cui emergeva un dato sorprendente: i visi creati artificialmente a volte vengono percepiti come quasi più reali dei volti reali, perché finiamo per fidarci di più della perfezione estetica algoritmica. Secondo me con la foto di Fabrizio siamo esattamente su quel livello lì, ma al contrario: quell’inquadratura, quel gruppetto di case con quel tipo di luci e quel colore erano così perfetti, così idealmente belli, da sembrare quasi iconicamente un prodotto dell’intelligenza artificiale. È il paradosso per cui la realtà, quando è straordinaria, diventa per l’IA “sospetta”. E questo finisce per mandare in tilt i sistemi di moderazione.

Praticamente man mano che l’IA evolve, tocca anche a voi evolvere sistemi di detection?

Giulia Boato: «Esatto, è il classico “gioco di gatto e topo” tipico della sicurezza e delle scienze forensi. La storia della nostra ricerca lo dimostra: una decina di anni fa, quando c’erano i primi deepfake — tipo quando potevamo sostituire la nostra faccia a quella di Angela Merkel in una conferenza —, si lavorava quasi solo sul signal processing, analizzando le tracce e le incoerenze invisibili nel segnale dell’immagine o del video. Poi abbiamo dovuto aggiungere l’analisi dei metadati e dei nuovi standard di provenienza come il C2PA di Adobe, pensato proprio per il labeling dei dati ma ancora in fase di assestamento. Oggi una sola traccia non basta più: utilizziamo un approccio in cui l’IA analizza altra IA, facendo collaborare diversi modelli che si occupano di individuare le manipolazioni. È per questo che Andrea ha sempre da lavorare: gli algoritmi devono tenersi costantemente dietro ai nuovi dati generativi. È quello che nel machine learning chiamiamo lifelong learning, cioè la capacità dei modelli di imparare continuamente, esattamente come facciamo noi esseri umani. Quando un bambino impara il concetto di cane, non è che se vede una razza nuova dopo anni non la riconosce come cane, in quanto non rappresentativa delle razze imparate da bambino. Allo stesso modo la conoscenza dei nostri algoritmi deve rimanere aggiornata, arricchendosi continuamente di nuovi esempi, proprio come quando impari una nuova lingua e allarghi via via il tuo vocabolario.

A seguito della vicenda di Colle Santa Lucia, Fabrizio ha espresso con noi il seguente pensiero: meglio tornare alla selezione umana per rimediare a questi errori. È una strada percorribile?

Andrea Montibeller: Affidare l’analisi dei contenuti, immagini o video, esclusivamente a operatori umani, è impossibile a causa della mole infinita di dati che circola oggi in rete, che richiederebbe l’assunzione di milioni di persone. Piuttosto, dobbiamo rimettere la persona al centro per sviluppare un vero pensiero critico rispetto a ciò che vede sul web.

Giulia Boato: Esatto. Finora abbiamo lavorato su algoritmi binari rigidi (vero/falso) che vogliono a tutti i costi compiacerti e darti una risposta netta, ma credo di parlare per la collettività se dico che l’intelligenza artificiale ci vuole compiacere e noi siamo stufi di questa cosa. Come riportato anche nel nostro ultimo position paper, presentato due settimane fa in Svezia, dobbiamo uscire da questa logica binaria. La tecnologia ci serve perché la mole di dati è troppa, come giustamente anticipato da Andrea, ma quando ci si trova di fronte a un caso complesso e incerto, lo strumento deve avere il coraggio di dire: questo non lo so, non ti so rispondere, qui mi serve un aiuto da parte tua, serve il tuo cervello di essere umano.