Costruire la fiducia nell’AI: il ruolo dell’AI Pact

L’intelligenza artificiale deve guadagnarsi la fiducia delle persone e delle aziende. In vista della piena applicazione dell’AI Act, l’Unione Europea ha pensato di riunire quante più organizzazioni possibili, intorno alle inevitabili responsabilità di un uso etico e consapevole dell’AI. Un tentativo voluto forse anche un po’, per costruire quella fiducia che ancora manca.

Il risultato è l’AI Pact che possiamo riassumere nell’espressione “Anticipated Voluntary Compliance for AI“, un accordo volontario che consente a chiunque sviluppa, implementa o utilizza tecnologie legate all’intelligenza artificiale di adottare fin da subito pratiche etiche e sicure, anticipando la conformità normativa. Funziona, è utile? Ci sono organizzazioni che hanno già aderito e con quali potenziali benefici? Cerchiamo di capire meglio.

Cosa fa l’AI Pact

L’accordo chiede principalmente a chi aderisce di:

• adoperarsi per creare una strategia di governance per gestire l’AI in modo responsabile;

• mappare e insieme valutare i rischi legati ai sistemi di AI ad alto rischio;

• promuovere l’alfabetizzazione sull’AI tra le persone interne o che ruotano intorno alla propria organizzazione.

Inoltre, suggerisce alcune misure, altrettanto impegnative, che vanno dall’uso di dataset affidabili per addestrare e testare i sistemi di AI, all’implementazione di logging per avere una tracciabilità dei sistemi durante la fase di sviluppo.
Non solo, suggerisce una progettazione di sistemi di intelligenza generativa in modo che i contenuti creati siano chiaramente identificabili come artificiali o manipolati, tramite watermark o identificatori di metadati; chiede alle organizzazioni coinvolte di fornire strumenti che identificano ed etichettano sia i deepfake che i testi di interesse pubblico generati dall’IA e non revisionati da un essere umano.

L’Ufficio per l’IA della Commissione Europea ha organizzato delle iniziative preliminari che a partire da gennaio 2025, confluiranno in workshop e webinar tematici mensili con l’obiettivo di sviluppare buone pratiche o mostrare i casi d’uso.

Il ruolo dell’alfabetizzazione sull’AI

Uno degli elementi centrali dell’AI Pact, e tra i più facilmente applicabili da qualsiasi organizzazione, è l’alfabetizzazione sull’AI o AI Literacy. Un concetto che va ben oltre il capire come utilizzare gli strumenti di intelligenza artificiale. Rappresenta, piuttosto, la capacità di un uso critico a tutti i livelli.

In sostanza, non si tratta solo di imparare a usare strumenti come chatbot o modelli di generazione di contenuti, ma di portare le persone che operano all’interno dell’azienda a interagire con questi sistemi in modo consapevole.

Ad esempio, attraverso una cultura del dato, cercando di far comprendere come i dataset utilizzati per addestrare i modelli di IA possano influenzare i risultati finali e come ridurre i BIAS.
L’ultimo caso d’uso presentato a Bruxelles, di un’azienda che ha aderito al patto, la canadese CGI, ha riguardato proprio come questi principi sono stati integrati nella strategia interna anche in vista dell’entrata in vigore dell’articolo 4 dell’AI Act a febbraio 2025. Data in cui fornitori e deployer di sistemi di AI dovranno garantire che il proprio personale e chi in generale si occupa di sistemi di AI per loro conto abbia un livello sufficiente di alfabetizzazione.

Le aziende aderenti

Ad ora sono 149 le aziende che hanno firmato. Oltre i grandi gruppi come Adobe, Microsoft, Amazon, Google, IBM e Samsung, SAS, Capgemini o Ikea, ci sono realtà in fase di startup o più piccole come l’israeliana Corsight AI che si occupa di riconoscimento facciale per la sicurezza, l’indiana Wipro per il settore ICT o la spagnola Science4Tech con soluzioni per la sperimentazione clinica.

Ad eccezione di Snap che è presente, mancano le grandi piattaforme social come Meta e la cinese ByteDance, proprietaria di TikTok.

Tra le europee, molte aziende francesi tra cui OVHcloud per i data center. Tra le italiane Blimp AI che studia i dati di traffico e di mobilità urbana mentre gli americani sono anche presenti con società che applicano l’intelligenza artificiale nella gestione delle informazioni e nella mitigazione dei rischi o come nel caso di Palantir, nei suoi programmi di data mining, usati dalle forze dell’ordine e dalla difesa degli Stati Uniti.

Il confronto globale

Anche se l’attenzione a regolare l’intelligenza artificiale riguarda tutti, gli approcci su come intervenire per sensibilizzare, negli altri continenti sono diversi da quello europeo.

Negli Stati Uniti, il Blueprint for an AI Bill of Rights, la Carta dei diritti voluta dalla Casa Bianca, si concentra molto sui diritti individuali e sui principi che più di tutti possono garantire trasparenza, privacy e non discriminazione.