Dalle conversazioni con i chatbot di assistenza clienti alle chiamate di telemarketing da parte di agenti artificiali, fino a immagini, video e testi creati o manipolati con l’IA: dal 2 agosto chi sviluppa o utilizza questi sistemi deve dichiararlo con etichette e messaggi informativi.

È questo uno dei primi effetti su larga scala della nuova legge europea sull’intelligenza artificiale. L’AI Act è stato approvato nel 2024 e lo scorso anno sono diventate applicabili le prime regole, tra obblighi di formazione e requisiti applicabili solo ai fornitori di grandi modelli.

Ora invece qualunque azienda, ente o professionista che progetta o si avvale di strumenti quali chatbot e sistemi generativi dovrà rispettare i nuovi requisiti di trasparenza. Per aiutare le organizzazioni, la Commissione Ue ha pubblicato delle linee guida e un codice di condotta.

A chi si applicano le nuove regole

Gli obblighi introdotti dall’AI Act riguardano chi sviluppa e commercializza sistemi di IA (fornitori), come un’azienda che realizza e mette sul mercato un sistema conversazionale. È obbligato anche chi utilizza un algoritmo sotto la propria autorità (deployer), come un’agenzia che usa l’IA per generare il deep fake di una celebrità per una pubblicità.

Le nuove regole interessano le organizzazioni che forniscono o utilizzano sistemi in Ue. Deve rispettare l’AI Act anche chi ha sede all’estero quando l’output è usato dentro i confini europei. Resta escluso l’uso personale non professionale, come quello degli studenti che si avvalgono dell’IA per i compiti.

Gli obblighi per i sistemi interattivi

La prima novità riguarda l’IA che interagisce con le persone. Vi rientrano assistenti vocali intelligenti, chatbot e agenti conversazionali di e-commerce e ospedali, ma anche animali da compagnia robotici e avatar artificiali.

Questi strumenti devono essere progettati dai fornitori in modo che le persone sappiano di stare interagendo con una macchina. La notifica può essere fatta in diversi modi: un chatbot che nel messaggio di benvenuto specifica di basarsi sull’IA, o a un assistente vocale che avvia la chiamata con un’affermazione analoga. Non basta, invece, dichiararlo solo nei termini e condizioni del servizio, né sono ammissibili riferimenti generici o limitati alle tecnologie sottostanti, come gli LLM.

L’obbligo non si applica se manca un’interazione diretta tra uomo e macchina, come nei robot industriali che interagiscono tra loro o nei sistemi di raccomandazione di canzoni e film basati sull’IA. Non serve informare i destinatari anche quando l’interazione con un algoritmo è evidente sulla base dello specifico contesto: la Commissione propone l’esempio di un sistema interattivo a supporto della diagnosi medica destinato solo a medici adeguatamente formati.

Marcatura e rilevazione per l’IA generativa

I fornitori sono chiamati a rispettare nuovi requisiti di trasparenza anche in caso di sistemi generativi. Immagini, audio, video e testi generati o manipolati tramite IA devono essere contrassegnati in un formato leggibile dalla macchina e rilevabili come artificiali. Questo significa che ai contenuti, come canzoni e foto, devono essere applicate tecniche come il watermarking e alle persone occorre fornire gli strumenti per rilevarli.

La principale eccezione riguarda gli strumenti che svolgono una funzione di assistenza per l’editing standard o che non modificano in modo sostanziale i dati di input o la rispettiva semantica. Ciò si può verificare, ad esempio, in caso di correzioni grammaticali, trascrizioni di conversazioni o rimozione dell’effetto “occhi rossi” nelle fotografie.

L’etichettatura di deep fake e testi artificiali

L’AI Act introduce anche due importanti misure da rispettare per chi usa l’IA per generare deep fake e testi. In queste situazioni è necessario rendere noto in modo chiaro e distinto che il contenuto è stato creato o manipolato artificialmente, etichettando di conseguenza gli output e rivelandone l’origine artificiale.

Rientrano nel concetto di deep fake immagini o contenuti audio e video generati o manipolati dall’IA che assomigliano a persone, oggetti, luoghi, entità o eventi esistenti e che una persona potrebbe erroneamente ritenere autentici o veritieri. La Commissione fa alcuni esempi: il video di una persona che assomiglia a un politico mentre tiene un comizio, oppure la foto di un prodotto riportata sulla confezione che lo fa apparire di qualità superiore.

Nel caso del testo, l’obbligo riguarda solo quello pubblicato allo scopo di informare il pubblico su questioni di interesse pubblico, come un articolo di giornale o una relazione aziendale diffusa online da una società quotata in borsa. L’etichettatura non è però necessaria se il contenuto è stato sottoposto a revisione umana o controllo editoriale e un soggetto detiene la responsabilità editoriale della pubblicazione.

Quando e come fare trasparenza

La legge europea richiede di fornire le informazioni in modo chiaro e distinguibile al più tardi al momento della prima interazione o esposizione: per esempio, all’inizio della conversazione con un chatbot o all’avvio di un video che contiene un deep fake.

Come detto, i nuovi obblighi si applicano dal 2 agosto. Con il Digital Omnibus – il regolamento di semplificazione dell’AI Act recentemente approvato dall’Ue – l’obbligo di marcatura e rilevazione per i sistemi già sul mercato è stato prorogato al 2 dicembre.

In caso di violazioni scattano le sanzioni previste dal regolamento, che possono arrivare fino a 15 milioni di euro o al 3% del fatturato per le imprese.