Destinatari: fornitori di AI.
Data di applicazione: 2 agosto 2026.
Obiettivo: garantire che i contenuti audio, immagine, video o testuali sintetici generali o manipolati da sistemi AI (inclusi i General Purpose Artificial Intelligence, GPAI) siano riconoscibili e rilevabili meccanicamente.
Il Regolamento (UE) 1689/2024 sull’Intelligenza Artificiale (AI Act) del 13 giugno 2024 ha introdotto una serie di obblighi di trasparenza all’interno del territorio dell’Unione Europea cui sono tenuti i fornitori e i deployers di sistemi di AI, anche nel caso in cui presentino un rischio limitato (il minimo grado assegnato ad alcuni sistemi AI nel risk-based approach adottato dall’AI Act).
In questo contributo analizzeremo l’obbligo contemplato dall’art. 50.2 AI Act, in base al quale è previsto:
I fornitori di sistemi di IA, compresi i sistemi di IA per finalità generali, che generano contenuti audio, immagine, video o testuali sintetici, garantiscono che gli output del sistema di IA siano marcati in un formato leggibile meccanicamente e rilevabili come generati o manipolati artificialmente. I fornitori garantiscono che le loro soluzioni tecniche siano efficaci, interoperabili, solide e affidabili nella misura in cui ciò sia tecnicamente possibile, tenendo conto delle specificità e dei limiti dei vari tipi di contenuti, dei costi di attuazione e dello stato dell’arte generalmente riconosciuto, come eventualmente indicato nelle pertinenti norme tecniche. Tale obbligo non si applica se i sistemi di IA svolgono una funzione di assistenza per l’editing standard o non modificano in modo sostanziale i dati di input forniti dal deployer o la rispettiva semantica, o se autorizzati dalla legge ad accertare, prevenire, indagare o perseguire reati.
Gli elementi che caratterizzano l’obbligo in oggetto sono:
1) la circostanza che il sistema AI sia destinato a generare contenuti audio, immagine, video o testuali sintetici
2) che gli output vengano marcati in un formato leggibile meccanicamente e rilevabili come generati o manipolati artificialmente
3) che le soluzioni tecniche adottate dai fornitori siano efficaci, interoperabili, solide e affidabili.
Le informazioni da rendere in base a questo obbligo devono essere fornite alle persone interessate in maniera chiara e distinguibile al più tardi al momento della prima interazione o esposizione.
Relativamente alle soluzioni tecniche da adottare, l’AI Act ha chiarito che l’efficacia e l’affidabilità dei metodi di marcatura dovranno essere valutate tenendo conto delle tecniche disponibili o di una combinazione di tali tecniche (ad esempio: filigrane, identificazioni di metadati, metodi crittografici o altre tecniche, a seconda dei casi; considerando 133).
Sul tema, la Commissione Europea sta elaborando un Codice di condotta sulla trasparenza dei contenuti generati dall'intelligenza artificiale (la cui versione definitiva dovrebbe essere approvata entro il mese di giugno 2026).
La bozza di Codice pubblicata a marzo 2026 stabilisce che nessuna singola tecnica è da sola sufficiente a garantire efficacia e affidabilità e propone, quindi, un approccio di marcatura multilivello, articolato in un insieme di sottomisure.
La prima sottomisura, applicabile se i contenuti vengono generati o esportati in un formato di dati che supporta l’aggiunta di informazioni come parte dei metadati, è rappresentata dalla registrazione e incorporazione nei metadati dell’indicazione se il contenuto è generato o manipolato dall’AI.
Se, invece, l’output è generato in un formato che non supporta i metadati, dovrà essere implementata un’opzione che consenta il download di un manifesto firmato digitalmente contenente una versione certificata dell’output generato o manipolato dal proprio sistema AI, al fine di certificare l’origine artificiale o manipolata del contenuto testuale.
La seconda sottomisura è rappresentata da tecniche di marcatura robusta e integrata nel contenuto (ossia da una filigrana impercettibile integrata direttamente nel contenuto in modo tale da renderne difficile la separazione dal contenuto stesso).
Se opportuno, per ovviare alle carenze delle due sottomisure precedenti, potrà essere adottata una terza sottomisura supplementare facoltativa, rappresentata da sistemi di identificazione o registrazione dei contenuti generati o manipolati dall’AI (ad esempio, la registrazione diretta potrebbe essere appropriata per il testo, mentre per i contenuti visivi potrebbero essere preferibili l’hashing percettivo o altri approcci di identificazione tramite impronta digitale).
L’AI Act ha, infine, chiarito che l’obbligo in esame non si applica ai sistemi AI:
- che svolgono una funzione di assistenza per l’editing standard o non modificano in modo sostanziale i dati di input forniti dal deployer o la rispettiva semantica;
- autorizzati dalla legge ad accertare, prevenire, indagare o perseguire reati.
Articoli Correlati