Durante l'uso di sistemi di intelligenza artificiale generativa (GenAI) si incorre talvolta in situazioni in cui, a fronte dell’inserimento di un dato input da parte dell’utente, il modello di AI genera uno o più output contenenti informazioni inesatte, fuorvianti o inventate, ma presentate come assolutamente reali. Sono quelle che in gergo tecnico prendono il nome di “allucinazioni”.
Tra le prime "vittime" delle allucinazioni dell'AI, gli ormai famosi avvocati di New York che, nel 2023, avevano usato ChatGPT per redigere una memoria processuale in cui l'AI ha generato (inventandole) ben sei sentenze e precedenti giudiziari del tutto inesistenti. Ma il fenomeno delle allucinazioni dell'AI è costato caro agli stessi sviluppatori di AI: nello stesso anno, nel primissimo annuncio pubblicitario ufficiale del chatbot Bard, il sistema rispose in modo errato a una domanda e costò al suo fornitore una perdita in borsa di 100 miliardi di dollari.
Il fenomeno costituisce, a livello mondiale, una sfida oggettiva e ineliminabile per tutti gli operatori del settore, in quanto nessun fornitore di AI ha fin qui trovato un metodo per risolverlo completamente.
L'introduzione nel mercato di sistemi GenAI che producono contenuti inesatti o fuorvianti, senza garantire un grado sufficiente di trasparenza informativa in relazione a questo rischio, potrebbe costituire una pratica commerciale scorretta ai sensi degli artt. 20, 21 e 22 del d.lgs. 6 settembre 2005, n. 206 (Codice Consumo), considerato che l'utente di un sistema GenAI potrebbe non rendersi conto che il risultato generato dal sistema è apparentemente coerente con l'input, ma in realtà del tutto inesatto o addirittura inventato.
L’assenza di informazioni relative a questo rischio sarebbe, quindi, idonea a indurre in errore il consumatore circa le caratteristiche del sistema AI, facendogli assumere una decisione di natura commerciale che altrimenti non avrebbe preso e dando vita, in tal modo, a una pratica commerciale scorretta.
Per questa ragione, l’Autorità Garante della Concorrenza e del Mercato ha recentemente concluso tre istruttorie nei confronti di alcune società specializzate nello sviluppo di servizi basati sull’AI (in particolare, di chat e app).
Alle predette società si contestava di aver fornito agli utenti dei propri modelli di AI un’informativa insufficiente in merito alla possibilità di incorrere in allucinazioni. Nel corso dei procedimenti, le società interessate hanno assunto specifici impegni per rafforzare la trasparenza informativa su questo rischio. In particolare, si sono obbligate a introdurre nelle finestre di dialogo delle chat dei disclaimer permanenti, anche in lingua italiana, volti ad avvertire gli utenti che i contenuti generati possono presentare errori. Inoltre, hanno assunto l’impegno di garantire una versione in lingua italiana delle condizioni generali di utilizzo dei rispettivi servizi (in conformità all’art. 9 del Codice Consumo, che impone l’uso della lingua italiana per tutte le informazioni destinate ai consumatori).
AGCM ha ritenuto gli impegni assunti idonei a far venir meno i possibili profili di scorrettezza delle pratiche commerciali oggetto di istruttoria e ha, di conseguenza, chiuso i procedimenti senza accertare le infrazioni.
Questo caso ha evidenziato la stretta interconnessione sussistente tra la disciplina normativa dell’AI (in particolare, l’art. 50 AI Act relativo agli obblighi di trasparenza) e il Codice Consumo, in quanto le lacune informative relative al funzionamento di un sistema AI possono risultare vietate dalla normativa posta a tutela del consumatore.
(Fabrizia Serpieri)
Articoli Correlati