Destinatari: fornitori e deployers di AI.
Data di applicazione: 2 febbraio 2025.
Obiettivo: vietare l’uso di sistemi AI che manipolino gli individui mediante tecniche subliminali o ingannevoli che cagionino loro un danno significativo.
Il Regolamento (UE) 1689/2024 sull’Intelligenza Artificiale (AI Act) del 13 giugno 2024 ha introdotto una serie di divieti all’interno del territorio dell’Unione Europea per pratiche di uso di sistemi AI che determinano un rischio “inaccettabile” (il massimo grado assegnato ad alcuni AI nel risk-based approach adottato dall’AI Act).
In questo contributo analizzeremo la pratica contemplata dall’art. 5.1 lett. a) AI Act, in base al quale è vietata:
l'immissione sul mercato, la messa in servizio o l'uso di un sistema di IA che utilizza tecniche subliminali che agiscono senza che una persona ne sia consapevole o tecniche volutamente manipolative o ingannevoli aventi lo scopo o l'effetto di distorcere materialmente il comportamento di una persona o di un gruppo di persone, pregiudicando in modo considerevole la loro capacità di prendere una decisione informata, inducendole pertanto a prendere una decisione che non avrebbero altrimenti preso, in un modo che provochi o possa ragionevolmente provocare a tale persona, a un'altra persona o a un gruppo di persone un danno significativo.
Gli elementi che caratterizzano la pratica oggetto di divieto sono:
- la circostanza che il sistema AI sia immesso sul mercato, messo in servizio o usato nell’Unione europea
- che faccia uso di tecniche subliminali che agiscono senza che una persona ne sia consapevole o tecniche volutamente manipolative o ingannevoli
- che le tecniche abbiano lo scopo o l'effetto di distorcere materialmente il comportamento di una persona o di un gruppo di persone, con considerevole pregiudizio della loro capacità di prendere una decisione informata, inducendoli a prendere una decisione che non avrebbero altrimenti preso
- che la decisione assunta provochi o possa ragionevolmente provocare a tale persona, a un'altra persona o a un gruppo di persone un danno significativo.
Come precisato dalle Linee Guida approvate dalla Commissione Europea il 29 luglio 2025, tra le tecniche “subliminali” rientrano i messaggi subliminali visivi e audio (che, rispettivamente, appaiono troppo velocemente o sono trasmessi a volume troppo basso per poter essere registrati dal cervello), nonché le immagini incorporate in altri contenuti visivi.
Nella nozione di tecniche “volutamente manipolative o ingannevoli” rientrano, invece, quelle che pregiudicano l’autonomia decisionale presentando informazioni false o fuorvianti (ad esempio, un chatbot di AI che utilizza una voce sintetica per fingere di essere un amico o un parente di una persona, mettendo in atto una truffa).
Il divieto trova applicazione sia nel caso in cui il sistema è utilizzato con l’intenzione di distorcere il comportamento degli utilizzatori, sia quando tale distorsione è una mera conseguenza dell’adozione della tecnica subliminale, volutamente manipolativa o ingannevole.
Per meglio chiarire quanto finora esposto, possiamo fare l’esempio di un fotografo che utilizza un sistema di AI per modificare fotografie di persone in modo da accentuarne emozioni, espressioni o caratteristiche allo scopo di influenzare acquisti, scelte politiche o altri comportamenti.
In questo caso, l’attività realizzata potrà rientrare nel divieto qualora il soggetto che è stato condizionato nelle proprie scelte per effetto delle modifiche apportate alle fotografie abbia subìto un danno significativo.
Il concetto di “danno significativo”, necessario perché si configuri il divieto, non è definito nell’ambito dell’AI Act. Le Linee Guida hanno comunque specificato che esso deve determinare un impatto negativo significativo sulla salute fisica, psicologica o sugli interessi finanziari ed economici di una persona o di un gruppo di persone.
Articoli Correlati