Destinatari: fornitori e deployers.
Data di applicazione: 2 febbraio 2025.
Obiettivo: vietare l’uso di sistemi AI che sfruttino le vulnerabilità di una persona o di uno specifico gruppo di persone, provocando loro un danno significativo.
Il Regolamento (UE) 1689/2024 sull’Intelligenza Artificiale (AI Act) del 13 giugno 2024 ha introdotto una serie di divieti all’interno del territorio dell’Unione Europea per pratiche di uso di sistemi AI che determinano un rischio “inaccettabile” (il massimo grado assegnato ad alcuni AI nel risk-based approach adottato dall’AI Act).
In questo contributo analizzeremo la pratica contemplata dall’art. 5.1 lett. b) AI Act, in base al quale è vietata:
l'immissione sul mercato, la messa in servizio o l'uso di un sistema di IA che sfrutta le vulnerabilità di una persona fisica o di uno specifico gruppo di persone, dovute all'età, alla disabilità o a una specifica situazione sociale o economica, con l'obiettivo o l'effetto di distorcere materialmente il comportamento di tale persona o di una persona che appartiene a tale gruppo in un modo che provochi o possa ragionevolmente provocare a tale persona o a un'altra persona un danno significativo.
Gli elementi che caratterizzano la pratica oggetto di divieto sono:
1) la circostanza che il sistema AI sia immesso sul mercato, messo in servizio o usato nell’Unione europea
2) sfruttamento delle vulnerabilità di una persona fisica o di uno specifico gruppo di persone, dovute all'età, alla disabilità o a una specifica situazione sociale o economica
3) che le tecniche abbiano lo scopo o l'effetto di distorcere materialmente il comportamento di una persona o di una persona che appartiene a tale gruppo
4) che il comportamento distorto dalla pratica vietata provochi o possa ragionevolmente provocare a tale persona o a un'altra persona un danno significativo.
La vulnerabilità può dipendere dall’età (ad esempio: minori o anziani), dalla disabilità o dalla situazione socio-economica.
Sul punto, le Linee Guida approvate dalla Commissione Europea il 29 luglio 2025 hanno chiarito che i minori sono particolarmente esposti a manipolazioni, a causa della loro limitata capacità di valutare e comprendere in modo critico ciò che è reale e gli obiettivi sottesi alle interazioni basate sull'IA. Ricadrebbe, quindi, nel divieto in esame un giocattolo basato su un sistema AI che incoraggi un bambino a superare sfide pericolose (ad esempio, arrampicarsi sui mobili).
Ad analoghe conclusioni dovrebbe giungersi con riferimento a un algoritmo predittivo usato per indirizzare, in base ai codici postali, pubblicità di prodotti finanziari predatori a persone che vivono in aree a basso reddito e che si trovano in una situazione di difficoltà economica, approfittando così della loro sensibilità a questi messaggi promozionali e causando loro un danno finanziario significativo.
Il divieto trova applicazione sia nel caso in cui il sistema è utilizzato con l’intenzione di distorcere il comportamento degli utilizzatori, sia quando tale distorsione è una mera conseguenza dell’adozione della tecnica che sfrutta la vulnerabilità.
Il concetto di “danno significativo”, necessario perché si configuri il divieto, non è definito nell’ambito dell’AI Act. Le Linee Guida hanno comunque specificato che esso deve determinare un impatto negativo significativo sulla salute fisica, psicologica o sugli interessi finanziari ed economici di una persona o, nel caso della pratica vietata perché sfrutta la vulnerabilità, anche di un’altra persona.
Articoli Correlati