Destinatari: fornitori e deployers.
Data di applicazione: 2 febbraio 2025.
Obiettivo: vietare l’uso di sistemi AI destinati alla valutazione o alla classificazione di persone, o di gruppi di persone, da cui derivi l’attribuzione di un punteggio sociale che comporti nei loro confronti un trattamento pregiudizievole o sfavorevole.
Il Regolamento (UE) 1689/2024 sull’Intelligenza Artificiale (AI Act) del 13 giugno 2024 ha introdotto una serie di divieti all’interno del territorio dell’Unione Europea per pratiche di uso di sistemi AI che determinano un rischio “inaccettabile” (il massimo grado assegnato ad alcuni AI nel risk-based approach adottato dall’AI Act).
In questo contributo analizzeremo la pratica contemplata dall’art. 5.1 lett. c) AI Act, in base al quale è vietata:
l'immissione sul mercato, la messa in servizio o l'uso di sistemi di AI per la valutazione o la classificazione delle persone fisiche o di gruppi di persone per un determinato periodo di tempo sulla base del loro comportamento sociale o di caratteristiche personali o della personalità note, inferite o previste, in cui il punteggio sociale così ottenuto comporti il verificarsi di uno o di entrambi gli scenari seguenti:
(i) un trattamento pregiudizievole o sfavorevole di determinate persone fisiche o di gruppi di persone in contesti sociali che non sono collegati ai contesti in cui i dati sono stati originariamente generati o raccolti;
(ii) un trattamento pregiudizievole o sfavorevole di determinate persone fisiche o di gruppi di persone che sia ingiustificato o sproporzionato rispetto al loro comportamento sociale o alla sua gravità.
Gli elementi che caratterizzano la pratica oggetto di divieto sono:
1) la circostanza che il sistema AI sia immesso sul mercato, messo in servizio o usato nell’Unione europea
2) che il sistema AI sia destinato alla valutazione o alla classificazione delle persone o di gruppi di persone per un determinato periodo di tempo sulla base del loro comportamento sociale o di caratteristiche della personalità
3) che il punteggio sociale così ottenuto comporti il verificarsi di uno o di entrambi gli scenari seguenti:
- un trattamento pregiudizievole o sfavorevole di determinate persone fisiche o di gruppi di persone in contesti sociali che non sono collegati ai contesti in cui i dati sono stati originariamente generati o raccolti;
- un trattamento pregiudizievole o sfavorevole di determinate persone fisiche o di gruppi di persone che sia ingiustificato o sproporzionato rispetto al loro comportamento sociale o alla sua gravità.
Le Linee Guida approvate dalla Commissione Europea il 29 luglio 2025 hanno specificato che la profilazione di persone fisiche ai sensi del GDPR (Regolamento UE 2016/679) può rientrare nel divieto in oggetto (richiamando, sul punto, la sentenza della CGUE del 7 dicembre 2023, C-634-21, SCHUFA I, relativa a un sistema di punteggio dell’affidabilità creditizia).
Hanno, inoltre fornito alcuni chiarimenti in merito alle due condizioni che devono alternativamente ricorrere affinché il divieto in oggetto possa trovare applicazione.
Un esempio in cui il pregiudizio si produce in contesti sociali non correlati a quelli nei quali i dati sono stati originariamente raccolti è quello dell’uso, da parte di un’autorità fiscale nazionale, di un sistema AI per analizzare i post social dei contribuenti ai fini di selezionare le dichiarazioni dei redditi da sottoporre a un accertamento fiscale.
Si può, invece, ricadere nell’ipotesi di trattamento pregiudizievole o sfavorevole ingiustificato o sproporzionato quando un sistema AI viene utilizzato per profilare i nuclei familiari al fine di individuare i minori a rischio in base a criteri quali la salute mentale dei genitori o il loro stato di disoccupazione, se in base al punteggio i minori vengono sottratti alle famiglie anche in caso di trasgressioni di scarso rilievo da parte dei genitori (ad esempio, visite mediche saltate occasionalmente).
Articoli Correlati