Destinatari: fornitori e deployers di AI.
Data di applicazione: 2 febbraio 2025.
Obiettivo: vietare l’uso di sistemi AI che classificano le persone sulla base dei loro dati biometrici per dedurre o inferire informazioni “sensibili”.
Il Regolamento (UE) 1689/2024 sull’Intelligenza Artificiale (AI Act) del 13 giugno 2024 ha introdotto una serie di divieti all’interno del territorio dell’Unione Europea per pratiche di uso di sistemi AI che determinano un rischio “inaccettabile” (il massimo grado assegnato ad alcuni AI nel risk-based approach adottato dall’AI Act).
In questo contributo analizzeremo la pratica contemplata dall’art. 5.1 lett. g) AI Act, in base al quale è vietata:
l'immissione sul mercato, la messa in servizio per tale finalità specifica o l'uso di sistemi di categorizzazione biometrica che classificano individualmente le persone fisiche sulla base dei loro dati biometrici per trarre deduzioni o inferenze in merito a razza, opinioni politiche, appartenenza sindacale, convinzioni religiose o filosofiche, vita sessuale o orientamento sessuale; tale divieto non riguarda l'etichettatura o il filtraggio di set di dati biometrici acquisiti legalmente, come le immagini, sulla base di dati biometrici o della categorizzazione di dati biometrici nel settore delle attività di contrasto.
Gli elementi che caratterizzano la pratica oggetto di divieto sono:
1) la circostanza che il sistema AI sia immesso sul mercato, messo in servizio o usato nell’Unione europea
2) che il sistema sia di categorizzazione biometrica
3) che il sistema classifichi singole persone sulla base dei loro dati biometrici
4) al fine di trarre deduzioni o inferenze circa razza, opinioni politiche, appartenenza sindacale, convinzioni religiose o filosofiche, vita sessuale o orientamento sessuale.
L’AI Act definisce “dati biometrici” i dati personali ottenuti da un trattamento tecnico specifico relativi alle caratteristiche fisiche, fisiologiche o comportamentali di una persona fisica, quali le immagini facciali o i dati dattiloscopici (art. 3.34).
Resta, quindi, esclusa dall’applicazione del divieto in oggetto la categorizzazione basata su indumenti o accessori, oppure sull’attività svolta sui social media.
Per “sistema di categorizzazione biometrica” si intende il sistema AI che utilizza i dati biometrici delle persone fisiche al fine di assegnarle a categorie specifiche, a meno che non sia accessorio a un altro servizio commerciale e strettamente necessario per ragioni tecniche oggettive (art. 3.40 AI Act).
Come precisato dalle Linee Guida approvate dalla Commissione Europea il 29 luglio 2025, i filtri che classificano le caratteristiche del viso o del corpo, utilizzati sui mercati online per permettere al consumatore di visualizzare in anteprima come un prodotto gli si adatterebbe, potrebbero essere meramente accessori, in quanto utilizzati solo in relazione al servizio principale di vendere un prodotto; in questo senso, sono lecitamente utilizzabili a questi specifici fini.
Sarebbe, invece, vietato, l’uso di un sistema AI volto a classificare le persone attive su un social network in base al loro presunto orientamento politico, analizzando i dati biometrici delle fotografie caricate sulla piattaforma allo scopo di inviare loro messaggi politici mirati. In questo caso, infatti, pur essendo il sistema accessorio alla pubblicità politica, non sarebbe strettamente necessario per ragioni tecniche oggettive.
L’AI Act dispone, infine, che il divieto in esame non si applica all’etichettatura o al filtraggio di set di dati biometrici acquisiti legalmente nel settore delle attività di contrasto.
Le attività di contrasto sono quelle svolte dalle autorità di contrasto o per loro conto a fini di prevenzione, indagine, accertamento o perseguimento di reati o esecuzione di sanzioni penali, incluse la salvaguardia contro le minacce alla sicurezza pubblica e la prevenzione delle stesse.
A titolo esemplificativo, un sistema AI utilizzato da un’autorità di contrasto per etichettare e filtrare un set di dati che si sospetta contenga materiale pedopornografico sarebbe quindi escluso dal divieto.
Articoli Correlati