Destinatari: fornitori e deployers di AI.
Data di applicazione: 2 febbraio 2025.
Obiettivo: vietare l’uso di sistemi AI che inferiscano le emozioni di una persona fisica nell’ambito del luogo di lavoro o degli istituti di istruzione.
Il Regolamento (UE) 1689/2024 sull’Intelligenza Artificiale (AI Act) del 13 giugno 2024 ha introdotto una serie di divieti all’interno del territorio dell’Unione Europea per pratiche di uso di sistemi AI che determinano un rischio “inaccettabile” (il massimo grado assegnato ad alcuni sistemi AI nel risk-based approach adottato dall’AI Act).
In questo contributo analizzeremo la pratica contemplata dall’art. 5.1 lett. f) AI Act, in base al quale è vietata:
l'immissione sul mercato, la messa in servizio per tale finalità specifica o l'uso di sistemi di IA per inferire le emozioni di una persona fisica nell'ambito del luogo di lavoro e degli istituti di istruzione, tranne laddove l'uso del sistema di IA sia destinato a essere messo in funzione o immesso sul mercato per motivi medici o di sicurezza.
Gli elementi che caratterizzano la pratica oggetto di divieto sono:
1) la circostanza che il sistema AI sia immesso sul mercato, messo in servizio o usato nell’Unione europea
2) al fine di inferire le emozioni di una persona fisica
3) nell'ambito del luogo di lavoro o degli istituti di istruzione
4) ad esclusione dei casi in cui l'uso del sistema di AI sia destinato a essere messo in funzione o immesso sul mercato per motivi medici o di sicurezza
Sul punto, l’AI Act ha chiarito che il divieto in oggetto si applica ai sistemi AI finalizzati all'identificazione o all'inferenza di emozioni o intenzioni di persone fisiche sulla base dei loro dati biometrici (fisici o comportamentali).
Il concetto di “emozioni” dovrebbe essere interpretato in senso ampio, includendovi (a titolo meramente esemplificativo) felicità, tristezza, rabbia, imbarazzo e divertimento. Non vi rientrano, invece, gli stati fisici quali il dolore o l’affaticamento (considerando 18).
Come precisato dalle Linee Guida approvate dalla Commissione Europea il 29 luglio 2025, è assoggettato al divieto in esame, ad esempio, l’uso di una webcam e di un sistema di riconoscimento vocale da parte di un call center per inferire le emozioni dei dipendenti al fine di decidere le mansioni da attribuire a ciascuno.
Al contrario, il divieto non si applica a un sistema AI che inferisca lo stato di affaticamento di un conducente per suggerirgli quando fare una sosta per evitare incidenti.
Le Linee Guida hanno, inoltre, chiarito che le nozioni di “luogo di lavoro” e di “istituto di istruzione” dovrebbero essere interpretate in senso ampio, includendo nel primo ambito qualsiasi spazio fisico o virtuale nel quale le persone fisiche svolgono i compiti loro assegnati, a prescindere dalla condizione di dipendente, professionista o apprendista (il divieto è, infatti, applicabile anche durante il processo di selezione e assunzione del personale).
Quanto agli istituti di istruzione, il riferimento dovrebbe comprendere gli istituti sia pubblici sia privati.
L’AI Act prevede, poi, un’espressa eccezione al divieto per i sistemi di riconoscimento delle emozioni utilizzati per motivi medici o di sicurezza, come i sistemi destinati all’uso di terapeutico.
Su tali basi, dovrebbe essere consentito, a titolo esemplificativo, l’uso di un sistema AI per assistere dipendenti o studenti affetti da autismo e migliorare l’accessibilità per le persone non vedenti o non udenti.
Articoli Correlati