I livelli di rischio dell'AI Act: vietati, alto rischio, trasparenza, minimo

La piramide del rischio

Più un uso dell'AI può incidere sui diritti e sulla sicurezza delle persone, più le regole sono severe. Lo stesso modello può finire in livelli diversi a seconda di come lo si usa: per riassumere email è a rischio minimo, per filtrare i curriculum dei candidati è ad alto rischio.

1. Rischio inaccettabile: le pratiche vietate

L'articolo 5 vieta, tra le altre, queste pratiche (in sintesi, con eccezioni previste dal testo). I divieti si applicano dal 2 febbraio 2025; gli ultimi due della lista sono stati aggiunti dal Digital Omnibus (Regolamento (UE) 2026/1744) e si applicano dal 2 dicembre 2026.

• Tecniche subliminali o manipolative che causano danni.
• Sfruttamento delle vulnerabilità di età, disabilità o condizione socio-economica.
• Punteggio sociale (social scoring) che porta a trattamenti sfavorevoli ingiustificati.
• Raccolta non mirata di immagini facciali da internet o da telecamere per creare banche dati di riconoscimento facciale.
• Riconoscimento delle emozioni sul luogo di lavoro e a scuola, salvo ragioni mediche o di sicurezza.
• Categorizzazione biometrica per dedurre dati sensibili, come origine etnica o orientamento politico.
• Identificazione biometrica remota in tempo reale in spazi pubblici da parte delle forze dell'ordine, salvo eccezioni.
• Valutazione del rischio di reato basata solo sulla profilazione di una persona.
• Generazione di immagini, video o audio intimi realistici di una persona identificabile senza il suo consenso (le cosiddette app "nudify").
• Generazione di materiale pedopornografico.

2. Alto rischio

Un sistema è ad alto rischio in due casi: se è un componente di sicurezza di un prodotto già regolato (giocattoli, dispositivi medici, macchine, allegato I) oppure se rientra in uno degli ambiti dell'allegato III:

• Biometria.
• Infrastrutture critiche.
• Istruzione e formazione.
• Occupazione e gestione dei lavoratori, come la selezione dei CV.
• Accesso a servizi essenziali, come la valutazione del merito creditizio o dei rischi assicurativi.
• Forze dell'ordine, migrazione e controllo delle frontiere.
• Giustizia e processi democratici.

Per questi sistemi sono previsti gestione del rischio, qualità dei dati, documentazione tecnica, registrazione degli eventi, trasparenza verso chi li usa, supervisione umana, accuratezza e cybersicurezza, oltre a una valutazione di conformità. Il Digital Omnibus ha rinviato queste scadenze al 2 dicembre 2027 per l'allegato III e al 2 agosto 2028 per l'allegato I: verifica sempre il testo consolidato.

3. Rischio limitato: obblighi di trasparenza

• Chatbot e assistenti: chi interagisce deve sapere di parlare con un'AI.
• Contenuti generati o manipolati, come i deepfake: vanno dichiarati come tali.
• Sistemi di riconoscimento delle emozioni: le persone coinvolte vanno informate.

Questi obblighi si applicano dal 2 agosto 2026. I sistemi generativi già sul mercato prima di quella data hanno tempo fino al 2 dicembre 2026 per marcare come artificiali i contenuti prodotti.

4. Rischio minimo

Filtri antispam, videogiochi e sistemi di raccomandazione semplici non hanno obblighi specifici. Restano valide le altre leggi, come il GDPR, e si possono adottare codici di condotta volontari.

Un caso a parte: i modelli di AI per scopi generali

I grandi modelli che alimentano assistenti come ChatGPT o Gemini sono trattati a parte. I loro fornitori hanno obblighi di documentazione e di rispetto del diritto d'autore, con requisiti aggiuntivi per i modelli con rischio sistemico, dal 2 agosto 2025.

Come capire in quale livello ricadi

• Cosa fa il sistema e a che scopo lo usi?
• In quale contesto: lavoro, credito, istruzione, sanità, sicurezza?
• Su chi ha effetto il suo risultato e quanto può incidere sulla persona?
• Rientra in uno degli ambiti dell'allegato III o in un prodotto regolato?