AI Act a scuola: quali usi dell'intelligenza artificiale sono ad alto rischio

Cosa dice l'allegato III sull'istruzione

L'allegato III dell'AI Act elenca gli ambiti in cui un sistema di AI è considerato ad alto rischio. Per l'istruzione e la formazione professionale i casi sono quattro:

• Determinare l'accesso o l'ammissione agli istituti, o assegnare le persone a un istituto o a un percorso.
• Valutare i risultati dell'apprendimento, anche quando servono a orientare il percorso di studio.
• Valutare il livello di istruzione adeguato che una persona riceverà o a cui potrà accedere.
• Monitorare e rilevare comportamenti vietati degli studenti durante le prove, come i sistemi anti-copiatura con videosorveglianza.

La logica è semplice: in questi casi il risultato del sistema può incidere sul percorso di studio e quindi sulle opportunità di vita di una persona, spesso un minore.

Esempi pratici: cosa rientra e cosa no

• Correggere e mettere il voto alle verifiche con l'AI: è l'uso tipico che il regolamento considera ad alto rischio.
• Una piattaforma che decide chi ammettere a un corso o in quale classe inserire uno studente: alto rischio.
• Un sistema che sorveglia gli studenti durante un esame online per individuare chi copia: alto rischio.
• Creare un quiz di ripasso, generare un'immagine per una scheda didattica, farsi aiutare a scrivere i descrittori di una griglia di valutazione: di norma non è alto rischio, perché l'AI prepara materiale e la valutazione resta al docente.
• Un chatbot che risponde alle domande degli studenti: non è alto rischio, ma gli studenti devono sapere che stanno parlando con un'AI (articolo 50).

Cosa è vietato

Dal 2 febbraio 2025 è vietato usare sistemi di riconoscimento delle emozioni negli istituti di istruzione, salvo per ragioni mediche o di sicurezza. Un software che pretende di misurare attenzione, noia o stress degli studenti dalle espressioni del volto non è consentito in classe. Valgono anche le altre pratiche vietate dall'articolo 5, come lo sfruttamento delle vulnerabilità legate all'età.

L'eccezione: quando un sistema dell'allegato III non è ad alto rischio

L'articolo 6, paragrafo 3, prevede che un sistema compreso nell'allegato III non sia ad alto rischio se non incide in modo significativo sulle decisioni: per esempio se svolge un compito procedurale limitato, migliora il risultato di un'attività umana già completata o svolge solo un compito preparatorio. L'eccezione non vale mai se il sistema effettua profilazione delle persone. Uno strumento che segnala gli errori ortografici al docente è molto diverso da un sistema che assegna il voto.

Cosa devono fare docenti e scuole

• Formare il personale: l'obbligo di alfabetizzazione in materia di AI vale già oggi per chi usa sistemi di AI, scuole comprese.
• Tenere la valutazione in mano al docente: l'AI può proporre, ma il voto e il giudizio restano una decisione umana, motivata e verificabile.
• Scegliere strumenti adatti: per gli usi ad alto rischio servono sistemi progettati e dichiarati conformi per quello scopo, non un assistente generico usato al di fuori della sua destinazione.
• Proteggere i dati degli studenti: valgono il GDPR e le regole interne su cosa si può inserire negli strumenti di AI.
• Informare studenti e famiglie quando si usano sistemi di AI che li riguardano.

In Italia la legge 132/2025 sull'intelligenza artificiale prevede inoltre che i minori di 14 anni possano accedere alle tecnologie di AI solo con il consenso di chi esercita la responsabilità genitoriale.

Le scadenze

I divieti si applicano dal 2 febbraio 2025 e gli obblighi di trasparenza dal 2 agosto 2026. Gli obblighi per i sistemi ad alto rischio dell'allegato III, istruzione compresa, si applicano dal 2 dicembre 2027, dopo il rinvio deciso con il Digital Omnibus. Chi usa questi sistemi dovrà tra l'altro seguire le istruzioni del fornitore, affidare la supervisione a persone competenti, conservare i log e informare le persone interessate. Gli enti pubblici, come le scuole statali, dovranno anche svolgere una valutazione d'impatto sui diritti fondamentali.