Die Risikostufen des AI Act: verboten, hohes Risiko, Transparenz, minimal

Die Risikopyramide

Je stärker ein KI-Einsatz die Rechte und die Sicherheit von Menschen beeinflussen kann, desto strenger sind die Regeln. Dasselbe Modell kann je nach Einsatz in unterschiedliche Stufen fallen: E-Mails zusammenzufassen ist minimales Risiko, Bewerbungen vorzusortieren ist hohes Risiko.

1. Unannehmbares Risiko: die verbotenen Praktiken

Artikel 5 verbietet unter anderem diese Praktiken (verkürzt, mit den im Text vorgesehenen Ausnahmen). Die Verbote gelten seit dem 2. Februar 2025; die letzten beiden der Liste hat der Digital Omnibus (Verordnung (EU) 2026/1744) ergänzt, sie gelten ab dem 2. Dezember 2026.

• Unterschwellige oder manipulative Techniken, die Schaden verursachen.
• Ausnutzung von Schwächen wegen Alter, Behinderung oder sozioökonomischer Lage.
• Social Scoring, das zu ungerechtfertigter Schlechterbehandlung führt.
• Ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras zum Aufbau von Gesichtserkennungsdatenbanken.
• Emotionserkennung am Arbeitsplatz und in Schulen, außer aus medizinischen oder Sicherheitsgründen.
• Biometrische Kategorisierung, um sensible Daten wie ethnische Herkunft oder politische Meinung abzuleiten.
• Biometrische Echtzeit-Fernidentifizierung in öffentlichen Räumen durch Strafverfolgungsbehörden, außer in begrenzten Fällen.
• Bewertung des Straftatrisikos einer Person allein auf Grundlage von Profiling.
• Erzeugung realistischer intimer Bilder, Videos oder Audios einer identifizierbaren Person ohne deren Einwilligung (sogenannte „Nudify“-Apps).
• Erzeugung von Darstellungen sexuellen Kindesmissbrauchs.

2. Hohes Risiko

Ein System ist in zwei Fällen hochriskant: wenn es eine Sicherheitskomponente eines bereits regulierten Produkts ist (Spielzeug, Medizinprodukte, Maschinen, Anhang I) oder wenn es in einen der Bereiche von Anhang III fällt:

• Biometrie.
• Kritische Infrastrukturen.
• Bildung und Ausbildung.
• Beschäftigung und Personalmanagement, etwa die Vorauswahl von Lebensläufen.
• Zugang zu wesentlichen Diensten, etwa Kreditwürdigkeitsprüfung oder Risikobewertung bei Versicherungen.
• Strafverfolgung, Migration und Grenzkontrolle.
• Justiz und demokratische Prozesse.

Für diese Systeme sind Risikomanagement, Datenqualität, technische Dokumentation, Protokollierung, Transparenz gegenüber den Nutzern, menschliche Aufsicht, Genauigkeit und Cybersicherheit sowie eine Konformitätsbewertung vorgesehen. Der Digital Omnibus hat diese Fristen auf den 2. Dezember 2027 für Anhang III und den 2. August 2028 für Anhang I verschoben: Prüfen Sie stets den konsolidierten Text.

3. Begrenztes Risiko: Transparenzpflichten

• Chatbots und Assistenten: Wer damit interagiert, muss wissen, dass es sich um eine KI handelt.
• Erzeugte oder manipulierte Inhalte wie Deepfakes müssen als solche gekennzeichnet werden.
• Emotionserkennungssysteme: Die betroffenen Personen müssen informiert werden.

Diese Pflichten gelten seit dem 2. August 2026. Generative Systeme, die schon vorher auf dem Markt waren, haben bis zum 2. Dezember 2026 Zeit, ihre Ausgaben als künstlich erzeugt zu kennzeichnen.

4. Minimales Risiko

Spamfilter, Videospiele und einfache Empfehlungssysteme haben keine besonderen Pflichten. Andere Gesetze wie die DSGVO gelten weiterhin, und freiwillige Verhaltenskodizes sind möglich.

Ein Sonderfall: KI-Modelle mit allgemeinem Verwendungszweck

Die großen Modelle hinter Assistenten wie ChatGPT oder Gemini werden gesondert behandelt. Ihre Anbieter haben seit dem 2. August 2025 Dokumentations- und Urheberrechtspflichten, mit zusätzlichen Anforderungen für Modelle mit systemischem Risiko.

So finden Sie Ihre Risikostufe

• Was tut das System und wofür setzen Sie es ein?
• In welchem Kontext: Beschäftigung, Kredit, Bildung, Gesundheit, Sicherheit?
• Wen betrifft das Ergebnis und wie stark kann es die Person beeinflussen?
• Fällt es in einen Bereich von Anhang III oder in ein reguliertes Produkt?