Compliance-Lexikon · EU AI Act
Hochrisiko-KI
auch: High-Risk AI System
Hochrisiko-KI bezeichnet KI-Systeme, die nach Anhang III des EU AI Act in sensiblen Anwendungsbereichen (z.B. kritische Infrastruktur, Personalwesen, Bildung, Strafverfolgung, Kreditwuerdigkeitspruefung) eingesetzt werden und deshalb strengen Pflichten zu Risikomanagement, Datenqualitaet, menschlicher Aufsicht und Konformitaetsbewertung unterliegen.
Warum die Hochrisiko-Klassifizierung der zentrale Compliance-Pruefpunkt des EU AI Act ist
Der EU AI Act folgt einem risikobasierten Ansatz: Die meisten KI-Anwendungen unterliegen minimalen oder keinen spezifischen Pflichten, waehrend Hochrisiko-KI-Systeme einem umfassenden Pflichtenkatalog unterliegen - vergleichbar mit einer Medizinprodukte-Zulassung. Anhang III listet konkrete Anwendungsbereiche: biometrische Identifizierung, kritische Infrastruktur, Bildung, Beschaeftigung, Zugang zu wesentlichen Dienstleistungen, Strafverfolgung, Migration und Justizverwaltung.
Wo die Hochrisiko-Klassifizierung gefordert wird
| Framework | Referenz | Anforderung |
|---|---|---|
| EU AI Act | Art. 6 / Anhang III | Klassifizierung als Hochrisiko-KI-System anhand definierter Anwendungsbereiche und Kriterien. |
| EU AI Act | Art. 9-15 | Pflichtanforderungen fuer Hochrisiko-KI: Risikomanagement, Datenqualitaet, Dokumentation, menschliche Aufsicht. |
| EU AI Act | Art. 16 | Pflichten der Anbieter von Hochrisiko-KI-Systemen einschliesslich Konformitaetsbewertung. |
| EU AI Act | Art. 26 | Pflichten der Betreiber (Nutzer) von Hochrisiko-KI-Systemen. |
| DSGVO | Art. 22 / Art. 35 | Ueberschneidende Anforderungen bei automatisierten Entscheidungen und Datenschutz-Folgenabschaetzung. |
BAM-Objektreferenz
Haeufige Fehler
- Keine systematische Pruefung eingesetzter KI-Systeme gegen Anhang-III-Kriterien
- HR-Tools mit KI-Bewerberauswahl faelschlich nicht als Hochrisiko eingestuft
- Kreditscoring-Systeme ohne vollstaendige Konformitaetsbewertung im Einsatz
- Keine Unterscheidung zwischen Anbieter- und Betreiberpflichten
Pflichten fuer Hochrisiko-KI-Systeme
Anbieter von Hochrisiko-KI muessen ein Risikomanagementsystem implementieren, hohe Anforderungen an Trainingsdatenqualitaet erfuellen, umfassende technische Dokumentation fuehren, automatische Protokollierung sicherstellen, menschliche Aufsichtsmoeglichkeiten vorsehen und eine Konformitaetsbewertung durchlaufen. Betreiber (Nutzer) muessen die KI-Systeme bestimmungsgemaess einsetzen, menschliche Aufsicht gewaehrleisten und bei automatisierten Entscheidungen mit Rechtswirkung besondere Sorgfalt walten lassen.
Naechster Schritt
Compliance-Stresstest starten
Kostenloser Stresstest zur EU-AI-Act-Bereitschaft.