KI mit hohem Risiko: Definition und rechtliche Bedeutung (AI Act / Data Act)

Art. 6 AI Act eröffnet zwei eigenständige Wege in die Hochrisiko-Einstufung. Der erste Weg (Art. 6 Abs. 1 lit. a) betrifft KI, die Sicherheitskomponente eines Produkts ist oder selbst ein solches Produkt darstellt, das bereits unionsrechtlichen Harmonisierungsrechtsvorschriften unterliegt — aufgelistet in Anhang I (u. a. Maschinen, Aufzüge, Druckgeräte, Spielzeug, Medizinprodukte, In-vitro-Diagnostika). Der zweite Weg (Art. 6 Abs. 1 lit. b) betrifft KI-Systeme, die in einem der in Anhang III genannten Bereiche eingesetzt werden, sofern sie dort als Hochrisiko aufgeführt sind. Die Europäische Kommission kann Anhang III ergänzen, wenn ein System vergleichbare erhebliche Risiken für Gesundheit, Sicherheit oder Grundrechte aufweist (Art. 7). Durch das AI Omnibus-Paket 2026 wird die Definition „Sicherheitskomponente" (Art. 3) verengt: KI-Funktionen, die lediglich der reinen Benutzerassistenz oder Optimierung dienen (ohne Sicherheitsrelevanz), führen nicht mehr automatisch zur Hochrisiko-Klassifizierung des Gesamtprodukts.

Anhang III listet konkret: (1) biometrische Identifizierung und Kategorisierung natürlicher Personen; (2) Sicherheit und Betriebsbedingungen kritischer digitaler Infrastruktur; (3) Bildung und berufliche Bildung (u. a. Zugangszulassung, Bewertung, Leistungsniveau); (4) Beschäftigung, Personalwesen und Selbstständigkeit; (5) wesentliche private und öffentliche Dienstleistungen (u. a. Kreditwürdigkeit, Sozialleistungen, Notrufe); (6) Strafverfolgung; (7) Migration, Asyl und Grenzkontrolle; (8) Justiz und demokratische Prozesse. Für die Praxis heißt das: Eine konkrete Anwendung ist nicht „generell hochriskant", sondern hochriskant, wenn sie einen dieser Anhang-III-Punkte erfüllt. Die exakte Nummer ist der zitierfähige Anker.

Anbieter hochriskanter KI-Systeme müssen vor dem Inverkehrbringen ein Risikomanagementsystem etablieren (Art. 9), Anforderungen an die Daten-Governance erfüllen (Art. 10), eine technische Dokumentation erstellen (Art. 11 i.V.m. Anhang IV), automatische Aufzeichnungen (Logs) vorhalten (Art. 12), das System für Betreiber transparent und mit Gebrauchsanweisung ausstatten (Art. 13), so auslegen, dass es von Menschen wirksam überwacht werden kann (Art. 14) sowie angemessene Genauigkeit, Robustheit und Cybersecurity gewährleisten (Art. 15). Hinzu kommen ein Qualitätsmanagementsystem (Art. 17), Konformitätsbewertung (Art. 43) und CE-Kennzeichnung (Art. 48). Wer als Betreiber eine wesentliche Modifikation vornimmt, wird selbst zum Anbieter. Logs sind mindestens 6 Monate aufzubewahren (Art. 12).

Adressaten sind primär die Anbieter (Art. 16) sowie — mit abgestuften Pflichten — die Betreiber (Art. 26), ferner Importeure (Art. 23), Vertriebspartner (Art. 22) und Bevollmächtigte (Art. 22). Hochrisiko-KI nach Anhang III muss spätestens am 2. Dezember 2027 die Pflichten erfüllen (ursprünglich 2.8.2026, verschoben durch AI Omnibus 2026); KI, die unter Art. 6 Abs. 1 lit. a fällt (Sicherheitskomponenten regulierter Produkte nach Anhang I), spätestens am 2. August 2028 (ursprünglich 2.8.2027). Registriert wird in der EU-Datenbank (Art. 49, 71). Verstöße gegen die Hochrisiko-Pflichten können nach Art. 99 Abs. 4 mit bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes geahndet werden. KMU (SMC bis 750 Mitarbeiter/150 Mio. EUR Umsatz durch AI Omnibus 2026) profitieren von vereinfachter Dokumentation nach Art. 11 + Art. 63.