KI-basierte Notfalltriage im Krankenhaus: Risikoklasse und Pflichten im EU-KI-Recht

KI für Notfalltriage kann zwei Hochrisiko-Einstufungen auslösen: (1) Anhang III Nr. 5 erfasst ausdrücklich KI zum Management und Betrieb von Notfall-Kommunikation. (2) Ist die Triage medizinisch (Diagnose-/Priorisierungsentscheidung mit klinischer Wirkung), ist die Software ein Medizinprodukt nach MDR 2017/745 und als Sicherheitsbestandteil eines regulierten Produkts nach Anhang I AI Act hochriskant. In beiden Fällen vollständiges Pflichtenbündel aus Art. 8–15 spätestens am 2. Dezember 2027 (verschoben durch AI Omnibus 2026); beim Medizinprodukt zusätzlich MDR (klinische Bewertung, Vigilanz, notifizierte Stelle, CE-Kennzeichnung). Eine CE deckt beide Regime ab (Art. 47 Abs. 2–4).

Vollständiges AI-Act-Pflichtenbündel: Risikomanagement (Art. 9, klinisches Risikomanagement nach MDR ISO 14971), Daten-Governance mit Bias-Prüfung (Art. 10 — repräsentative Patientenkohorten, Prüfung an Untergruppen nach Alter/Geschlecht/Ethnie), technische Dokumentation (Art. 11, MDR-Dokumentation), Aufzeichnung (Art. 12), menschliche ärztliche Aufsicht mit echten Eingriffsbefugnissen (Art. 14 — ärztliche Letztverantwortung, kein „Auto-Triage"), Genauigkeit/Robustheit (Art. 15), QMS (Art. 17). Aufsicht: BaFin? Nein — BfArM, benannte Stellen nach MDR, Klinik-Aufsicht, Datenschutz-Aufsicht. Patientenrechte (Aufklärung, Einwilligung) bleiben unberührt.

Notfalltriage-KI ist ethisch und klinisch sensibel: fehlerhafte Priorisierung kann Todesfälle verursachen; Bias kann Untergruppen benachteiligen (z. B. Schmerz bei Frauen, dunkle Hautfarbe bei Sauerstoffsättigung). Art. 10 verlangt ausdrücklich Bias-Prüfung. Zwingend: klinische Validierung an repräsentativen Kohorten, Prospektiv-Studien, transparente Leistungsmetriken (Sensitivität/Spezifität pro Untergruppe), menschliche ärztliche Letztverantwortung. Überlagert: DSGVO Art. 9 (Gesundheitsdaten), ärztliche Schweigepflicht, Patientenverfügungsrecht. Eine ethische Begleitung (Ethikkommission, Klinisches AI-Governance) stärkt Vertrauen und Sicherheit. Notfalltriage-KI als Unterstützungs-, nicht als Entscheidungs-Werkzeug ist die Leitplanke.