Menschliche Aufsicht: Definition und rechtliche Bedeutung (AI Act / Data Act)

Art. 14 Abs. 1 schreibt vor, dass hochrisiko-KI mit einer Ausstattung zu entwickeln ist, die eine wirksame menschliche Aufsicht während der Nutzung ermöglicht. Art. 14 Abs. 2 konkretisiert: soweit möglich und angemessen, sind diese Maßnahmen in das System eingebaut. Die Aufsicht muss so beschaffen sein, dass die beaufsichtigenden Personen die relevanten automatischen Modi und Ergebnisse angemessen verstehen und interpretieren und die Systemleistung bewerten können — um insbesondere Automation Bias (blinden Vertrauen in das System) entgegenzuwirken.

Wirksame Aufsicht setzt konkrete Eingriffsmöglichkeiten voraus. Aufsichtspersonen müssen in der Lage sein, den Betrieb zu unterbrechen („Stop"-Funktion), das System über einen Notknopf abzuschalten und in begründeten Fällen die Ausgabe oder das Ergebnis zu korrigieren (Art. 14 Abs. 4). Die Systemgestaltung muss diese Eingriffe technisch zulassen — reine Blackbox-Ausgaben ohne Eingriffsmöglichkeit genügen nicht.

Die Pflicht, menschliche Aufsicht sicherzustellen, trifft den Anbieter (Ausstattung des Systems), die praktische Umsetzung aber den Betreiber (Art. 26 Abs. 2): Dieser stellt sicher, dass das System gemäß den Anweisungen verwendet wird, weist geeignete Aufsichtspersonen zu, die entsprechende Befugnisse und Schulungen haben, und informiert diese über mögliche Risiken. Die menschliche Aufsicht ist damit eine geteilte Pflicht über die Wertschöpfungskette hinweg.