Behörden-Entscheidungsautomation: Risikoklasse und Pflichten im EU-KI-Recht

Anhang III Nr. 5 erfasst KI zur Bewertung und Einordnung von Personen bei Zugang zu wesentlichen öffentlichen Dienstleistungen und Sozialleistungen sowie zur Auszahlung/Kürzung. Über diese Lesart hinaus erfasst der Tatbestand die breite Automatisierung behördlicher Verfahren: Antragsprüfung (Bürgergeld, BAföG, Wohngeld, Aufenthaltstitel), Plausibilitäts- und Risikobewertung, automatisierte Bescheiderstellung, Ermittlungsunterstützung (z. B. Leistungsmissbrauch). Grund: behördliche Entscheidungen greifen in Grundrechte ein (Eigentum, Freiheit, Gleichheit), das Verwaltungsverfahrensrecht schützt Betroffene (Anhörung, Begründung, Rechtsbehelf). Volles Pflichtenbündel aus Art. 8–15 spätestens am 2. Dezember 2027 (verschoben durch AI Omnibus 2026).

Art. 8–15 mit Schwerpunkt: Daten-Governance/Bias (Art. 10), menschliche Aufsicht (Art. 14 — Beamtinnen/Beamte mit Letztverantwortung), Aufzeichnung (Art. 12), Genauigkeit (Art. 15). Öffentliche Stellen als Betreiber: vor Inbetriebnahme Grundrechts-Folgenabschätzung nach Art. 27 AI Act (Art. 26 Abs. 7) — betroffene Personen/Gruppen, spezifische Risiken (Bias, Diskriminierung, Fehler), Maßnahmen, menschliche Aufsicht, Beschwerdeweg. Überlagert: VwVfG (§§ 28 Anhörung, 39 Begründung, 71 ff. Rechtsbehelfe), SGG/VwGO (Gerichtsweg), DSGVO Art. 22 (Recht auf menschliche Prüfung bei automatisierten Entscheidungen), Art. 41 GRCh (gute Verwaltung). Dokumentation der Bias-/Fairness-Tests und der menschlichen Eingriffsmechanismen ist Voraussetzung.

Behörden-KI ist besonders fehleranfällig und existenzrelevant. Die niederländische Toeslagenaffaire (kinderbetreuungsbezogene Steuergutschrift-KI, die tausende Familien zu Unrecht als betrügerisch einstufte, mit rassistischem Bias) ist das Warnbeispiel: ein algorithmisches System, das ohne menschliche Prüfung, ohne effektiven Rechtsbehelf und mit systematischem Bias existenzgefährdende Bescheide erließ — führte zu Rücktritten, Entschädigungen und KI-Skepsis in der Verwaltungsautomation. Lehren: menschliche Letztverantwortung, effektive Rechtsbehelfe, Bias-Prüfung, Transparenz, keine pauschale Kriminalisierung. Für deutsche Behörden empfiehlt sich eine konservative, stufenweise Automation (Unterstützung vor Vollautomation), klare Verantwortungslinien, Kontroll- und Korrekturmechanismen, und Bürger-Kommunikation über den KI-Einsatz. Vertrauensschutz und Verhältnismäßigkeit sind die Leitplanken verwaltungsrechtlicher KI.