Öffentliche Verwaltung: AI Act, Data Act & DSGVO-Pflichten

Öffentliche Verwaltung mit KI ist hochriskant bei: (1) Anhang III Nr. 5 — KI, die den Zugang zu wesentlichen privaten und öffentlichen Dienstleistungen/Sozialleistungen/Steuerleistungen bestimmt oder bewertet (Sozialleistungen, Kindergeld, Wohngeld, BAföG, Bürgergeld, Steuern, Sozialhilfe, Arbeitsvermittlung); (2) Anhang III Nr. 3 — KI, die den Zugang zu/Prüfung in Bildungseinrichtungen bestimmt; (3) Anhang III Nr. 6/7 — Justiz-/Strafverfolgungs-KI, Visa-/Asyl-Verfahren; (4) Anhang III Nr. 1 — biometrische Identifizierung (z. B. für Personalausweis-/Behördenzugänge). Pflichten: volles Art. 8–15-Pflichtenbündel spätestens am 2. Dezember 2027 (verschoben durch AI Omnibus 2026). Plus: öffentliche Betreiber-Pflichten nach Art. 5 des AI Act (öffentliche Stellen als Betreiber müssen Konformität/CE prüfen, Registrierung in EU-Datenbank Art. 49 Abs. 2). Andere KI: VerwaltungskI ohne existentiellen Bezug (Dokumenten-Sortierung, Bürger-Chatbot, Übersetzung) meist begrenzt/minimal. Eine sorgfältige Klassifizierung je Verfahren ist entscheidend — Bürger-/Sozialleistungen sind existentiell.

Praktisch: (1) bei Hochrisiko: volles Art. 8–15-Pflichtenbündel mit Schwerpunkt Daten-Governance/Bias (Art. 10 — Tests an Geschlecht/Einkommen/Herkunft), menschliche Aufsicht (Art. 14 — Sachbearbeiterin/Sachbearbeiter als Letztverantwortliche), Aufzeichnung (Art. 12 — Bescheid-Begründung); (2) Verwaltungsverfahrensrecht — VwVfG (Pflicht zur Beratung/Aufklärung, Begründung von Verwaltungsakten § 39), SGB X (Sozialverwaltungsverfahren), Abgabenordnung (Steuerfestsetzung), Recht auf Gehör (Art. 103 GG); (3) DSGVO — besondere Datenkategorien bei Sozial-/Steuer-/Gesundheitsdaten (Art. 9/10), Informationspflicht, automatisierte Entscheidungen (Art. 22 — Recht auf menschliche Prüfung bei belastenden Verwaltungsakten), DSFA bei hochriskanter Verarbeitung; (4) Grundrechtsschutz — allgemeines Gleichbehandlungsgebot (Art. 3 GG), Sozialstaatsprinzip (Art. 20 GG), Rechtsstaatlichkeit; (5) Transparenz — Begründung/Pflicht bei Verwaltungsakten, Mitsprache/Anhörung, Rechtsbehelfe (Widerspruch, Klage), Ombudsstellen. Aufsichtlich: Datenschutz-Aufsichten (DSK), Marktüberwachung (AI Act), Rechnungshöfe (Wirtschaftlichkeit/Korruption). Eine verantwortungsvolle Verwaltungs-KI ist rechtsstaatlich eingebunden — Transparenz, Begründung, Rechtsbehelf, menschliche Letztverantwortung. Bürgerrechts-NGOs (AlgorithmWatch, Freiheitsrechte.org) beobachten KI in der Verwaltung kritisch.

Verwaltungs-KI hat klare Grenzen. Rechtsstaatlichkeit: die KI darf nicht die behördliche Letztverantwortung ersetzen — Sachbearbeiterin/Sachbearbeiter entscheiden eigenständig, begründen den Verwaltungsakt (§ 39 VwVfG) und dokumentieren. Vollautomatisierte belastende Verwaltungsakte (Sozialleistungen-Streichung, Steuernachzahlung, Bescheid-Ablehnung) ohne menschliche Überprüfung sind unzulässig (Art. 14, Art. 22 DSGVO). Anspruch auf Gehör (Art. 103 GG), Begründung, Rechtsbehelfe (Widerspruch, Klage) bleiben voll erhalten. Transparenz: die Bürgerin/der Bürger hat das Recht zu wissen, ob/wie KI eingesetzt wird (Informationspflicht, Transparenz), das Recht auf Erläuterung individueller Outputs (Art. 86). AlgorithmWatch, Freiheitsrechte.org, DSG-Meldestellen und Petitionsstellen sind Ombuds-/Aufsichts-Instrumente. Eine verantwortungsvolle Verwaltungs-KI ist rechtsstaatlich eingebunden, transparent, begründet und überprüfbar — sie dient den Bürgerinnen/Bürgern statt der Bürokratie-Optimierung. Das Sozialstaatsprinzip (Art. 20 GG) verlangt, dass KI die soziale Absicherung sichichert, nicht aushöhlt.