KI in Prüfungs- und Zulassungsentscheidungen im Bildungsbereich: Risikoklasse und Pflichten im EU-KI-Recht

Anhang III Nr. 3 erfasst KI zur Bestimmung des Zugangs, der Zulassung oder der Zuweisung zu Bildungseinrichtungen auf allen Stufen; zur Bewertung von Lernergebnissen, einschließlich deren Messung und Bewertung; und zur Bewertung des angemessenen Lernniveaus, auf dem sich eine Person voraussichtlich befinden wird oder das sie erreichen kann. Beispiele: automatisierte Aufsatz-/Multiple-Choice-Bewertung, Online-Proctoring (Prüfungsüberwachung per Webcam), Zulassungs-Scoring, personalisierte Empfehlung von Lernpfaden mit Selektionswirkung. Grund: Bildungszugang ist ein Grundrecht (Art. 14 GRCh) und chancenrelevant; Kinder als vulnerabler Nutzerkreis. Volles Pflichtenbündel aus Art. 8–15 spätestens am 2. Dezember 2027 (verschoben durch AI Omnibus 2026).

Anbieter: Risikomanagement (Art. 9), Daten-Governance mit Bias-Prüfung (Art. 10 — besonders wichtig, da historische Daten soziale/ethnische Verzerrungen spiegeln), technische Dokumentation (Art. 11), Aufzeichnung (Art. 12), menschliche Aufsicht mit echter Letztverantwortung der Lehrkraft/Prüfungskommission (Art. 14), Genauigkeit/Robustheit (Art. 15). Bildungseinrichtungen als Betreiber: Schulung, Monitoring, Vorfallsmeldung. Überlagert: DSGVO mit strengeren Maßstäben bei Kindern (Art. 8: Einwilligung ab 16 Jahren, member-state-Absenkung), Schulgesetz der Länder, Hochschulrecht, Jugendmedienschutz. Öffentliche Bildungsträger haben zusätzliche Grundrechts-Folgenabschätzung (Art. 27 AI Act).

Scharfe Grenze: Emotionserkennung in Bildungseinrichtungen ist nach Art. 5 Abs. 1 lit. f VERBOTEN — kein Stimmungs-/Aufmerksamkeits-/Betrugs-Screening während Prüfungen, keine Mimik-/Blickrichtungsauswertung zur Ehrlichkeitsbeurteilung (seit 2. Feb. 2025). Proctoring-Systeme, die Verhalten erfassen, ohne Emotionen abzuleiten, bleiben hochriskant nach Anhang III Nr. 3 — müssen aber DSGVO-konform (Aufzeichnung, Verarbeitung, Löschung), verhältnismäßig und mit Information/Aufsicht ausgestaltet sein. Praktisch: automatisierte Aufsatzbewertung als Unterstützung mit menschlicher Endverantwortung = zulässig hochrisiko; Emotionserkennung im Proctoring = verboten. Eine konservative Verfahrensauswahl schützt vor der versehentlichen Überschreitung ins Verbot.