Individuelle Kriminalitätsprognose (Predictive Policing für Personen): Risikoklasse und Pflichten im EU-KI-Recht
KI-Systeme, die das Risiko vorhersagen, dass eine bestimmte natürliche Person eine Straftat begehen wird — ausschließlich auf der Grundlage des Profilings oder der Bewertung von Persönlichkeitsmerkmalen — sind nach Art. 5 Abs. 1 lit. d AI Act VERBOTEN (seit 2. Februar 2025). Der Tatbestand erfasst die personenbezogene Vorhersage allein aus Profil/Charakter, nicht jedoch risikobasierte Bewertungen auf Basis verifizierter Fakten (Vorstrafen, konkretes Verhalten) oder die Vorhersage von Orten/Zeiten (Anhang III Nr. 6, hochriskant). Höchste Sanktion: bis 35 Mio. EUR / 7 % Umsatz (Art. 99 Abs. 3). Überlagert: Unschuldsvermutung (Art. 6 EMRK), Gleichheitssatz, nationales Polizeirecht. Eine saubere Verfahrensauslegung (Personenprognose vs. Orte/Zeiten + Fakten) ist der entscheidende Schutz vor dem Verbot.
Steve Baka
Der Verbotstatbestand
Art. 5 Abs. 1 lit. d verbietet KI zur Vorhersage des Risikos, dass eine natürliche Person eine Straftat begeht, ausschließlich auf der Grundlage des Profilings oder der Bewertung von Persönlichkeitsmerkmalen. Tatbestandsmerkmale: (1) Vorhersage eines individuellen Straftatrisikos, (2) ausschließlich aus Profiling/Persönlichkeit (nicht aus objektiven, verifizierten Fakten). Der Tatbestand schützt vor diskriminierenden, unkontrollierbaren Persönlichkeits-Profilen im Strafrecht und der Unschuldsvermutung. Verbot seit dem 2. Februar 2025, höchste Sanktion (Art. 99 Abs. 3): bis 35 Mio. EUR / 7 % Umsatz.
Abgrenzung zu zulässiger Strafverfolgungs-KI
Scharf abzugrenzen: (1) Predictive Policing für Orte und Zeitpunkte (Hotspot-Analytics) ist hochriskant (Anhang III Nr. 6), nicht verboten. (2) Risikobewertungen auf Basis verifizierter Fakten (Vorstrafenregister, konkretes Verdachtsverhalten, aktenmäßige Befunde) sind hochriskant, nicht verboten. (3) Bewertung von Beweismitteln (Anhang III Nr. 6) ist hochriskant. Verboten bleibt die Vorhersage, dass eine Person straffällig wird — allein aus Profil/Persönlichkeit. Die Grenze wird überschritten, wenn ein Ort-Modell implizit zu einer Personenprognose wird (z. B. alle Anwesenden in Hotspots als „riskant" markiert). Konservative Auslegung empfohlen.
Überlagerung durch Grund- und Menschenrechte
Überlagert wird das Verbot durch Grund- und Menschenrechte: Unschuldsvermutung (Art. 6 Abs. 2 EMRK, Art. 48 GRCh) — keine Vorverurteilung; Recht auf ein faires Verfahren (Art. 6 EMRK); Gleichheitssatz (Art. 3 Abs. 1 GG, Art. 20 GRCh) — keine ethnische/soziale Diskriminierung; nationales Polizeirecht (in DE: Polizeirecht der Länder, Eingriffsvoraussetzungen). Eine AI-Act-konforme risikobasierte KI kann am Verfassungsrecht scheitern. Aufsichtlich wirken Marktüberwachungsbehörden, das AI Office (Art. 75), Datenschutz-Aufsichten, und der parlamentarische Prüfausschuss bei geheimdienstlichen Maßnahmen. Transparenz und demokratische Kontrolle sind Legitimitätsvoraussetzungen polizeilicher KI.
Quellen
Amtsblatt der Europäischen Union. Verbindlicher Primärtext des EU AI Act (konsolidierte Fassung).
EU AI OfficeEuropäische Kommission. Zentrale EU-Behörde für AI-Act-Durchsetzung, GPAI-Aufsicht und Leitlinien.
Verordnung (EU) 2023/2854 (Data Act) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext des EU Data Act zur Datenweitergabe an verbundenen Produkten.
Datenschutz-Grundverordnung (DSGVO) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext der DSGVO; maßgeblich für KI-Verarbeitung personenbezogener Daten.
AI Act — konsolidierter Lesetext (ai-act-law.eu)Future of Life Institute / Konsortium. Breit genutzte inoffiziell-konsolidierte, artikelgenaue Darstellung des AI Act.
European Data Protection Supervisor (EDPS)EDPS. EU-Datenschutzaufsicht; Stellungnahmen zum AI Act und Schnittstelle KI/Datenschutz.
European Data Protection Board (EDPB)EDPB. Gremium der EU-Datenschutzbehörden mit Leitlinien zur KI-Verarbeitung.
EU AI PactEuropäische Kommission. Freiwillige Frühumsetzung des AI Act; Indikator für Markterwartungen.
Bundesamt für Sicherheit in der Informationstechnik (BSI)BSI. IT-Sicherheitsbehörde Deutschland; relevant für Cybersecurity-Pflichten des AI Act und CRA/NIS2.
Datenschutzkonferenz (DSK)DSK. Zusammenschluss der deutschen Aufsichtsbehörden; Orientierungshilfen auch zu KI.
Der Bundesbeauftragte für Datenschutz (BfDI)BfDI. Bundesweiter Datenschutzbeauftragter Deutschland.
Rat für Künstliche Intelligenz (Österreich)Bundesministerium AT. Beratendes Gremium und Ministerium für KI-Politik in Österreich.
Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB)EDÖB / FDPIC. Schweizer Datenschutzbehörde; Bezug zu EU-KI-Recht für die Schweiz.
Cyber Resilience Act (VO (EU) 2024/2847) — EUR-LexAmtsblatt der Europäischen Union. Schnittstellen-Rechtsakt zur Cybersicherheit von Produkten mit digitalen Elementen (KI-relevant).
Richtlinie (EU) 2022/2555 (NIS2) — EUR-LexAmtsblatt der Europäischen Union. Schnittstellen-Rechtsakt zu IT-Sicherheitsanforderungen für kritische Sektoren.
Häufige Fragen
Ist personenbezogenes Predictive Policing verboten?
Ja, wenn das Risiko einer Person allein aus Profiling/Persönlichkeit vorhergesagt wird (Art. 5 Abs. 1 lit. d, seit 2. Feb. 2025). Höchste Sanktion bis 35 Mio. EUR / 7 % Umsatz.
Was ist erlaubt?
Orte-/Zeit-Prognosen (Anhang III Nr. 6, hochriskant) und Risikobewertungen auf Basis verifizierter Fakten (Vorstrafen, konkretes Verhalten). Nicht die reine Persönlichkeits-Prognose.
Greifen Grundrechte zusätzlich?
Ja, überlagernd: Unschuldsvermutung (Art. 6 EMRK), Gleichheitssatz, nationales Polizeirecht. Eine AI-Act-konforme KI kann verfassungsrechtlich unzulässig sein.
Rechtskonforme Umsetzung für Individuelle Kriminalitätsprognose (Predictive Policing für Personen)?
Wenn du Individuelle Kriminalitätsprognose (Predictive Policing für Personen) rechtskonform einführen oder prüfen willst, entwickle ich mit dir die passende Compliance-Strategie — von der Risikoklassifizierung bis zum Nachweis.