KI-gestützte Qualitätskontrolle in der Fertigung: Risikoklasse und Pflichten im EU-KI-Recht
KI-gestützte Qualitätskontrolle in der Fertigung (Computer-Vision-Inspektion von Bauteilen, Defekt-Erkennung, Oberflächenprüfung) ist nach dem AI Act in der Regel KI mit MINIMALEM RISIKO — keine AI-Act-Pflicht, wenn sie nur Produktqualität prüft. Hochriskant wird sie: (1) als Sicherheitskomponente (z. B. Prüfung sicherheitsrelevanter Bauteile wie Bremsen), dann Anhang I; (2) wenn sie in Personalentscheidungen einfließt (Leistungsbeurteilung der Bediener:innen), dann Anhang III Nr. 4. Überlagert: Produkthaftung, Arbeitsschutz, DSGVO (bei personenbezogenen Daten, z. B. Bediener-/Schichtdaten), QM-Normen (ISO 9001). Eine klare Zweckabgrenzung (Qualitätsprüfung vs. Leistungsüberwachung) und die Vermeidung sekundärer Verwendungen ist entscheidend.
Steve Baka
Einordnung: meist minimal
KI-Qualitätskontrolle (Defekt-Erkennung, Oberflächenprüfung, Maßhaltigkeit) ist meist minimal riskant. Beispiele: Computer-Vision-Inspektion an Fließbändern, automatische Aussortierung fehlerhafter Bauteile, optische Prüfung von Leiterplatten. Keine Konformitätsbewertung, keine CE, keine AI-Act-Pflicht — die Anwendung ist minimal-risk. Die Grenze zum Hochrisiko wird überschritten bei Sicherheitskomponenten (Anhang I) oder Beschäftigten-Bezug (Anhang III Nr. 4). Praktisch: reine Produktqualität = minimal; sicherheitsrelevante Prüfung = hochriskant; Leistungs-/Verhaltensauswertung der Bediener:innen = hochriskant.
Grenzen: Sicherheit und Personalbezug
Zwei Grenzen zum Hochrisiko: (1) Sicherheitskomponente (Anhang I) — wenn die Qualitätskontrolle sicherheitsrelevante Bauteile prüft (Bremsen, Airbags, Flugzeugteile, medizinische Implantate), ist die KI als Sicherheitsbestandteil hochriskant; der Maschinenhersteller übernimmt zugleich die KI-Anbieter-Pflichten (Art. 25). (2) Personalbezug (Anhang III Nr. 4) — wenn die QC-KI zugleich Leistungs-/Verhaltensdaten der Bediener:innen ableitet (z. B. „Wer hat die meisten Fehler verursacht?") und diese in Personalentscheidungen einfließen, ist sie Teil der hochrisiko-Personal-KI. Eine saubere Zweckbindung (nur Produktqualität, keine personenbezogene Zuordnung zu Beschäftigten) schützt vor der Einstufung.
Schnittstellen: Produkthaftung, QM, Arbeitsschutz
Überlagert wird die KI-QC durch: Produkthaftung (RL 2024/2853 — fehlerhafte QC kann zu fehlerhaftem Produkt führen, verschuldensunabhängige Haftung); QM-Normen (ISO 9001, branchenspezifisch IATF 16949 Automotive, AS9100 Aerospace, ISO 13485 Medical) — die KI-QC muss in das zertifizierte QM-System integriert sein; Arbeitsschutz (BetrSichV, ArbSchG — wenn Maschinen-Überwachung Beschäftigte betrifft); DSGVO (bei personenbezogenen Daten — Bediener-/Schicht-/Log-in-Daten). Praktisch erforderlich: Validierung der QC-KI gegen etablierte Prüfung (Goldstandard), kontinuierliches Monitoring, Fallback auf konventionelle Stichprobenprüfung, klare Dokumentation der Prüfentscheidungen. Für Fertigungsunternehmen ist die KI-QC oft der Einstieg in Industrial AI — die minimal-risk-Klassifizierung macht sie niedrigschwellig.
Quellen
Amtsblatt der Europäischen Union. Verbindlicher Primärtext des EU AI Act (konsolidierte Fassung).
EU AI OfficeEuropäische Kommission. Zentrale EU-Behörde für AI-Act-Durchsetzung, GPAI-Aufsicht und Leitlinien.
Verordnung (EU) 2023/2854 (Data Act) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext des EU Data Act zur Datenweitergabe an verbundenen Produkten.
Datenschutz-Grundverordnung (DSGVO) — EUR-LexAmtsblatt der Europäischen Union. Verbindlicher Primärtext der DSGVO; maßgeblich für KI-Verarbeitung personenbezogener Daten.
AI Act — konsolidierter Lesetext (ai-act-law.eu)Future of Life Institute / Konsortium. Breit genutzte inoffiziell-konsolidierte, artikelgenaue Darstellung des AI Act.
European Data Protection Supervisor (EDPS)EDPS. EU-Datenschutzaufsicht; Stellungnahmen zum AI Act und Schnittstelle KI/Datenschutz.
European Data Protection Board (EDPB)EDPB. Gremium der EU-Datenschutzbehörden mit Leitlinien zur KI-Verarbeitung.
EU AI PactEuropäische Kommission. Freiwillige Frühumsetzung des AI Act; Indikator für Markterwartungen.
Bundesamt für Sicherheit in der Informationstechnik (BSI)BSI. IT-Sicherheitsbehörde Deutschland; relevant für Cybersecurity-Pflichten des AI Act und CRA/NIS2.
Datenschutzkonferenz (DSK)DSK. Zusammenschluss der deutschen Aufsichtsbehörden; Orientierungshilfen auch zu KI.
Der Bundesbeauftragte für Datenschutz (BfDI)BfDI. Bundesweiter Datenschutzbeauftragter Deutschland.
Rat für Künstliche Intelligenz (Österreich)Bundesministerium AT. Beratendes Gremium und Ministerium für KI-Politik in Österreich.
Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB)EDÖB / FDPIC. Schweizer Datenschutzbehörde; Bezug zu EU-KI-Recht für die Schweiz.
Cyber Resilience Act (VO (EU) 2024/2847) — EUR-LexAmtsblatt der Europäischen Union. Schnittstellen-Rechtsakt zur Cybersicherheit von Produkten mit digitalen Elementen (KI-relevant).
Richtlinie (EU) 2022/2555 (NIS2) — EUR-LexAmtsblatt der Europäischen Union. Schnittstellen-Rechtsakt zu IT-Sicherheitsanforderungen für kritische Sektoren.
Häufige Fragen
Welche Risikostufe hat KI-Qualitätskontrolle?
Meist minimal (Produktqualität). Hochriskant bei Sicherheitskomponenten (Anhang I, z. B. Bremsen/Airbags) oder Beschäftigten-Bezug (Anhang III Nr. 4 Leistungsableitung).
Greift die Produkthaftung?
Ja. RL 2024/2853 erfasst KI als Produkt; fehlerhafte QC kann zu fehlerhaftem Produkt führen — verschuldensunabhängige Haftung des Herstellers.
Welche QM-Normen sind relevant?
ISO 9001 generell, branchenspezifisch IATF 16949 (Automotive), AS9100 (Aerospace), ISO 13485 (Medical). Die KI-QC muss in das zertifizierte QM-System integriert sein.
Rechtskonforme Umsetzung für KI-gestützte Qualitätskontrolle in der Fertigung?
Wenn du KI-gestützte Qualitätskontrolle in der Fertigung rechtskonform einführen oder prüfen willst, entwickle ich mit dir die passende Compliance-Strategie — von der Risikoklassifizierung bis zum Nachweis.