Konversationelle Suche und Assistenz (Consumer): Risikoklasse und Pflichten im EU-KI-Recht

Art. 50 Abs. 1 verpflichtet Anbieter/Betreiber, Personen zu informieren, dass sie mit einem KI-System interagieren — es sei denn, dies ist offenkundig. Konversationelle Consumer-Assistenz fällt darunter. Keine Konformitätsbewertung, keine CE, keine notifizierte Stelle. Die Pflicht gilt ab dem 2. August 2026; Sanktion bis 7,5 Mio. EUR / 1 % Umsatz (Art. 99 Abs. 5). Praktisch: klares „Sie chatten mit einer KI", transparente Funktionsweise, keine Verschleierung der KI-Natur.

Ist der Consumer-Assistent auf einem GPAI-Modell aufgebaut (z. B. GPT-Klasse, Claude-Klasse, Gemini), gelten zusätzlich die GPAI-Pflichten nach Art. 53 (für den GPAI-Anbieter, nicht den Consumer-Anbieter): technische Dokumentation, Downstream-Offenlegung, urheberrechtsbasierte Trainingsdaten-Zusammenfassung, Einhaltung des Unionsurheberrechts. Bei systemischem Risiko (Art. 51, 10²⁵ FLOPs) zusätzlich Art. 55 (Red-Teaming, weights-Schutz). Der Consumer-Assistent-Anbieter ist meist Downstream-Anbieter (Art. 25), der die Art. 53-Informationen des GPAI-Anbieters braucht, um eigene AI-Act-Pflichten zu erfüllen (sofern er ein eigenes hochrisiko-System macht).

Überlagert: DSGVO — Verarbeitung personenbezogener Nutzerdaten (Suchanfragen, Chats, Profile), Rechtsgrundlage (Vertrag/Einwilligung/berechtigtes Interesse), Auftragsverarbeitung, Profiling, DSFA bei hochriskanter Verarbeitung. DSA bei Plattform-Betrieb (große Plattformen: Risikobewertung Art. 34/35). Konsumentenrecht: keine irreführenden Geschäftspraktiken (RL 2005/29/EG), Transparenz. Art. 22 DSGVO: trifft die KI eine automatisierte Entscheidung mit rechtlicher/ähnlich weitreichender Wirkung (z. B. Kreditablehnung über den Chatbot), Recht auf menschliche Prüfung. Haftung bei Falschberatung (z. B. medizinische/finanzielle Fehlinformation) — klare Nutzungsbedingungen, Disclaimer, menschliche Überprüfung sensibler Anfragen.