Art. 13 Transparenz und Bereitstellung von Informationen für Einsatzkräfte (EU AI Act)

1. KI-Systeme mit hohem Risiko sind so zu konzipieren und zu entwickeln, dass ihr Betrieb hinreichend transparent ist, damit die Anwender die Ergebnisse des Systems interpretieren und angemessen nutzen können. Es ist eine angemessene Art und ein angemessenes Maß an Transparenz zu gewährleisten, damit die in Abschnitt 3 dargelegten einschlägigen Verpflichtungen des Anbieters und des Betreibers erfüllt werden.

2. AI-Systemen mit hohem Risiko sind Gebrauchsanweisungen in einem geeigneten digitalen Format oder auf andere Weise beizufügen, die prägnante, vollständige, korrekte und klare Informationen enthalten, die für die Anwender relevant, zugänglich und verständlich sind.

3. Die Gebrauchsanweisung muss mindestens die folgenden Angaben enthalten:

(a) die Identität und die Kontaktdaten des Dienstleistungserbringers und gegebenenfalls seines Bevollmächtigten;

(b) die Merkmale, Fähigkeiten und Leistungsgrenzen des AI-Systems für hohe Risiken, einschließlich:

(i) den beabsichtigten Zweck;

(ii) das Genauigkeitsniveau, einschließlich der Metriken, die Robustheit und die Cybersicherheit gemäß Artikel 15 , mit dem das KI-System mit hohem Risiko getestet und validiert wurde und das erwartet werden kann, sowie alle bekannten und vorhersehbaren Umstände, die sich auf das erwartete Genauigkeits-, Robustheits- und Cybersicherheitsniveau auswirken können;

(iii) alle bekannten oder vorhersehbaren Umstände im Zusammenhang mit der bestimmungsgemäßen Verwendung des Hochrisiko-KI-Systems oder einer vernünftigerweise vorhersehbaren Fehlanwendung, die zu Risiken für die Gesundheit und Sicherheit oder die Grundrechte gemäß Artikel 9 Absatz 2 führen können;

(iv) gegebenenfalls die technischen Fähigkeiten und Merkmale des AI-Systems mit hohem Risiko, Informationen zu liefern, die für die Erklärung seiner Ergebnisse relevant sind;

(v) gegebenenfalls die Leistung des Systems in Bezug auf bestimmte Personen oder Personengruppen, bei denen das System eingesetzt werden soll;

(vi) gegebenenfalls Spezifikationen für die Eingabedaten oder sonstige relevante Informationen über die verwendeten Trainings-, Validierungs- und Testdatensätze unter Berücksichtigung des beabsichtigten Zwecks des Hochrisiko-KI-Systems;

(vii) gegebenenfalls Informationen, die es den Einsatzkräften ermöglichen, die Ergebnisse des AI-Systems für hohe Risiken zu interpretieren und angemessen zu nutzen;

(c) die Änderungen am AI-System für hohe Risiken und seiner Leistung, die der Anbieter zum Zeitpunkt der ersten Konformitätsbewertung festgelegt hat, sofern vorhanden;

(d) die in Artikel 14 genannten menschlichen Aufsichtsmaßnahmen, einschließlich der technischen Maßnahmen, die zur Erleichterung der Interpretation der Ergebnisse der KI-Systeme mit hohem Risiko durch die Anwender getroffen werden;

(e) die erforderlichen Rechen- und Hardwareressourcen, die voraussichtliche Lebensdauer des KI-Systems mit hohem Risiko und alle erforderlichen Wartungs- und Pflegemaßnahmen, einschließlich ihrer Häufigkeit, um das ordnungsgemäße Funktionieren des KI-Systems zu gewährleisten, auch in Bezug auf Software-Updates;

(f) gegebenenfalls eine Beschreibung der Mechanismen innerhalb des AI-Systems für Hochrisikopersonen, die es den Einsatzkräften ermöglichen, die Protokolle im Einklang mit Artikel 12 ordnungsgemäß zu erfassen, zu speichern und auszuwerten.

Status: current Stand der Erhebung: 2026-07-09. Gegen den konsolidierten EUR-Lex-Text prüfen.

EUR-Lex: https://eur-lex.europa.eu/eli/reg/2024/1689/art_13/oj. Spiegelquelle: https://artificialintelligenceact.eu/de/article/13/. Verifikationsstatus: harvested_official_mirror. Relevante Konzepte: transparenzpflicht, betreiber, ki-mit-hohem-risiko.