Erwägungsgrund 110 Erwägungsgrund 110 (EU AI Act)

Von KI-Modellen für allgemeine Zwecke könnten systemische Risiken ausgehen, zu denen unter anderem tatsächliche oder vernünftigerweise vorhersehbare negative Auswirkungen in Bezug auf schwere Unfälle, Störungen kritischer Sektoren und schwerwiegende Folgen für die öffentliche Gesundheit und Sicherheit, tatsächliche oder vernünftigerweise vorhersehbare negative Auswirkungen auf demokratische Prozesse, die öffentliche und wirtschaftliche Sicherheit sowie die Verbreitung illegaler, falscher oder diskriminierender Inhalte gehören. Systemische Risiken sollten so verstanden werden, dass sie mit den Modellkapazitäten und der Reichweite des Modells zunehmen, dass sie während des gesamten Lebenszyklus des Modells auftreten können und dass sie von den Bedingungen des Missbrauchs, der Modellzuverlässigkeit, der Modellgerechtigkeit und der Modellsicherheit, dem Grad der Autonomie des Modells, seinem Zugang zu Werkzeugen, neuartigen oder kombinierten Modalitäten, Freigabe- und Verbreitungsstrategien, dem Potenzial zur Beseitigung von Leitplanken und anderen Faktoren beeinflusst werden. Insbesondere haben internationale Ansätze bisher die Notwendigkeit aufgezeigt, auf Risiken durch potenziellen vorsätzlichen Missbrauch oder unbeabsichtigte Kontrollprobleme im Zusammenhang mit der Anpassung an menschliche Absichten zu achten; chemische, biologische, radiologische und nukleare Risiken, wie z. B. die Art und Weise, wie Zugangsbarrieren gesenkt werden können, auch für die Entwicklung von Waffen, den Erwerb von Konstruktionen oder die Nutzung; offensive Cyber-Fähigkeiten, wie z. B. die Art und Weise, wie die Entdeckung von Schwachstellen, die Ausnutzung oder die operative Nutzung ermöglicht werden kann; die Auswirkungen der Interaktion und der Nutzung von Werkzeugen, einschließlich z. B. der Fähigkeit, physische Systeme zu kontrollieren und in kritische Infrastrukturen einzugreifen; Risiken, die von Modellen ausgehen, die sich selbst kopieren oder "selbstreplizieren" oder andere Modelle trainieren; die Art und Weise, in der Modelle zu schädlichen Vorurteilen und Diskriminierung führen können, mit Risiken für Einzelpersonen, Gemeinschaften oder Gesellschaften; die Erleichterung von Desinformation oder die Beeinträchtigung der Privatsphäre mit Bedrohungen für demokratische Werte und Menschenrechte; das Risiko, dass ein bestimmtes Ereignis zu einer Kettenreaktion mit erheblichen negativen Auswirkungen führen könnte, die bis zu einer ganzen Stadt, einem ganzen Bereich oder einer ganzen Gemeinschaft reichen können.

Status: current Stand der Erhebung: 2026-07-09. Gegen den konsolidierten EUR-Lex-Text prüfen.

EUR-Lex: https://eur-lex.europa.eu/eli/reg/2024/1689/recital_110/oj. Spiegelquelle: https://artificialintelligenceact.eu/de/recital/110/. Verifikationsstatus: harvested_official_mirror.