Bundesrecht - tagaktuell konsolidiert - alle Fassungen seit 2006
Vorschriftensuche
 

Artikel 17 - Verordnung über künstliche Intelligenz (KI-VO k.a.Abk.)

ABl. L, 2024/1689, 12.07.2024; zuletzt geändert durch Artikel 1 Verordnung (EU) 2026/1744, ABl. L, 2026/1744, 24.07.2026
Geltung ab 02.08.2026, abweichend siehe Artikel 113
|

Artikel 17 Qualitätsmanagementsystem



(1) 1Anbieter von Hochrisiko-KI-Systemen richten ein Qualitätsmanagementsystem ein, das die Einhaltung dieser Verordnung gewährleistet. 2Dieses System wird systematisch und ordnungsgemäß in Form schriftlicher Regeln, Verfahren und Anweisungen dokumentiert und umfasst mindestens folgende Aspekte:

 
a)
ein Konzept zur Einhaltung der Regulierungsvorschriften, was die Einhaltung der Konformitätsbewertungsverfahren und der Verfahren für das Management von Änderungen an dem Hochrisiko-KI-System miteinschließt;

b)
Techniken, Verfahren und systematische Maßnahmen für den Entwurf, die Entwurfskontrolle und die Entwurfsprüfung des Hochrisiko-KI-Systems;

c)
Techniken, Verfahren und systematische Maßnahmen für die Entwicklung, Qualitätskontrolle und Qualitätssicherung des Hochrisiko-KI-Systems;

d)
Untersuchungs-, Test- und Validierungsverfahren, die vor, während und nach der Entwicklung des Hochrisiko-KI-Systems durchzuführen sind, und die Häufigkeit der Durchführung;

e)
die technischen Spezifikationen und Normen, die anzuwenden sind und, falls die einschlägigen harmonisierten Normen nicht vollständig angewandt werden oder sie nicht alle relevanten Anforderungen gemäß Abschnitt 2 abdecken, die Mittel, mit denen gewährleistet werden soll, dass das Hochrisiko-KI-System diese Anforderungen erfüllt;

f)
Systeme und Verfahren für das Datenmanagement, einschließlich Datengewinnung, Datenerhebung, Datenanalyse, Datenkennzeichnung, Datenspeicherung, Datenfilterung, Datenauswertung, Datenaggregation, Vorratsdatenspeicherung und sonstiger Vorgänge in Bezug auf die Daten, die im Vorfeld und für die Zwecke des Inverkehrbringens oder der Inbetriebnahme von Hochrisiko-KI-Systemen durchgeführt werden;

g)
das in Artikel 9 genannte Risikomanagementsystem;

h)
die Einrichtung, Anwendung und Aufrechterhaltung eines Systems zur Beobachtung nach dem Inverkehrbringen gemäß Artikel 72;

i)
Verfahren zur Meldung eines schwerwiegenden Vorfalls gemäß Artikel 73;

j)
die Handhabung der Kommunikation mit zuständigen nationalen Behörden, anderen einschlägigen Behörden, auch Behörden, die den Zugang zu Daten gewähren oder erleichtern, notifizierten Stellen, anderen Akteuren, Kunden oder sonstigen interessierten Kreisen;

k)
Systeme und Verfahren für die Aufzeichnung sämtlicher einschlägigen Dokumentation und Informationen;

l)
Ressourcenmanagement, einschließlich Maßnahmen im Hinblick auf die Versorgungssicherheit;

m)
einen Rechenschaftsrahmen, der die Verantwortlichkeiten der Leitung und des sonstigen Personals in Bezug auf alle in diesem Absatz aufgeführten Aspekte regelt.

(2) 1Die Umsetzung der in Absatz 1 genannten Aspekte erfolgt in einem angemessenen Verhältnis zur Größe der Organisation des Anbieters, insbesondere wenn es sich bei dem Anbieter um ein KMU, einschließlich Start-up-Unternehmen, oder ein kleines Midcap-Unternehmen handelt. 2Die Anbieter müssen in jedem Fall den Grad der Strenge und das Schutzniveau einhalten, die erforderlich sind, um die Übereinstimmung ihrer Hochrisiko-KI-Systeme mit dieser Verordnung sicherzustellen.

(3) Anbieter von Hochrisiko-KI-Systemen, die Pflichten in Bezug auf Qualitätsmanagementsysteme oder eine gleichwertige Funktion gemäß den sektorspezifischen Rechtsvorschriften der Union unterliegen, können die in Absatz 1 aufgeführten Aspekte als Bestandteil der nach den genannten Rechtsvorschriften festgelegten Qualitätsmanagementsysteme einbeziehen.

(4) 1Bei Anbietern, die Finanzinstitute sind und gemäß den Rechtsvorschriften der Union über Finanzdienstleistungen Anforderungen in Bezug auf ihre Regelungen oder Verfahren der internen Unternehmensführung unterliegen, gilt die Pflicht zur Einrichtung eines Qualitätsmanagementsystems - mit Ausnahme des Absatzes 1 Buchstaben g, h und i des vorliegenden Artikels - als erfüllt, wenn die Vorschriften über Regelungen oder Verfahren der internen Unternehmensführung gemäß dem einschlägigen Unionsrecht über Finanzdienstleistungen eingehalten werden. 2Zu diesem Zweck werden die in Artikel 40 genannten harmonisierten Normen berücksichtigt.





 

Frühere Fassungen von Artikel 17 Verordnung über künstliche Intelligenz

Die nachfolgende Aufstellung zeigt alle Änderungen dieser Vorschrift. Über die Links aktuell und vorher können Sie jeweils alte Fassung (a.F.) und neue Fassung (n.F.) vergleichen. Beim Änderungsgesetz finden Sie dessen Volltext sowie die Begründung des Gesetzgebers.

vergleichen mitmWv (verkündet)neue Fassung durch
aktuell vorher 27.07.2026Artikel 1 Digital-Omnibus-Verordnung zur KI
vom 08.07.2026 ABl. L, 2026/1744, 24.07.2026

Bitte beachten Sie, dass rückwirkende Änderungen - soweit vorhanden - nach dem Verkündungsdatum des Änderungstitels (Datum in Klammern) und nicht nach dem Datum des Inkrafttretens in diese Liste einsortiert sind.



 

Zitierungen von Artikel 17 Verordnung über künstliche Intelligenz

Sie sehen die Vorschriften, die auf Artikel 17 KI-VO verweisen. Die Liste ist unterteilt nach Zitaten in KI-VO selbst, Ermächtigungsgrundlagen, anderen geltenden Titeln, Änderungsvorschriften und in aufgehobenen Titeln.
 
interne Verweise

Artikel 2 KI-VO Anwendungsbereich (vom 27.07.2026)
... 6 Absatz 1 genannten Hochrisiko-KI-Systeme kann die Anwendung der in den Artikeln 9 bis 15 sowie 17 bis 25 festgelegten spezifischen Anforderungen oder Pflichten beschränkt werden, sofern und ...
Artikel 16 KI-VO Pflichten der Anbieter von Hochrisiko-KI-Systemen
... angeben; c) über ein Qualitätsmanagementsystem verfügen, das Artikel 17 entspricht; d) die in Artikel 18 genannte Dokumentation aufbewahren; e) ...
Artikel 18 KI-VO Aufbewahrung der Dokumentation
... die in Artikel 11 genannte technische Dokumentation; b) die Dokumentation zu dem in Artikel 17 genannten Qualitätsmanagementsystem; c) die Dokumentation über etwaige von ...
Artikel 43 KI-VO Konformitätsbewertung (vom 27.07.2026)
... Bewertung einbezogen. Die Bewertung des Qualitätsmanagementsystems gemäß Artikel 17 wird ebenfalls durchgeführt, und Anhang VII Nummern 3, 4.3, 4.4. und 4.5 sowie Nummer 4.6 ...
Artikel 63 KI-VO Ausnahmen für bestimmte Akteure (vom 27.07.2026)
... KMU, einschließlich Start-up-Unternehmen können bestimmte Elemente des in Artikel 17 vorgeschriebenen Qualitätsmanagementsystems in vereinfachter Weise einhalten, sofern sie ...
Artikel 96 KI-VO Leitlinien der Kommission zur Durchführung dieser Verordnung (vom 27.07.2026)
... 3 Nummer 1 g) die praktische Umsetzung von Artikel 8 Absatz 2, Artikel 9 Absatz 10 und Artikel 17 Absatz 3 im Einklang mit dem Grundsatz der Komplementarität und Verhältnismäßigkeit ...
Artikel 108 KI-VO Änderungen der Verordnung (EU) 2018/1139
... Verordnung (EU) 2018/1139 wird wie folgt geändert: 1. In Artikel 17 wird folgender Absatz angefügt: „(3) Unbeschadet des Absatzes 2 werden beim ...
ANHANG VI KI-VO Konformitätsbewertungsverfahren auf der Grundlage einer internen Kontrolle
... überprüft, ob das bestehende Qualitätsmanagementsystem den Anforderungen des Artikels 17 entspricht. 3. Der Anbieter prüft die in der technischen Dokumentation enthaltenen ...
ANHANG VII KI-VO Konformität auf der Grundlage einer Bewertung des Qualitätsmanagementsystems und einer Bewertung der technischen Dokumentation
... für die Konzeption, die Entwicklung und das Testen von KI-Systemen nach Artikel 17 wird gemäß Nummer 3 geprüft und unterliegt der Überwachung gemäß ... d) die Dokumentation über das Qualitätsmanagementsystem mit allen in Artikel 17 aufgeführten Aspekten; e) eine Beschreibung der bestehenden Verfahren, mit denen ... wird von der notifizierten Stelle bewertet, um festzustellen, ob es die in Artikel 17 genannten Anforderungen erfüllt. Die Entscheidung wird dem Anbieter oder dessen ...
 
Zitat in folgenden Normen

Digital-Omnibus-Verordnung zur KI
ABl. L, 2026/1744, 24.07.2026
Erwägungsgründe Verordnung (EU) 2026/1744
... genannten Verordnung und der Harmonisierungsrechtsvorschriften der Union betrifft, im Einklang mit Artikel 17 Absatz 3 der Verordnung (EU) 2024/1689 Aspekte des Qualitätsmanagementsystems gemäß der genannten Verordnung als Teil der ... den sektorspezifischen Rechtsvorschriften, Artikel 9 Absatz 10 über das Risikomanagement und Artikel 17 Absatz 3 über das Qualitätsmanagement ermöglichen es den Wirtschaftsakteuren, sofern ... wobei dies auch Leitlinien für die Anwendung von Artikel 8 Absatz 2, Artikel 9 Absatz 10 und Artikel 17 Absatz 3 der genannten Verordnung als Mechanismen zur Minimierung des Befolgungsaufwands im Einklang mit ... erlassen, mit denen den jeweiligen Anforderungen gemäß Kapitel III Abschnitt 2 und den Artikeln 17 , 19, 72 und 73 der Verordnung (EU) 2024/1689 Rechnung getragen wird. Um zu verhindern, dass eine ...
Artikel 3 Verordnung (EU) 2026/1744 Änderung der Verordnung (EU) 2023/1230
... sicherstellen, dass den einschlägigen Anforderungen in Kapitel III Abschnitt 2 und den Artikeln 17 , 19, 72 und 73 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates ...
 
Zitate in Änderungsvorschriften

Digital-Omnibus-Verordnung zur KI
ABl. L, 2026/1744, 24.07.2026
Artikel 1 Verordnung (EU) 2026/1744 Änderung der Verordnung (EU) 2024/1689
... 6 Absatz 1 genannten Hochrisiko-KI-Systeme kann die Anwendung der in den Artikeln 9 bis 15 sowie 17 bis 25 festgelegten spezifischen Anforderungen oder Pflichten beschränkt werden, sofern und ... akzeptieren das Formular für die Zwecke der Konformitätsbewertung." 11. Artikel 17 Absatz 2 erhält folgende Fassung: „(2) Die Umsetzung der in Absatz 1 genannten ... in diese Bewertung einbezogen. Die Bewertung des Qualitätsmanagementsystems gemäß Artikel 17 wird ebenfalls durchgeführt, und Anhang VII Nummern 3, 4.3, 4.4. und 4.5 sowie Nummer 4.6 ... „(1) KMU, einschließlich Start-up-Unternehmen können bestimmte Elemente des in Artikel 17 vorgeschriebenen Qualitätsmanagementsystems in vereinfachter Weise einhalten, sofern sie ... „g) die praktische Umsetzung von Artikel 8 Absatz 2, Artikel 9 Absatz 10 und Artikel 17 Absatz 3 im Einklang mit dem Grundsatz der Komplementarität und Verhältnismäßigkeit ...