Synopse aller Änderungen der Verordnung über künstliche Intelligenz am 27.07.2026
Diese Gegenüberstellung vergleicht die jeweils alte Fassung (linke Spalte) mit der neuen Fassung (rechte Spalte) aller am 27. Juli 2026 durch Artikel 1 der Verordnung (EU) 2026/1744 geänderten Einzelnormen. Synopsen für andere Änderungstermine finden Sie in der Änderungshistorie der KI-VO.Hervorhebungen: alter Text, neuer Text
Änderung verpasst?
| a.F. (alte Fassung) in der vor dem 27.07.2026 geltenden Fassung | n.F. (neue Fassung) in der am 27.07.2026 geltenden Fassung durch Artikel 1 Verordnung (EU) 2026/1744, ABl. L, 2026/1744, 24.07.2026 |
|---|---|
Gliederung | |
(Textabschnitt unverändert) Erwägungsgründe KAPITEL I ALLGEMEINE BESTIMMUNGEN Artikel 1 Gegenstand Artikel 2 Anwendungsbereich Artikel 3 Begriffsbestimmungen Artikel 4 KI-Kompetenz | |
| (Text alte Fassung) | (Text neue Fassung) Artikel 4a Verarbeitung besonderer Kategorien personenbezogener Daten zur Erkennung und Korrektur von Verzerrungen |
KAPITEL II VERBOTENE PRAKTIKEN IM KI-BEREICH Artikel 5 Verbotene Praktiken im KI-Bereich KAPITEL III HOCHRISIKO-KI-SYSTEME ABSCHNITT 1 Einstufung von KI-Systemen als Hochrisiko-KI-Systeme Artikel 6 Einstufungsvorschriften für Hochrisiko-KI-Systeme Artikel 7 Änderungen des Anhangs III ABSCHNITT 2 Anforderungen an Hochrisiko-KI-Systeme Artikel 8 Einhaltung der Anforderungen Artikel 9 Risikomanagementsystem Artikel 10 Daten und Daten-Governance Artikel 11 Technische Dokumentation Artikel 12 Aufzeichnungspflichten Artikel 13 Transparenz und Bereitstellung von Informationen für die Betreiber Artikel 14 Menschliche Aufsicht Artikel 15 Genauigkeit, Robustheit und Cybersicherheit ABSCHNITT 3 Pflichten der Anbieter und Betreiber von Hochrisiko-KI-Systemen und anderer Beteiligter Artikel 16 Pflichten der Anbieter von Hochrisiko-KI-Systemen Artikel 17 Qualitätsmanagementsystem Artikel 18 Aufbewahrung der Dokumentation Artikel 19 Automatisch erzeugte Protokolle Artikel 20 Korrekturmaßnahmen und Informationspflicht Artikel 21 Zusammenarbeit mit den zuständigen Behörden Artikel 22 Bevollmächtigte der Anbieter von Hochrisiko-KI-Systemen Artikel 23 Pflichten der Einführer Artikel 24 Pflichten der Händler Artikel 25 Verantwortlichkeiten entlang der KI-Wertschöpfungskette Artikel 26 Pflichten der Betreiber von Hochrisiko-KI-Systemen Artikel 27 Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme ABSCHNITT 4 Notifizierende Behörden und notifizierte Stellen Artikel 28 Notifizierende Behörden Artikel 29 Antrag einer Konformitätsbewertungsstelle auf Notifizierung Artikel 30 Notifizierungsverfahren Artikel 31 Anforderungen an notifizierte Stellen Artikel 32 Vermutung der Konformität mit den Anforderungen an notifizierte Stellen Artikel 33 Zweigstellen notifizierter Stellen und Vergabe von Unteraufträgen Artikel 34 Operative Pflichten der notifizierten Stellen Artikel 35 Identifizierungsnummern und Verzeichnisse notifizierter Stellen Artikel 36 Änderungen der Notifizierungen Artikel 37 Anfechtungen der Kompetenz notifizierter Stellen Artikel 38 Koordinierung der notifizierten Stellen Artikel 39 Konformitätsbewertungsstellen in Drittländern ABSCHNITT 5 Normen, Konformitätsbewertung, Bescheinigungen, Registrierung Artikel 40 Harmonisierte Normen und Normungsdokumente Artikel 41 Gemeinsame Spezifikationen Artikel 42 Vermutung der Konformität mit bestimmten Anforderungen Artikel 43 Konformitätsbewertung Artikel 44 Bescheinigungen Artikel 45 Informationspflichten der notifizierten Stellen Artikel 46 Ausnahme vom Konformitätsbewertungsverfahren Artikel 47 EU-Konformitätserklärung Artikel 48 CE-Kennzeichnung Artikel 49 Registrierung KAPITEL IV TRANSPARENZPFLICHTEN FÜR ANBIETER UND BETREIBER BESTIMMTER KI-SYSTEME Artikel 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme KAPITEL V KI-MODELLE MIT ALLGEMEINEM VERWENDUNGSZWECK ABSCHNITT 1 Einstufungsvorschriften Artikel 51 Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko Artikel 52 Verfahren ABSCHNITT 2 Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck Artikel 53 Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck Artikel 54 Bevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck ABSCHNITT 3 Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko Artikel 55 Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko ABSCHNITT 4 Praxisleitfäden Artikel 56 Praxisleitfäden KAPITEL VI MASSNAHMEN ZUR INNOVATIONSFÖRDERUNG Artikel 57 KI-Reallabore Artikel 58 Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise Artikel 59 Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor Artikel 60 Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren | |
| | Artikel 60a Tests von Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, unter Realbedingungen außerhalb von KI-Reallaboren |
Artikel 61 Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren Artikel 62 Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen Artikel 63 Ausnahmen für bestimmte Akteure KAPITEL VII GOVERNANCE ABSCHNITT 1 Governance auf Unionsebene Artikel 64 Büro für Künstliche Intelligenz Artikel 65 Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz Artikel 66 Aufgaben des KI-Gremiums Artikel 67 Beratungsforum Artikel 68 Wissenschaftliches Gremium unabhängiger Sachverständiger Artikel 69 Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten ABSCHNITT 2 Zuständige nationale Behörden Artikel 70 Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle KAPITEL VIII EU-DATENBANK FÜR HOCHRISIKO-KI-SYSTEME Artikel 71 EU-Datenbank für die in Anhang III aufgeführten Hochrisiko-KI-Systeme KAPITEL IX BEOBACHTUNG NACH DEM INVERKEHRBRINGEN, INFORMATIONSAUSTAUSCH UND MARKTÜBERWACHUNG ABSCHNITT 1 Beobachtung nach dem Inverkehrbringen Artikel 72 Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme ABSCHNITT 2 Austausch von Informationen über schwerwiegende Vorfälle Artikel 73 Meldung schwerwiegender Vorfälle ABSCHNITT 3 Durchsetzung Artikel 74 Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt | |
| Artikel 75 Amtshilfe, Marktüberwachung und Kontrolle von KI-Systemen mit allgemeinem Verwendungszweck | Artikel 75 Marktüberwachung und Kontrolle von KI-Systemen sowie Amtshilfe Artikel 75a Aufsichts- und Durchsetzungsbefugnisse des Büros für Künstliche Intelligenz Artikel 75b Verpflichtungszusagen Artikel 75c Verstöße, Geldbußen und Zwangsgelder Artikel 75d Schutzvorkehrungen und weitere Spezifizierung |
Artikel 76 Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden | |
| Artikel 77 Befugnisse der für den Schutz der Grundrechte zuständigen Behörden | Artikel 77 Befugnisse der für den Schutz der Grundrechte zuständigen Behörden und Zusammenarbeit mit den Marktüberwachungsbehörden |
Artikel 78 Vertraulichkeit Artikel 79 Verfahren auf nationaler Ebene für den Umgang mit KI-Systemen, die ein Risiko bergen Artikel 80 Verfahren für den Umgang mit KI-Systemen, die vom Anbieter gemäß Anhang III als nicht hochriskant eingestuft werden Artikel 81 Schutzklauselverfahren der Union Artikel 82 Konforme KI-Systeme, die ein Risiko bergen Artikel 83 Formale Nichtkonformität Artikel 84 Unionsstrukturen zur Unterstützung der Prüfung von KI ABSCHNITT 4 Rechtsbehelfe Artikel 85 Recht auf Beschwerde bei einer Marktüberwachungsbehörde Artikel 86 Recht auf Erläuterung der Entscheidungsfindung im Einzelfall Artikel 87 Meldung von Verstößen und Schutz von Hinweisgebern ABSCHNITT 5 Aufsicht, Ermittlung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen mit allgemeinem Verwendungszweck Artikel 88 Durchsetzung der Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck Artikel 89 Überwachungsmaßnahmen Artikel 90 Warnungen des wissenschaftlichen Gremiums vor systemischen Risiken Artikel 91 Befugnis zur Anforderung von Dokumentation und Informationen Artikel 92 Befugnis zur Durchführung von Bewertungen Artikel 93 Befugnis zur Aufforderung zu Maßnahmen Artikel 94 Verfahrensrechte der Wirtschaftsakteure des KI-Modells mit allgemeinem Verwendungszweck KAPITEL X VERHALTENSKODIZES UND LEITLINIEN Artikel 95 Verhaltenskodizes für die freiwillige Anwendung bestimmter Anforderungen Artikel 96 Leitlinien der Kommission zur Durchführung dieser Verordnung KAPITEL XI BEFUGNISÜBERTRAGUNG UND AUSSCHUSSVERFAHREN Artikel 97 Ausübung der Befugnisübertragung Artikel 98 Ausschussverfahren KAPITEL XII SANKTIONEN Artikel 99 Sanktionen Artikel 100 Verhängung von Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union Artikel 101 Geldbußen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck KAPITEL XIII SCHLUSSBESTIMMUNGEN Artikel 102 Änderung der Verordnung (EG) Nr. 300/2008 Artikel 103 Änderung der Verordnung (EU) Nr. 167/2013 Artikel 104 Änderung der Verordnung (EU) Nr. 168/2013 Artikel 105 Änderung der Richtlinie 2014/90/EU Artikel 106 Änderung der Richtlinie (EU) 2016/797 Artikel 107 Änderung der Verordnung (EU) 2018/858 Artikel 108 Änderungen der Verordnung (EU) 2018/1139 Artikel 109 Änderung der Verordnung (EU) 2019/2144 Artikel 110 Änderung der Richtlinie (EU) 2020/1828 Artikel 111 Bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck Artikel 112 Bewertung und Überprüfung Artikel 113 Inkrafttreten und Geltungsbeginn Schlussformel ANHANG I Liste der Harmonisierungsrechtsvorschriften der Union ANHANG II Liste der Straftaten gemäß Artikel 5 Absatz 1 Unterabsatz 1 Buchstabe h Ziffer iii ANHANG III Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 2 ANHANG IV Technische Dokumentation gemäß Artikel 11 Absatz 1 ANHANG V EU-Konformitätserklärung ANHANG VI Konformitätsbewertungsverfahren auf der Grundlage einer internen Kontrolle ANHANG VII Konformität auf der Grundlage einer Bewertung des Qualitätsmanagementsystems und einer Bewertung der technischen Dokumentation ANHANG VIII Bei der Registrierung des Hochrisiko-KI-Systems gemäß Artikel 49 bereitzustellende Informationen ANHANG IX Bezüglich Tests unter Realbedingungen gemäß Artikel 60 bei der Registrierung von in Anhang III aufgeführten Hochrisiko-KI-Systemen bereitzustellende Informationen ANHANG X Rechtsvorschriften der Union über IT-Großsysteme im Raum der Freiheit, der Sicherheit und des Rechts ANHANG XI Technische Dokumentation gemäß Artikel 53 Absatz 1 Buchstabe a - technische Dokumentation für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck ANHANG XII Transparenzinformationen gemäß Artikel 53 Absatz 1 Buchstabe b - technische Dokumentation für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck für nachgelagerte Anbieter, die das Modell in ihr KI-System integrieren ANHANG XIII Kriterien für die Benennung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko gemäß Artikel 51 | |
| | Anhang XIV Verzeichnis der Codes, Kategorien und entsprechenden Arten von KI-Systemen für die Zwecke des Notifizierungsverfahrens gemäß Artikel 30 mit Angabe des Geltungsbereichs der Benennung als notifizierte Stellen |
Artikel 1 Gegenstand | |
(1) Zweck dieser Verordnung ist es, das Funktionieren des Binnenmarkts zu verbessern und die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz (KI) zu fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die in der Charta verankerten Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz, vor schädlichen Auswirkungen von KI-Systemen in der Union zu gewährleisten und die Innovation zu unterstützen. (2) In dieser Verordnung wird Folgendes festgelegt: a) harmonisierte Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen in der Union; b) Verbote bestimmter Praktiken im KI-Bereich; c) besondere Anforderungen an Hochrisiko-KI-Systeme und Pflichten für Akteure in Bezug auf solche Systeme; d) harmonisierte Transparenzvorschriften für bestimmte KI-Systeme; e) harmonisierte Vorschriften für das Inverkehrbringen von KI-Modellen mit allgemeinem Verwendungszweck; f) Vorschriften für die Marktbeobachtung sowie die Governance und Durchsetzung der Marktüberwachung; | |
| g) Maßnahmen zur Innovationsförderung mit besonderem Augenmerk auf KMU, einschließlich Start-up-Unternehmen. | g) Maßnahmen zur Innovationsförderung mit besonderem Augenmerk auf kleinen Midcap-Unternehmen und kleinen und mittleren Unternehmen (KMU), einschließlich Start-up-Unternehmen. |
Artikel 2 Anwendungsbereich | |
(1) Diese Verordnung gilt für a) Anbieter, die in der Union KI-Systeme in Verkehr bringen oder in Betrieb nehmen oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind; b) Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder in der Union befinden; c) Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird; d) Einführer und Händler von KI-Systemen; e) Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen; f) Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind; g) betroffene Personen, die sich in der Union befinden. | |
| (2) 1 Für KI-Systeme, die als Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 eingestuft sind und im Zusammenhang mit Produkten stehen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, gelten nur Artikel 6 Absatz 1, die Artikel 102 bis 109 und Artikel 112. 2 Artikel 57 gilt nur, soweit die Anforderungen an Hochrisiko-KI-Systeme gemäß dieser Verordnung im Rahmen der genannten Harmonisierungsrechtsvorschriften der Union eingebunden wurden. | (2) 1 Für KI-Systeme, die als Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 eingestuft sind und im Zusammenhang mit Produkten stehen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, gelten nur Artikel 6 Absatz 1, Artikel 60a und Artikel 102 bis 112. 2 Die Artikel 57, 58 und 59 gelten nur, soweit die Anforderungen an Hochrisiko-KI-Systeme gemäß dieser Verordnung im Rahmen der genannten Harmonisierungsrechtsvorschriften der Union übernommen wurden. |
(3) 1 Diese Verordnung gilt nur in den unter das Unionsrecht fallenden Bereichen und berührt keinesfalls die Zuständigkeiten der Mitgliedstaaten in Bezug auf die nationale Sicherheit, unabhängig von der Art der Einrichtung, die von den Mitgliedstaaten mit der Wahrnehmung von Aufgaben im Zusammenhang mit diesen Zuständigkeiten betraut wurde. 2 Diese Verordnung gilt nicht für KI-Systeme, wenn und soweit sie ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit in Verkehr gebracht, in Betrieb genommen oder, mit oder ohne Änderungen, verwendet werden, unabhängig von der Art der Einrichtung, die diese Tätigkeiten ausübt. 3 Diese Verordnung gilt nicht für KI-Systeme, die nicht in der Union in Verkehr gebracht oder in Betrieb genommen werden, wenn die Ausgaben in der Union ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit verwendet werden, unabhängig von der Art der Einrichtung, die diese Tätigkeiten ausübt. (4) Diese Verordnung gilt weder für Behörden in Drittländern noch für internationale Organisationen, die gemäß Absatz 1 in den Anwendungsbereich dieser Verordnung fallen, soweit diese Behörden oder Organisationen KI-Systeme im Rahmen der internationalen Zusammenarbeit oder internationaler Übereinkünfte im Bereich der Strafverfolgung und justiziellen Zusammenarbeit mit der Union oder mit einem oder mehreren Mitgliedstaaten verwenden und sofern ein solches Drittland oder eine solche internationale Organisation angemessene Garantien hinsichtlich des Schutz der Privatsphäre, der Grundrechte und der Grundfreiheiten von Personen bietet. (5) Die Anwendung der Bestimmungen über die Haftung der Anbieter von Vermittlungsdiensten in Kapitel II der Verordnung 2022/2065 bleibt von dieser Verordnung unberührt. (6) Diese Verordnung gilt nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden. | |
| (7) 1 Die Rechtsvorschriften der Union zum Schutz personenbezogener Daten, der Privatsphäre und der Vertraulichkeit der Kommunikation gelten für die Verarbeitung personenbezogener Daten im Zusammenhang mit den in dieser Verordnung festgelegten Rechten und Pflichten. 2 Diese Verordnung berührt nicht die Verordnung (EU) 2016/679 bzw. (EU) 2018/1725 oder die Richtlinie 2002/58/EG bzw. (EU) 2016/680, unbeschadet des Artikels 10 Absatz 5 und des Artikels 59 der vorliegenden Verordnung. | (7) 1 Die Rechtsvorschriften der Union zum Schutz personenbezogener Daten, der Privatsphäre und der Vertraulichkeit der Kommunikation gelten für die Verarbeitung personenbezogener Daten im Zusammenhang mit den in dieser Verordnung festgelegten Rechten und Pflichten. 2 Unbeschadet der Artikel 4a und 59 der vorliegenden Verordnung, berührt diese Verordnung nicht die Verordnung (EU) 2016/679 bzw. (EU) 2018/1725 oder die Richtlinie 2002/58/EG bzw. (EU) 2016/680. |
(8) 1 Diese Verordnung gilt nicht für Forschungs-, Test- und Entwicklungstätigkeiten zu KI-Systemen oder KI-Modellen, bevor diese in Verkehr gebracht oder in Betrieb genommen werden. 2 Solche Tätigkeiten werden im Einklang mit dem geltenden Unionsrecht durchgeführt. 3 Tests unter Realbedingungen fallen nicht unter diesen Ausschluss. (9) Diese Verordnung berührt nicht die Vorschriften anderer Rechtsakte der Union zum Verbraucherschutz und zur Produktsicherheit. (10) Diese Verordnung gilt nicht für die Pflichten von Betreibern, die natürliche Personen sind und KI-Systeme im Rahmen einer ausschließlich persönlichen und nicht beruflichen Tätigkeit verwenden. (11) Diese Verordnung hindert die Union oder die Mitgliedstaaten nicht daran, Rechts- oder Verwaltungsvorschriften beizubehalten oder einzuführen, die für die Arbeitnehmer im Hinblick auf den Schutz ihrer Rechte bei der Verwendung von KI-Systemen durch die Arbeitgeber vorteilhafter sind, oder die Anwendung von Kollektivvereinbarungen zu fördern oder zuzulassen, die für die Arbeitnehmer vorteilhafter sind. (12) Diese Verordnung gilt nicht für KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, es sei denn, sie werden als Hochrisiko-KI-Systeme oder als ein KI-System, das unter Artikel 5 oder 50 fällt, in Verkehr gebracht oder in Betrieb genommen. | |
| | (13) 1 Für die in Artikel 6 Absatz 1 genannten Hochrisiko-KI-Systeme kann die Anwendung der in den Artikeln 9 bis 15 sowie 17 bis 25 festgelegten spezifischen Anforderungen oder Pflichten beschränkt werden, sofern und soweit a) in den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union Anforderungen oder bzw. Pflichten vorgesehen sind, die in Bezug auf Gesundheit, Sicherheit oder Grundrechte ein gleichwertiges oder höheres Schutzniveau bieten als die betreffende Anforderung bzw. Pflicht, und b) eine solche Beschränkung nicht zu einer Verringerung des in dieser Verordnung vorgesehenen allgemeinen Schutzniveaus führt. 2 Die Kommission erlässt bis zum 2. August 2027 delegierte Rechtsakte gemäß Artikel 97 zur Ergänzung dieser Verordnung zu erlassen, um die betreffenden Hochrisiko-KI-Systeme, die Anforderungen oder Pflichten, die beschränkt werden können, die Bedingungen, unter denen eine solche Beschränkung gilt, und den Umfang der Beschränkung festzulegen. |
Artikel 3 Begriffsbestimmungen | |
Für die Zwecke dieser Verordnung bezeichnet der Ausdruck 1. 'KI-System' ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können; 2. 'Risiko' die Kombination aus der Wahrscheinlichkeit des Auftretens eines Schadens und der Schwere dieses Schadens; 3. 'Anbieter' eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich; 4. 'Betreiber' eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet; 5. 'Bevollmächtigter' eine in der Union ansässige oder niedergelassene natürliche oder juristische Person, die vom Anbieter eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck schriftlich dazu bevollmächtigt wurde und sich damit einverstanden erklärt hat, in seinem Namen die in dieser Verordnung festgelegten Pflichten zu erfüllen bzw. Verfahren durchzuführen; 6. 'Einführer' eine in der Union ansässige oder niedergelassene natürliche oder juristische Person, die ein KI-System, das den Namen oder die Handelsmarke einer in einem Drittland niedergelassenen natürlichen oder juristischen Person trägt, in Verkehr bringt; 7. 'Händler' eine natürliche oder juristische Person in der Lieferkette, die ein KI-System auf dem Unionsmarkt bereitstellt, mit Ausnahme des Anbieters oder des Einführers; 8. 'Akteur' einen Anbieter, Produkthersteller, Betreiber, Bevollmächtigten, Einführer oder Händler; 9. 'Inverkehrbringen' die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck auf dem Unionsmarkt; 10. 'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit; 11. 'Inbetriebnahme' die Bereitstellung eines KI-Systems in der Union zum Erstgebrauch direkt an den Betreiber oder zum Eigengebrauch entsprechend seiner Zweckbestimmung; 12. 'Zweckbestimmung' die Verwendung, für die ein KI-System laut Anbieter bestimmt ist, einschließlich der besonderen Umstände und Bedingungen für die Verwendung, entsprechend den vom Anbieter bereitgestellten Informationen in den Betriebsanleitungen, im Werbe- oder Verkaufsmaterial und in diesbezüglichen Erklärungen sowie in der technischen Dokumentation; 13. 'vernünftigerweise vorhersehbare Fehlanwendung' die Verwendung eines KI-Systems in einer Weise, die nicht seiner Zweckbestimmung entspricht, die sich aber aus einem vernünftigerweise vorhersehbaren menschlichen Verhalten oder einer vernünftigerweise vorhersehbaren Interaktion mit anderen Systemen, auch anderen KI-Systemen, ergeben kann; | |
| 14. 'Sicherheitsbauteil' einen Bestandteil eines Produkts oder KI-Systems, der eine Sicherheitsfunktion für dieses Produkt oder KI-System erfüllt oder dessen Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Eigentum gefährdet; 15. 'Betriebsanleitungen' die Informationen, die der Anbieter bereitstellt, um den Betreiber insbesondere über die Zweckbestimmung und die ordnungsgemäße Verwendung eines KI-Systems zu informieren; | 14. 'Sicherheitsbauteil' einen Bestandteil eines Produkts oder KI-Systems, der eine Sicherheitsfunktion für dieses Produkt oder KI-System erfüllt oder dessen Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Eigentum gefährdet; für die Zwecke dieser Begriffsbestimmung erfüllt ein Bauteil dann eine Sicherheitsfunktion, wenn seine Zweckbestimmung darin besteht, Risiken für die Gesundheit und Sicherheit von Personen oder Eigentum abzuwenden oder zu mindern; 14a. 'Kleinst-, kleines oder mittleres Unternehmen' oder 'KMU' ein Kleinstunternehmen, kleines oder mittleres Unternehmen im Sinne von Artikel 2 des Anhangs der Empfehlung 2003/361/EG; 14b. 'kleines Midcap-Unternehmen' ein kleines Unternehmen mit mittlerer Kapitalisierung im Sinne von Nummer 2 des Anhangs der Empfehlung (EU) 2025/1099; 15. 'Betriebsanleitungen' die Informationen, die der Anbieter bereitstellt, um den Betreiber insbesondere über die Zweckbestimmung und die ordnungsgemäße Verwendung eines KI-Systems zu informieren; |
16. 'Rückruf eines KI-Systems' jede Maßnahme, die auf die Rückgabe an den Anbieter oder auf die Außerbetriebsetzung oder Abschaltung eines den Betreibern bereits zur Verfügung gestellten KI-Systems abzielt; 17. 'Rücknahme eines KI-Systems' jede Maßnahme, mit der die Bereitstellung eines in der Lieferkette befindlichen KI-Systems auf dem Markt verhindert werden soll; 18. 'Leistung eines KI-Systems' die Fähigkeit eines KI-Systems, seine Zweckbestimmung zu erfüllen; 19. 'notifizierende Behörde' die nationale Behörde, die für die Einrichtung und Durchführung der erforderlichen Verfahren für die Bewertung, Benennung und Notifizierung von Konformitätsbewertungsstellen und für deren Überwachung zuständig ist; 20. 'Konformitätsbewertung' ein Verfahren mit dem bewertet wird, ob die in Titel III Abschnitt 2 festgelegten Anforderungen an ein Hochrisiko-KI-System erfüllt wurden; 21. 'Konformitätsbewertungsstelle' eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektionen durchführt und dabei als Dritte auftritt; 22. 'notifizierte Stelle' eine Konformitätsbewertungsstelle, die gemäß dieser Verordnung und den anderen einschlägigen Harmonisierungsrechtsvorschriften der Union notifiziert wurde; 23. 'wesentliche Veränderung' eine Veränderung eines KI-Systems nach dessen Inverkehrbringen oder Inbetriebnahme, die in der vom Anbieter durchgeführten ursprünglichen Konformitätsbewertung nicht vorgesehen oder geplant war und durch die die Konformität des KI-Systems mit den Anforderungen in Kapitel III Abschnitt 2 beeinträchtigt wird oder die zu einer Änderung der Zweckbestimmung führt, für die das KI-System bewertet wurde; 24. 'CE-Kennzeichnung' eine Kennzeichnung, durch die ein Anbieter erklärt, dass ein KI-System die Anforderungen erfüllt, die in Kapitel III Abschnitt 2 und in anderen anwendbaren Harmonisierungsrechtsvorschriften, die die Anbringung dieser Kennzeichnung vorsehen, festgelegt sind; 25. 'System zur Beobachtung nach dem Inverkehrbringen' alle Tätigkeiten, die Anbieter von KI-Systemen zur Sammlung und Überprüfung von Erfahrungen mit der Verwendung der von ihnen in Verkehr gebrachten oder in Betrieb genommenen KI-Systeme durchführen, um festzustellen, ob unverzüglich nötige Korrektur- oder Präventivmaßnahmen zu ergreifen sind; 26. 'Marktüberwachungsbehörde' die nationale Behörde, die die Tätigkeiten durchführt und die Maßnahmen ergreift, die in der Verordnung (EU) 2019/1020 vorgesehen sind; 27. 'harmonisierte Norm' bezeichnet eine harmonisierte Norm im Sinne des Artikels 2 Absatz 1 Buchstabe c der Verordnung (EU) Nr. 1025/2012; 28. 'gemeinsame Spezifikation' eine Reihe technischer Spezifikationen im Sinne des Artikels 2 Nummer 4 der Verordnung (EU) Nr. 1025/2012, deren Befolgung es ermöglicht, bestimmte Anforderungen der vorliegenden Verordnung zu erfüllen; 29. 'Trainingsdaten' Daten, die zum Trainieren eines KI-Systems verwendet werden, wobei dessen lernbare Parameter angepasst werden; 30. 'Validierungsdaten' Daten, die zur Evaluation des trainierten KI-Systems und zur Einstellung seiner nicht erlernbaren Parameter und seines Lernprozesses verwendet werden, um unter anderem eine Unter- oder Überanpassung zu vermeiden; 31. 'Validierungsdatensatz' einen separaten Datensatz oder einen Teil des Trainingsdatensatzes mit fester oder variabler Aufteilung; 32. 'Testdaten' Daten, die für eine unabhängige Bewertung des KI-Systems verwendet werden, um die erwartete Leistung dieses Systems vor dessen Inverkehrbringen oder Inbetriebnahme zu bestätigen; 33. 'Eingabedaten' die in ein KI-System eingespeisten oder von diesem direkt erfassten Daten, auf deren Grundlage das System eine Ausgabe hervorbringt; 34. 'biometrische Daten' mit speziellen technischen Verfahren gewonnene personenbezogene Daten zu den physischen, physiologischen oder verhaltenstypischen Merkmalen einer natürlichen Person, wie etwa Gesichtsbilder oder daktyloskopische Daten; 35. 'biometrische Identifizierung' die automatisierte Erkennung physischer, physiologischer, verhaltensbezogener oder psychologischer menschlicher Merkmale zum Zwecke der Feststellung der Identität einer natürlichen Person durch den Vergleich biometrischer Daten dieser Person mit biometrischen Daten von Personen, die in einer Datenbank gespeichert sind; 36. 'biometrische Verifizierung' die automatisierte Eins-zu-eins-Verifizierung, einschließlich Authentifizierung, der Identität natürlicher Personen durch den Vergleich ihrer biometrischen Daten mit zuvor bereitgestellten biometrischen Daten; 37. 'besondere Kategorien personenbezogener Daten' die in Artikel 9 Absatz 1 der Verordnung (EU) 2016/679, Artikel 10 der Richtlinie (EU) 2016/680 und Artikel 10 Absatz 1 der Verordnung (EU) 2018/1725 aufgeführten Kategorien personenbezogener Daten; 38. 'sensible operative Daten' operative Daten im Zusammenhang mit Tätigkeiten zur Verhütung, Aufdeckung, Untersuchung oder Verfolgung von Straftaten, deren Offenlegung die Integrität von Strafverfahren gefährden könnte; 39. 'Emotionserkennungssystem' ein KI-System, das dem Zweck dient, Emotionen oder Absichten natürlicher Personen auf der Grundlage ihrer biometrischen Daten festzustellen oder daraus abzuleiten; 40. 'System zur biometrischen Kategorisierung' ein KI-System, das dem Zweck dient, natürliche Personen auf der Grundlage ihrer biometrischen Daten bestimmten Kategorien zuzuordnen, sofern es sich nicht um eine Nebenfunktion eines anderen kommerziellen Dienstes handelt und aus objektiven technischen Gründen unbedingt erforderlich ist; 41. 'biometrisches Fernidentifizierungssystem' ein KI-System, das dem Zweck dient, natürliche Personen ohne ihre aktive Einbeziehung und in der Regel aus der Ferne durch Abgleich der biometrischen Daten einer Person mit den in einer Referenzdatenbank gespeicherten biometrischen Daten zu identifizieren; 42. 'biometrisches Echtzeit-Fernidentifizierungssystem' ein biometrisches Fernidentifizierungssystem, bei dem die Erfassung biometrischer Daten, der Abgleich und die Identifizierung ohne erhebliche Verzögerung erfolgen, und das zur Vermeidung einer Umgehung der Vorschriften nicht nur die sofortige Identifizierung, sondern auch eine Identifizierung mit begrenzten kurzen Verzögerungen umfasst; 43. 'System zur nachträglichen biometrischen Fernidentifizierung' ein biometrisches Fernidentifizierungssystem, das kein biometrisches Echtzeit-Fernidentifizierungssystem ist; 44. 'öffentlich zugänglicher Raum' einen einer unbestimmten Anzahl natürlicher Personen zugänglichen physischen Ort in privatem oder öffentlichem Eigentum, unabhängig davon, ob bestimmte Bedingungen für den Zugang gelten, und unabhängig von möglichen Kapazitätsbeschränkungen; 45. 'Strafverfolgungsbehörde' a) eine Behörde, die für die Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder die Strafvollstreckung, einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit, zuständig ist, oder b) eine andere Stelle oder Einrichtung, der durch nationales Recht die Ausübung öffentlicher Gewalt und hoheitlicher Befugnisse zur Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder zur Strafvollstreckung, einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit, übertragen wurde; 46. 'Strafverfolgung' Tätigkeiten der Strafverfolgungsbehörden oder in deren Auftrag zur Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder zur Strafvollstreckung, einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit; 47. 'Büro für Künstliche Intelligenz' die Aufgabe der Kommission, zur Umsetzung, Beobachtung und Überwachung von KI-Systemen und KI-Modellen mit allgemeinem Verwendungszweck und zu der im Beschluss der Kommission vom 24. Januar 2024 vorgesehenen KI-Governance beizutragen; Bezugnahmen in dieser Verordnung auf das Büro für Künstliche Intelligenz gelten als Bezugnahmen auf die Kommission; 48. 'zuständige nationale Behörde' eine notifizierende Behörde oder eine Marktüberwachungsbehörde; in Bezug auf KI-Systeme, die von Organen, Einrichtungen und sonstigen Stellen der Union in Betrieb genommen oder verwendet werden, sind Bezugnahmen auf die zuständigen nationalen Behörden oder Marktüberwachungsbehörden in dieser Verordnung als Bezugnahmen auf den Europäischen Datenschutzbeauftragten auszulegen; 49. 'schwerwiegender Vorfall' einen Vorfall oder eine Fehlfunktion bezüglich eines KI-Systems, das bzw. die direkt oder indirekt eine der nachstehenden Folgen hat: a) den Tod oder die schwere gesundheitliche Schädigung einer Person; b) eine schwere und unumkehrbare Störung der Verwaltung oder des Betriebs kritischer Infrastrukturen; c) die Verletzung von Pflichten aus den Unionsrechtsvorschriften zum Schutz der Grundrechte; d) schwere Sach- oder Umweltschäden; 50. 'personenbezogene Daten' personenbezogene Daten im Sinne von Artikel 4 Nummer 1 der Verordnung (EU) 2016/679; 51. 'nicht personenbezogene Daten' Daten, die keine personenbezogenen Daten im Sinne von Artikel 4 Nummer 1 der Verordnung (EU) 2016/679 sind; 52. 'Profiling' das Profiling im Sinne von Artikel 4 Nummer 4 der Verordnung (EU) 2016/679; 53. 'Plan für einen Test unter Realbedingungen' ein Dokument, in dem die Ziele, die Methodik, der geografische, bevölkerungsbezogene und zeitliche Umfang, die Überwachung, die Organisation und die Durchführung eines Tests unter Realbedingungen beschrieben werden; 54. 'Plan für das Reallabor' ein zwischen dem teilnehmenden Anbieter und der zuständigen Behörde vereinbartes Dokument, in dem die Ziele, die Bedingungen, der Zeitrahmen, die Methodik und die Anforderungen für die im Reallabor durchgeführten Tätigkeiten beschrieben werden; 55. 'KI-Reallabor' einen kontrollierten Rahmen, der von einer zuständigen Behörde geschaffen wird und den Anbieter oder zukünftige Anbieter von KI-Systemen nach einem Plan für das Reallabor einen begrenzten Zeitraum und unter regulatorischer Aufsicht nutzen können, um ein innovatives KI-System zu entwickeln, zu trainieren, zu validieren und - gegebenenfalls unter Realbedingungen - zu testen. 56. 'KI-Kompetenz' die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden. 57. 'Test unter Realbedingungen' den befristeten Test eines KI-Systems auf seine Zweckbestimmung, der unter Realbedingungen außerhalb eines Labors oder einer anderweitig simulierten Umgebung erfolgt, um zuverlässige und belastbare Daten zu erheben und die Konformität des KI-Systems mit den Anforderungen der vorliegenden Verordnung zu bewerten und zu überprüfen, wobei dieser Test nicht als Inverkehrbringen oder Inbetriebnahme des KI-Systems im Sinne dieser Verordnung gilt, sofern alle Bedingungen nach Artikel 57 oder Artikel 60 erfüllt sind; 58. 'Testteilnehmer' für die Zwecke eines Tests unter Realbedingungen eine natürliche Person, die an dem Test unter Realbedingungen teilnimmt; 59. 'informierte Einwilligung' eine aus freien Stücken erfolgende, spezifische, eindeutige und freiwillige Erklärung der Bereitschaft, an einem bestimmten Test unter Realbedingungen teilzunehmen, durch einen Testteilnehmer, nachdem dieser über alle Aspekte des Tests, die für die Entscheidungsfindung des Testteilnehmers bezüglich der Teilnahme relevant sind, aufgeklärt wurde; 60. 'Deepfake' einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde; 61. 'weitverbreiteter Verstoß' jede Handlung oder Unterlassung, die gegen das Unionsrecht verstößt, das die Interessen von Einzelpersonen schützt, und die a) die kollektiven Interessen von Einzelpersonen in mindestens zwei anderen Mitgliedstaaten als dem Mitgliedstaat schädigt oder zu schädigen droht, in dem i) die Handlung oder die Unterlassung ihren Ursprung hatte oder stattfand, ii) der betreffende Anbieter oder gegebenenfalls sein Bevollmächtigter sich befindet oder niedergelassen ist oder iii) der Betreiber niedergelassen ist, sofern der Verstoß vom Betreiber begangen wird, b) die kollektiven Interessen von Einzelpersonen geschädigt hat, schädigt oder schädigen könnte und allgemeine Merkmale aufweist, einschließlich derselben rechtswidrigen Praxis oder desselben verletzten Interesses, und gleichzeitig auftritt und von demselben Akteur in mindestens drei Mitgliedstaaten begangen wird; 62. 'kritische Infrastrukturen' kritische Infrastrukturen im Sinne von Artikel 2 Nummer 4 der Richtlinie (EU) 2022/2557; 63. 'KI-Modell mit allgemeinem Verwendungszweck' ein KI-Modell - einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird -, das eine erhebliche allgemeine Verwendbarkeit aufweist und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann, ausgenommen KI-Modelle, die vor ihrem Inverkehrbringen für Forschungs- und Entwicklungstätigkeiten oder die Konzipierung von Prototypen eingesetzt werden; 64. 'Fähigkeiten mit hoher Wirkkraft' bezeichnet Fähigkeiten, die den bei den fortschrittlichsten KI-Modellen mit allgemeinem Verwendungszweck festgestellten Fähigkeiten entsprechen oder diese übersteigen; 65. 'systemisches Risiko' ein Risiko, das für die Fähigkeiten mit hoher Wirkkraft von KI-Modellen mit allgemeinem Verwendungszweck spezifisch ist und aufgrund deren Reichweite oder aufgrund tatsächlicher oder vernünftigerweise vorhersehbarer negativer Folgen für die öffentliche Gesundheit, die Sicherheit, die öffentliche Sicherheit, die Grundrechte oder die Gesellschaft insgesamt erhebliche Auswirkungen auf den Unionsmarkt hat, die sich in großem Umfang über die gesamte Wertschöpfungskette hinweg verbreiten können; 66. 'KI-System mit allgemeinem Verwendungszweck' ein KI-System, das auf einem KI-Modell mit allgemeinem Verwendungszweck beruht und in der Lage ist, einer Vielzahl von Zwecken sowohl für die direkte Verwendung als auch für die Integration in andere KI-Systeme zu dienen; 67. 'Gleitkommaoperation' jede Rechenoperation oder jede Zuweisung mit Gleitkommazahlen, bei denen es sich um eine Teilmenge der reellen Zahlen handelt, die auf Computern typischerweise durch das Produkt aus einer ganzen Zahl mit fester Genauigkeit und einer festen Basis mit ganzzahligem Exponenten dargestellt wird; 68. 'nachgelagerter Anbieter' einen Anbieter eines KI-Systems, einschließlich eines KI-Systems mit allgemeinem Verwendungszweck, das ein KI-Modell integriert, unabhängig davon, ob das KI-Modell von ihm selbst bereitgestellt und vertikal integriert wird oder von einer anderen Einrichtung auf der Grundlage vertraglicher Beziehungen bereitgestellt wird. | |
Artikel 4 KI-Kompetenz | |
| Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind. | (1) 1 Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Aus- und Fortbildung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind. 2 Diese Verpflichtung verpflichtet Anbieter oder Betreiber nicht, für irgendeine Person ein bestimmtes Niveau an KI-Kompetenz zu garantieren. (2) 1 Die Kommission und die Mitgliedstaaten unterstützen und fördern die Bemühungen der Anbieter und Betreiber von KI-Systemen und insbesondere von KMU, ihre Verpflichtung nach Absatz 1 dieses Artikels zu erfüllen. 2 Zu diesem Zweck veröffentlicht die Kommission praktische Beispiele dafür, wie diese Verpflichtung erfüllt wird auf der in Artikel 62 Absatz 3 Buchstabe b genannten zentralen Informationsplattform. (3) Das KI-Gremium nimmt unter Berücksichtigung der europäischen Kompetenzrahmen Empfehlungen an, um die Kommission und die Mitgliedstaaten unter anderem durch die Festlegung gemeinsamer Ziele bei der Förderung der KI-Kompetenz gemäß Absatz 1 zu unterstützen. |
Artikel 4a (neu) | Artikel 4a Verarbeitung besonderer Kategorien personenbezogener Daten zur Erkennung und Korrektur von Verzerrungen |
| | (1) 1 Soweit dies zur Erkennung und Korrektur von Verzerrungen im Zusammenhang mit Hochrisiko-KI-Systemen im Einklang mit Artikel 10 Absatz 2 Buchstaben f und g dieser Verordnung unbedingt erforderlich ist, dürfen die Anbieter solcher Systeme ausnahmsweise besondere Kategorien personenbezogener Daten verarbeiten, wobei sie angemessene Vorkehrungen zum Schutz der Grundrechte und Grundfreiheiten natürlicher Personen treffen müssen. 2 Zusätzlich zu den Bestimmungen der Verordnungen (EU) 2016/679 und (EU) 2018/1725 und der Richtlinie (EU) 2016/680, soweit zutreffend, müssen sämtliche der folgenden Bedingungen erfüllt sein, damit eine solche Verarbeitung stattfinden darf: a) Die Erkennung und Korrektur von Verzerrungen kann durch die Verarbeitung anderer Daten, einschließlich synthetischer oder anonymisierter Daten, nicht effektiv durchgeführt werden, b) die besonderen Kategorien personenbezogener Daten unterliegen technischen Beschränkungen bezüglich einer Weiterverwendung der personenbezogenen Daten und modernsten Sicherheits- und Datenschutzmaßnahmen, einschließlich Pseudonymisierung, c) die besonderen Kategorien personenbezogener Daten unterliegen Maßnahmen, mit denen sichergestellt wird, dass die verarbeiteten personenbezogenen Daten gesichert und geschützt und Gegenstand angemessener Sicherheitsvorkehrungen sind, wozu auch strenge Kontrollen des Zugriffs und seine Dokumentation gehören, um Missbrauch zu verhindern und sicherzustellen, dass nur befugte Personen, die zur Einhaltung entsprechender Vertraulichkeitspflichten verpflichtet sind, Zugang zu diesen personenbezogenen Daten haben, d) die besonderen Kategorien personenbezogener Daten werden nicht an Dritte übermittelt oder übertragen, noch haben diese Dritten anderweitigen Zugang zu diesen Daten, e) die besonderen Kategorien personenbezogener Daten werden gelöscht, sobald die Verzerrung korrigiert wurde oder das Ende der Speicherfrist für die personenbezogenen Daten erreicht ist, je nachdem, was zuerst eintritt, und f) die Aufzeichnungen über Verarbeitungstätigkeiten gemäß den Verordnungen (EU) 2016/679 und (EU) 2018/1725 und der Richtlinie (EU) 2016/680 enthalten die Gründe, warum die Verarbeitung besonderer Kategorien personenbezogener Daten für die Erkennung und Korrektur von Verzerrungen unbedingt erforderlich war und warum dieses Ziel mit der Verarbeitung anderer Daten nicht erreicht werden konnte. (2) 1 Anbieter und Betreiber anderer KI-Systeme und KI-Modelle und Betreiber von Hochrisiko-KI-Systemen dürfen ausnahmsweise besondere Kategorien personenbezogener Daten verarbeiten, sofern a) eine solche Verarbeitung zur Erkennung und Korrektur von Verzerrungen im Hinblick auf mögliche Verzerrungen unbedingt erforderlich ist, die die Gesundheit und Sicherheit von Personen beeinträchtigen, negative Auswirkungen hinsichtlich der Grundrechte haben oder zu einer gemäß den Rechtsvorschriften der Union verbotenen Diskriminierung führen, insbesondere wenn die Datenausgaben die Eingaben für künftige Operationen beeinflussen, und b) alle in Absatz 1 genannten Bedingungen und Vorkehrungen Anwendung finden. 2 Dieser Absatz begründet keine Verpflichtung, eine solche Erkennung und Korrektur von Verzerrungen vorzunehmen. |
Artikel 5 Verbotene Praktiken im KI-Bereich | |
(1) 1 Folgende Praktiken im KI-Bereich sind verboten: a) das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das Techniken der unterschwelligen Beeinflussung außerhalb des Bewusstseins einer Person oder absichtlich manipulative oder täuschende Techniken mit dem Ziel oder der Wirkung einsetzt, das Verhalten einer Person oder einer Gruppe von Personen wesentlich zu verändern, indem ihre Fähigkeit, eine fundierte Entscheidung zu treffen, deutlich beeinträchtigt wird, wodurch sie veranlasst wird, eine Entscheidung zu treffen, die sie andernfalls nicht getroffen hätte, und zwar in einer Weise, die dieser Person, einer anderen Person oder einer Gruppe von Personen erheblichen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen wird. b) das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das eine Vulnerabilität oder Schutzbedürftigkeit einer natürlichen Person oder einer bestimmten Gruppe von Personen aufgrund ihres Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation mit dem Ziel oder der Wirkung ausnutzt, das Verhalten dieser Person oder einer dieser Gruppe angehörenden Person in einer Weise wesentlich zu verändern, die dieser Person oder einer anderen Person erheblichen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen wird; | |
| | ba) das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das realistische Bild-, Video-, Ton- oder ähnliche Inhalte erzeugt oder manipuliert, in denen intime Körperteile einer bestimmbaren natürlichen Person dargestellt werden oder eine an eindeutig sexuellen Handlungen beteiligte bestimmbare Person dargestellt wird, ohne dass die betreffende Person eine aus freien Stücken erfolgende, spezifische, aufgeklärte, eindeutige und ausdrückliche Zustimmung zu dieser Erzeugung oder Manipulation erteilt hat; bb) das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das Material oder Darbietungen im Sinne von Artikel 2 Buchstaben c und e der Richtlinie 2011/93/EU erzeugt oder manipuliert, es sei denn, nach nationalem Recht gilt das 'unrechtmäßige' Verhalten als gerechtfertigt; |
c) das Inverkehrbringen, die Inbetriebnahme oder die Verwendung von KI-Systemen zur Bewertung oder Einstufung von natürlichen Personen oder Gruppen von Personen über einen bestimmten Zeitraum auf der Grundlage ihres sozialen Verhaltens oder bekannter, abgeleiteter oder vorhergesagter persönlicher Eigenschaften oder Persönlichkeitsmerkmale, wobei die soziale Bewertung zu einem oder beiden der folgenden Ergebnisse führt: i) Schlechterstellung oder Benachteiligung bestimmter natürlicher Personen oder Gruppen von Personen in sozialen Zusammenhängen, die in keinem Zusammenhang zu den Umständen stehen, unter denen die Daten ursprünglich erzeugt oder erhoben wurden; ii) Schlechterstellung oder Benachteiligung bestimmter natürlicher Personen oder Gruppen von Personen in einer Weise, die im Hinblick auf ihr soziales Verhalten oder dessen Tragweite ungerechtfertigt oder unverhältnismäßig ist; d) das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung eines KI-Systems zur Durchführung von Risikobewertungen in Bezug auf natürliche Personen, um das Risiko, dass eine natürliche Person eine Straftat begeht, ausschließlich auf der Grundlage des Profiling einer natürlichen Person oder der Bewertung ihrer persönlichen Merkmale und Eigenschaften zu bewerten oder vorherzusagen; dieses Verbot gilt nicht für KI-Systeme, die dazu verwendet werden, die durch Menschen durchgeführte Bewertung der Beteiligung einer Person an einer kriminellen Aktivität, die sich bereits auf objektive und überprüfbare Tatsachen stützt, die in unmittelbarem Zusammenhang mit einer kriminellen Aktivität stehen, zu unterstützen; e) das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von KI-Systemen, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern; f) das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von KI-Systemen zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen, es sei denn, die Verwendung des KI-Systems soll aus medizinischen Gründen oder Sicherheitsgründen eingeführt oder auf den Markt gebracht werden; g) das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von Systemen zur biometrischen Kategorisierung, mit denen natürliche Personen individuell auf der Grundlage ihrer biometrischen Daten kategorisiert werden, um ihre Rasse, ihre politischen Einstellungen, ihre Gewerkschaftszugehörigkeit, ihre religiösen oder weltanschaulichen Überzeugungen, ihr Sexualleben oder ihre sexuelle Ausrichtung zu erschließen oder abzuleiten; dieses Verbot gilt nicht für die Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, wie z. B. Bilder auf der Grundlage biometrischer Daten oder die Kategorisierung biometrischer Daten im Bereich der Strafverfolgung; h) die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, außer wenn und insoweit dies im Hinblick auf eines der folgenden Ziele unbedingt erforderlich ist: i) gezielte Suche nach bestimmten Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung sowie die Suche nach vermissten Personen; ii) Abwenden einer konkreten, erheblichen und unmittelbaren Gefahr für das Leben oder die körperliche Unversehrtheit natürlicher Personen oder einer tatsächlichen und bestehenden oder tatsächlichen und vorhersehbaren Gefahr eines Terroranschlags; iii) Aufspüren oder Identifizieren einer Person, die der Begehung einer Straftat verdächtigt wird, zum Zwecke der Durchführung von strafrechtlichen Ermittlungen oder von Strafverfahren oder der Vollstreckung einer Strafe für die in Anhang II aufgeführten Straftaten, die in dem betreffenden Mitgliedstaat nach dessen Recht mit einer Freiheitsstrafe oder einer freiheitsentziehenden Maßregel der Sicherung im Höchstmaß von mindestens vier Jahren bedroht ist. 2 Unterabsatz 1 Buchstabe h gilt unbeschadet des Artikels 9 der Verordnung (EU) 2016/679 für die Verarbeitung biometrischer Daten zu anderen Zwecken als der Strafverfolgung. | |
| | (1a) Für die Zwecke von Absatz 1 Unterabsatz 1 Buchstaben ba und bb: a) Das Inverkehrbringen oder die Inbetriebnahme eines KI-Systems, das Material oder Darbietungen im Sinne von Absatz 1 Unterabsatz 1 Buchstaben ba oder bb generiert oder manipuliert, ist nur verboten, wenn i) die Erzeugung oder Manipulation die Zweckbestimmung des KI-Systems sind oder ii) aufgrund der Gestaltung, des Trainings, der Architektur, der Fähigkeiten oder der nutzerseitigen Funktionen des Systems diese Erzeugung oder Manipulation ein nach vernünftigem Ermessen absehbares und reproduzierbares Ergebnis ist, ohne dass erhebliche technische Änderungen erforderlich sind, und das System nicht über zumutbare und angemessene technische Sicherheitsmaßnahmen und andere Schutzvorkehrungen verfügt, um diese Erzeugung oder Manipulation unter Berücksichtigung einer nach vernünftigem Ermessen absehbaren missbräuchlichen Nutzung zuverlässig zu verhindern und eine beobachtete oder gemeldete missbräuchliche Nutzung zu korrigieren. b) Die Verwendung eines KI-Systems, mit dem Material oder Darbietungen im Sinne von Absatz 1 Unterabsatz 1 Buchstaben ba und bb erzeugt oder manipuliert werden, ist nur verboten, wenn der Betreiber das System zum Zwecke der Erzeugung oder der Manipulation solchen Materials oder solcher Darbietungen verwendet. 1b. Für die Zwecke von Absatz 1 Unterabsatz 1 Buchstabe ba gilt ein KI-System, mit dem das Material in einer Weise manipuliert wird, die die Sichtbarkeit der dargestellten intimen Körperteile weder erhöht noch die Art der dargestellten eindeutig sexuellen Handlungen verändert, nicht als manipulativ. |
(2) 1 Die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken im Hinblick auf die in Absatz 1 Unterabsatz 1 Buchstabe h genannten Ziele darf für die in jenem Buchstaben genannten Zwecke nur zur Bestätigung der Identität der speziell betroffenen Person erfolgen, wobei folgende Elemente berücksichtigt werden: a) die Art der Situation, die der möglichen Verwendung zugrunde liegt, insbesondere die Schwere, die Wahrscheinlichkeit und das Ausmaß des Schadens, der entstehen würde, wenn das System nicht eingesetzt würde; b) die Folgen der Verwendung des Systems für die Rechte und Freiheiten aller betroffenen Personen, insbesondere die Schwere, die Wahrscheinlichkeit und das Ausmaß solcher Folgen. 2 Darüber hinaus sind bei der Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken im Hinblick auf die in Absatz 1 Unterabsatz 1 Buchstabe h des vorliegenden Artikels genannten Ziele notwendige und verhältnismäßige Schutzvorkehrungen und Bedingungen für die Verwendung im Einklang mit nationalem Recht über die Ermächtigung ihrer Verwendung einzuhalten, insbesondere in Bezug auf die zeitlichen, geografischen und personenbezogenen Beschränkungen. 3 Die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen ist nur dann zu gestatten, wenn die Strafverfolgungsbehörde eine Folgenabschätzung im Hinblick auf die Grundrechte gemäß Artikel 27 abgeschlossen und das System gemäß Artikel 49 in der EU-Datenbank registriert hat. 4 In hinreichend begründeten dringenden Fällen kann jedoch mit der Verwendung solcher Systeme zunächst ohne Registrierung in der EU-Datenbank begonnen werden, sofern diese Registrierung unverzüglich erfolgt. (3) 1 Für die Zwecke des Absatz 1 Unterabsatz 1 Buchstabe h und des Absatzes 2 ist für jede Verwendung eines biometrischen Echtzeit-Fernidentifizierungssystems in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken eine vorherige Genehmigung erforderlich, die von einer Justizbehörde oder einer unabhängigen Verwaltungsbehörde des Mitgliedstaats, in dem die Verwendung erfolgen soll, auf begründeten Antrag und gemäß den in Absatz 5 genannten detaillierten nationalen Rechtsvorschriften erteilt wird, wobei deren Entscheidung bindend ist. 2 In hinreichend begründeten dringenden Fällen kann jedoch mit der Verwendung eines solchen Systems zunächst ohne Genehmigung begonnen werden, sofern eine solche Genehmigung unverzüglich, spätestens jedoch innerhalb von 24 Stunden beantragt wird. 3 Wird eine solche Genehmigung abgelehnt, so wird die Verwendung mit sofortiger Wirkung eingestellt und werden alle Daten sowie die Ergebnisse und Ausgaben dieser Verwendung unverzüglich verworfen und gelöscht. 4 Die zuständige Justizbehörde oder eine unabhängige Verwaltungsbehörde, deren Entscheidung bindend ist, erteilt die Genehmigung nur dann, wenn sie auf der Grundlage objektiver Nachweise oder eindeutiger Hinweise, die ihr vorgelegt werden, davon überzeugt ist, dass die Verwendung des betreffenden biometrischen Echtzeit-Fernidentifizierungssystems für das Erreichen eines der in Absatz 1 Unterabsatz 1 Buchstabe h genannten Ziele - wie im Antrag angegeben - notwendig und verhältnismäßig ist und insbesondere auf das in Bezug auf den Zeitraum sowie den geografischen und persönlichen Anwendungsbereich unbedingt erforderliche Maß beschränkt bleibt. 5 Bei ihrer Entscheidung über den Antrag berücksichtigt diese Behörde die in Absatz 2 genannten Elemente. 6 Eine Entscheidung, aus der sich eine nachteilige Rechtsfolge für eine Person ergibt, darf nicht ausschließlich auf der Grundlage der Ausgabe des biometrischen Echtzeit-Fernidentifizierungssystems getroffen werden. (4) 1 Unbeschadet des Absatzes 3 wird jede Verwendung eines biometrischen Echtzeit-Fernidentifizierungssystems in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken der zuständigen Marktüberwachungsbehörde und der nationalen Datenschutzbehörde gemäß den in Absatz 5 genannten nationalen Vorschriften mitgeteilt. 2 Die Mitteilung muss mindestens die in Absatz 6 genannten Angaben enthalten und darf keine sensiblen operativen Daten enthalten. (5) 1 Ein Mitgliedstaat kann die Möglichkeit einer vollständigen oder teilweisen Ermächtigung zur Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken innerhalb der in Absatz 1 Unterabsatz 1 Buchstabe h sowie Absätze 2 und 3 aufgeführten Grenzen und unter den dort genannten Bedingungen vorsehen. 2 Die betreffenden Mitgliedstaaten legen in ihrem nationalen Recht die erforderlichen detaillierten Vorschriften für die Beantragung, Erteilung und Ausübung der in Absatz 3 genannten Genehmigungen sowie für die entsprechende Beaufsichtigung und Berichterstattung fest. 3 In diesen Vorschriften wird auch festgelegt, im Hinblick auf welche der in Absatz 1 Unterabsatz 1 Buchstabe h aufgeführten Ziele und welche der unter Buchstabe h Ziffer iii genannten Straftaten die zuständigen Behörden ermächtigt werden können, diese Systeme zu Strafverfolgungszwecken zu verwenden. 4 Die Mitgliedstaaten teilen der Kommission diese Vorschriften spätestens 30 Tage nach ihrem Erlass mit. 5 Die Mitgliedstaaten können im Einklang mit dem Unionsrecht strengere Rechtsvorschriften für die Verwendung biometrischer Fernidentifizierungssysteme erlassen. (6) 1 Die nationalen Marktüberwachungsbehörden und die nationalen Datenschutzbehörden der Mitgliedstaaten, denen gemäß Absatz 4 die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken mitgeteilt wurden, legen der Kommission Jahresberichte über diese Verwendung vor. 2 Zu diesem Zweck stellt die Kommission den Mitgliedstaaten und den nationalen Marktüberwachungs- und Datenschutzbehörden ein Muster zur Verfügung, das Angaben über die Anzahl der Entscheidungen der zuständigen Justizbehörden oder einer unabhängigen Verwaltungsbehörde, deren Entscheidung über Genehmigungsanträge gemäß Absatz 3 bindend ist, und deren Ergebnis enthält. (7) 1 Die Kommission veröffentlicht Jahresberichte über die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, die auf aggregierten Daten aus den Mitgliedstaaten auf der Grundlage der in Absatz 6 genannten Jahresberichte beruhen. 2 Diese Jahresberichte dürfen keine sensiblen operativen Daten im Zusammenhang mit den damit verbundenen Strafverfolgungsmaßnahmen enthalten. (8) Dieser Artikel berührt nicht die Verbote, die gelten, wenn KI-Praktiken gegen andere Rechtsvorschriften der Union verstoßen. | |
Artikel 6 Einstufungsvorschriften für Hochrisiko-KI-Systeme | |
(1) Ungeachtet dessen, ob ein KI-System unabhängig von den unter den Buchstaben a und b genannten Produkten in Verkehr gebracht oder in Betrieb genommen wird, gilt es als Hochrisiko-KI-System, wenn die beiden folgenden Bedingungen erfüllt sind: a) das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder das KI-System ist selbst ein solches Produkt; b) das Produkt, dessen Sicherheitsbauteil gemäß Buchstabe a das KI-System ist, oder das KI-System selbst als Produkt muss einer Konformitätsbewertung durch Dritte im Hinblick auf das Inverkehrbringen oder die Inbetriebnahme dieses Produkts gemäß den in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union unterzogen werden. | |
| | (1a) Für die Zwecke dieser Verordnung, einschließlich des Absatzes 1 dieses Artikels, gelten KI-Systeme, die ausschließlich für nicht sicherheitsrelevante Aspekte der Nutzerunterstützung, Leistungsoptimierung, Leistungseffizienz, Automatisierung oder Benutzerfreundlichkeit oder Qualitätskontrolle verwendet werden, nicht als Sicherheitsbauteile. (1b) Unbeschadet des Absatzes 1a gelten KI-Systeme, deren Ausfall oder Fehlfunktion Gesundheit und Sicherheit gefährden würde, als Sicherheitsbauteile. (1c) Ein Produkt, das ausschließlich aufgrund anderer Risiken als Risiken für Gesundheit und Sicherheit einer Konformitätsbewertung durch Dritte unterzogen werden muss, insbesondere aufgrund von Risiken im Zusammenhang mit der Verbreitung von Funkfrequenzen oder elektromagnetischen Interferenzen, die Gesundheit und Sicherheit nicht beeinträchtigen, gilt nicht als Produkt, das die Bedingung in Absatz 1 Buchstabe b erfüllt. |
(2) Zusätzlich zu den in Absatz 1 genannten Hochrisiko-KI-Systemen gelten die in Anhang III genannten KI-Systeme als hochriskant. (3) 1 Abweichend von Absatz 2 gilt ein in Anhang III genanntes KI-System nicht als hochriskant, wenn es kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis der Entscheidungsfindung wesentlich beeinflusst. 2 Unterabsatz 1 gilt, wenn eine der folgenden Bedingungen erfüllt ist: a) das KI-System ist dazu bestimmt, eine eng gefasste Verfahrensaufgabe durchzuführen; b) das KI-System ist dazu bestimmt, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern; c) das KI-System ist dazu bestimmt, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und ist nicht dazu gedacht, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen; oder d) das KI-System ist dazu bestimmt, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die Zwecke der in Anhang III aufgeführten Anwendungsfälle relevant ist. 3 Ungeachtet des Unterabsatzes 1 gilt ein in Anhang III aufgeführtes KI-System immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt. (4) 1 Ein Anbieter, der der Auffassung ist, dass ein in Anhang III aufgeführtes KI-System nicht hochriskant ist, dokumentiert seine Bewertung, bevor dieses System in Verkehr gebracht oder in Betrieb genommen wird. 2 Dieser Anbieter unterliegt der Registrierungspflicht gemäß Artikel 49 Absatz 2. 3 Auf Verlangen der zuständigen nationalen Behörden legt der Anbieter die Dokumentation der Bewertung vor. (5) Die Kommission stellt nach Konsultation des Europäischen Gremiums für Künstliche Intelligenz (im Folgenden 'KI-Gremium') spätestens bis zum 2. Februar 2026 Leitlinien zur praktischen Umsetzung dieses Artikels gemäß Artikel 96 und eine umfassende Liste praktischer Beispiele für Anwendungsfälle für KI-Systeme, die hochriskant oder nicht hochriskant sind, bereit. (6) Die Kommission ist befugt, gemäß Artikel 97 delegierte Rechtsakte zu erlassen, um Absatz 3 Unterabsatz 2 des vorliegenden Artikels zu ändern, indem neue Bedingungen zu den darin genannten Bedingungen hinzugefügt oder diese geändert werden, wenn konkrete und zuverlässige Beweise für das Vorhandensein von KI-Systemen vorliegen, die in den Anwendungsbereich von Anhang III fallen, jedoch kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen bergen. (7) Die Kommission erlässt gemäß Artikel 97 delegierte Rechtsakte, um Absatz 3 Unterabsatz 2 des vorliegenden Artikels zu ändern, indem eine der darin festgelegten Bedingungen gestrichen wird, wenn konkrete und zuverlässige Beweise dafür vorliegen, dass dies für die Aufrechterhaltung des Schutzniveaus in Bezug auf Gesundheit, Sicherheit und die in dieser Verordnung vorgesehenen Grundrechte erforderlich ist. (8) Eine Änderung der in Absatz 3 Unterabsatz 2 festgelegten Bedingungen, die gemäß den Absätzen 6 und 7 des vorliegenden Artikels erlassen wurde, darf das allgemeine Schutzniveau in Bezug auf Gesundheit, Sicherheit und die in dieser Verordnung vorgesehenen Grundrechte nicht senken; dabei ist die Kohärenz mit den gemäß Artikel 7 Absatz 1 erlassenen delegierten Rechtsakten sicherzustellen und die Marktentwicklungen und die technologischen Entwicklungen sind zu berücksichtigen. | |
Artikel 10 Daten und Daten-Governance | |
| (1) Hochrisiko-KI-Systeme, in denen Techniken eingesetzt werden, bei denen KI-Modelle mit Daten trainiert werden, müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die den in den Absätzen 2 bis 5 genannten Qualitätskriterien entsprechen, wenn solche Datensätze verwendet werden. | (1) Hochrisiko-KI-Systeme, in denen Techniken eingesetzt werden, bei denen KI-Modelle mit Daten trainiert werden, müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die den in den Absätzen 2, 3 und 4 dieses Artikels und in Artikel 4a Absatz 1 genannten Qualitätskriterien entsprechen, wenn solche Datensätze verwendet werden. |
(2) 1 Für Trainings-, Validierungs- und Testdatensätze gelten Daten-Governance- und Datenverwaltungsverfahren, die für die Zweckbestimmung des Hochrisiko-KI-Systems geeignet sind. 2 Diese Verfahren betreffen insbesondere a) die einschlägigen konzeptionellen Entscheidungen, b) die Datenerhebungsverfahren und die Herkunft der Daten und im Falle personenbezogener Daten den ursprünglichen Zweck der Datenerhebung, c) relevante Datenaufbereitungsvorgänge wie Annotation, Kennzeichnung, Bereinigung, Aktualisierung, Anreicherung und Aggregierung, d) die Aufstellung von Annahmen, insbesondere in Bezug auf die Informationen, die mit den Daten erfasst und dargestellt werden sollen, e) eine Bewertung der Verfügbarkeit, Menge und Eignung der benötigten Datensätze, f) eine Untersuchung im Hinblick auf mögliche Verzerrungen (Bias), die die Gesundheit und Sicherheit von Personen beeinträchtigen, sich negativ auf die Grundrechte auswirken oder zu einer nach den Rechtsvorschriften der Union verbotenen Diskriminierung führen könnten, insbesondere wenn die Datenausgaben die Eingaben für künftige Operationen beeinflussen, g) geeignete Maßnahmen zur Erkennung, Verhinderung und Abschwächung möglicher gemäß Buchstabe f ermittelter Verzerrungen, h) die Ermittlung relevanter Datenlücken oder Mängel, die der Einhaltung dieser Verordnung entgegenstehen, und wie diese Lücken und Mängel behoben werden können. (3) 1 Die Trainings-, Validierungs- und Testdatensätze müssen im Hinblick auf die Zweckbestimmung relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig sein. 2 Sie müssen die geeigneten statistischen Merkmale, gegebenenfalls auch bezüglich der Personen oder Personengruppen, für die das Hochrisiko-KI-System bestimmungsgemäß verwendet werden soll, haben. 3 Diese Merkmale der Datensätze können auf der Ebene einzelner Datensätze oder auf der Ebene einer Kombination davon erfüllt werden. (4) Die Datensätze müssen, soweit dies für die Zweckbestimmung erforderlich ist, die entsprechenden Merkmale oder Elemente berücksichtigen, die für die besonderen geografischen, kontextuellen, verhaltensbezogenen oder funktionalen Rahmenbedingungen, unter denen das Hochrisiko-KI-System bestimmungsgemäß verwendet werden soll, typisch sind. | |
| (5) 1 Soweit dies für die Erkennung und Korrektur von Verzerrungen im Zusammenhang mit Hochrisiko-KI-Systemen im Einklang mit Absatz 2 Buchstaben f und g dieses Artikels unbedingt erforderlich ist, dürfen die Anbieter solcher Systeme ausnahmsweise besondere Kategorien personenbezogener Daten verarbeiten, wobei sie angemessene Vorkehrungen für den Schutz der Grundrechte und Grundfreiheiten natürlicher Personen treffen müssen. 2 Zusätzlich zu den Bestimmungen der Verordnungen (EU) 2016/679 und (EU) 2018/1725 und der Richtlinie (EU) 2016/680 müssen alle folgenden Bedingungen erfüllt sein, damit eine solche Verarbeitung stattfinden kann: a) Die Erkennung und Korrektur von Verzerrungen kann durch die Verarbeitung anderer Daten, einschließlich synthetischer oder anonymisierter Daten, nicht effektiv durchgeführt werden; b) die besonderen Kategorien personenbezogener Daten unterliegen technischen Beschränkungen einer Weiterverwendung der personenbezogenen Daten und modernsten Sicherheits- und Datenschutzmaßnahmen, einschließlich Pseudonymisierung; c) die besonderen Kategorien personenbezogener Daten unterliegen Maßnahmen, mit denen sichergestellt wird, dass die verarbeiteten personenbezogenen Daten gesichert, geschützt und Gegenstand angemessener Sicherheitsvorkehrungen sind, wozu auch strenge Kontrollen des Zugriffs und seine Dokumentation gehören, um Missbrauch zu verhindern und sicherzustellen, dass nur befugte Personen Zugang zu diesen personenbezogenen Daten mit angemessenen Vertraulichkeitspflichten haben; d) die besonderen Kategorien personenbezogener Daten werden nicht an Dritte übermittelt oder übertragen, noch haben diese Dritten anderweitigen Zugang zu diesen Daten; e) die besonderen Kategorien personenbezogener Daten werden gelöscht, sobald die Verzerrung korrigiert wurde oder das Ende der Speicherfrist für die personenbezogenen Daten erreicht ist, je nachdem, was zuerst eintritt; f) die Aufzeichnungen über Verarbeitungstätigkeiten gemäß den Verordnungen (EU) 2016/679 und (EU) 2018/1725 und der Richtlinie (EU) 2016/680 enthalten die Gründe, warum die Verarbeitung besonderer Kategorien personenbezogener Daten für die Erkennung und Korrektur von Verzerrungen unbedingt erforderlich war und warum dieses Ziel mit der Verarbeitung anderer Daten nicht erreicht werden konnte. (6) Bei der Entwicklung von Hochrisiko-KI-Systemen, in denen keine Techniken eingesetzt werden, bei denen KI-Modelle trainiert werden, gelten die Absätze 2 bis 5 nur für Testdatensätze. | (5) (aufgehoben) (6) Bei der Entwicklung von Hochrisiko-KI-Systemen, in denen keine Techniken eingesetzt werden, bei denen KI-Modelle trainiert werden, gelten die Absätze 2, 3 und 4 dieses Artikels und Artikel 4a Absatz 1 nur für Testdatensätze. |
Artikel 11 Technische Dokumentation | |
(1) 1 Die technische Dokumentation eines Hochrisiko-KI-Systems wird erstellt, bevor dieses System in Verkehr gebracht oder in Betrieb genommen wird, und ist auf dem neuesten Stand zu halten. | |
| 2 Die technische Dokumentation wird so erstellt, dass aus ihr der Nachweis hervorgeht, wie das Hochrisiko-KI-System die Anforderungen dieses Abschnitts erfüllt, und dass den zuständigen nationalen Behörden und den notifizierten Stellen die Informationen in klarer und verständlicher Form zur Verfügung stehen, die erforderlich sind, um zu beurteilen, ob das KI-System diese Anforderungen erfüllt. 3 Sie enthält zumindest die in Anhang IV genannten Angaben. 4 KMU, einschließlich Start-up-Unternehmen, können die in Anhang IV aufgeführten Elemente der technischen Dokumentation in vereinfachter Weise bereitstellen. 5 Zu diesem Zweck erstellt die Kommission ein vereinfachtes Formular für die technische Dokumentation, das auf die Bedürfnisse von kleinen Unternehmen und Kleinstunternehmen zugeschnitten ist. 6 Entscheidet sich ein KMU, einschließlich Start-up-Unternehmen, für eine vereinfachte Bereitstellung der in Anhang IV vorgeschriebenen Angaben, so verwendet es das in diesem Absatz genannte Formular. 7 Die notifizierten Stellen akzeptieren das Formular für die Zwecke der Konformitätsbewertung. | 2 Diese technische Dokumentation wird so erstellt, dass aus ihr der Nachweis hervorgeht, wie das Hochrisiko-KI-System die Anforderungen dieses Abschnitts erfüllt, und dass den zuständigen nationalen Behörden und den notifizierten Stellen die Informationen in klarer und verständlicher Form zur Verfügung stehen, die erforderlich sind, um zu beurteilen, ob das KI-System diese Anforderungen erfüllt. 3 Sie enthält zumindest die in Anhang IV genannten Angaben. 4 KMU, einschließlich Start-up-Unternehmen, und kleine Midcap-Unternehmen, können die in Anhang IV aufgeführten Elemente der technischen Dokumentation in vereinfachter Weise bereitstellen. 5 Zu diesem Zweck erstellt die Kommission ein vereinfachtes Formular für die technische Dokumentation, das auf die Bedürfnisse von KMU, einschließlich Start-up-Unternehmen, und von kleinen Midcap-Unternehmen zugeschnitten ist. 6 Entscheidet sich ein KMU, einschließlich Start-up-Unternehmen, oder ein kleines Midcap-Unternehmen für eine vereinfachte Bereitstellung der in Anhang IV vorgeschriebenen Angaben, so verwendet es das in diesem Absatz genannte Formular. 7 Die notifizierten Stellen akzeptieren das Formular für die Zwecke der Konformitätsbewertung. |
(2) Wird ein Hochrisiko-KI-System, das mit einem Produkt verbunden ist, das unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fällt, in Verkehr gebracht oder in Betrieb genommen, so wird eine einzige technische Dokumentation erstellt, die alle in Absatz 1 genannten Informationen sowie die nach diesen Rechtsakten erforderlichen Informationen enthält. (3) Die Kommission ist befugt, wenn dies nötig ist, gemäß Artikel 97 delegierte Rechtsakte zur Änderung des Anhangs IV zu erlassen, damit die technische Dokumentation in Anbetracht des technischen Fortschritts stets alle Informationen enthält, die erforderlich sind, um zu beurteilen, ob das System die Anforderungen dieses Abschnitts erfüllt. | |
Artikel 17 Qualitätsmanagementsystem | |
(1) 1 Anbieter von Hochrisiko-KI-Systemen richten ein Qualitätsmanagementsystem ein, das die Einhaltung dieser Verordnung gewährleistet. 2 Dieses System wird systematisch und ordnungsgemäß in Form schriftlicher Regeln, Verfahren und Anweisungen dokumentiert und umfasst mindestens folgende Aspekte: a) ein Konzept zur Einhaltung der Regulierungsvorschriften, was die Einhaltung der Konformitätsbewertungsverfahren und der Verfahren für das Management von Änderungen an dem Hochrisiko-KI-System miteinschließt; b) Techniken, Verfahren und systematische Maßnahmen für den Entwurf, die Entwurfskontrolle und die Entwurfsprüfung des Hochrisiko-KI-Systems; c) Techniken, Verfahren und systematische Maßnahmen für die Entwicklung, Qualitätskontrolle und Qualitätssicherung des Hochrisiko-KI-Systems; d) Untersuchungs-, Test- und Validierungsverfahren, die vor, während und nach der Entwicklung des Hochrisiko-KI-Systems durchzuführen sind, und die Häufigkeit der Durchführung; e) die technischen Spezifikationen und Normen, die anzuwenden sind und, falls die einschlägigen harmonisierten Normen nicht vollständig angewandt werden oder sie nicht alle relevanten Anforderungen gemäß Abschnitt 2 abdecken, die Mittel, mit denen gewährleistet werden soll, dass das Hochrisiko-KI-System diese Anforderungen erfüllt; f) Systeme und Verfahren für das Datenmanagement, einschließlich Datengewinnung, Datenerhebung, Datenanalyse, Datenkennzeichnung, Datenspeicherung, Datenfilterung, Datenauswertung, Datenaggregation, Vorratsdatenspeicherung und sonstiger Vorgänge in Bezug auf die Daten, die im Vorfeld und für die Zwecke des Inverkehrbringens oder der Inbetriebnahme von Hochrisiko-KI-Systemen durchgeführt werden; g) das in Artikel 9 genannte Risikomanagementsystem; h) die Einrichtung, Anwendung und Aufrechterhaltung eines Systems zur Beobachtung nach dem Inverkehrbringen gemäß Artikel 72; i) Verfahren zur Meldung eines schwerwiegenden Vorfalls gemäß Artikel 73; j) die Handhabung der Kommunikation mit zuständigen nationalen Behörden, anderen einschlägigen Behörden, auch Behörden, die den Zugang zu Daten gewähren oder erleichtern, notifizierten Stellen, anderen Akteuren, Kunden oder sonstigen interessierten Kreisen; k) Systeme und Verfahren für die Aufzeichnung sämtlicher einschlägigen Dokumentation und Informationen; l) Ressourcenmanagement, einschließlich Maßnahmen im Hinblick auf die Versorgungssicherheit; m) einen Rechenschaftsrahmen, der die Verantwortlichkeiten der Leitung und des sonstigen Personals in Bezug auf alle in diesem Absatz aufgeführten Aspekte regelt. | |
| (2) 1 Die Umsetzung der in Absatz 1 genannten Aspekte erfolgt in einem angemessenen Verhältnis zur Größe der Organisation des Anbieters. 2 Die Anbieter müssen in jedem Fall den Grad der Strenge und das Schutzniveau einhalten, die erforderlich sind, um die Übereinstimmung ihrer Hochrisiko-KI-Systeme mit dieser Verordnung sicherzustellen. | (2) 1 Die Umsetzung der in Absatz 1 genannten Aspekte erfolgt in einem angemessenen Verhältnis zur Größe der Organisation des Anbieters, insbesondere wenn es sich bei dem Anbieter um ein KMU, einschließlich Start-up-Unternehmen, oder ein kleines Midcap-Unternehmen handelt. 2 Die Anbieter müssen in jedem Fall den Grad der Strenge und das Schutzniveau einhalten, die erforderlich sind, um die Übereinstimmung ihrer Hochrisiko-KI-Systeme mit dieser Verordnung sicherzustellen. |
(3) Anbieter von Hochrisiko-KI-Systemen, die Pflichten in Bezug auf Qualitätsmanagementsysteme oder eine gleichwertige Funktion gemäß den sektorspezifischen Rechtsvorschriften der Union unterliegen, können die in Absatz 1 aufgeführten Aspekte als Bestandteil der nach den genannten Rechtsvorschriften festgelegten Qualitätsmanagementsysteme einbeziehen. (4) 1 Bei Anbietern, die Finanzinstitute sind und gemäß den Rechtsvorschriften der Union über Finanzdienstleistungen Anforderungen in Bezug auf ihre Regelungen oder Verfahren der internen Unternehmensführung unterliegen, gilt die Pflicht zur Einrichtung eines Qualitätsmanagementsystems - mit Ausnahme des Absatzes 1 Buchstaben g, h und i des vorliegenden Artikels - als erfüllt, wenn die Vorschriften über Regelungen oder Verfahren der internen Unternehmensführung gemäß dem einschlägigen Unionsrecht über Finanzdienstleistungen eingehalten werden. 2 Zu diesem Zweck werden die in Artikel 40 genannten harmonisierten Normen berücksichtigt. | |
Artikel 25 Verantwortlichkeiten entlang der KI-Wertschöpfungskette | |
(1) In den folgenden Fällen gelten Händler, Einführer, Betreiber oder sonstige Dritte als Anbieter eines Hochrisiko-KI-Systems für die Zwecke dieser Verordnung und unterliegen den Anbieterpflichten gemäß Artikel 16: a) wenn sie ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System mit ihrem Namen oder ihrer Handelsmarke versehen, unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen; b) wenn sie eine wesentliche Veränderung eines Hochrisiko-KI-Systems, das bereits in Verkehr gebracht oder in Betrieb genommen wurde, so vornehmen, dass es weiterhin ein Hochrisiko-KI-System gemäß Artikel 6 bleibt; c) wenn sie die Zweckbestimmung eines KI-Systems, einschließlich eines KI-Systems mit allgemeinem Verwendungszweck, das nicht als hochriskant eingestuft wurde und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so verändern, dass das betreffende KI-System zu einem Hochrisiko-KI-System im Sinne von Artikel 6 wird. | |
| (2) 1 Unter den in Absatz 1 genannten Umständen gilt der Anbieter, der das KI-System ursprünglich in Verkehr gebracht oder in Betrieb genommen hatte, nicht mehr als Anbieter dieses spezifischen KI-Systems für die Zwecke dieser Verordnung. 2 Dieser Erstanbieter arbeitet eng mit neuen Anbietern zusammen, stellt die erforderlichen Informationen zur Verfügung und sorgt für den vernünftigerweise zu erwartenden technischen Zugang und sonstige Unterstützung, die für die Erfüllung der in dieser Verordnung festgelegten Pflichten, insbesondere in Bezug auf die Konformitätsbewertung von Hochrisiko-KI-Systemen, erforderlich sind. 3 Dieser Absatz gilt nicht in Fällen, in denen der Erstanbieter eindeutig festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf und daher nicht der Pflicht zur Übergabe der Dokumentation unterliegt. | (2) 1 Unter den in Absatz 1 genannten Umständen gilt der Anbieter, der das KI-System ursprünglich in Verkehr gebracht oder in Betrieb genommen hatte, nicht mehr als Anbieter dieses spezifischen KI-Systems für die Zwecke dieser Verordnung. 2 Dieser Erstanbieter arbeitet eng mit neuen Anbietern zusammen, stellt die erforderlichen Informationen zur Verfügung und sorgt für den nach vernünftigem Ermessen zu erwartenden technischen Zugang und sonstige Unterstützung, die für die Erfüllung der in dieser Verordnung festgelegten Pflichten, insbesondere in Bezug auf die Konformitätsbewertung von Hochrisiko-KI-Systemen, erforderlich sind. 3 Die in Unterabsatz 2 festgelegte Verpflichtung umfasst, sofern dies für die dort genannten Zwecke relevant ist, insbesondere Folgendes: a) Bereitstellung technischer Unterlagen, die ausreichen, um die Einhaltung der in Artikel 16 festgelegten Anforderungen zu bewerten; b) Unterrichtung der neuen Anbieter über bekannte Einschränkungen und Fehlerarten und c) Bereitstellung eines gezielten technischen Zugangs für die neuen Anbieter, auch zu Test- und Validierungszwecken. 4 Dieser Absatz gilt nicht in Fällen, in denen der Erstanbieter eindeutig festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf und daher nicht der Pflicht zur Zusammenarbeit mit neuen Anbietern und zur Übergabe der Dokumentation unterliegt. |
(3) Im Falle von Hochrisiko-KI-Systemen, bei denen es sich um Sicherheitsbauteile von Produkten handelt, die unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, gilt der Produkthersteller als Anbieter des Hochrisiko-KI-Systems und unterliegt in den beiden nachfolgenden Fällen den Pflichten nach Artikel 16: a) Das Hochrisiko-KI-System wird zusammen mit dem Produkt unter dem Namen oder der Handelsmarke des Produktherstellers in Verkehr gebracht; b) das Hochrisiko-KI-System wird unter dem Namen oder der Handelsmarke des Produktherstellers in Betrieb genommen, nachdem das Produkt in Verkehr gebracht wurde. | |
| (4) 1 Der Anbieter eines Hochrisiko-KI-Systems und der Dritte, der ein KI-System, Instrumente, Dienste, Komponenten oder Verfahren bereitstellt, die in einem Hochrisiko-KI-System verwendet oder integriert werden, legen in einer schriftlichen Vereinbarung die Informationen, die Fähigkeiten, den technischen Zugang und die sonstige Unterstützung nach dem allgemein anerkannten Stand der Technik fest, die erforderlich sind, damit der Anbieter des Hochrisiko-KI-Systems die in dieser Verordnung festgelegten Pflichten vollständig erfüllen kann. 2 Dieser Absatz gilt nicht für Dritte, die Instrumente, Dienste, Verfahren oder Komponenten, bei denen es sich nicht um KI-Modelle mit allgemeinem Verwendungszweck handelt, im Rahmen einer freien und quelloffenen Lizenz öffentlich zugänglich machen. | (4) 1 Der Anbieter eines Hochrisiko-KI-Systems und der Dritte, der ein KI-System, ein KI-Modell, Instrumente, Dienste, Komponenten oder Verfahren bereitstellt, die in einem Hochrisiko-KI-System verwendet oder integriert werden, legen in einer schriftlichen Vereinbarung die Informationen, die Fähigkeiten, den technischen Zugang und die sonstige Unterstützung nach dem allgemein anerkannten Stand der Technik fest, die erforderlich sind, damit der Anbieter des Hochrisiko-KI-Systems die in dieser Verordnung festgelegten Pflichten vollständig erfüllen kann. 2 Dieser Absatz gilt nicht für Dritte, die Instrumente, Dienste, Verfahren oder Komponenten, bei denen es sich nicht um KI-Modelle mit allgemeinem Verwendungszweck handelt, im Rahmen einer freien und quelloffenen Lizenz öffentlich zugänglich machen. |
3 Das Büro für Künstliche Intelligenz kann freiwillige Musterbedingungen für Verträge zwischen Anbietern von Hochrisiko-KI-Systemen und Dritten, die Instrumente, Dienste, Komponenten oder Verfahren bereitstellen, die für Hochrisiko-KI-Systeme verwendet oder in diese integriert werden, ausarbeiten und empfehlen. 4 Bei der Ausarbeitung dieser freiwilligen Musterbedingungen berücksichtigt das Büro für Künstliche Intelligenz mögliche vertragliche Anforderungen, die in bestimmten Sektoren oder Geschäftsfällen gelten. 5 Die freiwilligen Musterbedingungen werden veröffentlicht und sind kostenlos in einem leicht nutzbaren elektronischen Format verfügbar. (5) Die Absätze 2 und 3 berühren nicht die Notwendigkeit, Rechte des geistigen Eigentums, vertrauliche Geschäftsinformationen und Geschäftsgeheimnisse im Einklang mit dem Unionsrecht und dem nationalen Recht zu achten und zu schützen. | |
Artikel 27 Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme | |
(1) 1 Vor der Inbetriebnahme eines Hochrisiko-KI-Systems gemäß Artikel 6 Absatz 2 - mit Ausnahme von Hochrisiko-KI-Systemen, die in dem in Anhang III Nummer 2 aufgeführten Bereich verwendet werden sollen - führen Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Einrichtungen, die öffentliche Dienste erbringen, handelt, und Betreiber von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 5 Buchstaben b und c eine Abschätzung der Auswirkungen, die die Verwendung eines solchen Systems auf die Grundrechte haben kann, durch. 2 Zu diesem Zweck führen die Betreiber eine Abschätzung durch, die Folgendes umfasst: a) eine Beschreibung der Verfahren des Betreibers, bei denen das Hochrisiko-KI-System im Einklang mit seiner Zweckbestimmung verwendet wird; b) eine Beschreibung des Zeitraums und der Häufigkeit, innerhalb dessen bzw. mit der jedes Hochrisiko-KI-System verwendet werden soll; c) die Kategorien der natürlichen Personen und Personengruppen, die von seiner Verwendung im spezifischen Kontext betroffen sein könnten; d) die spezifischen Schadensrisiken, die sich auf die gemäß Buchstabe c dieses Absatzes ermittelten Kategorien natürlicher Personen oder Personengruppen auswirken könnten, unter Berücksichtigung der vom Anbieter gemäß Artikel 13 bereitgestellten Informationen; e) eine Beschreibung der Umsetzung von Maßnahmen der menschlichen Aufsicht entsprechend den Betriebsanleitungen; f) die Maßnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind, einschließlich der Regelungen für die interne Unternehmensführung und Beschwerdemechanismen. (2) 1 Die in Absatz 1 festgelegte Pflicht gilt für die erste Verwendung eines Hochrisiko-KI-Systems. 2 Der Betreiber kann sich in ähnlichen Fällen auf zuvor durchgeführte Grundrechte-Folgenabschätzungen oder bereits vorhandene Folgenabschätzungen, die vom Anbieter durchgeführt wurden, stützen. 3 Gelangt der Betreiber während der Verwendung des Hochrisiko-KI-Systems zur Auffassung, dass sich eines der in Absatz 1 aufgeführten Elemente geändert hat oder nicht mehr auf dem neuesten Stand ist, so unternimmt der Betreiber die erforderlichen Schritte, um die Informationen zu aktualisieren. (3) 1 Sobald die Abschätzung gemäß Absatz 1 des vorliegenden Artikels durchgeführt wurde, teilt der Betreiber der Marktüberwachungsbehörde ihre Ergebnisse mit, indem er das ausgefüllte, in Absatz 5 des vorliegenden Artikels genannte Muster als Teil der Mitteilung übermittelt. 2 In dem in Artikel 46 Absatz 1 genannten Fall können die Betreiber von der Mitteilungspflicht befreit werden. | |
| (4) Wird eine der in diesem Artikel festgelegten Pflichten bereits infolge einer gemäß Artikel 35 der Verordnung (EU) 2016/679 oder Artikel 27 der Richtlinie (EU) 2016/680 durchgeführten Datenschutz-Folgenabschätzung erfüllt, so ergänzt die Grundrechte-Folgenabschätzung gemäß Absatz 1 des vorliegenden Artikels diese Datenschutz-Folgenabschätzung. (5) Das Büro für Künstliche Intelligenz arbeitet ein Muster für einen Fragebogen - auch mithilfe eines automatisierten Instruments - aus, um die Betreiber in die Lage zu versetzen, ihren Pflichten gemäß diesem Artikel in vereinfachter Weise nachzukommen. | (4) Wird eine der in diesem Artikel festgelegten Pflichten bereits infolge einer gemäß Artikel 35 der Verordnung (EU) 2016/679 oder Artikel 27 der Richtlinie (EU) 2016/680 durchgeführten Datenschutz-Folgenabschätzung erfüllt, kann der Betreiber bei der Durchführung der Grundrechte-Folgenabschätzung gemäß Absatz 1 dieses Artikels entweder Verweise auf die einschlägigen Abschnitte dieser Datenschutz-Folgenabschätzung oder die einschlägigen Teile ebendieser in die Grundrechte-Folgenabschätzung aufnehmen. (5) 1 Das Büro für Künstliche Intelligenz erarbeitet ein Muster für einen Fragebogen - auch mithilfe eines automatisierten Instruments -, um die Betreiber in die Lage zu versetzen, ihren Pflichten gemäß diesem Artikel in vereinfachter Weise nachzukommen. 2 In diesem Muster wird den Betreibern gegebenenfalls die Möglichkeit gegeben, gemäß Absatz 4 Verweise auf die einschlägigen Abschnitte der Datenschutz-Folgenabschätzung oder die einschlägigen Teile ebendieser in die Grundrechte-Folgenabschätzung aufzunehmen. |
Artikel 28 Notifizierende Behörden | |
(1) 1 Jeder Mitgliedstaat sorgt für die Benennung oder Schaffung mindestens einer notifizierenden Behörde, die für die Einrichtung und Durchführung der erforderlichen Verfahren zur Bewertung, Benennung und Notifizierung von Konformitätsbewertungsstellen und für deren Überwachung zuständig ist. 2 Diese Verfahren werden in Zusammenarbeit zwischen den notifizierenden Behörden aller Mitgliedstaaten entwickelt. (2) Die Mitgliedstaaten können entscheiden, dass die Bewertung und Überwachung nach Absatz 1 von einer nationalen Akkreditierungsstelle im Sinne und gemäß der Verordnung (EG) Nr. 765/2008 durchzuführen ist. (3) Notifizierende Behörden werden so eingerichtet, organisiert und geführt, dass jegliche Interessenkonflikte mit Konformitätsbewertungsstellen vermieden werden und die Objektivität und die Unparteilichkeit ihrer Tätigkeiten gewährleistet sind. (4) Notifizierende Behörden werden so organisiert, dass Entscheidungen über die Notifizierung von Konformitätsbewertungsstellen von kompetenten Personen getroffen werden, die nicht mit den Personen identisch sind, die die Bewertung dieser Stellen durchgeführt haben. (5) Notifizierende Behörden dürfen weder Tätigkeiten, die Konformitätsbewertungsstellen durchführen, noch Beratungsleistungen auf einer gewerblichen oder wettbewerblichen Basis anbieten oder erbringen. (6) Notifizierende Behörden gewährleisten gemäß Artikel 78 die Vertraulichkeit der von ihnen erlangten Informationen. (7) 1 Notifizierende Behörden verfügen über eine angemessene Anzahl kompetenter Mitarbeiter, sodass sie ihre Aufgaben ordnungsgemäß wahrnehmen können. 2 Die kompetenten Mitarbeiter verfügen - wo erforderlich - über das für ihre Funktion erforderliche Fachwissen in Bereichen wie Informationstechnologie sowie KI und Recht, einschließlich der Überwachung der Grundrechte. | |
| | (8) 1 Die gemäß dieser Verordnung benannten notifizierenden Behörden, die für KI-Systeme zuständig sind, die unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, stellen sicher, dass die Konformitätsbewertungsstelle, die ihre Benennung sowohl gemäß dieser Verordnung als auch gemäß den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union beantragt, die Möglichkeit erhält, einen einzigen Antrag zu stellen, und sich einem einheitlichen Bewertungsverfahren unterzieht, um gemäß dieser Verordnung und den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union benannt zu werden, sofern die einschlägigen Harmonisierungsrechtsvorschriften der Union einen solchen einzigen Antrag und ein solches einheitliches Bewertungsverfahren vorsehen. 2 Zu diesem Zweck arbeiten die gemäß dieser Verordnung benannten notifizierenden Behörden und die gemäß den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union benannten Behörden bei ihren Bewertungen zusammen. 3 Der in diesem Absatz genannte einzige Antrag und das einheitliche Bewertungsverfahren steht auch notifizierten Stellen offen, die bereits gemäß den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union benannt wurden, wenn diese notifizierten Stellen ihre Benennung gemäß dieser Verordnung beantragen, sofern die einschlägigen Harmonisierungsrechtsvorschriften der Union ein solches Verfahren vorsehen. 4 Eine Konformitätsbewertungsstelle, die gemäß mehr als einer der in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union benannt wurde, muss nur einmal einen Antrag stellen, um gemäß dieser Verordnung benannt zu werden. 5 Eine Benennung gemäß dieser Verordnung gilt für alle in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union, für die die Konformitätsbewertungsstelle benannt ist. 6 Durch den einzigen Antrag und das einheitliche Bewertungsverfahren wird unnötige Doppelarbeit vermieden, auf den bestehenden Benennungsverfahren gemäß den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union aufgebaut und die Einhaltung der Anforderungen an notifizierte Stellen sowohl gemäß dieser Verordnung als auch gemäß den einschlägigen Harmonisierungsrechtsvorschriften der Union gewährleistet. (9) Eine notifizierende Behörde, die gemäß den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union benannt wurde, ist auch die notifizierende Behörde, die gemäß Absatz 8 den einzigen Antrag stellt und sich dem einheitlichen Bewertungsverfahren unterzieht, es sei denn, der Mitgliedstaat benennt für diese Verordnung eine andere notifizierende Behörde. |
Artikel 29 Antrag einer Konformitätsbewertungsstelle auf Notifizierung | |
(1) Konformitätsbewertungsstellen beantragen ihre Notifizierung bei der notifizierenden Behörde des Mitgliedstaats, in dem sie niedergelassen sind. (2) 1 Dem Antrag auf Notifizierung legen sie eine Beschreibung der Konformitätsbewertungstätigkeiten, des bzw. der Konformitätsbewertungsmodule und der Art der KI-Systeme, für die diese Konformitätsbewertungsstelle Kompetenz beansprucht, sowie, falls vorhanden, eine Akkreditierungsurkunde bei, die von einer nationalen Akkreditierungsstelle ausgestellt wurde und in der bescheinigt wird, dass die Konformitätsbewertungsstelle die Anforderungen des Artikels 31 erfüllt. 2 Sonstige gültige Dokumente in Bezug auf bestehende Benennungen der antragstellenden notifizierten Stelle im Rahmen anderer Harmonisierungsrechtsvorschriften der Union sind ebenfalls beizufügen. (3) Kann die betreffende Konformitätsbewertungsstelle keine Akkreditierungsurkunde vorweisen, so legt sie der notifizierenden Behörde als Nachweis alle Unterlagen vor, die erforderlich sind, um zu überprüfen, festzustellen und regelmäßig zu überwachen, ob sie die Anforderungen des Artikels 31 erfüllt. | |
| (4) 1 Bei notifizierten Stellen, die im Rahmen anderer Harmonisierungsrechtsvorschriften der Union benannt wurden, können alle Unterlagen und Bescheinigungen im Zusammenhang mit solchen Benennungen zur Unterstützung ihres Benennungsverfahrens nach dieser Verordnung verwendet werden. 2 Die notifizierte Stelle aktualisiert die in den Absätzen 2 und 3 des vorliegenden Artikels genannte Dokumentation immer dann, wenn sich relevante Änderungen ergeben, damit die für notifizierte Stellen zuständige Behörde überwachen und überprüfen kann, ob die Anforderungen des Artikels 31 kontinuierlich erfüllt sind. | (4) 1 Bei notifizierten Stellen, die gemäß anderen Harmonisierungsrechtsvorschriften der Union benannt wurden, können alle Unterlagen und Bescheinigungen im Zusammenhang mit solchen Benennungen zur Unterstützung und Beschleunigung ihres Benennungsverfahrens nach dieser Verordnung verwendet werden. 2 Notifizierte Stellen, die gemäß einer der in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union benannt wurden und sich dem einheitlichen Bewertungsverfahren gemäß Artikel 28 Absatz 8 unterziehen, stellen den einzigen Antrag auf Bewertung bei der notifizierenden Behörde, die gemäß diesen Harmonisierungsrechtsvorschriften der Union benannt wurde. 3 Die notifizierte Stelle aktualisiert die in den Absätzen 2 und 3 des vorliegenden Artikels genannte Dokumentation immer dann, wenn sich relevante Änderungen ergeben, damit die für notifizierte Stellen zuständige Behörde überwachen und überprüfen kann, ob die Anforderungen des Artikels 31 kontinuierlich erfüllt sind. |
Artikel 30 Notifizierungsverfahren | |
(1) Die notifizierenden Behörden dürfen nur Konformitätsbewertungsstellen notifizieren, die die Anforderungen des Artikels 31 erfüllen. | |
| (2) Die notifizierenden Behörden unterrichten die Kommission und die übrigen Mitgliedstaaten mithilfe des elektronischen Notifizierungsinstruments, das von der Kommission entwickelt und verwaltet wird, über jede Konformitätsbewertungsstelle gemäß Absatz 1. | (2) 1 Die notifizierenden Behörden unterrichten die Kommission und die übrigen Mitgliedstaaten anhand des in Anhang XIV genannten Verzeichnisses der Codes, Kategorien und entsprechenden Arten von KI-Systemen und mithilfe des elektronischen Notifizierungsinstruments, das von der Kommission entwickelt und verwaltet wird, über jede Konformitätsbewertungsstelle gemäß Absatz 1. 2 Der Kommission wird die Befugnis übertragen, gemäß Artikel 97 delegierte Rechtsakte zur Änderung des Anhangs XIV zu erlassen, um dem technischen Fortschritt, dem erweiterten Wissen oder neuen wissenschaftlichen Erkenntnissen Rechnung zu tragen und in das Verzeichnis der Codes, Kategorien und entsprechenden Arten von KI-Systemen neue Codes, Kategorien oder Arten von KI-Systemen aufzunehmen, bestehende Codes, Kategorien oder Arten von KI-Systemen daraus zu streichen oder Codes oder Arten von KI-Systemen von einer Kategorie in eine andere zu verschieben. |
(3) 1 Die Notifizierung gemäß Absatz 2 des vorliegenden Artikels enthält vollständige Angaben zu den Konformitätsbewertungstätigkeiten, dem betreffenden Konformitätsbewertungsmodul oder den betreffenden Konformitätsbewertungsmodulen, den betreffenden Arten der KI-Systeme und der einschlägigen Bestätigung der Kompetenz. 2 Beruht eine Notifizierung nicht auf einer Akkreditierungsurkunde gemäß Artikel 29 Absatz 2, so legt die notifizierende Behörde der Kommission und den anderen Mitgliedstaaten die Unterlagen vor, die die Kompetenz der Konformitätsbewertungsstelle und die Vereinbarungen nachweisen, die getroffen wurden, um sicherzustellen, dass die Stelle regelmäßig überwacht wird und weiterhin die Anforderungen des Artikels 31 erfüllt. (4) Die betreffende Konformitätsbewertungsstelle darf die Tätigkeiten einer notifizierten Stelle nur dann wahrnehmen, wenn weder die Kommission noch die anderen Mitgliedstaaten innerhalb von zwei Wochen nach einer Notifizierung durch eine notifizierende Behörde, falls eine Akkreditierungsurkunde gemäß Artikel 29 Absatz 2 vorgelegt wird, oder innerhalb von zwei Monaten nach einer Notifizierung durch eine notifizierende Behörde, falls als Nachweis Unterlagen gemäß Artikel 29 Absatz 3 vorgelegt werden, Einwände erhoben haben. (5) 1 Werden Einwände erhoben, konsultiert die Kommission unverzüglich die betreffenden Mitgliedstaaten und die Konformitätsbewertungsstelle. 2 Im Hinblick darauf entscheidet die Kommission, ob die Genehmigung gerechtfertigt ist. 3 Die Kommission richtet ihren Beschluss an die betroffenen Mitgliedstaaten und an die zuständige Konformitätsbewertungsstelle. | |
Artikel 40 Harmonisierte Normen und Normungsdokumente | |
(1) Bei Hochrisiko-KI-Systemen oder KI-Modellen mit allgemeinem Verwendungszweck, die mit harmonisierten Normen oder Teilen davon, deren Fundstellen gemäß der Verordnung (EU) Nr. 1025/2012 im Amtsblatt der Europäischen Union veröffentlicht wurden, übereinstimmen, wird eine Konformität mit den Anforderungen gemäß Abschnitt 2 des vorliegenden Kapitels oder gegebenenfalls mit den Pflichten gemäß Kapitel V Abschnitte 2 und 3 der vorliegenden Verordnung vermutet, soweit diese Anforderungen oder Verpflichtungen von den Normen abgedeckt sind. (2) 1 Gemäß Artikel 10 der Verordnung (EU) Nr. 1025/2012 erteilt die Kommission unverzüglich Normungsaufträge, die alle Anforderungen gemäß Abschnitt 2 des vorliegenden Kapitels abdecken und gegebenenfalls Normungsaufträge, die Pflichten gemäß Kapitel V Abschnitte 2 und 3 der vorliegenden Verordnung abdecken. 2 In dem Normungsauftrag werden auch Dokumente zu den Berichterstattungs- und Dokumentationsverfahren im Hinblick auf die Verbesserung der Ressourcenleistung von KI-Systemen z. B. durch die Verringerung des Energie- und sonstigen Ressourcenverbrauchs des Hochrisiko-KI-Systems während seines gesamten Lebenszyklus und zu der energieeffizienten Entwicklung von KI-Modellen mit allgemeinem Verwendungszweck verlangt. 3 Bei der Ausarbeitung des Normungsauftrags konsultiert die Kommission das KI-Gremium und die einschlägigen Interessenträger, darunter das Beratungsforum. 4 Bei der Erteilung eines Normungsauftrags an die europäischen Normungsorganisationen gibt die Kommission an, dass die Normen klar und - u. a. mit den Normen, die in den verschiedenen Sektoren für Produkte entwickelt wurden, die unter die in Anhang I aufgeführten geltenden Harmonisierungsrechtsvorschriften der Union fallen - konsistent sein müssen und sicherstellen sollen, dass die in der Union in Verkehr gebrachten oder in Betrieb genommenen Hochrisiko-KI-Systeme oder KI-Modelle mit allgemeinem Verwendungszweck die in dieser Verordnung festgelegten einschlägigen Anforderungen oder Pflichten erfüllen. 5 Die Kommission fordert die europäischen Normungsorganisationen auf, Nachweise dafür vorzulegen, dass sie sich nach besten Kräften bemühen, die in den Unterabsätzen 1 und 2 dieses Absatzes genannten Ziele im Einklang mit Artikel 24 der Verordnung (EU) Nr. 1025/2012 zu erreichen. | |
| | 6 Die Kommission beauftragt im Einklang mit der Verordnung (EU) Nr. 1025/2012 des Europäischen Parlaments und des Rates unverzüglich die europäischen Normungsorganisationen, Normungsprodukte, gegebenenfalls einschließlich harmonisierter Normen, auszuarbeiten, um die gemeinsame Einhaltung und die Konformitätsvermutung mit den Anforderungen oder Verpflichtungen gemäß Kapitel III Abschnitte 2 und 3 dieser Verordnung und den einschlägigen Anforderungen und Verpflichtungen, die in den in Anhang I dieser Verordnung aufgeführten Harmonisierungsrechtsvorschriften der Union festgelegt sind, zu erleichtern. |
(3) Die am Normungsprozess Beteiligten bemühen sich, Investitionen und Innovationen im Bereich der KI, u. a. durch Erhöhung der Rechtssicherheit, sowie der Wettbewerbsfähigkeit und des Wachstums des Unionsmarktes zu fördern und zur Stärkung der weltweiten Zusammenarbeit bei der Normung und zur Berücksichtigung bestehender internationaler Normen im Bereich der KI, die mit den Werten, Grundrechten und Interessen der Union im Einklang stehen, beizutragen und die Multi-Stakeholder-Governance zu verbessern, indem eine ausgewogene Vertretung der Interessen und eine wirksame Beteiligung aller relevanten Interessenträger gemäß den Artikeln 5, 6 und 7 der Verordnung (EU) Nr. 1025/2012 sichergestellt werden. | |
Artikel 42 Vermutung der Konformität mit bestimmten Anforderungen | |
(1) Für Hochrisiko-KI-Systeme, die mit Daten, in denen sich die besonderen geografischen, verhaltensbezogenen, kontextuellen oder funktionalen Rahmenbedingungen niederschlagen, unter denen sie verwendet werden sollen, trainiert und getestet wurden, gilt die Vermutung, dass sie die in Artikel 10 Absatz 4 festgelegten einschlägigen Anforderungen erfüllen. (2) Für Hochrisiko-KI-Systeme, die im Rahmen eines der Cybersicherheitszertifizierungssysteme gemäß der Verordnung (EU) 2019/881, deren Fundstellen im Amtsblatt der Europäischen Union veröffentlicht wurden, zertifiziert wurden oder für die eine solche Konformitätserklärung erstellt wurde, gilt die Vermutung, dass sie die in Artikel 15 der vorliegenden Verordnung festgelegten Cybersicherheitsanforderungen erfüllen, sofern diese Anforderungen von der Cybersicherheitszertifizierung oder der Konformitätserklärung oder Teilen davon abdeckt sind. | |
| | (3) Fallen Hochrisiko-KI-Systeme in den Anwendungsbereich der Verordnung (EU) 2024/2847 und sind die in Artikel 12 Absatz 1 der genannten Verordnung festgelegten Bedingungen erfüllt, so gelten diese Systeme als mit den in Artikel 15 dieser Verordnung festgelegten Cybersicherheitsanforderungen konform. |
Artikel 43 Konformitätsbewertung | |
(1) 1 Hat ein Anbieter zum Nachweis, dass ein in Anhang III Nummer 1 aufgeführtes Hochrisiko-KI-System die in Abschnitt 2 festgelegten Anforderungen erfüllt, harmonisierte Normen gemäß Artikel 40 oder gegebenenfalls gemeinsame Spezifikationen gemäß Artikel 41 angewandt, so entscheidet er sich für eines der folgenden Konformitätsbewertungsverfahren auf der Grundlage a) der internen Kontrolle gemäß Anhang VI oder b) der Bewertung des Qualitätsmanagementsystems und der Bewertung der technischen Dokumentation unter Beteiligung einer notifizierten Stelle gemäß Anhang VII. 2 Zum Nachweis, dass sein Hochrisiko-KI-System die in Abschnitt 2 festgelegten Anforderungen erfüllt, befolgt der Anbieter das Konformitätsbewertungsverfahren gemäß Anhang VII, wenn a) es harmonisierte Normen gemäß Artikel 40 nicht gibt und keine gemeinsamen Spezifikationen gemäß Artikel 41 vorliegen, b) der Anbieter die harmonisierte Norm nicht oder nur teilweise angewandt hat; c) die unter Buchstabe a genannten gemeinsamen Spezifikationen zwar vorliegen, der Anbieter sie jedoch nicht angewandt hat; d) eine oder mehrere der unter Buchstabe a genannten harmonisierten Normen mit einer Einschränkung und nur für den eingeschränkten Teil der Norm veröffentlicht wurden. 3 Für die Zwecke des Konformitätsbewertungsverfahrens gemäß Anhang VII kann der Anbieter eine der notifizierten Stellen auswählen. 4 Soll das Hochrisiko-KI-System jedoch von Strafverfolgungs-, Einwanderungs- oder Asylbehörden oder von Organen, Einrichtungen oder sonstigen Stellen der Union in Betrieb genommen werden, so übernimmt die in Artikel 74 Absatz 8 bzw. 9 genannte Marktüberwachungsbehörde die Funktion der notifizierten Stelle. (2) Bei den in Anhang III Nummern 2 bis 8 aufgeführten Hochrisiko-KI-Systemen befolgen die Anbieter das Konformitätsbewertungsverfahren auf der Grundlage einer internen Kontrolle gemäß Anhang VI, das keine Beteiligung einer notifizierten Stelle vorsieht. | |
| (3) 1 Bei den Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsakte der Union fallen, befolgt der Anbieter die einschlägigen Konformitätsbewertungsverfahren, die nach diesen Rechtsakten erforderlich sind. 2 Die in Abschnitt 2 dieses Kapitels festgelegten Anforderungen gelten für diese Hochrisiko-KI-Systeme und werden in diese Bewertung einbezogen. 3 Anhang VII Nummern 4.3, 4.4 und 4.5 sowie Nummer 4.6 Absatz 5 finden ebenfalls Anwendung. 4 Für die Zwecke dieser Bewertung sind die notifizierten Stellen, die gemäß diesen Rechtsakten notifiziert wurden, berechtigt, die Konformität der Hochrisiko-KI-Systeme mit den in Abschnitt 2 festgelegten Anforderungen zu kontrollieren, sofern im Rahmen des gemäß diesen Rechtsakten durchgeführten Notifizierungsverfahrens geprüft wurde, dass diese notifizierten Stellen die in Artikel 31 Absätze 4, 5, 10 und 11 festgelegten Anforderungen erfüllen. 5 Wenn ein in Anhang I Abschnitt A aufgeführter Rechtsakte es dem Hersteller des Produkts ermöglicht, auf eine Konformitätsbewertung durch Dritte zu verzichten, sofern dieser Hersteller alle harmonisierten Normen, die alle einschlägigen Anforderungen abdecken, angewandt hat, so darf dieser Hersteller nur dann von dieser Möglichkeit Gebrauch machen, wenn er auch harmonisierte Normen oder gegebenenfalls gemeinsame Spezifikationen gemäß Artikel 41, die alle in Abschnitt 2 dieses Kapitels festgelegten Anforderungen abdecken, angewandt hat. | (3) 1 Bei den Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, befolgt der Anbieter des Systems das einschlägige Konformitätsbewertungsverfahren, das gemäß den einschlägigen Harmonisierungsrechtsvorschriften der Union erforderlich ist. 2 Die in Abschnitt 2 dieses Kapitels festgelegten Anforderungen gelten für diese Hochrisiko-KI-Systeme und werden in diese Bewertung einbezogen. 3 Die Bewertung des Qualitätsmanagementsystems gemäß Artikel 17 wird ebenfalls durchgeführt, und Anhang VII Nummern 3, 4.3, 4.4. und 4.5 sowie Nummer 4.6 Absatz 5 und Nummer 5 finden Anwendung. 4 Für die Zwecke dieser Konformitätsbewertung sind die notifizierten Stellen, die gemäß den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union notifiziert wurden, dazu befugt, die Konformität der Hochrisiko-KI-Systeme mit den in Abschnitt 2 dieses Kapitels festgelegten Anforderungen zu bewerten, sofern im Rahmen des gemäß den einschlägigen Harmonisierungsrechtsvorschriften der Union durchgeführten Notifizierungsverfahrens geprüft wurde, dass diese notifizierten Stellen die in Artikel 31 Absätze 4, 5, 10 und 11 festgelegten Anforderungen erfüllen, was im Zuge der Bewertung als Teil der bestehenden Notifizierung belegt wird. 5 Unbeschadet des Artikels 28 beantragen solche notifizierten Stellen, die nach den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union notifiziert wurden, ihre Benennung gemäß Abschnitt 4 dieses Kapitels bis 28. Januar 2028. 6 Wenn eine in Anhang I Abschnitt A aufgeführte Harmonisierungsrechtsvorschrift der Union dem Hersteller des Produkts die Möglichkeit einräumt, auf eine Konformitätsbewertung zurückzugreifen, an der keine Dritten beteiligt sind, sofern dieser Hersteller harmonisierte Normen angewandt hat, um die Konformität mit allen relevanten Anforderungen zu gewährleisten, so darf dieser Hersteller nur dann von dieser Möglichkeit Gebrauch machen, wenn er auch harmonisierte Normen oder gegebenenfalls gemeinsame Spezifikationen gemäß Artikel 41, die alle in Abschnitt 2 dieses Kapitels festgelegten Anforderungen abdecken, angewandt hat. 7 Die Einstufung eines Produkts als Hochrisiko-KI-System gemäß Artikel 6 Absatz 1 berührt nicht die Wahl des Konformitätsbewertungsverfahrens, das den Herstellern von Produkten zur Verfügung gestellt wird, die unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, wobei dies gegebenenfalls eine Option, sich auf harmonisierte Normen zu stützen, umfassen kann. 8 Die Hersteller solcher Produkte sind nicht verpflichtet, ein Konformitätsbewertungsverfahren mit einer Konformitätsbewertung durch Dritte zu wählen, nur weil das Produkt ein Hochrisiko-KI-System als Sicherheitsbauteil enthält, sofern dies nicht in den in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union vorgeschrieben ist. 9 Wenn ein Hochrisiko-KI-System sowohl unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union als auch unter eine der in Anhang III aufgeführten Kategorien fällt, befolgt der Anbieter dieses Systems das einschlägige Konformitätsbewertungsverfahren, das gemäß den in Anhang I Abschnitt A aufgeführten einschlägigen Harmonisierungsrechtsvorschriften der Union erforderlich ist. |
(4) 1 Hochrisiko-KI-Systeme, die bereits Gegenstand eines Konformitätsbewertungsverfahren gewesen sind, werden im Falle einer wesentlichen Änderung einem neuen Konformitätsbewertungsverfahren unterzogen, unabhängig davon, ob das geänderte System noch weiter in Verkehr gebracht oder vom derzeitigen Betreiber weitergenutzt werden soll. 2 Bei Hochrisiko-KI-Systemen, die nach dem Inverkehrbringen oder der Inbetriebnahme weiterhin dazulernen, gelten Änderungen des Hochrisiko-KI-Systems und seiner Leistung, die vom Anbieter zum Zeitpunkt der ursprünglichen Konformitätsbewertung vorab festgelegt wurden und in den Informationen der technischen Dokumentation gemäß Anhang IV Nummer 2 Buchstabe f enthalten sind, nicht als wesentliche Veränderung; (5) Die Kommission ist befugt, gemäß Artikel 97 delegierte Rechtsakte zu erlassen, um die Anhänge VI und VII zu ändern, indem sie sie angesichts des technischen Fortschritts aktualisiert. (6) 1 Die Kommission ist befugt, gemäß Artikel 97 delegierte Rechtsakte zur Änderung der Absätze 1 und 2 des vorliegenden Artikels zu erlassen, um die in Anhang III Nummern 2 bis 8 genannten Hochrisiko-KI-Systeme dem Konformitätsbewertungsverfahren gemäß Anhang VII oder Teilen davon zu unterwerfen. 2 Die Kommission erlässt solche delegierten Rechtsakte unter Berücksichtigung der Wirksamkeit des Konformitätsbewertungsverfahrens auf der Grundlage einer internen Kontrolle gemäß Anhang VI hinsichtlich der Vermeidung oder Minimierung der von solchen Systemen ausgehenden Risiken für die Gesundheit und Sicherheit und den Schutz der Grundrechte sowie hinsichtlich der Verfügbarkeit angemessener Kapazitäten und Ressourcen in den notifizierten Stellen. | |
Artikel 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme | |
(1) 1 Die Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich. 2 Diese Pflicht gilt nicht für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme, wenn geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, es sei denn, diese Systeme stehen der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung. (2) 1 Anbieter von KI-Systemen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, stellen sicher, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. 2 Die Anbieter sorgen dafür, dass - soweit technisch möglich - ihre technischen Lösungen wirksam, interoperabel, belastbar und zuverlässig sind und berücksichtigen dabei die Besonderheiten und Beschränkungen der verschiedenen Arten von Inhalten, die Umsetzungskosten und den allgemein anerkannten Stand der Technik, wie er in den einschlägigen technischen Normen zum Ausdruck kommen kann. 3 Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern oder wenn sie zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen sind. (3) 1 Die Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung informieren die davon betroffenen natürlichen Personen über den Betrieb des Systems und verarbeiten personenbezogene Daten gemäß den Verordnungen (EU) 2016/679 und (EU) 2018/1725 und der Richtlinie (EU) 2016/680. 2 Diese Pflicht gilt nicht für gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassene KI-Systeme, die zur biometrischen Kategorisierung und Emotionserkennung im Einklang mit dem Unionsrecht verwendet werden, sofern geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen. (4) 1 Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. 2 Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. 3 Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz festgelegten Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt. 4 Betreiber eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde. 5 Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt. (5) 1 Die in den Absätzen 1 bis 4 genannten Informationen werden den betreffenden natürlichen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt. 2 Die Informationen müssen den geltenden Barrierefreiheitsanforderungen entsprechen. (6) Die Absätze 1 bis 4 lassen die in Kapitel III festgelegten Anforderungen und Pflichten unberührt und berühren nicht andere Transparenzpflichten, die im Unionsrecht oder dem nationalen Recht für Betreiber von KI-Systemen festgelegt sind. | |
| (7) 1 Das Büro für Künstliche Intelligenz fördert und erleichtert die Ausarbeitung von Praxisleitfäden auf Unionsebene, um die wirksame Umsetzung der Pflichten in Bezug auf die Feststellung und Kennzeichnung künstlich erzeugter oder manipulierter Inhalte zu erleichtern. 2 Die Kommission kann Durchführungsrechtsakte zur Genehmigung dieser Praxisleitfäden nach dem in Artikel 56 Absatz 6 festgelegten Verfahren erlassen. 3 Hält sie einen Kodex für nicht angemessen, so kann die Kommission einen Durchführungsrechtsakt gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen, in dem gemeinsame Vorschriften für die Umsetzung dieser Pflichten festgelegt werden. | (7) 1 Die Kommission fördert und erleichtert die Ausarbeitung von Praxisleitfäden auf Unionsebene, um die wirksame Umsetzung der Pflichten in Bezug auf die Feststellung, Markierung und Kennzeichnung künstlich erzeugter oder manipulierter Inhalte zu erleichtern. 2 Die Kommission prüft unter weitestgehender Berücksichtigung der Stellungnahme des KI-Gremiums nach dem Verfahren des Artikels 56 Absatz 6 Unterabsatz 1, ob die Befolgung dieser Praxisleitfäden angemessen ist, um die Einhaltung der in den Absätzen 2 und 4 dieses Artikels festgelegten Pflichten zu gewährleisten. 3 Hält sie den Praxisleitfaden für unangemessen, so kann die Kommission einen Durchführungsrechtsakt gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen, in dem gemeinsame Vorschriften für die Umsetzung dieser Pflichten festgelegt werden. |
Artikel 56 Praxisleitfäden | |
(1) Das Büro für Künstliche Intelligenz fördert und erleichtert die Ausarbeitung von Praxisleitfäden auf Unionsebene, um unter Berücksichtigung internationaler Ansätze zur ordnungsgemäßen Anwendung dieser Verordnung beizutragen. (2) Das Büro für Künstliche Intelligenz und das KI-Gremium streben an, sicherzustellen, dass die Praxisleitfäden mindestens die in den Artikeln 53 und 55 vorgesehenen Pflichten abdecken, einschließlich der folgenden Aspekte: a) Mittel, mit denen sichergestellt wird, dass die in Artikel 53 Absatz 1 Buchstaben a und b genannten Informationen vor dem Hintergrund der Marktentwicklungen und technologischen Entwicklungen auf dem neuesten Stand gehalten werden; b) die angemessene Detailgenauigkeit bei der Zusammenfassung der für das Training verwendeten Inhalte; c) die Ermittlung von Art und Wesen der systemischen Risiken auf Unionsebene, gegebenenfalls einschließlich ihrer Ursachen; d) die Maßnahmen, Verfahren und Modalitäten für die Bewertung und das Management der systemischen Risiken auf Unionsebene, einschließlich ihrer Dokumentation, die in einem angemessenen Verhältnis zu den Risiken stehen, ihrer Schwere und Wahrscheinlichkeit Rechnung tragen und die spezifischen Herausforderungen bei der Bewältigung dieser Risiken vor dem Hintergrund der möglichen Arten der Entstehung und des Eintretens solcher Risiken entlang der KI-Wertschöpfungskette berücksichtigen. (3) 1 Das Büro für Künstliche Intelligenz kann alle Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sowie die einschlägigen zuständigen nationalen Behörden ersuchen, sich an der Ausarbeitung von Praxisleitfäden zu beteiligen. 2 Organisationen der Zivilgesellschaft, die Industrie, die Wissenschaft und andere einschlägige Interessenträger wie nachgelagerte Anbieter und unabhängige Sachverständige können den Prozess unterstützen. (4) Das Büro für Künstliche Intelligenz und das KI-Gremium streben an, sicherzustellen, dass in den Praxisleitfäden ihre spezifischen Ziele eindeutig festgelegt sind und Verpflichtungen oder Maßnahmen, gegebenenfalls einschließlich wesentlicher Leistungsindikatoren, enthalten, um die Verwirklichung dieser Ziele gewährleisten, und dass sie den Bedürfnissen und Interessen aller interessierten Kreise, einschließlich betroffener Personen, auf Unionsebene gebührend Rechnung tragen. (5) 1 Das Büro für Künstliche Intelligenz strebt an, sicherzustellen, dass die an Praxisleitfäden Beteiligten dem Büro für Künstliche Intelligenz regelmäßig über die Umsetzung der Verpflichtungen, die ergriffenen Maßnahmen und deren Ergebnisse, die gegebenenfalls auch anhand der wesentlichen Leistungsindikatoren gemessen werden, Bericht erstatten. 2 Bei den wesentlichen Leistungsindikatoren und den Berichtspflichten wird den Größen- und Kapazitätsunterschieden zwischen den verschiedenen Beteiligten Rechnung getragen. | |
| (6) 1 Das Büro für Künstliche Intelligenz und KI-Gremium überwachen und bewerten regelmäßig die Verwirklichung der Ziele der Praxisleitfäden durch die Beteiligten und deren Beitrag zur ordnungsgemäßen Anwendung dieser Verordnung. 2 Das Büro für Künstliche Intelligenz und das KI-Gremium bewerten, ob die Praxisleitfäden die in den Artikeln 53 und 55 vorgesehenen Pflichten abdecken, und überwachen und bewerten regelmäßig die Verwirklichung von deren Zielen. 3 Sie veröffentlichen ihre Bewertung der Angemessenheit der Praxisleitfäden. 4 Die Kommission kann im Wege eines Durchführungsrechtsakts einen Praxisleitfaden genehmigen und ihm in der Union allgemeine Gültigkeit verleihen. 5 Dieser Durchführungsrechtsakt wird gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen. | (6) 1 Die Kommission und das KI-Gremium überwachen und bewerten regelmäßig die Verwirklichung der Ziele der Praxisleitfäden durch die Beteiligten und deren Beitrag zur ordnungsgemäßen Anwendung dieser Verordnung. 2 Die Kommission bewertet unter weitestgehender Berücksichtigung der Stellungnahme des KI-Gremiums, ob die Praxisleitfäden die in den Artikeln 53 und 55 vorgesehenen Pflichten abdecken, und überwacht und bewertet regelmäßig die Verwirklichung von deren Zielen. 3 Die Kommission veröffentlicht ihre Bewertung der Angemessenheit der Praxisleitfäden. |
(7) 1 Das Büro für Künstliche Intelligenz kann alle Anbieter von KI-Modellen mit allgemeinem Verwendungszweck ersuchen, die Praxisleitfäden zu befolgen. 2 Für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die keine systemischen Risiken bergen, kann diese Befolgung auf die in Artikel 53 vorgesehenen Pflichten beschränkt werden, es sei denn, sie erklären ausdrücklich ihr Interesse, sich dem ganzen Kodex anzuschließen. (8) 1 Das Büro für Künstliche Intelligenz fördert und erleichtert gegebenenfalls auch die Überprüfung und Anpassung der Praxisleitfäden, insbesondere vor dem Hintergrund neuer Normen. 2 Das Büro für Künstliche Intelligenz unterstützt bei der Bewertung der verfügbaren Normen. (9) 1 Praxisleitfäden müssen spätestens am 2. Mai 2025 vorliegen. 2 Das Büro für Künstliche Intelligenz unternimmt die erforderlichen Schritte, einschließlich des Ersuchens von Anbietern gemäß Absatz 7. 3 Kann bis zum 2. August 2025 ein Verhaltenskodex nicht fertiggestellt werden oder erachtet das Büro für Künstliche Intelligenz dies nach seiner Bewertung gemäß Absatz 6 des vorliegenden Artikels für nicht angemessen, kann die Kommission im Wege von Durchführungsrechtsakten gemeinsame Vorschriften für die Umsetzung der in den Artikeln 53 und 55 vorgesehenen Pflichten, einschließlich der in Absatz 2 des vorliegenden Artikels genannten Aspekte, festlegen. 4 Diese Durchführungsrechtsakte werden gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen. | |
Artikel 57 KI-Reallabore | |
| (1) 1 Die Mitgliedstaaten sorgen dafür, dass ihre zuständigen Behörden mindestens ein KI-Reallabor auf nationaler Ebene einrichten, das bis zum 2. August 2026 einsatzbereit sein muss. 2 Dieses Reallabor kann auch gemeinsam mit den zuständigen Behörden anderer Mitgliedstaaten eingerichtet werden. 3 Die Kommission kann technische Unterstützung, Beratung und Instrumente für die Einrichtung und den Betrieb von KI-Reallaboren bereitstellen. | (1) 1 Die Mitgliedstaaten sorgen dafür, dass ihre zuständigen Behörden mindestens ein KI-Reallabor auf nationaler Ebene einrichten, das bis zum 2. August 2027 einsatzbereit sein muss. 2 Dieses Reallabor kann auch gemeinsam mit den zuständigen Behörden anderer Mitgliedstaaten eingerichtet werden. 3 Die Kommission kann technische Unterstützung, Beratung und Instrumente für die Einrichtung und den Betrieb von KI-Reallaboren bereitstellen. |
4 Die Verpflichtung nach Unterabsatz 1 kann auch durch Beteiligung an einem bestehenden Reallabor erfüllt werden, sofern eine solche Beteiligung die nationale Abdeckung der teilnehmenden Mitgliedstaaten in gleichwertigem Maße gewährleistet. (2) Es können auch zusätzliche KI-Reallabore auf regionaler oder lokaler Ebene oder gemeinsam mit den zuständigen Behörden anderer Mitgliedstaaten eingerichtet werden; | |
| (3) Der Europäische Datenschutzbeauftragte kann auch ein KI-Reallabor für Organe, Einrichtungen und sonstige Stellen der Union einrichten und die Rollen und Aufgaben der zuständigen nationalen Behörden im Einklang mit diesem Kapitel wahrnehmen. | (3) 1 Der Europäische Datenschutzbeauftragte kann ein KI-Reallabor für die Organe, Einrichtungen und sonstigen Stellen der Union einrichten. 2 Für diesen Zweck gelten Bezugnahmen auf die zuständigen nationalen Behörden in diesem Kapitel als Bezugnahmen auf den Europäischen Datenschutzbeauftragten. (3a) 1 Das Büro für Künstliche Intelligenz kann auf Unionsebene ein KI-Reallabor für KI-Systeme einrichten, die unter Artikel 75 Absatz 1 fallen. 2 Für diesen Zweck gelten Bezugnahmen auf die zuständigen nationalen Behörden in diesem Kapitel gegebenenfalls als Bezugnahmen auf das Büro für Künstliche Intelligenz. 3 Diese KI-Reallabor wird in enger Zusammenarbeit mit den jeweils zuständigen Behörden umgesetzt, insbesondere wenn die Einhaltung anderer Rechtsvorschriften der Union als dieser Verordnung im KI-Reallabor beaufsichtigt wird, und gewährt KMU, einschließlich Start-up-Unternehmen, und kleinen Midcap-Unternehmen vorrangigen Zugang dazu. 4 Die Einrichtung eines KI-Reallabors auf Unionsebene durch das Büro für Künstliche Intelligenz lässt die Zuständigkeiten der Mitgliedstaaten für die Einrichtung und Beaufsichtigung von KI-Reallaboren für KI-Systeme, die ihrer Aufsicht unterliegen, unberührt. |
(4) 1 Die Mitgliedstaaten stellen sicher, dass die in den Absätzen 1 und 2 genannten zuständigen Behörden ausreichende Mittel bereitstellen, um diesem Artikel wirksam und zeitnah nachzukommen. 2 Gegebenenfalls arbeiten die zuständigen nationalen Behörden mit anderen einschlägigen Behörden zusammen und können die Einbeziehung anderer Akteure des KI-Ökosystems gestatten. 3 Andere Reallabore, die im Rahmen des Unionsrechts oder des nationalen Rechts eingerichtet wurden, bleiben von diesem Artikel unberührt. 4 Die Mitgliedstaaten sorgen dafür, dass die diese anderen Reallabore beaufsichtigenden Behörden und die zuständigen nationalen Behörden angemessen zusammenarbeiten. | |
| (5) 1 Die nach Absatz 1 eingerichteten KI-Reallabore bieten eine kontrollierte Umgebung, um Innovation zu fördern und die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme für einen begrenzten Zeitraum vor ihrem Inverkehrbringen oder ihrer Inbetriebnahme nach einem bestimmten zwischen den Anbietern oder zukünftigen Anbietern und der zuständigen Behörde vereinbarten Reallabor-Plan zu erleichtern. 2 In diesen Reallaboren können auch darin beaufsichtigte Tests unter Realbedingungen durchgeführt werden. | (5) 1 Die nach diesem Artikel eingerichteten KI-Reallabore bieten eine kontrollierte Umgebung, um Innovation zu fördern und die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme für einen begrenzten Zeitraum vor ihrem Inverkehrbringen oder ihrer Inbetriebnahme nach einem bestimmten zwischen den Anbietern oder zukünftigen Anbietern und den zuständigen Behörden vereinbarten Reallabor-Plan zu erleichtern, wobei sie dafür sorgen, dass angemessene Schutzvorkehrungen bestehen. 2 In diesen Reallaboren können auch darin beaufsichtigte Tests unter Realbedingungen durchgeführt werden. 3 Der Plan für das Reallabor enthält, soweit zutreffend, den Plan für einen Test unter Realbedingungen gemäß Artikel 60 und Artikel 60a. |
(6) Die zuständigen Behörden stellen innerhalb der KI-Reallabore gegebenenfalls Anleitung, Aufsicht und Unterstützung bereit, um Risiken, insbesondere im Hinblick auf Grundrechte, Gesundheit und Sicherheit, Tests und Risikominderungsmaßnahmen sowie deren Wirksamkeit hinsichtlich der Pflichten und Anforderungen dieser Verordnung und gegebenenfalls anderem Unionsrecht und nationalem Recht, deren Einhaltung innerhalb des Reallabors beaufsichtigt wird, zu ermitteln. (7) 1 Die zuständigen Behörden stellen den Anbietern und zukünftigen Anbietern, die am KI-Reallabor teilnehmen, Leitfäden zu regulatorischen Erwartungen und zur Erfüllung der in dieser Verordnung festgelegten Anforderungen und Pflichten zur Verfügung. 2 Die zuständige Behörde legt dem Anbieter oder zukünftigen Anbieter des KI-Systems auf dessen Anfrage einen schriftlichen Nachweis für die im Reallabor erfolgreich durchgeführten Tätigkeiten vor. 3 Außerdem legt die zuständige Behörde einen Abschlussbericht vor, in dem sie die im Reallabor durchgeführten Tätigkeiten, deren Ergebnisse und die gewonnenen Erkenntnisse im Einzelnen darlegt. 4 Die Anbieter können diese Unterlagen nutzen, um im Rahmen des Konformitätsbewertungsverfahrens oder einschlägiger Marktüberwachungstätigkeiten nachzuweisen, dass sie dieser Verordnung nachkommen. 5 In diesem Zusammenhang werden die Abschlussberichte und die von der zuständigen nationalen Behörde vorgelegten schriftlichen Nachweise von den Marktüberwachungsbehörden und den notifizierten Stellen im Hinblick auf eine Beschleunigung der Konformitätsbewertungsverfahren in angemessenem Maße positiv gewertet. (8) 1 Vorbehaltlich der in Artikel 78 enthaltenen Bestimmungen über die Vertraulichkeit und im Einvernehmen mit den Anbietern oder zukünftigen Anbietern, sind die Kommission und das KI-Gremium befugt, die Abschlussberichte einzusehen und tragen diesen gegebenenfalls bei der Wahrnehmung ihrer Aufgaben gemäß dieser Verordnung Rechnung. 2 Wenn der Anbieter oder der zukünftige Anbieter und die zuständige nationale Behörde ihr ausdrückliches Einverständnis erklären, kann der Abschlussbericht über die in diesem Artikel genannte zentrale Informationsplattform veröffentlicht werden. (9) Die Einrichtung von KI-Reallaboren soll zu den folgenden Zielen beitragen: a) Verbesserung der Rechtssicherheit, um für die Einhaltung der Regulierungsvorschriften dieser Verordnung oder, gegebenenfalls, anderem geltenden Unionsrecht und nationalem Recht zu sorgen; b) Förderung des Austauschs bewährter Verfahren durch Zusammenarbeit mit den am KI-Reallabor beteiligten Behörden; c) Förderung von Innovation und Wettbewerbsfähigkeit sowie Erleichterung der Entwicklung eines KI-Ökosystems; d) Leisten eines Beitrags zum evidenzbasierten regulatorischen Lernen; | |
| e) Erleichterung und Beschleunigung des Zugangs von KI-Systemen zum Unionsmarkt, insbesondere wenn sie von KMU - einschließlich Start-up-Unternehmen - angeboten werden. (10) Soweit die innovativen KI-Systeme personenbezogene Daten verarbeiten oder anderweitig der Aufsicht anderer nationaler Behörden oder zuständiger Behörden unterstehen, die den Zugang zu personenbezogenen Daten gewähren oder unterstützen, sorgen die zuständigen nationalen Behörden dafür, dass die nationalen Datenschutzbehörden oder diese anderen nationalen oder zuständigen Behörden in den Betrieb des KI-Reallabors sowie in die Überwachung dieser Aspekte im vollen Umfang ihrer entsprechenden Aufgaben und Befugnisse einbezogen werden. | e) Erleichterung und Beschleunigung des Zugangs von KI-Systemen zum Unionsmarkt, insbesondere wenn sie von KMU, einschließlich Start-up-Unternehmen, und von kleinen Midcap-Unternehmen angeboten werden. (10) Soweit die innovativen KI-Systeme personenbezogene Daten verarbeiten oder anderweitig der Aufsicht anderer nationaler Behörden oder zuständiger Behörden unterstehen, die den Zugang zu personenbezogenen Daten gewähren oder unterstützen, sorgen die zuständigen nationalen Behörden dafür, dass die zuständigen Datenschutzbehörden oder diese anderen nationalen oder zuständigen Behörden in den Betrieb des KI-Reallabors sowie in die Überwachung dieser Aspekte im vollen Umfang ihrer entsprechenden Aufgaben und Befugnisse einbezogen werden. |
(11) 1 Die KI-Reallabore lassen die Aufsichts- oder Abhilfebefugnisse der die Reallabore beaufsichtigenden zuständigen Behörden, einschließlich auf regionaler oder lokaler Ebene, unberührt. 2 Alle erheblichen Risiken für die Gesundheit und Sicherheit und die Grundrechte, die bei der Entwicklung und Erprobung solcher KI-Systeme festgestellt werden, führen zur sofortigen und angemessenen Risikominderung. 3 Die zuständigen nationalen Behörden sind befugt, das Testverfahren oder die Beteiligung am Reallabor vorübergehend oder dauerhaft auszusetzen, wenn keine wirksame Risikominderung möglich ist, und unterrichten das Büro für Künstliche Intelligenz über diese Entscheidung. 4 Um Innovationen im Bereich KI in der Union zu fördern, üben die zuständigen nationalen Behörden ihre Aufsichtsbefugnisse im Rahmen des geltenden Rechts aus, indem sie bei der Anwendung der Rechtsvorschriften auf ein bestimmtes KI-Reallabor ihren Ermessensspielraum nutzen. (12) 1 Die am KI-Reallabor beteiligten Anbieter und zukünftigen Anbieter bleiben nach geltendem Recht der Union und nationalem Haftungsrecht für Schäden haftbar, die Dritten infolge der Erprobung im Reallabor entstehen. 2 Sofern die zukünftigen Anbieter den spezifischen Plan und die Bedingungen für ihre Beteiligung beachten und der Anleitung durch die zuständigen nationalen Behörden in gutem Glauben folgen, werden jedoch von den Behörden keine Geldbußen für Verstöße gegen diese Verordnung verhängt. 3 In Fällen, in denen andere zuständige Behörden, die für anderes Unionsrecht und nationales Recht zuständig sind, aktiv an der Beaufsichtigung des KI-Systems im Reallabor beteiligt waren und Anleitung für die Einhaltung gegeben haben, werden im Hinblick auf dieses Recht keine Geldbußen verhängt. (13) Die KI-Reallabore sind so konzipiert und werden so umgesetzt, dass sie gegebenenfalls die grenzüberschreitende Zusammenarbeit zwischen zuständigen nationalen Behörden erleichtern. | |
| (14) Die zuständigen nationalen Behörden koordinieren ihre Tätigkeiten und arbeiten im Rahmen des KI-Gremiums zusammen. | (14) 1 Die zuständigen nationalen Behörden, der Europäische Datenschutzbeauftragte und das Büro für Künstliche Intelligenz koordinieren gegebenenfalls im Einklang mit ihren jeweiligen Befugnissen ihre Tätigkeiten und arbeiten im Rahmen des KI-Gremiums dementsprechend zusammen. 2 Sie können die gemeinsame Einrichtung und den gemeinsamen Betrieb von KI-Reallaboren unterstützen, auch in verschiedenen Sektoren, und sich über einschlägige bewährte Verfahren austauschen. |
(15) 1 Die zuständigen nationalen Behörden unterrichten das Büro für Künstliche Intelligenz und das KI-Gremium über die Einrichtung eines Reallabors und können sie um Unterstützung und Anleitung bitten. 2 Das Büro für Künstliche Intelligenz veröffentlicht eine Liste der geplanten und bestehenden Reallabore und hält sie auf dem neuesten Stand, um eine stärkere Interaktion in den KI-Reallaboren und die grenzüberschreitende Zusammenarbeit zu fördern. (16) 1 Die zuständigen nationalen Behörden übermitteln dem Büro für Künstliche Intelligenz und dem KI-Gremium jährliche Berichte, und zwar ab einem Jahr nach der Einrichtung des Reallabors und dann jedes Jahr bis zu dessen Beendigung, sowie einen Abschlussbericht. 2 Diese Berichte informieren über den Fortschritt und die Ergebnisse der Umsetzung dieser Reallabore, einschließlich bewährter Verfahren, Vorfällen, gewonnener Erkenntnisse und Empfehlungen zu deren Aufbau, sowie gegebenenfalls über die Anwendung und mögliche Überarbeitung dieser Verordnung, einschließlich ihrer delegierten Rechtsakte und Durchführungsrechtsakte, sowie über die Anwendung anderen Unionsrechts, deren Einhaltung von den zuständigen Behörden innerhalb des Reallabors beaufsichtigt wird. 3 Die zuständigen nationalen Behörden stellen diese jährlichen Berichte oder Zusammenfassungen davon der Öffentlichkeit online zur Verfügung. 4 Die Kommission trägt den jährlichen Berichten gegebenenfalls bei der Wahrnehmung ihrer Aufgaben gemäß dieser Verordnung Rechnung. (17) 1 Die Kommission richtet eine eigene Schnittstelle ein, die alle relevanten Informationen zu den KI-Reallaboren enthält, um es den Interessenträgern zu ermöglichen, mit den KI-Reallaboren zu interagieren und Anfragen an die zuständigen Behörden zu richten und unverbindliche Beratung zur Konformität von innovativen Produkten, Dienstleistungen und Geschäftsmodellen mit integrierter KI-Technologie im Einklang mit Artikel 62 Absatz 1 Buchstabe c einzuholen. 2 Die Kommission stimmt sich gegebenenfalls proaktiv mit den zuständigen nationalen Behörden ab. | |
Artikel 58 Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise | |
| (1) 1 Um eine Zersplitterung in der Union zu vermeiden, erlässt die Kommission Durchführungsrechtsakte, in denen detaillierte Regelungen für die Einrichtung, Entwicklung, Umsetzung, den Betrieb und die Beaufsichtigung der KI-Reallabore enthalten sind. 2 In den Durchführungsrechtsakten sind gemeinsame Grundsätze zu den folgenden Aspekten festgelegt: | (1) 1 Um eine Zersplitterung in der Union zu vermeiden, erlässt die Kommission Durchführungsrechtsakte, in denen detaillierte Regelungen für die Einrichtung, Entwicklung, Umsetzung, den Betrieb, die Führung und die Beaufsichtigung der KI-Reallabore enthalten sind. 2 In den Durchführungsrechtsakten werden gemeinsame Grundsätze zu den folgenden Aspekten festgelegt: |
a) Voraussetzungen und Auswahlkriterien für eine Beteiligung am KI-Reallabor; b) Verfahren für Antragstellung, Beteiligung, Überwachung, Ausstieg und Beendigung bezüglich des KI-Reallabors, einschließlich Plan und Abschlussbericht für das Reallabor; | |
| c) für Beteiligte geltende Anforderungen und Bedingungen. | c) für Beteiligte geltende Anforderungen und Bedingungen d) detaillierte Vorschriften für die Führung von KI-Reallaboren gemäß Artikel 57, auch in Bezug auf die Einbeziehung der zuständigen Datenschutzbehörden und die Aufsicht durch ebendiese, soweit zutreffend, sowie die Wahrnehmung der Aufgaben der zuständigen Behörden und die Koordinierung und Zusammenarbeit auf nationaler und Unionsebene. |
3 Diese Durchführungsrechtsakte werden gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen. (2) Die in Absatz 1 genannten Durchführungsrechtsakte gewährleisten, a) dass KI-Reallabore allen Anbietern oder zukünftigen Anbietern eines KI-Systems, die einen Antrag stellen und die Voraussetzungen und Auswahlkriterien erfüllen, offen stehen; diese Voraussetzungen und Kriterien sind transparent und fair und die zuständigen nationalen Behörden informieren die Antragsteller innerhalb von drei Monaten nach Antragstellung über ihre Entscheidung; b) dass die KI-Reallabore einen breiten und gleichberechtigten Zugang ermöglichen und mit der Nachfrage nach Beteiligung Schritt halten; die Anbieter und zukünftigen Anbieter auch Anträge zusammen mit Betreibern oder einschlägigen Dritten, die ihre Partner sind, stellen können; c) dass die detaillierten Regelungen und Bedingungen für KI-Reallabore so gut wie möglich die Flexibilität der zuständigen nationalen Behörden bei der Einrichtung und dem Betrieb ihrer KI-Reallabore unterstützen; d) dass der Zugang zu KI-Reallaboren für KMU, einschließlich Start-up-Unternehmen, kostenlos ist, unbeschadet außergewöhnlicher Kosten, die die zuständigen nationalen Behörden in einer fairen und verhältnismäßigen Weise einfordern können; e) dass den Anbietern und zukünftigen Anbietern die Einhaltung der Verpflichtungen zur Konformitätsbewertung nach dieser Verordnung oder die freiwillige Anwendung der in Artikel 95 genannten Verhaltenskodizes mittels der gewonnenen Erkenntnisse der KI-Reallabore erleichtert wird; f) dass KI-Reallabore die Einbeziehung anderer einschlägiger Akteure innerhalb des KI-Ökosystems, wie etwa notifizierte Stellen und Normungsorganisationen, KMU, einschließlich Start-up-Unternehmen, Unternehmen, Innovatoren, Test- und Versuchseinrichtungen, Forschungs- und Versuchslabore, europäische digitale Innovationszentren, Kompetenzzentren und einzelne Forscher begünstigen, um die Zusammenarbeit mit dem öffentlichen und dem privaten Sektor zu ermöglichen und zu erleichtern; g) dass die Verfahren, Prozesse und administrativen Anforderungen für die Antragstellung, die Auswahl, die Beteiligung und den Ausstieg aus dem KI-Reallabor einfach, leicht verständlich und klar kommuniziert sind, um die Beteiligung von KMU, einschließlich Start-up-Unternehmen, mit begrenzten rechtlichen und administrativen Kapazitäten zu erleichtern, sowie unionsweit gestrafft sind, um eine Zersplitterung zu vermeiden, und dass die Beteiligung an einem von einem Mitgliedstaat oder dem Europäischen Datenschutzbeauftragten eingerichteten KI-Reallabor gegenseitig und einheitlich anerkannt wird und in der gesamten Union die gleiche Rechtswirkung hat; h) dass die Beteiligung an dem KI-Reallabor auf einen der Komplexität und dem Umfang des Projekts entsprechenden Zeitraum beschränkt ist, der von der zuständigen nationalen Behörde verlängert werden kann; i) dass die KI-Reallabore die Entwicklung von Instrumenten und Infrastruktur für das Testen, das Benchmarking, die Bewertung und die Erklärung der Dimensionen von KI-Systemen erleichtern, die für das regulatorische Lernen Bedeutung sind, wie etwa Genauigkeit, Robustheit und Cybersicherheit, sowie Maßnahmen zur Risikominderung im Hinblick auf die Grundrechte und die Gesellschaft als Ganzes fördern. (3) Zukünftige Anbieter in den KI-Reallaboren, insbesondere KMU und Start-up-Unternehmen, werden gegebenenfalls vor der Einrichtung an Dienste verwiesen, die beispielsweise eine Anleitung zur Umsetzung dieser Verordnung oder andere Mehrwertdienste wie Hilfe bei Normungsdokumenten bereitstellen, sowie an Zertifizierungs-, Test- und Versuchseinrichtungen, europäische digitale Innovationszentren und Exzellenzzentren. (4) 1 Wenn zuständige nationale Behörden in Betracht ziehen, Tests unter Realbedingungen zu genehmigen, die im Rahmen eines KI-Reallabors beaufsichtigt werden, welches nach diesem Artikel einzurichten ist, vereinbaren sie mit den Beteiligten ausdrücklich die Anforderungen und Bedingungen für diese Tests und insbesondere geeignete Schutzvorkehrungen für Grundrechte, Gesundheit und Sicherheit. 2 Gegebenenfalls arbeiten sie mit anderen zuständigen nationalen Behörden zusammen, um für unionsweit einheitliche Verfahren zu sorgen. | |
Artikel 60 Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren | |
| (1) 1 Tests von Hochrisiko-KI-Systemen unter Realbedingungen können von Anbietern oder zukünftigen Anbietern von in Anhang III aufgeführten Hochrisiko-KI-Systemen außerhalb von KI-Reallaboren gemäß diesem Artikel und - unbeschadet der Bestimmungen unter Artikel 5 - dem in diesem Artikel genannten Plan für einen Test unter Realbedingungen durchgeführt werden. | (1) 1 Tests von Hochrisiko-KI-Systemen unter Realbedingungen können von Anbietern oder zukünftigen Anbietern von Hochrisiko-KI-Systemen, die in Anhang III genannt sind oder unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, außerhalb von KI-Reallaboren gemäß diesem Artikel und - unbeschadet der Bestimmungen unter Artikel 5 - dem in diesem Artikel genannten Plan für einen Test unter Realbedingungen durchgeführt werden. |
2 Die Kommission legt die einzelnen Elemente des Plans für einen Test unter Realbedingungen im Wege von Durchführungsrechtsakten fest. 3 Diese Durchführungsrechtsakte werden gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen. 4 Das Unionsrecht oder nationale Recht für das Testen von Hochrisiko-KI-Systemen unter Realbedingungen im Zusammenhang mit Produkten, die unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, bleibt von dieser Bestimmung unberührt. | |
| (2) Anbieter oder zukünftige Anbieter können in Anhang III genannte Hochrisiko-KI-Systeme vor deren Inverkehrbringen oder Inbetriebnahme jederzeit selbst oder in Partnerschaft mit einem oder mehreren Betreibern oder zukünftigen Betreibern unter Realbedingungen testen. | (2) Anbieter oder zukünftige Anbieter können Hochrisiko-KI-Systeme, die in Anhang III genannt sind oder unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, vor deren Inverkehrbringen oder Inbetriebnahme jederzeit selbst oder in Partnerschaft mit einem oder mehreren Betreibern oder zukünftigen Betreibern unter Realbedingungen testen. |
(3) Tests von KI-Systemen unter Realbedingungen gemäß diesem Artikel lassen nach dem Unionsrecht oder dem nationalen Recht gegebenenfalls vorgeschriebene Ethikprüfungen unberührt. (4) Tests unter Realbedingungen dürfen von Anbietern oder zukünftigen Anbietern nur durchgeführt werden, wenn alle der folgenden Bedingungen erfüllt sind: a) Der Anbieter oder der zukünftige Anbieter hat einen Plan für einen Test unter Realbedingungen erstellt und diesen bei der Marktüberwachungsbehörde in dem Mitgliedstaat eingereicht, in dem der Test unter Realbedingungen stattfinden soll; b) die Marktüberwachungsbehörde in dem Mitgliedstaat, in dem der Test unter Realbedingungen stattfinden soll, hat den Test unter Realbedingungen und den Plan für einen Test unter Realbedingungen genehmigt; hat die Marktüberwachungsbehörde innerhalb von 30 Tagen keine Antwort gegeben, so gelten der Test unter Realbedingungen und der Plan für einen Test unter Realbedingungen als genehmigt; ist im nationalen Recht keine stillschweigende Genehmigung vorgesehen, so bleibt der Test unter Realbedingungen genehmigungspflichtig; c) der Anbieter oder zukünftige Anbieter, mit Ausnahme der in Anhang III Nummern 1, 6 und 7 genannten Anbieter oder zukünftigen Anbieter von Hochrisiko-KI-Systemen in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkontrolle und der in Anhang III Nummer 2 genannten Hochrisiko-KI-Systeme, hat den Test unter Realbedingungen unter Angabe einer unionsweit einmaligen Identifizierungsnummer und der in Anhang IX festgelegten Informationen gemäß Artikel 71 Absatz 4 registriert; der Anbieter oder zukünftige Anbieter von Hochrisiko-KI-Systemen gemäß Anhang III Nummern 1, 6 und 7 in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkontrollmanagement hat die Tests unter Realbedingungen im sicheren nicht öffentlichen Teil der EU-Datenbank gemäß Artikel 49 Absatz 4 Buchstabe d mit einer unionsweit einmaligen Identifizierungsnummer und den darin festgelegten Informationen registriert; der Anbieter oder zukünftige Anbieter von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 2 hat die Tests unter Realbedingungen gemäß Artikel 49 Absatz 5 registriert; d) der Anbieter oder der zukünftige Anbieter, der den Test unter Realbedingungen durchführt, ist in der Union niedergelassen oder hat einen in der Union niedergelassenen gesetzlichen Vertreter bestellt; e) die für die Zwecke des Tests unter Realbedingungen erhobenen und verarbeiteten Daten werden nur dann an Drittländer übermittelt, wenn gemäß Unionsrecht geeignete und anwendbare Schutzvorkehrungen greifen; f) der Test unter Realbedingungen dauert nicht länger als zur Erfüllung seiner Zielsetzungen nötig und in keinem Fall länger als sechs Monate; dieser Zeitraum kann um weitere sechs Monate verlängert werden, sofern der Anbieter oder der zukünftige Anbieter die Marktüberwachungsbehörde davon vorab in Kenntnis setzt und erläutert, warum eine solche Verlängerung erforderlich ist; g) Testteilnehmer im Rahmen von Tests unter Realbedingungen, die aufgrund ihres Alters oder einer Behinderung schutzbedürftigen Gruppen angehören, sind angemessen geschützt; h) wenn ein Anbieter oder zukünftiger Anbieter den Test unter Realbedingungen in Zusammenarbeit mit einem oder mehreren Betreibern oder zukünftigen Betreibern organisiert, werden Letztere vorab über alle für ihre Teilnahmeentscheidung relevanten Aspekte des Tests informiert und erhalten die einschlägigen in Artikel 13 genannten Betriebsanleitungen für das KI-System; der Anbieter oder zukünftige Anbieter und der Betreiber oder zukünftige Betreiber schließen eine Vereinbarung, in der ihre Aufgaben und Zuständigkeiten festgelegt sind, um für die Einhaltung der nach dieser Verordnung und anderem Unionsrecht und nationalem Recht für Tests unter Realbedingungen geltenden Bestimmungen zu sorgen; i) die Testteilnehmer im Rahmen von Tests unter Realbedingungen erteilen ihre informierte Einwilligung gemäß Artikel 61, oder, wenn im Fall der Strafverfolgung die Einholung einer informierten Einwilligung den Test des KI-Systems verhindern würde, dürfen sich der Test und die Ergebnisse des Tests unter Realbedingungen nicht negativ auf die Testteilnehmer auswirken und ihre personenbezogenen Daten werden nach Durchführung des Tests gelöscht; j) der Anbieter oder zukünftige Anbieter und die Betreiber und zukünftigen Betreiber lassen den Test unter Realbedingungen von Personen wirksam überwachen, die auf dem betreffenden Gebiet angemessen qualifiziert sind und über die Fähigkeit, Ausbildung und Befugnis verfügen, die für die Wahrnehmung ihrer Aufgaben erforderlich sind; k) die Vorhersagen, Empfehlungen oder Entscheidungen des KI-Systems können effektiv rückgängig gemacht und außer Acht gelassen werden. (5) 1 Jeder Testteilnehmer bezüglich des Tests unter Realbedingungen oder gegebenenfalls dessen gesetzlicher Vertreter kann seine Teilnahme an dem Test jederzeit durch Widerruf seiner informierten Einwilligung beenden und die unverzügliche und dauerhafte Löschung seiner personenbezogenen Daten verlangen, ohne dass ihm daraus Nachteile entstehen und er dies in irgendeiner Weise begründen müsste. 2 Der Widerruf der informierten Einwilligung wirkt sich nicht auf bereits durchgeführte Tätigkeiten aus. (6) 1 Im Einklang mit Artikel 75 übertragen die Mitgliedstaaten ihren Marktüberwachungsbehörden die Befugnis, Anbieter und zukünftige Anbieter zur Bereitstellung von Informationen zu verpflichten, unangekündigte Ferninspektionen oder Vor-Ort-Inspektionen durchzuführen und die Durchführung der Tests unter Realbedingungen und damit zusammenhängende Hochrisiko-KI-Systeme zu prüfen. 2 Die Marktüberwachungsbehörden nutzen diese Befugnisse, um für die sichere Entwicklung von Tests unter Realbedingungen zu sorgen. (7) 1 Jegliche schwerwiegenden Vorfälle im Verlauf des Tests unter Realbedingungen sind den nationalen Marktüberwachungsbehörden gemäß Artikel 73 zu melden. 2 Der Anbieter oder zukünftige Anbieter trifft Sofortmaßnahmen zur Schadensbegrenzung; andernfalls setzt er den Test unter Realbedingungen so lange aus, bis eine Schadensbegrenzung stattgefunden hat, oder bricht ihn ab. 3 Im Fall eines solchen Abbruchs des Tests unter Realbedingungen richtet der Anbieter oder zukünftige Anbieter ein Verfahren für den sofortigen Rückruf des KI-Systems ein. (8) Anbieter oder zukünftige Anbieter setzen die nationalen Marktüberwachungsbehörde in dem Mitgliedstaat, in dem der Test unter Realbedingungen stattfindet, über die Aussetzung oder den Abbruch des Tests unter Realbedingungen und die Endergebnisse in Kenntnis. (9) Anbieter oder zukünftige Anbieter sind nach geltendem Recht der Union und geltendem nationalen Recht für Schäden haftbar, die während ihrer Tests unter Realbedingungen entstehen. | |
Artikel 60a (neu) | Artikel 60a Tests von Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, unter Realbedingungen außerhalb von KI-Reallaboren |
| | (1) Die Mitgliedstaaten können Tests von Hochrisiko-KI-Systemen unter Realbedingungen durch Anbieter oder zukünftige Anbieter von KI-gestützten Produkten, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, außerhalb von KI-Reallaboren gemäß diesem Artikel zulassen, um die Konformität dieser Systeme mit den in den Artikeln 8 bis 15 festgelegten Anforderungen zu bewerten und zu überprüfen. (2) Mitgliedstaaten, die sich dafür entscheiden, Tests gemäß Absatz 1 zuzulassen, legen einzeln oder gemeinsam Rahmen für einen Test unter Realbedingungen fest. (3) 1 Jeder Mitgliedstaat teilt der Kommission jeden von ihm angenommenen Rahmen für einen Test unter Realbedingungen vor dessen Umsetzung mit. 2 Dies berührt nicht die Zuständigkeiten der Kommission gemäß den in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union. (4) Die Mitgliedstaaten, die Rahmen für einen Test unter Realbedingungen angenommen haben, stellen sicher, dass die einschlägigen zuständigen nationalen Behörden, die zuständigen Behörden und die Behörden, die für Verwaltung und Betrieb der unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Infrastrukturen und Produkte zuständig sind, eng und nach Treu und Glauben zusammenarbeiten und - soweit erforderlich - alle praktischen Hindernisse beseitigen, auch in Bezug auf Verfahrensvorschriften für den Zugang zu physischen öffentlichen Infrastrukturen, um diese Rahmen für einen Test unter Realbedingungen erfolgreich umzusetzen und KI-gestützte Produkte, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, zu testen. (5) 1 In den Rahmen für einen Test unter Realbedingungen werden die Anforderungen festgelegt, unter denen Tests unter Realbedingungen stattfinden müssen. 2 Diese Rahmen a) umfassen die Vorlage eines verbindlichen Plans für einen Test unter Realbedingungen, der zwischen dem Anbieter oder zukünftigen Anbieter und der zuständigen nationalen Behörde oder der im Einklang mit den in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union zuständigen Behörde zu vereinbaren ist; b) stellen die Einhaltung der in Artikel 60 Absätze 2 und 3, Absatz 4 Buchstaben d bis j und Absätze 5 bis 9 festgelegten Anforderungen sicher, wobei jede Bezugnahme auf Marktüberwachungsbehörden in diesen Bestimmungen als Bezugnahme auf die zuständige nationale Behörde oder gegebenenfalls die im Einklang mit den in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften zuständige Behörde der Union zu verstehen ist; c) umfassen wirksame Vorkehrungen für Führung und Rechenschaftspflicht; d) stellen ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und Grundrechte sicher. (6) 1 Im Rahmen der Tests unter Realbedingungen wird den einschlägigen Bestimmungen der in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union Rechnung getragen. 2 Die in diesen Bestimmungen festgelegten Anforderungen berühren nicht die Anwendung dieses Artikels, soweit dies erforderlich ist, um die in Absatz 1 genannten Tests zu ermöglichen. |
Artikel 63 Ausnahmen für bestimmte Akteure | |
| (1) 1 Kleinstunternehmen im Sinne der Empfehlung 2003/361/EG können bestimmte Elemente des in Artikel 17 dieser Verordnung vorgeschriebenen Qualitätsmanagementsystems in vereinfachter Weise einhalten, sofern sie keine Partnerunternehmen oder verbundenen Unternehmen im Sinne dieser Empfehlung haben. 2 Zu diesem Zweck arbeitet die Kommission Leitlinien zu den Elementen des Qualitätsmanagementsystems aus, die unter Berücksichtigung der Bedürfnisse von Kleinstunternehmen in vereinfachter Weise eingehalten werden können, ohne das Schutzniveau oder die Notwendigkeit zur Einhaltung der Anforderungen in Bezug auf Hochrisiko-KI-Systeme zu beeinträchtigen. | (1) 1 KMU, einschließlich Start-up-Unternehmen können bestimmte Elemente des in Artikel 17 vorgeschriebenen Qualitätsmanagementsystems in vereinfachter Weise einhalten, sofern sie keine Partnerunternehmen oder verbundenen Unternehmen im Sinne der Empfehlung 2003/361/EG haben. 2 Zu diesem Zweck arbeitet die Kommission Leitlinien zu den Elementen des Qualitätsmanagementsystems aus, die unter Berücksichtigung der Bedürfnisse von KMU in vereinfachter Weise eingehalten werden können, ohne das Schutzniveau oder die Notwendigkeit zur Einhaltung der Anforderungen in Bezug auf Hochrisiko-KI-Systeme zu beeinträchtigen. |
(2) Absatz 1 dieses Artikels ist nicht dahin gehend auszulegen, dass diese Akteure auch von anderen in dieser Verordnung festgelegten Anforderungen oder Pflichten, einschließlich der nach den Artikeln 9, 10, 11, 12, 13, 14, 15, 72 und 73 geltenden, befreit sind. | |
Artikel 64 Büro für Künstliche Intelligenz | |
(1) Die Kommission entwickelt über das Büro für Künstliche Intelligenz die Sachkenntnis und Fähigkeiten der Union auf dem Gebiet der KI. (2) Die Mitgliedstaaten erleichtern dem Büro für Künstliche Intelligenz die ihm gemäß dieser Verordnung übertragenen Aufgaben. | |
| | (3) Unbeschadet des Haushaltsverfahrens werden dem Büro für Künstliche Intelligenz angemessene Ressourcen zugewiesen, damit es seine Aufgaben und Befugnisse im Zusammenhang mit der Durchsetzung dieser Verordnung wirksam wahrnehmen kann. |
Artikel 69 Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten | |
(1) Die Mitgliedstaaten können Sachverständige des wissenschaftlichen Gremiums hinzuziehen, um ihre Durchsetzungstätigkeiten im Rahmen dieser Verordnung zu unterstützen. | |
| (2) 1 Die Mitgliedstaaten können verpflichtet werden, für die Beratung und Unterstützung durch die Sachverständigen Gebühren zu entrichten. 2 Struktur und Höhe der Gebühren sowie Umfang und Struktur erstattungsfähiger Kosten werden in dem in Artikel 68 Absatz 1 genannten Durchführungsrechtsakt festgelegt, wobei die Zielsetzung berücksichtigt wird, für die angemessene Durchführung dieser Verordnung, für Kosteneffizienz sowie dafür zu sorgen, dass alle Mitgliedstaaten effektiven Zugang zu Sachverständigen haben müssen. | (2) Die Mitgliedstaaten können verpflichtet werden, für die Beratung und Unterstützung durch die Sachverständigen Gebühren in Höhe der Vergütungsgebühren zu entrichten, die für die Kommission gemäß dem in Artikel 68 Absatz 1 genannten Durchführungsrechtsakt gelten. |
(3) Die Kommission ermöglicht den Mitgliedstaaten bei Bedarf einen rechtzeitigen Zugang zu den Sachverständigen und sorgt dafür, dass die Kombination aus unterstützenden Tätigkeiten durch die Union zur Prüfung von KI gemäß Artikel 84 und durch die Sachverständigen gemäß dem vorliegenden Artikel effizient organisiert ist und den bestmöglichen zusätzlichen Nutzen bringt. | |
Artikel 70 Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle | |
(1) 1 Jeder Mitgliedstaat muss für die Zwecke dieser Verordnung mindestens eine notifizierende Behörde und mindestens eine Marktüberwachungsbehörde als zuständige nationale Behörden einrichten oder benennen. 2 Diese zuständigen nationalen Behörden üben ihre Befugnisse unabhängig, unparteiisch und unvoreingenommen aus, um die Objektivität ihrer Tätigkeiten und Aufgaben zu gewährleisten und die Anwendung und Durchführung dieser Verordnung sicherzustellen. 3 Die Mitglieder dieser Behörden haben jede Handlung zu unterlassen, die mit ihren Aufgaben unvereinbar ist. 4 Sofern diese Grundsätze gewahrt werden, können die betreffenden Tätigkeiten und Aufgaben gemäß den organisatorischen Erfordernissen des Mitgliedstaats von einer oder mehreren benannten Behörden wahrgenommen werden. (2) 1 Die Mitgliedstaaten teilen der Kommission die Namen der notifizierenden Behörden und der Marktüberwachungsbehörden und die Aufgaben dieser Behörden sowie alle späteren Änderungen mit. 2 Die Mitgliedstaaten machen Informationen darüber, wie die zuständigen Behörden und zentralen Anlaufstellen bis zum 2. August 2025 auf elektronischem Wege kontaktiert werden können, öffentlich zugänglich. 3 Die Mitgliedstaaten benennen eine Marktüberwachungsbehörde, die als zentrale Anlaufstelle für diese Verordnung fungiert, und teilen der Kommission den Namen der zentralen Anlaufstelle mit. 4 Die Kommission erstellt eine öffentlich verfügbare Liste der zentralen Anlaufstellen. (3) 1 Die Mitgliedstaaten sorgen dafür, dass ihre zuständigen nationalen Behörden mit angemessenen technischen und finanziellen Mitteln sowie geeignetem Personal und Infrastrukturen ausgestattet werden, damit sie ihre Aufgaben im Rahmen dieser Verordnung wirksam erfüllen können. 2 Insbesondere müssen die zuständigen nationalen Behörden zu jeder Zeit über eine ausreichende Zahl von Mitarbeitern verfügen, zu deren Kompetenzen und Fachwissen ein tiefes Verständnis der KI-Technologien, der Daten und Datenverarbeitung, des Schutzes personenbezogener Daten, der Cybersicherheit, der Grundrechte, der Gesundheits- und Sicherheitsrisiken sowie Kenntnis der bestehenden Normen und rechtlichen Anforderungen gehört. 3 Die Mitgliedstaaten bewerten und aktualisieren, falls erforderlich, jährlich die in diesem Absatz genannten Erfordernisse bezüglich Kompetenzen und Ressourcen. (4) Die zuständigen nationalen Behörden ergreifen geeignete Maßnahmen zur Sicherstellung eines angemessenen Maßes an Cybersicherheit. (5) Bei der Erfüllung ihrer Aufgaben halten sich die zuständigen nationalen Behörden an die in Artikel 78 festgelegten Vertraulichkeitspflichten. (6) 1 Bis zum 2. August 2025 und anschließend alle zwei Jahre erstatten die Mitgliedstaaten der Kommission Bericht über den Sachstand bezüglich der finanziellen Mittel und des Personals der zuständigen nationalen Behörden und geben eine Einschätzung über deren Angemessenheit ab. 2 Die Kommission leitet diese Informationen zur Erörterung und etwaigen Abgabe von Empfehlungen an das KI-Gremium weiter. (7) Die Kommission fördert den Erfahrungsaustausch zwischen den zuständigen nationalen Behörden. | |
| (8) 1 Die zuständigen nationalen Behörden können gegebenenfalls insbesondere KMU, einschließlich Start-up-Unternehmen, unter Berücksichtigung der Anleitung und Beratung durch das KI-Gremium oder der Kommission mit Anleitung und Beratung bei der Durchführung dieser Verordnung zur Seite stehen. 2 Wenn zuständige nationale Behörden beabsichtigen, Anleitung und Beratung in Bezug auf ein KI-System in Bereichen anzubieten, die unter das Unionrecht fallen, so sind gegebenenfalls die nach jenen Unionsrecht zuständigen nationalen Behörden zu konsultieren. | (8) 1 Die zuständigen nationalen Behörden können gegebenenfalls insbesondere KMU, einschließlich Start-up-Unternehmen, und kleinen Midcap-Unternehmen unter Berücksichtigung der Anleitung und Beratung durch das KI-Gremium oder die Kommission mit Anleitung und Beratung bei der Durchführung dieser Verordnung zur Seite stehen. 2 Wenn zuständige nationale Behörden beabsichtigen, Anleitung und Beratung in Bezug auf ein KI-System in Bereichen anzubieten, die unter das Unionsrecht fallen, so sind gegebenenfalls die nach jenem Unionsrecht zuständigen nationalen Behörden zu konsultieren. |
(9) Soweit Organe, Einrichtungen und sonstige Stellen der Union in den Anwendungsbereich dieser Verordnung fallen, übernimmt der Europäische Datenschutzbeauftragte die Funktion der für ihre Beaufsichtigung zuständigen Behörde. | |
Artikel 72 Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme | |
(1) Anbieter müssen ein System zur Beobachtung nach dem Inverkehrbringen, das im Verhältnis zur Art der KI-Technik und zu den Risiken des Hochrisiko-KI-Systems steht, einrichten und dokumentieren. (2) 1 Mit dem System zur Beobachtung nach dem Inverkehrbringen müssen sich die einschlägigen Daten zur Leistung der Hochrisiko-KI-Systeme, die von den Anbietern oder den Betreibern bereitgestellt oder aus anderen Quellen erhoben werden können, über ihre gesamte Lebensdauer hinweg aktiv und systematisch erheben, dokumentieren und analysieren lassen, und der Anbieter muss damit die fortdauernde Einhaltung der in Kapitel III Abschnitt 2 genannten Anforderungen an die KI-Systeme bewerten können. 2 Gegebenenfalls umfasst die Beobachtung nach dem Inverkehrbringen eine Analyse der Interaktion mit anderen KI-Systemen. 3 Diese Pflicht gilt nicht für sensible operative Daten von Betreibern, die Strafverfolgungsbehörden sind. | |
| (3) 1 Das System zur Beobachtung nach dem Inverkehrbringen muss auf einem Plan für die Beobachtung nach dem Inverkehrbringen beruhen. 2 Der Plan für die Beobachtung nach dem Inverkehrbringen ist Teil der in Anhang IV genannten technischen Dokumentation. 3 Die Kommission erlässt einen Durchführungsrechtsakt, in dem sie detaillierte Bestimmungen für die Erstellung eines Musters des Plans für die Beobachtung nach dem Inverkehrbringen sowie die Liste der in den Plan aufzunehmenden Elemente bis zum 2. Februar 2026 detailliert festlegt. 4 Dieser Durchführungsrechtsakt wird gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen. | (3) 1 Das System zur Beobachtung nach dem Inverkehrbringen muss auf einem Plan für die Beobachtung nach dem Inverkehrbringen beruhen. 2 Der Plan für die Beobachtung nach dem Inverkehrbringen ist Teil der in Anhang IV genannten technischen Dokumentation. 3 Die Kommission nimmt unter weitestgehender Berücksichtigung der Stellungnahme des KI-Gremiums bis zum 2. September 2027 Leitlinien, einschließlich eines Musters, für den Plan zur Beobachtung nach dem Inverkehrbringen an. |
(4) 1 Bei Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, und für die auf der Grundlage dieser Rechtvorschriften bereits ein System zur Beobachtung nach dem Inverkehrbringen sowie ein entsprechender Plan festgelegt wurden, haben die Anbieter zur Gewährleistung der Kohärenz, zur Vermeidung von Doppelarbeit und zur Minimierung zusätzlicher Belastungen die Möglichkeit, unter Verwendung des Musters nach Absatz 3, gegebenenfalls die in den Absätzen 1, 2 und 3 genannten erforderlichen Elemente in die im Rahmen dieser Vorschriften bereits vorhandenen Systeme und Pläne zu integrieren, sofern ein gleichwertiges Schutzniveau erreicht wird. 2 Unterabsatz 1 dieses Absatzes gilt auch für in Anhang III Nummer 5 genannte Hochrisiko-KI-Systeme, die von Finanzinstituten in Verkehr gebracht oder in Betrieb genommen wurden, die bezüglich ihrer internen Unternehmensführung, Regelungen oder Verfahren Anforderungen gemäß den Rechtsvorschriften der Union über Finanzdienstleistungen unterliegen. | |
Artikel 75 Amtshilfe, Marktüberwachung und Kontrolle von KI-Systemen mit allgemeinem Verwendungszweck | Artikel 75 Marktüberwachung und Kontrolle von KI-Systemen sowie Amtshilfe |
| (1) 1 Beruht ein KI-System auf einem KI-Modell mit allgemeinem Verwendungszweck und werden das Modell und das System vom selben Anbieter entwickelt, so ist das Büro für Künstliche Intelligenz befugt, die Konformität des KI-Systems mit den Pflichten aus dieser Verordnung zu überwachen und beaufsichtigen. 2 Zur Wahrnehmung seiner Beobachtungs- und Überwachungsaufgaben hat das Büro für Künstliche Intelligenz alle in diesem Abschnitt und in der Verordnung (EU) 2019/1020 vorgesehenen Befugnisse einer Marktüberwachungsbehörde. | (1) 1 Das Büro für Künstliche Intelligenz ist ausschließlich für die Beaufsichtigung und Durchsetzung der Pflichten aus dieser Verordnung in Bezug auf die folgenden KI-Systeme zuständig: a) KI-Systeme auf der Grundlage von KI-Modellen mit allgemeinem Verwendungszweck, bei denen das Modell und das System von demselben Anbieter oder von Anbietern entwickelt werden, die Teil desselben Unternehmens wie dieser Anbieter sind, mit Ausnahme von: i) KI-Systemen im Zusammenhang mit Produkten, die unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallen; ii) KI-Systemen gemäß Anhang III Nummer 2; iii) KI-Systemen, die von Strafverfolgungsbehörden, Grenzverwaltungsbehörden und Finanzinstituten bereitgestellt werden, sofern diese KI-Systeme unter Artikel 74 Absatz 6 fallen, und iv) KI-Systemen gemäß Anhang III Nummer 8 in Bezug auf die Rechtspflege; b) KI-Systemen, die eine gemäß der Verordnung (EU) 2022/2065 benannte sehr große Online-Plattform oder sehr große Online-Suchmaschine bilden oder die darin integriert sind. 2 Die in Unterabsatz 1 genannte ausschließliche Zuständigkeit gilt für die Anbieter dieser Systeme. 3 Sie gilt für die Betreiber dieser Systeme nur dann, wenn sie auch Anbieter dieser Systeme sind oder Teil desselben Unternehmens wie der Anbieter sind. (1a) 1 Abweichend von Artikel 73 melden Anbieter von Hochrisiko-KI-Systemen, die der Zuständigkeit des Büros für Künstliche Intelligenz gemäß Absatz 1 dieses Artikels unterliegen, dem Büro für Künstliche Intelligenz alle schwerwiegenden Vorfälle. 2 Die Absätze 2 bis 9 des Artikels 73 gelten sinngemäß. 3 Das Büro für Künstliche Intelligenz übermittelt die einschlägigen Informationen unverzüglich der Marktüberwachungsbehörde des Mitgliedstaats, in dessen Hoheitsgebiet sich der Anbieter oder sein gesetzlicher Vertreter befindet. (1b) 1 Die an der Anwendung dieser Verordnung beteiligten Behörden arbeiten aktiv mit dem Büro für Künstliche Intelligenz zusammen und leistet ihm die erforderliche Unterstützung für die Ausübung seiner Befugnisse, unter anderem erforderlichenfalls im Zusammenhang mit Inspektionen oder anderen Durchsetzungsmaßnahmen im Hoheitsgebiet eines Mitgliedstaats. 2 Zu diesem Zweck verfügen diese Behörden über die in dieser Verordnung und der Verordnung (EU) 2019/1020 niedergelegten Befugnisse und soweit zutreffend und auf das zur Erfüllung ihrer Aufgaben nach diesem Absatz erforderliche Maß beschränkt, im Einklang mit den geltenden nationalen Verfahren. (1c) Werden im Hoheitsgebiet eines Mitgliedstaats Ermittlungs- oder Durchsetzungsmaßnahmen ergriffen, die den Zugang zu Daten oder KI-Systemen einer Behörde umfassen, so wird das Büro für Künstliche Intelligenz von der einschlägigen Marktüberwachungsbehörde unterstützt. (1d) 1 Bevor das Büro für Künstliche Intelligenz eine Entscheidung trifft, die ein Verbot oder eine Beschränkung der Bereitstellung oder Inbetriebnahme des KI-Systems auf einem nationalen Markt zur Folge hätte, oder bevor es eine Entscheidung dahin gehend trifft, das KI-System von einem solchen Markt zu nehmen oder zurückzurufen, unterrichtet es die für diesen Markt zuständige Marktüberwachungsbehörde unverzüglich über seine Absicht, eine solche Entscheidung zu treffen. 2 Das Büro für Künstliche Intelligenz konsultiert gegebenenfalls die an der Anwendung dieser Verordnung beteiligten Behörden zu allen Fragen im Zusammenhang mit der Anwendung und Durchsetzung dieser Verordnung. (1e) 1 Das Büro für Künstliche Intelligenz ist für Konformitätsbewertungen und Tests der in Absatz 1 dieses Artikels genannten KI-Systeme zuständig, die als hochriskant eingestuft sind und einer Konformitätsbewertung durch Dritte gemäß Artikel 43 unterliegen, wobei diese Konformitätsbewertung durchzuführen ist, bevor solche KI-Systeme in Verkehr gebracht oder in Betrieb genommen werden. 2 Bei diesen Tests und Bewertungen wird überprüft, ob die Systeme den einschlägigen Anforderungen dieser Verordnung entsprechen und gemäß dieser Verordnung in der Union in Verkehr gebracht bzw. in Betrieb genommen werden dürfen. 3 Die Kommission betraut die gemäß dieser Verordnung benannten notifizierten Stellen mit der Durchführung dieser Tests oder Bewertungen; in diesem Fall handeln diese notifizierten Stellen im Namen der Kommission. 4 Kommt eine notifizierte Stelle, der die Kommission Aufgaben gemäß diesem Absatz übertragen hat, diesen Aufgaben nicht angemessen nach, so kann die Kommission die Übertragung mit sofortiger Wirkung widerrufen. 5 Die Gebühren für Test- und Bewertungstätigkeiten werden von dem Anbieter eines Hochrisiko-KI-Systems erhoben, der bei der Kommission eine Konformitätsbewertung durch Dritte beantragt hat. 6 Der Anbieter zahlt die Kosten der Dienstleistungen, mit denen die Kommission die notifizierten Stellen gemäß diesem Artikel betraut hat, direkt an die notifizierte Stelle. |
(2) Haben die zuständigen Marktüberwachungsbehörden hinreichenden Grund für die Auffassung, dass KI-Systeme mit allgemeinem Verwendungszweck, die von Betreibern direkt für mindestens einen Zweck, der gemäß dieser Verordnung als hochriskant eingestuft ist, verwendet werden können, nicht mit den in dieser Verordnung festgelegten Anforderungen konform sind, so arbeiten sie bei der Durchführung von Konformitätsbewertungen mit dem Büro für Künstliche Intelligenz zusammen und unterrichten das KI-Gremium und andere Marktüberwachungsbehörden entsprechend. | |
| | (2a) 1 Hat eine Marktüberwachungsbehörde fundierte und hinreichende Gründe für den Verdacht, dass ein Anbieter oder Betreiber eines in Absatz 1 dieses Artikels genannten KI-Systems gegen diese Verordnung verstoßen hat, so kann sie das Büro für Künstliche Intelligenz über die gemäß Artikel 70 Absatz 2 benannte zuständige zentrale Anlaufstelle ersuchen, die Angelegenheit zu prüfen, damit die erforderlichen Aufsichts- und Durchsetzungsmaßnahmen ergriffen werden können, um die unverzügliche Einhaltung dieser Verordnung sicherzustellen. 2 Entsprechende Ersuchen sind hinreichend zu begründen und umfassen mindestens Folgendes: a) den Namen des betreffenden Anbieters oder Betreibers; b) eine Beschreibung des relevanten Sachverhalts, der Bestimmungen dieser Verordnung, gegen die mutmaßlich verstoßen wurde, und aller fundierten und hinreichenden Gründe für den Verdacht eines Verstoßes, gegebenenfalls einschließlich einer Beschreibung der negativen Auswirkungen des mutmaßlichen Verstoßes; c) die ersuchende Marktüberwachungsbehörde. 3 Das Büro für Künstliche Intelligenz trägt dem Ersuchen mit größter Sorgfalt Rechnung, und die Marktüberwachungsbehörde kooperiert aktiv und leistet dem Büro für Künstliche Intelligenz die erforderliche Unterstützung für die Ausübung seiner Befugnisse gemäß Absatz 1a. 4 Das Büro für Künstliche Intelligenz unterrichtet die zentrale Anlaufstelle unverzüglich, spätestens jedoch vier Monate nach Eingang des Ersuchens, über seine Absicht, seine Befugnisse gemäß Artikel 75a auszuüben, oder über die Gründe dafür, dass es seine Befugnisse nicht ausübt. 5 Beschließt das Büro für Künstliche Intelligenz, seine Befugnisse gemäß Artikel 75a auszuüben, so unterrichtet es die zentrale Anlaufstelle regelmäßig über wichtige Entwicklungen in dem Verfahren und das Ergebnis dieses Verfahrens, ohne vertrauliche Informationen offenzulegen. |
(3) 1 Ist eine Marktüberwachungsbehörde wegen der Unzugänglichkeit bestimmter Informationen im Zusammenhang mit dem KI-Modell mit allgemeinem Verwendungszweck nicht in der Lage, ihre Ermittlungen zu dem Hochrisiko-KI-System abzuschließen, obwohl sie alle angemessenen Anstrengungen unternommen hat, diese Informationen zu erhalten, kann sie ein begründetes Ersuchen an das Büro für Künstliche Intelligenz richten, durch das der Zugang zu den Informationen durchgesetzt werden kann. 2 In diesem Fall übermittelt das Büro für Künstliche Intelligenz der ersuchenden Behörde unverzüglich, spätestens aber innerhalb von 30 Tagen, alle Informationen, die das Büro für Künstliche Intelligenz für die Feststellung, ob ein Hochrisiko-KI-System nicht konform ist, für erforderlich erachtet. 3 Die Marktüberwachungsbehörden gewährleisten gemäß Artikel 78 der vorliegenden Verordnung die Vertraulichkeit der von ihnen erlangten Informationen. 4 Das Verfahren nach Kapitel VI der Verordnung (EU) 2019/1020 gilt entsprechend. | |
Artikel 75a (neu) | Artikel 75a Aufsichts- und Durchsetzungsbefugnisse des Büros für Künstliche Intelligenz |
| | (1) 1 Zur Wahrnehmung seiner in Artikel 75 Absatz 1 der vorliegenden Verordnung niedergelegten Aufgaben in Bezug auf Aufsicht und Durchsetzung hat das Büro für Künstliche Intelligenz alle in diesem Abschnitt und in Artikel 14 Absatz 4 und Artikel 16 Absatz 3 der Verordnung (EU) 2019/1020 vorgesehenen Befugnisse einer Marktüberwachungsbehörde. 2 Das Büro für Künstliche Intelligenz ist befugt, gemäß Artikel 15 der Verordnung (EU) 2019/1020 die gesamten Kosten seiner Aufsichts- und Durchsetzungstätigkeiten in Bezug auf Fälle von Nichtkonformität, einschließlich der Kosten für personelle und technische Ressourcen, von dem betreffenden Akteur vollständig zurückzufordern. 3 Artikel 17 der Verordnung (EU) 2019/1020 gilt sinngemäß. (2) 1 Hat das Büro für Künstliche Intelligenz berechtigten Grund zu der Annahme, dass ein Anbieter oder Betreiber eines in Artikel 75 Absatz 1 der vorliegenden Verordnung genannten KI-Systems gegen die vorliegende Verordnung verstößt, so kann es gemäß Artikel 14 Absatz 4 Buchstabe f der Verordnung (EU) 2019/1020 beschließen, in Bezug auf diese Nichtkonformität eine Ermittlung einzuleiten. 2 Im Zuge der Einleitung einer solchen Ermittlung unterrichtet das Büro für Künstliche Intelligenz den Akteur des betreffenden KI-Systems. 3 Das Büro für Künstliche Intelligenz kann die in Absatz 1 dieses Artikels genannten Befugnisse von Amts wegen oder aufgrund einer gemäß Artikel 85 dieser Verordnung eingegangenen Beschwerde ausüben, noch bevor es eine Ermittlung gemäß Artikel 14 Absatz 4 Buchstabe f der Verordnung (EU) 2019/1020 einleitet. 4 Hat eine Marktüberwachungsbehörde Grund zu der Annahme, dass ein Anbieter oder Betreiber eines in Artikel 75 Absatz 1 genannten KI-Systems gegen die vorliegende Verordnung verstößt, kann sie das Büro für Künstliche Intelligenz ersuchen, die Angelegenheit zu prüfen. (3) 1 Das Büro für Künstliche Intelligenz kann die in Artikel 14 Absatz 4 Buchstaben a, b und c der Verordnung (EU) 2019/1020 und in Artikel 74 Absätze 12 und 13 der vorliegenden Verordnung aufgeführten Befugnisse durch einfaches Ersuchen oder im Wege eines Beschlusses ausüben. 2 Bei einem Informationsersuchen gibt das Büro für Künstliche Intelligenz die Rechtsgrundlage und den Zweck des Ersuchens an, gibt an, welche Informationen erforderlich sind, und legt die Frist fest, innerhalb deren die Informationen bereitzustellen sind. 3 Handelt es sich bei dem Ersuchen um ein einfaches Ersuchen, weist das Büro für Künstliche Intelligenz zusätzlich darauf hin, dass zwar keine Verpflichtung zur Bereitstellung der angeforderten Informationen besteht, im Falle einer freiwilligen Antwort die Informationen jedoch richtig sein müssen und nicht irreführend sein dürfen, und es weist auf die möglichen Geldbußen gemäß Artikel 99 Absatz 5 für die Bereitstellung von Informationen hin, die unrichtig oder irreführend sind. 4 Beruht das Ersuchen auf einem Beschluss, gibt das Büro für Künstliche Intelligenz zusätzlich die in Artikel 99 Absatz 5 vorgesehenen Geldbußen für die Bereitstellung unrichtiger, unvollständiger oder irreführender Informationen an und weist auf das Recht hin, den Beschluss durch den Gerichtshof der Europäischen Union überprüfen zu lassen. 5 Das Büro für Künstliche Intelligenz übermittelt der Marktüberwachungsbehörde des Mitgliedstaats, in dessen Hoheitsgebiet sich der Akteur oder sein gesetzlicher Vertreter befindet, eine Kopie des Ersuchens. (4) 1 Zur Wahrnehmung der ihm gemäß diesem Abschnitt übertragenen Aufgaben kann das Büro für Künstliche Intelligenz im Rahmen der Befugnisse nach Artikel 14 Absatz 4 Buchstaben d und e der Verordnung (EU) 2019/1020 und Artikel 74 Absatz 5 der vorliegenden Verordnung alle erforderlichen Ferninspektionen oder Vor-Ort-Inspektionen durchführen. 2 Bei der Durchführung einer Inspektion informiert das Büro für Künstliche Intelligenz den betreffenden Anbieter über den Gegenstand und Zweck der Untersuchung, die einschlägigen Geldbußen gemäß Artikel 99 Absatz 5 der vorliegenden Verordnung sowie das Recht, den Beschluss durch den Gerichtshof der Europäischen Union überprüfen zu lassen. 3 Im Vorfeld der Durchführung einer Inspektion unterrichtet das Büro für Künstliche Intelligenz die Marktüberwachungsbehörde des Mitgliedstaats, in dessen Hoheitsgebiet sich der Akteur oder sein gesetzlicher Vertreter befindet. 4 Die Bediensteten des Büros für Künstliche Intelligenz sind im Zuge von Inspektionen befugt, a) alle in der Union gelegenen Geschäftsräume, Grundstücke oder Immobilien des betreffenden Betreibers zu betreten, b) die Bücher, Daten und sonstiges für die Erfüllung ihrer Aufgaben relevantes Material, unabhängig davon, in welcher Form es gespeichert ist, zu prüfen, c) Kopien oder Auszüge gleich in welcher Form aus Büchern, von Daten und aus sonstigen Aufzeichnungen anzufertigen oder zu verlangen, d) jede von der Inspektion betroffene Person oder ihre Vertreter oder jeden Beschäftigten zur Abgabe mündlicher oder schriftlicher Erklärungen zu Sachverhalten oder Unterlagen aufzufordern, die mit dem Gegenstand und Zweck der Inspektion in Zusammenhang stehen, und die Antworten aufzuzeichnen, e) betriebliche Räumlichkeiten und Bücher oder Unterlagen jeder Art für die Dauer der Inspektion in dem hierfür erforderlichen Ausmaß zu versiegeln. 5 Stellt das Büro für Künstliche Intelligenz fest, dass sich eine natürliche oder juristische Person einer Inspektion widersetzt oder diese behindert, so gewährt die zuständige nationale Behörde des betreffenden Mitgliedstaats gegebenenfalls unter Einsatz von Polizeikräften oder einer entsprechenden vollziehenden Behörde die erforderliche Unterstützung, damit die Vor-Ort-Inspektion durchgeführt werden kann. 6 Ist für eine Vor-Ort-Inspektion von Geschäftsräumen, Grundstücken oder Immobilien eine gerichtliche Genehmigung nach nationalem Recht erforderlich, so ersucht das Büro für Künstliche Intelligenz um eine solche Genehmigung. 7 Das Büro für Künstliche Intelligenz kann die Genehmigung auch vorsorglich beantragen. 8 Wird eine solche Genehmigung beantragt, so verifiziert die nationale Justizbehörde unverzüglich, dass die geplanten Zwangsmaßnahmen im Hinblick auf den Gegenstand der Untersuchung oder Inspektion und die vom Büro für Künstliche Intelligenz mit dem Beschluss vorgelegten Unterlagen weder willkürlich noch unverhältnismäßig sind. 9 Bei der Prüfung der Verhältnismäßigkeit von Zwangsmaßnahmen kann die nationale Justizbehörde das Büro für Künstliche Intelligenz um detaillierte Erläuterungen bitten, insbesondere in Bezug auf die Gründe, die dem Büro für Künstliche Intelligenz Anlass zu der Vermutung geben, dass ein Verstoß gegen diese Verordnung vorliegt, sowie auf die Schwere des mutmaßlichen Verstoßes und die Art der Beteiligung der Person, gegen die sich die Zwangsmaßnahmen richten. 10 Die nationale Justizbehörde darf weder die Notwendigkeit der Untersuchung oder Inspektion prüfen noch Auskünfte aus der Verfahrensakte des Büros für Künstliche Intelligenz verlangen. 11 Gemäß den Verträgen unterliegt die Rechtmäßigkeit des Beschlusses des Büros für Künstliche Intelligenz ausschließlich der Kontrolle durch den Gerichtshof der Europäischen Union. (5) 1 Auf Ersuchen des Büros für Künstliche Intelligenz kann die zuständige Marktüberwachungsbehörde eines Mitgliedstaats in ihrem eigenen Hoheitsgebiet im Namen und für Rechnung des Büros für Künstliche Intelligenz Untersuchungen, Inspektionen oder andere Maßnahmen zur Sachverhaltsaufklärung durchführen, um festzustellen, ob ein Verstoß gegen diese Verordnung vorliegt. 2 Die Bediensteten der zuständigen Behörden der Mitgliedstaaten, die für die Durchführung solcher Untersuchungen, Inspektionen oder Maßnahmen zur Sachverhaltsaufklärung zuständig sind, sowie die von ihnen ermächtigten oder bestellten Personen üben ihre Befugnisse nach Maßgabe ihres nationalen Rechts aus. (6) Zusätzlich zu den in Absatz 1 dieses Artikels genannten Befugnissen kann das Büro für Künstliche Intelligenz in Ausübung seiner in Artikel 75 Absatz 1 genannten Zuständigkeiten a) Akteure anweisen, Zugang zu ihren KI-Systemen zu gewähren und einschlägige Erläuterungen bereitzustellen, b) einem Akteur die Verpflichtung auferlegen, alle Daten und Unterlagen aufzubewahren, die als erforderlich erachtet werden, damit die Umsetzung und Einhaltung der aus dieser Verordnung erwachsenden Verpflichtungen bewertet werden kann. (7) 1 Das Büro für Künstliche Intelligenz kann mit Zustimmung der betreffenden Behörde unabhängige externe Sachverständige und Prüfer sowie Sachverständige, Untersuchungsteams und Prüfer aus den zuständigen Behörden des Mitgliedstaats bestellen, um es bei der Überwachung der wirksamen Durchführung und Einhaltung der einschlägigen Bestimmungen dieser Verordnung zu unterstützen und dem Büro für Künstliche Intelligenz spezifisches Fachwissen oder spezifische Kenntnisse bei der Ausübung seiner Befugnisse gemäß Artikel 75 Absatz 1 zur Verfügung zu stellen. 2 Die im Rahmen dieser Überwachungsmaßnahmen erlangten Informationen werden an die einschlägigen zuständigen Behörden der Mitgliedstaaten weitergegeben. (8) Die nach diesem Artikel erhobenen Informationen dürfen ausschließlich für den Zweck dieser Verordnung verwendet werden. |
Artikel 75b (neu) | Artikel 75b Verpflichtungszusagen |
| | 1 Bietet der betreffende Akteur während des Verfahrens nach Artikel 75a Absatz 2 Verpflichtungszusagen an, mit denen die Einhaltung der einschlägigen Bestimmungen dieser Verordnung sichergestellt wird, so kann das Büro für Künstliche Intelligenz diese Verpflichtungszusagen durch einen Beschluss für den Akteur für bindend erklären und feststellen, dass es keinen weiteren Anlass zum Handeln gibt. 2 Das Büro für Künstliche Intelligenz kann das Verfahren auf Antrag oder von Amts wegen wieder aufnehmen, wenn a) sich der Sachverhalt, auf den sich der Beschluss stützte, in einem wesentlichen Punkt geändert hat, b) der Akteur seinen Verpflichtungszusagen zuwiderhandelt oder c) der Beschluss auf unvollständigen, unrichtigen oder irreführenden Angaben des betreffenden Akteurs beruhte. 3 Ist das Büro für Künstliche Intelligenz der Auffassung, dass die von dem betreffenden Akteur angebotenen Verpflichtungszusagen die wirksame Einhaltung der einschlägigen Bestimmungen dieser Verordnung nicht sicherstellen können, so lehnt sie diese Verpflichtungszusagen bei Abschluss des Verfahrens in einem mit Gründen versehenen Beschluss ab. |
Artikel 75c (neu) | Artikel 75c Verstöße, Geldbußen und Zwangsgelder |
| | (1) Stellt das Büro für Künstliche Intelligenz fest, dass ein Akteur, der in den Anwendungsbereich von Artikel 75 Absatz 1 fällt, die einschlägigen Bestimmungen dieser Verordnung oder die gemäß Artikel 75b für bindend erklärten Verpflichtungszusagen nicht einhält, so erlässt es einen Beschluss, mit dem ein solcher Verstoß festgestellt wird. (2) 1 Vor Erlass des Beschlusses nach Absatz 1 teilt das Büro für Künstliche Intelligenz dem betreffenden Akteur seine vorläufige Beurteilung mit. 2 In dieser vorläufigen Beurteilung erläutert das Büro für Künstliche Intelligenz, welche Maßnahmen es zu ergreifen beabsichtigt bzw. der betreffende Akteur ergreifen sollte, um der vorläufigen Beurteilung wirksam Rechnung zu tragen. (3) 1 In dem Beschluss gemäß Absatz 1 dieses Artikels ordnet das Büro für Künstliche Intelligenz gegebenenfalls an, dass der betreffende Akteur die erforderlichen Maßnahmen ergreift, um die Einhaltung der einschlägigen Bestimmungen dieser Verordnung innerhalb einer angemessenen, darin genannten Frist sicherzustellen, und dass der Akteur Informationen über die Maßnahmen übermittelt, die er zu ergreifen beabsichtigt, um dem Beschluss nachzukommen. 2 Der betreffende Akteur legt dem Büro für Künstliche Intelligenz eine Beschreibung der Maßnahmen vor, die er ergriffen hat, um die Einhaltung des Beschlusses durch ihre Umsetzung sicherzustellen. 3 Bevor das Büro für Künstliche Intelligenz eine Maßnahme fordert, kann es einen strukturierten Dialog mit dem Akteur des betreffenden KI-Systems aufnehmen. 4 Während dieses Dialogs kann der Akteur Verpflichtungszusagen gemäß Artikel 75b vorschlagen. (4) 1 Ein nach Absatz 1 dieses Artikels erlassener Beschluss kann mit der Verhängung von Sanktionen gemäß Artikel 99 Absätze 3 bis 7 einhergehen, deren Bestimmungen sinngemäß für das Büro für Künstliche Intelligenz bei der Wahrnehmung seiner Aufsichts- und Durchsetzungsaufgaben gemäß Artikel 75 Absatz 1 gelten. 2 Mit Geldbußen nach Artikel 99 Absatz 4 werden insbesondere belegt: a) Verstöße gegen anwendbare Bestimmungen dieser Verordnung, einschließlich der nicht in Artikel 99 Absatz 4 aufgeführten Bestimmungen; b) die Nichteinhaltung von Beschlüssen oder Maßnahmen, die gemäß den in Artikel 14 Absatz 4 oder Artikel 16 Absatz 3 der Verordnung (EU) 2019/1020 aufgeführten Befugnissen sowie den in Artikel 75a dieser Verordnung aufgeführten Befugnissen erlassen wurden; c) die Nichteinhaltung einer Verpflichtungszusage, die durch einen Beschluss gemäß Artikel 75b für bindend erklärt wurde. 3 Die Übermittlung unrichtiger, unvollständiger oder irreführender Informationen an das Büro für Künstliche Intelligenz als Antwort auf ein Ersuchen wird mit Geldbußen gemäß Artikel 99 Absatz 5 belegt. (5) 1 Das Büro für Künstliche Intelligenz kann einen Beschluss zur Verhängung von Zwangsgeldern erlassen, um die seiner Zuständigkeit unterliegenden Akteure gemäß Artikel 75 Absatz 1 zu zwingen, a) eine Untersuchung zu dulden, b) einem durch einen Beschluss gemäß Artikel 75a Absatz 3 angeordneten Informationsersuchen nachzukommen, c) sich einer durch einen Beschluss gemäß Artikel 75a Absatz 4 angeordneten Inspektion zu unterziehen, d) im Rahmen einer durch einen Beschluss gemäß Artikel 75a Absatz 4 angeordneten Inspektion richtige oder vollständige Antworten oder Erläuterungen zu geben, e) den gemäß der Befugnis nach Artikel 16 der Verordnung (EU) 2019/1020 angeordneten Korrekturmaßnahmen nachzukommen, f) durch Beschluss nach Artikel 75b für bindend erklärte Verpflichtungszusagen einzuhalten oder g) einem Beschluss nach Absatz 1 dieses Artikels nachzukommen. 2 Diese Zwangsgelder müssen wirksam und verhältnismäßig sein und dürfen gegebenenfalls 5 % der durchschnittlichen Tageseinnahmen oder des durchschnittlichen weltweiten Jahresumsatzes im vorangegangenen Geschäftsjahr pro Tag, berechnet ab dem durch den Beschluss bestimmten Tag, nicht übersteigen. (6) 1 Der Gerichtshof der Europäischen Union besitzt die unbeschränkte Befugnis zur Überprüfung von Beschlüssen, mit denen das Büro für Künstliche Intelligenz eine Geldbuße oder ein Zwangsgeld gemäß diesem Artikel verhängt hat. 2 Er kann die verhängten Geldbußen oder Zwangsgelder aufheben, herabsetzen oder erhöhen. (7) Das Aufkommen aus den nach diesem Artikel verhängten Geldbußen oder Zwangsgeldern trägt zum Gesamthaushalt der Union bei. (8) 1 Die Befugnisse, die dem Büro für Künstliche Intelligenz mit diesem Artikel übertragen wurden, verjähren nach einer Frist von fünf Jahren. 2 Die Verjährungsfrist beginnt mit dem Tag, an dem der Verstoß begangen wird. 3 Im Fall andauernder oder wiederholter Verstöße läuft die Verjährungsfrist jedoch ab dem Tag, an dem der Verstoß beendet wird. 4 Die Befugnis des Büros für Künstliche Intelligenz zur Vollstreckung von Beschlüssen nach diesem Artikel verjährt nach Ablauf von fünf Jahren. 5 Die Verjährungsfrist beginnt mit dem Tag, an dem der Beschluss rechtskräftig wird. 6 In dem in Artikel 75d Absatz 3 genannten Durchführungsrechtsakt werden die Unterabsätze 1 und 2 dieses Absatzes näher festgelegt, einschließlich der Umstände, unter denen die Verjährungsfristen ausgesetzt werden. (9) 1 Stellt das Büro für Künstliche Intelligenz fest, dass keine Gründe für den Erlass eines Beschlusses wegen Nichteinhaltung vorliegen, so schließt es das Verfahren mit einem Beschluss ab. 2 Dieser Beschluss ist sofort anwendbar. |
Artikel 75d (neu) | Artikel 75d Schutzvorkehrungen und weitere Spezifizierung |
| | (1) Unbeschadet der in dieser Verordnung enthaltenen spezifischeren Verfahrensrechte gilt Artikel 18 der Verordnung (EU) 2019/1020 sinngemäß für Akteure, die gemäß Artikel 75 Absatz 1 dieser Verordnung in die Zuständigkeit des Büros für Künstliche Intelligenz fallen. (2) 1 Die Verteidigungsrechte und das Recht auf Einsicht in die Akten von Akteuren, die in den Anwendungsbereich von Artikel 75 Absatz 1 fallen, werden in den Verfahren in vollem Umfang gewahrt. 2 Im Hinblick auf den möglichen Erlass von Beschlüssen auf der Grundlage von Artikel 75c Absatz 1 haben diese Akteure das Recht auf Einsicht in die Akten des Büros für Künstliche Intelligenz im Rahmen einer einvernehmlichen Einsichtnahme, vorbehaltlich des berechtigten Interesses des Akteurs oder einer anderen betroffenen Person an der Wahrung ihrer Geschäftsgeheimnisse. 3 Das Büro für Künstliche Intelligenz ist befugt, im Falle von Meinungsverschiedenheiten zwischen den Parteien Beschlüsse über die Bedingungen dieser Einsichtnahme zu fassen. 4 Von der Einsicht in die Akten ausgenommen sind vertrauliche Informationen sowie interne Schriftstücke des Büros für Künstliche Intelligenz, anderer zuständiger Marktüberwachungsbehörden oder anderer öffentlicher Stellen der Mitgliedstaaten. 5 Insbesondere ist die Korrespondenz zwischen dem Büro für Künstliche Intelligenz und diesen Behörden und Stellen von der Akteneinsicht ausgenommen. 6 Die Regelung dieses Absatzes steht der Offenlegung und Nutzung der für den Nachweis einer Zuwiderhandlung notwendigen Informationen durch das Büro für Künstliche Intelligenz in keiner Weise entgegen. (3) Die Kommission kann Durchführungsrechtsakte zu den praktischen Modalitäten für die Akteneinsicht und die einvernehmliche Offenlegung von Informationen gemäß Absatz 2 erlassen. (4) 1 Das Büro für Künstliche Intelligenz veröffentlicht die Beschlüsse, die es nach den Artikeln 75b und 75c erlässt. 2 In diesen Veröffentlichungen sind die Namen der beteiligten Unternehmen und der wesentliche Inhalt des Beschlusses, einschließlich der gegebenenfalls verhängten Sanktionen, anzugeben. 3 Bei der Veröffentlichung ist den Rechten und dem berechtigten Interesse aller Personen am Schutz ihrer vertraulichen Informationen Rechnung zu tragen. |
Artikel 76 Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden | |
| (1) Marktüberwachungsbehörden müssen über die Kompetenzen und Befugnisse verfügen, um sicherzustellen, dass Tests unter Realbedingungen gemäß dieser Verordnung erfolgen. | (1) 1 Marktüberwachungsbehörden müssen über die Kompetenzen und Befugnisse verfügen, um sicherzustellen, dass Tests unter Realbedingungen gemäß dieser Verordnung erfolgen. 2 Beruht der Test unter Realbedingungen auf Artikel 60a, so gilt jede Bezugnahme auf eine Marktüberwachungsbehörde in diesem Artikel als Bezugnahme auf die zuständige nationale Behörde oder die gemäß den in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union zuständige Behörde, und Bezugnahmen auf Artikel 60 gelten entsprechend als Bezugnahmen auf Artikel 60a. |
(2) 1 Wenn ein Test unter Realbedingungen für KI-Systeme durchgeführt wird, die in einem KI-Reallabor gemäß Artikel 58 beaufsichtigt werden, überprüfen die Marktüberwachungsbehörden im Rahmen ihrer Aufsichtsaufgaben für das KI-Reallabor die Einhaltung des Artikels 60. 2 Die Behörden können gegebenenfalls gestatten, dass der Anbieter oder zukünftige Anbieter den Test unter Realbedingungen in Abweichung von den in Artikel 60 Absatz 4 Buchstaben f und g festgelegten Bedingungen durchführt. (3) Wenn eine Marktüberwachungsbehörde vom zukünftigen Anbieter, vom Anbieter oder von einem Dritten über einen schwerwiegenden Vorfall informiert wurde oder Grund zu der Annahme hat, dass die in den Artikeln 60 und 61 festgelegten Bedingungen nicht erfüllt sind, kann sie - je nachdem, was angemessen ist - in ihrem Hoheitsgebiet gegebenenfalls entscheiden, entweder a) den Test unter Realbedingungen auszusetzen oder abzubrechen oder b) den Anbieter oder zukünftigen Anbieter und die Betreiber oder zukünftigen Betreiber zur Änderung eines beliebigen Aspekts des Tests unter Realbedingungen zu verpflichten. (4) Wenn eine Marktüberwachungsbehörde eine Entscheidung nach Absatz 3 des vorliegenden Artikels getroffen oder Einwände im Sinne des Artikels 60 Absatz 4 Buchstabe b erhoben hat, sind im Rahmen der Entscheidung oder der Einwände die Gründe dafür zu nennen sowie anzugeben, wie der Anbieter oder zukünftige Anbieter die Entscheidung oder die Einwände anfechten kann. (5) Wenn eine Marktüberwachungsbehörde eine Entscheidung nach Absatz 3 getroffen hat, teilt sie ihre Gründe dafür gegebenenfalls den Marktüberwachungsbehörden anderer Mitgliedstaaten mit, in denen das KI-System gemäß dem Plan für den Test getestet wurde. | |
Artikel 77 Befugnisse der für den Schutz der Grundrechte zuständigen Behörden | Artikel 77 Befugnisse der für den Schutz der Grundrechte zuständigen Behörden und Zusammenarbeit mit den Marktüberwachungsbehörden |
| (1) 1 Nationale Behörden oder öffentliche Stellen, die die Einhaltung des Unionsrechts zum Schutz der Grundrechte, einschließlich des Rechts auf Nichtdiskriminierung, in Bezug auf die Verwendung der in Anhang III genannten Hochrisiko-KI-Systeme beaufsichtigen oder durchsetzen, sind befugt, sämtliche auf der Grundlage dieser Verordnung in zugänglicher Sprache und Format erstellte oder geführte Dokumentation anzufordern und einzusehen, sofern der Zugang zu dieser Dokumentation für die wirksame Ausübung ihrer Aufträge im Rahmen ihrer Befugnisse innerhalb der Grenzen ihrer Hoheitsgewalt notwendig ist. 2 Die jeweilige Behörde oder öffentliche Stelle informiert die Marktüberwachungsbehörde des betreffenden Mitgliedstaats von jeder diesbezüglichen Anfrage. | (1) 1 Nationale Behörden oder öffentliche Stellen, die die Einhaltung des Unionsrechts zum Schutz der Grundrechte, einschließlich des Rechts auf Nichtdiskriminierung, beaufsichtigen oder durchsetzen, sind befugt, von der betreffenden Marktüberwachungsbehörde sämtliche auf der Grundlage dieser Verordnung erstellten oder geführten Informationen oder Dokumentationen in zugänglicher Sprache und maschinenlesbarer Form auf elektronischem Weg anzufordern und einzusehen, sofern der Zugang zu diesen Informationen oder Dokumentationen für die wirksame Ausübung ihrer Aufträge im Rahmen ihrer Befugnisse innerhalb der Grenzen ihrer Hoheitsgewalt notwendig ist. 2 Dieser Artikel gilt unbeschadet der Zuständigkeiten, Aufgaben, Befugnisse und Unabhängigkeit der zuständigen nationalen Behörden oder öffentlichen Stellen im Rahmen ihres Auftrags. (1a) Unter den in diesem Artikel genannten Bedingungen gewährt die Marktüberwachungsbehörde der in Absatz 1 genannten zuständigen Behörde oder öffentlichen Stelle Zugang zu diesen Informationen oder Dokumentationen, wozu sie diese Informationen oder Dokumentationen erforderlichenfalls und unverzüglich auch erst vom Anbieter oder Betreiber anfordert. (1b) 1 Die Marktüberwachungsbehörden und die in Absatz 1 genannten Behörden oder öffentlichen Stellen arbeiten eng zusammen und leisten einander die für die Wahrnehmung ihrer jeweiligen Aufgaben erforderliche Amtshilfe, um die kohärente Anwendung dieser Verordnung und des Unionsrechts zum Schutz der Grundrechte zu gewährleisten und die Verfahren zu straffen und gleichzeitig ihre jeweiligen Zuständigkeiten, Aufgaben, Befugnisse und ihre Unabhängigkeit zu achten. 2 Dies umfasst insbesondere den Austausch von Informationen, soweit dieser für die wirksame Beaufsichtigung oder Durchsetzung im Rahmen dieser Verordnung und der anderen einschlägigen Rechtsvorschriften der Union erforderlich ist. |
(2) 1 Bis 2. November 2024 muss jeder Mitgliedstaat die in Absatz 1 genannten Behörden oder öffentlichen Stellen benennen und in einer öffentlichen Liste verfügbar machen. 2 Die Mitgliedstaaten übermitteln die Liste der Kommission und den anderen Mitgliedstaaten und halten die Liste auf dem neuesten Stand. (3) 1 Sollte die in Absatz 1 genannte Dokumentation nicht ausreichen, um feststellen zu können, ob ein Verstoß gegen das Unionsrecht zum Schutz der Grundrechte vorliegt, so kann die in Absatz 1 genannte Behörde oder öffentliche Stelle bei der Marktüberwachungsbehörde einen begründeten Antrag auf Durchführung eines technischen Tests des Hochrisiko-KI-Systems stellen. 2 Die Marktüberwachungsbehörde führt den Test unter enger Einbeziehung der beantragenden Behörde oder öffentlichen Stelle innerhalb eines angemessenen Zeitraums nach Eingang des Antrags durch. (4) Jegliche Informationen oder Dokumentation, in deren Besitz die in Absatz 1 des vorliegenden Artikels genannten nationalen Behörden oder öffentlichen Stellen auf der Grundlage des vorliegenden Artikels gelangen, werden im Einklang mit den in Artikel 78 festgelegten Vertraulichkeitspflichten behandelt. | |
Artikel 95 Verhaltenskodizes für die freiwillige Anwendung bestimmter Anforderungen | |
(1) Das Büro für Künstliche Intelligenz und die Mitgliedstaaten fördern und erleichtern die Aufstellung von Verhaltenskodizes, einschließlich damit zusammenhängender Governance-Mechanismen, mit denen die freiwillige Anwendung einiger oder aller der in Kapitel III Abschnitt 2 genannten Anforderungen auf KI-Systeme, die kein hohes Risiko bergen, gefördert werden soll, wobei den verfügbaren technischen Lösungen und bewährten Verfahren der Branche, die die Anwendung dieser Anforderungen ermöglichen, Rechnung zu tragen ist. (2) Das Büro für Künstliche Intelligenz und die Mitgliedstaaten erleichtern die Aufstellung von Verhaltenskodizes in Bezug auf die freiwillige Anwendung spezifischer Anforderungen auf alle KI-Systeme, einschließlich durch Betreiber, auf der Grundlage klarer Zielsetzungen sowie wesentlicher Leistungsindikatoren zur Messung der Erfüllung dieser Zielsetzungen, einschließlich unter anderem folgender Elemente: a) in den Ethik-Leitlinien der Union für eine vertrauenswürdige KI enthaltene anwendbare Elemente; b) Beurteilung und Minimierung der Auswirkungen von KI-Systemen auf die ökologische Nachhaltigkeit, einschließlich im Hinblick auf energieeffizientes Programmieren, und Techniken, um KI effizient zu gestalten, zu trainieren und zu nutzen; c) Förderung der KI-Kompetenz, insbesondere der von Personen, die mit der Entwicklung, dem Betrieb und der Nutzung von KI befasst sind; d) Erleichterung einer inklusiven und vielfältigen Gestaltung von KI-Systemen, unter anderem durch die Einsetzung inklusiver und vielfältiger Entwicklungsteams und die Förderung der Beteiligung der Interessenträger an diesem Prozess; e) Bewertung und Verhinderung der negativen Auswirkungen von KI-Systemen auf schutzbedürftige Personen oder Gruppen schutzbedürftiger Personen, einschließlich im Hinblick auf die Barrierefreiheit für Personen mit Behinderungen, sowie auf die Gleichstellung der Geschlechter. (3) 1 Verhaltenskodizes können von einzelnen KI-System-Anbietern oder -Betreibern oder von Interessenvertretungen dieser Anbieter oder Betreiber oder von beiden aufgestellt werden, auch unter Einbeziehung von Interessenträgern sowie deren Interessenvertretungen einschließlich Organisationen der Zivilgesellschaft und Hochschulen. 2 Verhaltenskodizes können sich auf ein oder mehrere KI-Systeme erstrecken, um ähnlichen Zweckbestimmungen der jeweiligen Systeme Rechnung zu tragen. | |
| (4) Das Büro für Künstliche Intelligenz und die Mitgliedstaaten berücksichtigen die besonderen Interessen und Bedürfnisse von KMU, einschließlich Startups, bei der Förderung und Erleichterung der Aufstellung von Verhaltenskodizes. | (4) Das Büro für Künstliche Intelligenz und die Mitgliedstaaten berücksichtigen die besonderen Interessen und Bedürfnisse von KMU, einschließlich Startups, und von kleinen Midcap-Unternehmen bei der Förderung und Erleichterung der Aufstellung von Verhaltenskodizes. |
Artikel 96 Leitlinien der Kommission zur Durchführung dieser Verordnung | |
(1) 1 Die Kommission erarbeitet Leitlinien für die praktische Umsetzung dieser Verordnung, die sich insbesondere auf Folgendes beziehen: | |
| a) die Anwendung der in den Artikeln 8 bis 15 und in Artikel 25 genannten Anforderungen und Pflichten; | a) die Anwendung der in den Artikeln 8 bis 15 und in den Artikeln 25 und 26 genannten Anforderungen und Pflichten; |
b) die in Artikel 5 genannten verbotenen Praktiken; c) die praktische Durchführung der Bestimmungen über wesentliche Veränderungen; d) die praktische Umsetzung der Transparenzpflichten gemäß Artikel 50; e) detaillierte Informationen über das Verhältnis dieser Verordnung zu den in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union sowie zu anderen einschlägigen Rechtsvorschriften der Union, auch in Bezug auf deren kohärente Durchsetzung; | |
| f) die Anwendung der Definition eines KI-Systems gemäß Artikel 3 Nummer 1. 2 Wenn die Kommission solche Leitlinien herausgibt, widmet sie den Bedürfnissen von KMU einschließlich Start-up-Unternehmen, von lokalen Behörden und von den am wahrscheinlichsten von dieser Verordnung betroffenen Sektoren besondere Aufmerksamkeit. | f) die Anwendung der Definition eines KI-Systems gemäß Artikel 3 Nummer 1 g) die praktische Umsetzung von Artikel 8 Absatz 2, Artikel 9 Absatz 10 und Artikel 17 Absatz 3 im Einklang mit dem Grundsatz der Komplementarität und Verhältnismäßigkeit mit Blick darauf, Kohärenz zu gewährleisten, Doppelarbeit zu vermeiden und den zusätzlichen Aufwand bei der Erfüllung der Anforderungen dieser Verordnung und der Anforderungen der in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union so gering wie möglich zu halten; diese Leitlinien werden bis zum 1. August 2027 veröffentlicht. 2 Wenn die Kommission solche Leitlinien herausgibt, bezieht sie das KI-Gremium ein und widmet den Bedürfnissen von KMU, einschließlich Start-up-Unternehmen, und von kleinen Midcap-Unternehmen, von lokalen Behörden und von den am wahrscheinlichsten von dieser Verordnung betroffenen Sektoren besondere Aufmerksamkeit. |
3 Die Leitlinien gemäß Unterabsatz 1 dieses Absatzes tragen dem allgemein anerkannten Stand der Technik im Bereich KI sowie den einschlägigen harmonisierten Normen und gemeinsamen Spezifikationen, auf die in den Artikeln 40 und 41 Bezug genommen wird, oder den harmonisierten Normen oder technischen Spezifikationen, die gemäß den Harmonisierungsrechtsvorschriften der Union festgelegt wurden, gebührend Rechnung. (2) Auf Ersuchen der Mitgliedstaaten oder des Büros für Künstliche Intelligenz oder von sich aus aktualisiert die Kommission früher verabschiedete Leitlinien, wenn es als notwendig erachtet wird. | |
Artikel 97 Ausübung der Befugnisübertragung | |
(1) Die Befugnis zum Erlass delegierter Rechtsakte wird der Kommission unter den in diesem Artikel festgelegten Bedingungen übertragen. | |
| (2) 1 Die in Artikel 6 Absätze 6 und 7, Artikel 7 Absätze 1 und 3, Artikel 11 Absatz 3, Artikel 43 Absätze 5 und 6, Artikel 47 Absatz 5, Artikel 51 Absatz 3, Artikel 52 Absatz 4 sowie Artikel 53 Absätze 5 und 6 genannte Befugnis zum Erlass delegierter Rechtsakte wird der Kommission für einen Zeitraum von fünf Jahren ab 1. August 2024 übertragen. 2 Die Kommission erstellt spätestens neun Monate vor Ablauf des Zeitraums von fünf Jahren einen Bericht über die Befugnisübertragung. 3 Die Befugnisübertragung verlängert sich stillschweigend um Zeiträume gleicher Länge, es sei denn, das Europäische Parlament oder der Rat widersprechen einer solchen Verlängerung spätestens drei Monate vor Ablauf des jeweiligen Zeitraums. (3) 1 Die Befugnisübertragung gemäß Artikel 6 Absätze 6 und 7, Artikel 7 Absätze 1 und 3, Artikel 11 Absatz 3, Artikel 43 Absätze 5 und 6, Artikel 47 Absatz 5, Artikel 51 Absatz 3, Artikel 52 Absatz 4 sowie Artikel 53 Absätze 5 und 6 kann vom Europäischen Parlament oder vom Rat jederzeit widerrufen werden. 2 Der Beschluss über den Widerruf beendet die Übertragung der in jenem Beschluss angegebenen Befugnis. 3 Er wird am Tag nach seiner Veröffentlichung im Amtsblatt der Europäischen Union oder zu einem darin angegebenen späteren Zeitpunkt wirksam. 4 Die Gültigkeit von delegierten Rechtsakten, die bereits in Kraft sind, wird von dem Beschluss über den Widerruf nicht berührt. | (2) 1 Die in Artikel 6 Absätze 6 und 7, Artikel 7 Absätze 1 und 3, Artikel 11 Absatz 3, Artikel 43 Absätze 5 und 6, Artikel 47 Absatz 5, Artikel 51 Absatz 3, Artikel 52 Absatz 4 sowie Artikel 53 Absätze 5 und 6 genannte Befugnis zum Erlass delegierter Rechtsakte wird der Kommission für einen Zeitraum von fünf Jahren ab 1. August 2024 übertragen. 2 Die in Artikel 2 Absatz 13 und Artikel 30 Absatz 2 genannte Befugnis zum Erlass delegierter Rechtsakte wird der Kommission für einen Zeitraum von fünf Jahren ab 27. Juli 2026 übertragen. 3 Die Kommission erstellt spätestens neun Monate vor Ablauf des Zeitraums von fünf Jahren einen Bericht über die Befugnisübertragung. 4 Die Befugnisübertragung verlängert sich stillschweigend um Zeiträume gleicher Länge, es sei denn, das Europäische Parlament oder der Rat widersprechen einer solchen Verlängerung spätestens drei Monate vor Ablauf des jeweiligen Zeitraums. (3) 1 Die Befugnisübertragung gemäß Artikel 2 Absatz 13, Artikel 6 Absätze 6 und 7, Artikel 7 Absätze 1 und 3, Artikel 11 Absatz 3, Artikel 30 Absatz 2, Artikel 43 Absätze 5 und 6, Artikel 47 Absatz 5, Artikel 51 Absatz 3, Artikel 52 Absatz 4 sowie Artikel 53 Absätze 5 und 6 kann vom Europäischen Parlament oder vom Rat jederzeit widerrufen werden. 2 Der Beschluss über den Widerruf beendet die Übertragung der in jenem Beschluss angegebenen Befugnis. 3 Er wird am Tag nach seiner Veröffentlichung im Amtsblatt der Europäischen Union oder zu einem darin angegebenen späteren Zeitpunkt wirksam. 4 Die Gültigkeit von delegierten Rechtsakten, die bereits in Kraft sind, wird von dem Beschluss über den Widerruf nicht berührt. |
(4) Vor dem Erlass eines delegierten Rechtsakts konsultiert die Kommission die von den einzelnen Mitgliedstaaten benannten Sachverständigen im Einklang mit den in der Interinstitutionellen Vereinbarung vom 13. April 2016 über bessere Rechtsetzung niedergelegten Grundsätzen. (5) Sobald die Kommission einen delegierten Rechtsakt erlässt, übermittelt sie ihn gleichzeitig dem Europäischen Parlament und dem Rat. | |
| (6) 1 Ein delegierter Rechtsakt, der nach Artikel 6 Absatz 6 oder 7, Artikel 7 Absatz 1 oder 3, Artikel 11 Absatz 3, Artikel 43 Absatz 5 oder 6, Artikel 47 Absatz 5, Artikel 51 Absatz 3, Artikel 52 Absatz 4 sowie Artikel 53 Absatz 5 oder 6 erlassen wurde, tritt nur in Kraft, wenn weder das Europäische Parlament noch der Rat innerhalb einer Frist von drei Monaten nach Übermittlung jenes Rechtsakts an das Europäische Parlament und den Rat Einwände erhoben haben oder wenn vor Ablauf dieser Frist das Europäische Parlament und der Rat beide der Kommission mitgeteilt haben, dass sie keine Einwände erheben werden. 2 Auf Initiative des Europäischen Parlaments oder des Rates wird diese Frist um drei Monate verlängert. | (6) 1 Ein delegierter Rechtsakt, der nach Artikel 2 Absatz 13, Artikel 6 Absatz 6 oder 7, Artikel 7 Absatz 1 oder 3, Artikel 11 Absatz 3, Artikel 30 Absatz 2, Artikel 43 Absatz 5 oder 6, Artikel 47 Absatz 5, Artikel 51 Absatz 3, Artikel 52 Absatz 4 sowie Artikel 53 Absatz 5 oder 6 erlassen wurde, tritt nur in Kraft, wenn weder das Europäische Parlament noch der Rat innerhalb einer Frist von drei Monaten nach Übermittlung jenes Rechtsakts an das Europäische Parlament und den Rat Einwände erhoben haben oder wenn vor Ablauf dieser Frist das Europäische Parlament und der Rat beide der Kommission mitgeteilt haben, dass sie keine Einwände erheben werden. 2 Auf Initiative des Europäischen Parlaments oder des Rates wird diese Frist um drei Monate verlängert. |
Artikel 99 Sanktionen | |
| (1) 1 Entsprechend den Vorgaben dieser Verordnung erlassen die Mitgliedstaaten Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nichtmonetäre Maßnahmen gehören können, die bei Verstößen gegen diese Verordnung durch Akteure Anwendung finden, und ergreifen alle Maßnahmen, die für deren ordnungsgemäße und wirksame Durchsetzung notwendig sind, wobei die von der Kommission gemäß Artikel 96 erteilten Leitlinien zu berücksichtigen sind. 2 Die vorgesehenen Sanktionen müssen wirksam, verhältnismäßig und abschreckend sein. 3 Sie berücksichtigen die Interessen von KMU, einschließlich Start-up-Unternehmen, sowie deren wirtschaftliches Überleben. | (1) 1 Entsprechend den Vorgaben dieser Verordnung erlassen die Mitgliedstaaten Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, zu denen auch Geldbußen, Verwarnungen und nichtmonetäre Maßnahmen gehören können, die bei jeglichem Verstoß gegen diese Verordnung durch Akteure Anwendung finden, und ergreifen alle Maßnahmen, die für deren ordnungsgemäße und wirksame Durchsetzung notwendig sind, wobei die von der Kommission gemäß Artikel 96 erteilten Leitlinien zu berücksichtigen sind. 2 Die vorgesehenen Sanktionen müssen wirksam, verhältnismäßig und abschreckend sein. 3 Die Mitgliedstaaten berücksichtigen bei der Verhängung von Sanktionen die Interessen von KMU, einschließlich Start-up-Unternehmen, und von kleinen Midcap-Unternehmen sowie deren wirtschaftliches Überleben. |
(2) Die Mitgliedstaaten teilen der Kommission die Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen gemäß Absatz 1 unverzüglich und spätestens zum Zeitpunkt ihres Inkrafttretens mit und melden ihr unverzüglich etwaige spätere Änderungen. (3) Bei Missachtung des Verbots der in Artikel 5 genannten KI-Praktiken werden Geldbußen von bis zu 35.000.000 EUR oder - im Falle von Unternehmen - von bis zu 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist. (4) Für Verstöße gegen folgende für Akteure oder notifizierte Stellen geltende Bestimmungen, mit Ausnahme der in Artikel 5 genannten, werden Geldbußen von bis zu 15.000.000 EUR oder - im Falle von Unternehmen - von bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist: a) Pflichten der Anbieter gemäß Artikel 16; b) Pflichten der Bevollmächtigten gemäß Artikel 22; c) Pflichten der Einführer gemäß Artikel 23; d) Pflichten der Händler gemäß Artikel 24; | |
| | da) Pflichten der Anbieter und Akteure gemäß Artikel 25 Absätze 2 und 4; |
e) Pflichten der Betreiber gemäß Artikel 26; f) für notifizierte Stellen geltende Anforderungen und Pflichten gemäß Artikel 31, Artikel 33 Absätze 1, 3 und 4 bzw. Artikel 34; g) Transparenzpflichten für Anbieter und Betreiber gemäß Artikel 50. (5) Werden notifizierten Stellen oder zuständigen nationalen Behörden auf deren Auskunftsersuchen hin falsche, unvollständige oder irreführende Informationen bereitgestellt, so werden Geldbußen von bis zu 7.500.000 EUR oder - im Falle von Unternehmen - von bis zu 1 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist. (6) Im Falle von KMU, einschließlich Start-up-Unternehmen, gilt für jede in diesem Artikel genannte Geldbuße der jeweils niedrigere Betrag aus den in den Absätzen 3, 4 und 5 genannten Prozentsätzen oder Summen. | |
| | (6a) Im Falle von kleinen Midcap-Unternehmen gilt für jede in den Absätzen 4 und 5 genannte Geldbuße der jeweils niedrigere Betrag aus den darin genannten Prozentsätzen oder Summen. |
(7) Bei der Entscheidung, ob eine Geldbuße verhängt wird, und bei der Festsetzung der Höhe der Geldbuße werden in jedem Einzelfall alle relevanten Umstände der konkreten Situation sowie gegebenenfalls Folgendes berücksichtigt: a) Art, Schwere und Dauer des Verstoßes und seiner Folgen, unter Berücksichtigung des Zwecks des KI-Systems sowie gegebenenfalls der Zahl der betroffenen Personen und des Ausmaßes des von ihnen erlittenen Schadens; b) ob demselben Akteur bereits von anderen Marktüberwachungsbehörden für denselben Verstoß Geldbußen auferlegt wurden; c) ob demselben Akteur bereits von anderen Behörden für Verstöße gegen das Unionsrecht oder das nationale Recht Geldbußen auferlegt wurden, wenn diese Verstöße auf dieselbe Handlung oder Unterlassung zurückzuführen sind, die einen einschlägigen Verstoß gegen diese Verordnung darstellt; d) Größe, Jahresumsatz und Marktanteil des Akteurs, der den Verstoß begangen hat; e) jegliche anderen erschwerenden oder mildernden Umstände im jeweiligen Fall, wie etwa unmittelbar oder mittelbar durch den Verstoß erlangte finanzielle Vorteile oder vermiedene Verluste; f) Grad der Zusammenarbeit mit den zuständigen nationalen Behörden, um den Verstoß abzustellen und die möglichen nachteiligen Auswirkungen des Verstoßes abzumildern; g) Grad an Verantwortung des Akteurs unter Berücksichtigung der von ihm ergriffenen technischen und organisatorischen Maßnahmen; h) Art und Weise, wie der Verstoß den zuständigen nationalen Behörden bekannt wurde, insbesondere ob und gegebenenfalls in welchem Umfang der Akteur den Verstoß gemeldet hat; i) Vorsätzlichkeit oder Fahrlässigkeit des Verstoßes; j) alle Maßnahmen, die der Akteur ergriffen hat, um den Schaden, der den betroffenen Personen zugefügt wird, zu mindern. (8) Jeder Mitgliedstaat erlässt Vorschriften darüber, in welchem Umfang gegen Behörden und öffentliche Stellen, die in dem betreffenden Mitgliedstaat niedergelassen sind, Geldbußen verhängt werden können. (9) 1 In Abhängigkeit vom Rechtssystem der Mitgliedstaaten können die Vorschriften über Geldbußen je nach den dort geltenden Regeln so angewandt werden, dass die Geldbußen von den zuständigen nationalen Gerichten oder von sonstigen Stellen verhängt werden. 2 Die Anwendung dieser Vorschriften in diesen Mitgliedstaaten muss eine gleichwertige Wirkung haben. (10) Die Ausübung der Befugnisse gemäß diesem Artikel muss angemessenen Verfahrensgarantien gemäß dem Unionsrecht und dem nationalen Recht, einschließlich wirksamer gerichtlicher Rechtsbehelfe und ordnungsgemäßer Verfahren, unterliegen. (11) Die Mitgliedstaaten erstatten der Kommission jährlich Bericht über die Geldbußen, die sie in dem betreffenden Jahr gemäß diesem Artikel verhängt haben, und über damit zusammenhängende Rechtsstreitigkeiten oder Gerichtsverfahren. | |
Artikel 111 Bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck | |
(1) 1 Unbeschadet der Anwendung des Artikels 5 gemäß Artikel 113 Absatz 3 Buchstabe a werden KI-Systeme, bei denen es sich um Komponenten von IT-Großsystemen handelt, die mit den in Anhang X aufgeführten Rechtsakten eingerichtet wurden und vor dem 2. August 2027 in Verkehr gebracht oder in Betrieb genommen wurden, bis zum 31. Dezember 2030 mit dieser Verordnung in Einklang gebracht. 2 Die in dieser Verordnung festgelegten Anforderungen werden bei der Bewertung jedes IT-Großsystems, das mit den in Anhang X aufgeführten Rechtsakten eingerichtet wurde, berücksichtigt, wobei die Bewertung entsprechend den Vorgaben der jeweiligen Rechtsakte und bei Ersetzung oder Änderung dieser Rechtsakte erfolgt. | |
| (2) 1 Unbeschadet der Anwendung des Artikels 5 gemäß Artikel 113 Absatz 3 Buchstabe a gilt diese Verordnung für Akteure in Bezug auf Hochrisiko-KI-Systeme - mit Ausnahme der in Absatz 1 des vorliegenden Artikels genannten Systeme -, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden. 2 In jedem Fall treffen die Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen für die Erfüllung der Anforderungen und Pflichten dieser Verordnung bis zum 2. August 2030. | (2) 1 Unbeschadet der Anwendung des Artikels 5 gemäß Artikel 113 Absatz 3 Buchstabe a gilt diese Verordnung für Akteure von Hochrisiko-KI-Systemen - mit Ausnahme der in Absatz 1 des vorliegenden Artikels genannten Systeme -, die vor dem Beginn der Anwendung des Kapitels III gemäß Artikel 113 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden. 2 In jedem Fall treffen die Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Erfüllung der in dieser Verordnung festgelegten Anforderungen und Pflichten bis zum 2. August 2030. |
(3) Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die vor dem 2. August 2025 in Verkehr gebracht wurden, treffen die erforderlichen Maßnahmen für die Erfüllung der in dieser Verordnung festgelegten Pflichten bis zum 2. August 2027. | |
| | (4) Anbieter von KI-Systemen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, die vor dem 2. August 2026 in Verkehr gebracht wurden, treffen die erforderlichen Maßnahmen, um Artikel 50 Absatz 2 bis zum 2. Dezember 2026 nachzukommen. |
Artikel 113 Inkrafttreten und Geltungsbeginn | |
1 Diese Verordnung tritt am zwanzigsten Tag nach ihrer Veröffentlichung im Amtsblatt der Europäischen Union in Kraft. 2 Sie gilt ab dem 2. August 2026. 3 Jedoch: | |
| a) Die Kapitel I und II gelten ab dem 2. Februar 2025; | a) Die Kapitel I und II gelten ab dem 2. Februar 2025, mit Ausnahme von Artikel 5 Absatz 1 Unterabsatz 1 Buchstaben ba und bb und Artikel 5 Absätze 1a und 1b, die ab dem 2. Dezember 2026 gelten; |
b) Kapitel III Abschnitt 4, Kapitel V, Kapitel VII und Kapitel XII sowie Artikel 78 gelten ab dem 2. August 2025, mit Ausnahme des Artikels 101; | |
| c) Artikel 6 Absatz 1 und die entsprechenden Pflichten gemäß dieser Verordnung gelten ab dem 2. August 2027. | c) Kapitel III Abschnitte 1, 2 und 3, mit Ausnahme von Artikel 6 Absatz 5, gelten ab dem: i) 2. Dezember 2027 in Bezug auf KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind, und ii) 2. August 2028 in Bezug auf KI-Systeme, die gemäß Artikel 6 Absatz 1 und Anhang I als hochriskant eingestuft sind; d) Die Artikel 102 bis 110 gelten ab dem 27. Juli 2026. |
ANHANG I Liste der Harmonisierungsrechtsvorschriften der Union | |
Abschnitt A - Liste der Harmonisierungsrechtsvorschriften der Union auf der Grundlage des neuen Rechtsrahmens | |
| 1. Richtlinie 2006/42/EG des Europäischen Parlaments und des Rates vom 17. Mai 2006 über Maschinen und zur Änderung der Richtlinie 95/16/EG (ABl. L 157 vom 9.6.2006, S. 24) | 1. (aufgehoben) |
2. Richtlinie 2009/48/EG des Europäischen Parlaments und des Rates vom 18. Juni 2009 über die Sicherheit von Spielzeug (ABl. L 170 vom 30.6.2009, S. 1) 3. Richtlinie 2013/53/EU des Europäischen Parlaments und des Rates vom 20. November 2013 über Sportboote und Wassermotorräder und zur Aufhebung der Richtlinie 94/25/EG (ABl. L 354 vom 28.12.2013, S. 90) 4. Richtlinie 2014/33/EU des Europäischen Parlaments und des Rates vom 26. Februar 2014 zur Angleichung der Rechtsvorschriften der Mitgliedstaaten über Aufzüge und Sicherheitsbauteile für Aufzüge (ABl. L 96 vom 29.3.2014, S. 251) 5. Richtlinie 2014/34/EU des Europäischen Parlaments und des Rates vom 26. Februar 2014 zur Harmonisierung der Rechtsvorschriften der Mitgliedstaaten für Geräte und Schutzsysteme zur bestimmungsgemäßen Verwendung in explosionsgefährdeten Bereichen (ABl. L 96 vom 29.3.2014, S. 309) 6. Richtlinie 2014/53/EU des Europäischen Parlaments und des Rates vom 16. April 2014 über die Harmonisierung der Rechtsvorschriften der Mitgliedstaaten über die Bereitstellung von Funkanlagen auf dem Markt und zur Aufhebung der Richtlinie 1999/5/EG (ABl. L 153 vom 22.5.2014, S. 62) 7. Richtlinie 2014/68/EU des Europäischen Parlaments und des Rates vom 15. Mai 2014 zur Harmonisierung der Rechtsvorschriften der Mitgliedstaaten über die Bereitstellung von Druckgeräten auf dem Markt (ABl. L 189 vom 27.6.2014, S. 164) 8. Verordnung (EU) 2016/424 des Europäischen Parlaments und des Rates vom 9. März 2016 über Seilbahnen und zur Aufhebung der Richtlinie 2000/9/EG (ABl. L 81 vom 31.3.2016, S. 1) 9. Verordnung (EU) 2016/425 des Europäischen Parlaments und des Rates vom 9. März 2016 über persönliche Schutzausrüstungen und zur Aufhebung der Richtlinie 89/686/EWG des Rates (ABl. L 81 vom 31.3.2016, S. 51) 10. Verordnung (EU) 2016/426 des Europäischen Parlaments und des Rates vom 9. März 2016 über Geräte zur Verbrennung gasförmiger Brennstoffe und zur Aufhebung der Richtlinie 2009/142/EG (ABl. L 81 vom 31.3.2016, S. 99) 11. Verordnung (EU) 2017/745 des Europäischen Parlaments und des Rates vom 5. April 2017 über Medizinprodukte, zur Änderung der Richtlinie 2001/83/EG, der Verordnung (EG) Nr. 178/2002 und der Verordnung (EG) Nr. 1223/2009 und zur Aufhebung der Richtlinien 90/385/EWG und 93/42/EWG des Rates (ABl. L 117 vom 5.5.2017, S. 1) 12. Verordnung (EU) 2017/746 des Europäischen Parlaments und des Rates vom 5. April 2017 über In-vitro-Diagnostika und zur Aufhebung der Richtlinie 98/79/EG und des Beschlusses 2010/227/EU der Kommission (ABl. L 117 vom 5.5.2017, S. 176) Abschnitt B - Liste anderer Harmonisierungsrechtsvorschriften der Union 13. Verordnung (EG) Nr. 300/2008 des Europäischen Parlaments und des Rates vom 11. März 2008 über gemeinsame Vorschriften für die Sicherheit in der Zivilluftfahrt und zur Aufhebung der Verordnung (EG) Nr. 2320/2002 (ABl. L 97 vom 9.4.2008, S. 72) 14. Verordnung (EU) Nr. 168/2013 des Europäischen Parlaments und des Rates vom 15. Januar 2013 über die Genehmigung und Marktüberwachung von zwei- oder dreirädrigen und vierrädrigen Fahrzeugen (ABl. L 60 vom 2.3.2013, S. 52) 15. Verordnung (EU) Nr. 167/2013 des Europäischen Parlaments und des Rates vom 5. Februar 2013 über die Genehmigung und Marktüberwachung von land- und forstwirtschaftlichen Fahrzeugen (ABl. L 60 vom 2.3.2013, S. 1) 16. Richtlinie 2014/90/EU des Europäischen Parlaments und des Rates vom 23. Juli 2014 über Schiffsausrüstung und zur Aufhebung der Richtlinie 96/98/EG des Rates (ABl. L 257 vom 28.8.2014, S. 146) 17. Richtlinie (EU) 2016/797 des Europäischen Parlaments und des Rates vom 11. Mai 2016 über die Interoperabilität des Eisenbahnsystems in der Europäischen Union (ABl. L 138 vom 26.5.2016, S. 44) 18. Verordnung (EU) 2018/858 des Europäischen Parlaments und des Rates vom 30. Mai 2018 über die Genehmigung und die Marktüberwachung von Kraftfahrzeugen und Kraftfahrzeuganhängern sowie von Systemen, Bauteilen und selbstständigen technischen Einheiten für diese Fahrzeuge, zur Änderung der Verordnungen (EG) Nr. 715/2007 und (EG) Nr. 595/2009 und zur Aufhebung der Richtlinie 2007/46/EG (ABl. L 151 vom 14.6.2018, S. 1) 19. Verordnung (EU) 2019/2144 des Europäischen Parlaments und des Rates vom 27. November 2019 über die Typgenehmigung von Kraftfahrzeugen und Kraftfahrzeuganhängern sowie von Systemen, Bauteilen und selbstständigen technischen Einheiten für diese Fahrzeuge im Hinblick auf ihre allgemeine Sicherheit und den Schutz der Fahrzeuginsassen und von ungeschützten Verkehrsteilnehmern, zur Änderung der Verordnung (EU) 2018/858 des Europäischen Parlaments und des Rates und zur Aufhebung der Verordnungen (EG) Nr. 78/2009, (EG) Nr. 79/2009 und (EG) Nr. 661/2009 des Europäischen Parlaments und des Rates sowie der Verordnungen (EG) Nr. 631/2009, (EU) Nr. 406/2010, (EU) Nr. 672/2010, (EU) Nr. 1003/2010, (EU) Nr. 1005/2010, (EU) Nr. 1008/2010, (EU) Nr. 1009/2010, (EU) Nr. 19/2011, (EU) Nr. 109/2011, (EU) Nr. 458/2011, (EU) Nr. 65/2012, (EU) Nr. 130/2012, (EU) Nr. 347/2012, (EU) Nr. 351/2012, (EU) Nr. 1230/2012 und (EU) 2015/166 der Kommission (ABl. L 325 vom 16.12.2019, S. 1) 20. Verordnung (EU) 2018/1139 des Europäischen Parlaments und des Rates vom 4. Juli 2018 zur Festlegung gemeinsamer Vorschriften für die Zivilluftfahrt und zur Errichtung einer Agentur der Europäischen Union für Flugsicherheit sowie zur Änderung der Verordnungen (EG) Nr. 2111/2005, (EG) Nr. 1008/2008, (EU) Nr. 996/2010, (EU) Nr. 376/2014 und der Richtlinien 2014/30/EU und 2014/53/EU des Europäischen Parlaments und des Rates, und zur Aufhebung der Verordnungen (EG) Nr. 552/2004 und (EG) Nr. 216/2008 des Europäischen Parlaments und des Rates und der Verordnung (EWG) Nr. 3922/91 des Rates (ABl. L 212 vom 22.8.2018, S. 1), insoweit die Konstruktion, Herstellung und Vermarktung von Luftfahrzeugen gemäß Artikel 2 Absatz 1 Buchstaben a und b in Bezug auf unbemannte Luftfahrzeuge sowie deren Motoren, Propeller, Teile und Ausrüstung zur Fernsteuerung betroffen sind | |
| | (21) Verordnung (EU) 2023/1230 des Europäischen Parlaments und des Rates vom 14. Juni 2023 über Maschinen und zur Aufhebung der Richtlinie 2006/42/EG des Europäischen Parlaments und des Rates und der Richtlinie 73/361/EWG des Rates (ABl. L 165 vom 29.6.2023, S. 1, ELI: http://data.europa.eu/eli/reg/2023/1230/oj). |
ANHANG VIII Bei der Registrierung des Hochrisiko-KI-Systems gemäß Artikel 49 bereitzustellende Informationen | |
Abschnitt A - Von Anbietern von Hochrisiko-KI-Systemen gemäß Artikel 49 Absatz 1 bereitzustellende Informationen Für Hochrisiko-KI-Systeme, die gemäß Artikel 49 Absatz 1 zu registrieren sind, werden folgende Informationen bereitgestellt und danach auf dem neuesten Stand gehalten: 1. der Name, die Anschrift und die Kontaktdaten des Anbieters; 2. bei Vorlage von Informationen durch eine andere Person im Namen des Anbieters: der Name, die Anschrift und die Kontaktdaten dieser Person; 3. gegebenenfalls der Name, die Anschrift und die Kontaktdaten des Bevollmächtigten; 4. der Handelsname des KI-Systems und etwaige zusätzliche eindeutige Angaben, die die Identifizierung und Rückverfolgbarkeit des KI-Systems ermöglichen; 5. eine Beschreibung der Zweckbestimmung des KI-Systems und der durch dieses KI-System unterstützten Komponenten und Funktionen; 6. eine grundlegende und knappe Beschreibung der vom System verwendeten Informationen (Daten, Eingaben) und seiner Betriebslogik; 7. der Status des KI-Systems (in Verkehr/in Betrieb; nicht mehr in Verkehr/in Betrieb, zurückgerufen); 8. die Art, die Nummer und das Ablaufdatum der von der notifizierten Stelle ausgestellten Bescheinigung und gegebenenfalls Name oder Identifizierungsnummer dieser notifizierten Stelle; 9. gegebenenfalls eine gescannte Kopie der in Nummer 8 genannten Bescheinigung; 10. alle Mitgliedstaaten, in denen das KI-System in Verkehr gebracht, in Betrieb genommen oder in der Union bereitgestellt wurde; 11. eine Kopie der in Artikel 47 genannten EU-Konformitätserklärung; 12. elektronische Betriebsanleitungen; dies gilt nicht für Hochrisiko-KI-Systeme in den Bereichen Strafverfolgung oder Migration, Asyl und Grenzkontrolle gemäß Anhang III Nummern 1, 6 und 7; 13. Eine URL-Adresse für zusätzliche Informationen (fakultativ). Abschnitt B - Von Anbietern von Hochrisiko-KI-Systemen gemäß Artikel 49 Absatz 2 bereitzustellende Informationen Für KI-Systeme, die gemäß Artikel 49 Absatz 2 zu registrieren sind, werden folgende Informationen bereitgestellt und danach auf dem neuesten Stand gehalten: 1. der Name, die Anschrift und die Kontaktdaten des Anbieters; 2. bei Vorlage von Informationen durch eine andere Person im Namen des Anbieters: Name, Anschrift und Kontaktdaten dieser Person; 3. gegebenenfalls der Name, die Anschrift und die Kontaktdaten des Bevollmächtigten; 4. der Handelsname des KI-Systems und etwaige zusätzliche eindeutige Angaben, die die Identifizierung und Rückverfolgbarkeit des KI-Systems ermöglichen; 5. eine Beschreibung der Zweckbestimmung des KI-Systems; 6. die Bedingung oder Bedingungen gemäß Artikel 6 Absatz 3, aufgrund derer das KI-System nicht als Hoch-Risiko-System eingestuft wird; | |
| 7. eine kurze Zusammenfassung der Gründe, aus denen das KI-System in Anwendung des Verfahrens gemäß Artikel 6 Absatz 3 nicht als Hoch-Risiko-System eingestuft wird; | 7. (aufgehoben) |
8. der Status des KI-Systems (in Verkehr/in Betrieb; nicht mehr in Verkehr/in Betrieb, zurückgerufen) | |
| 9. alle Mitgliedstaaten, in denen das KI-System in der Union in Verkehr gebracht, in Betrieb genommen oder bereitgestellt wurde. | 9. (aufgehoben) |
Abschnitt C - Von Betreibern von Hochrisiko-KI-Systemen gemäß Artikel 49 Absatz 3 bereitzustellende Informationen Für Hochrisiko-KI-Systeme, die gemäß Artikel 49 Absatz 3 zu registrieren sind, werden folgende Informationen bereitgestellt und danach auf dem neuesten Stand gehalten: 1. der Name, die Anschrift und die Kontaktdaten des Betreibers; 2. der Name, die Anschrift und die Kontaktdaten der Person, die im Namen des Betreibers Informationen übermittelt; 3. die URL des Eintrags des KI-Systems in der EU-Datenbank durch seinen Anbieter; 4. eine Zusammenfassung der Ergebnisse der gemäß Artikel 27 durchgeführten Grundrechte-Folgenabschätzung; 5. gegebenenfalls eine Zusammenfassung der im Einklang mit Artikel 35 der Verordnung (EU) 2016/679 oder Artikel 27 der Richtlinie (EU) 2016/680 gemäß Artikel 26 Absatz 8 der vorliegenden Verordnung durchgeführten Datenschutz-Folgenabschätzung. | |
Anhang XIV (neu) | Anhang XIV Verzeichnis der Codes, Kategorien und entsprechenden Arten von KI-Systemen für die Zwecke des Notifizierungsverfahrens gemäß Artikel 30 mit Angabe des Geltungsbereichs der Benennung als notifizierte Stellen |
1. Einleitung Die Konformitätsbewertung von Hochrisiko-KI-Systemen gemäß dieser Verordnung kann die Einbeziehung von Konformitätsbewertungsstellen erfordern. Nur Konformitätsbewertungsstellen, die gemäß dieser Verordnung benannt wurden, dürfen Konformitätsbewertungen durchführen, und dies nur für die Tätigkeiten in Bezug auf die betreffenden Arten von KI-Systemen. In dem Verzeichnis der Codes, Kategorien und entsprechenden Arten von KI-Systemen wird der Geltungsbereich der Benennung der gemäß Artikel 30 notifizierten Konformitätsbewertungsstellen festgelegt. 2. Liste der Codes, Kategorien und entsprechenden Arten von KI-Systemen a) KI-Systeme, die unter Anhang I fallen AIA-Code | AIP 0102 | KI-Systeme, die unter Anhang I Abschnitt A Nummer 2 fallen AIP 0103 | KI-Systeme, die unter Anhang I Abschnitt A Nummer 3 fallen AIP 0104 | KI-Systeme, die unter Anhang I Abschnitt A Nummer 4 fallen AIP 0105 | KI-Systeme, die unter Anhang I Abschnitt A Nummer 5 fallen AIP 0106 | KI-Systeme, die unter Anhang I Abschnitt A Nummer 6 fallen AIP 0107 | KI-Systeme, die unter Anhang I Abschnitt A Nummer 7 fallen AIP 0108 | KI-Systeme, die unter Anhang I Abschnitt A Nummer 8 fallen AIP 0109 | KI-Systeme, die unter Anhang I Abschnitt A Nummer 9 fallen AIP 0110 | KI-Systeme, die unter Anhang I Abschnitt A Nummer 10 fallen AIP 0111 | KI-Systeme, die unter Anhang I Abschnitt A Nummer 11 fallen AIP 0112 | KI-Systeme, die unter Anhang I Abschnitt A Nummer 12 fallen b) KI-Systeme, die unter Anhang III Nummer 1 fallen AIA-Code | AIB 0201 | Biometrische Fernidentifizierungssysteme AIB 0202 | KI-Systeme zur biometrischen Kategorisierung AIB 0203 | KI-Systeme zur Emotionserkennung 3. KI-technologiespezifische Codes a) Symbolische KI und Expertensysteme AIA-Code | AIH 0101 | KI-Systeme, die auf symbolischer KI, Experten- und wissensgestützten Systemen beruhen, und KI-Systeme, die auf Suche und Optimierung beruhen b) Maschinelles Lernen, mit Ausnahme von generativer KI und von KI mit allgemeinem Verwendungszweck AIA-Code | AIH 0201 | KI-Systeme, die strukturierte Daten verarbeiten AIH 0202 | KI-Systeme, die Signal- und Audiodaten verarbeiten AIH 0203 | KI-Systeme, die Textdaten verarbeiten AIH 0204 | KI-Systeme, die Bild- und Videodaten verarbeiten AIH 0205 | KI-Systeme, die von ihrer Umgebung lernen, mit Ausnahme von KI-Systemen, die unter AIH 0401 fallen c) KI- Systeme, die auf KI-Modellen mit allgemeinem Verwendungszweck oder generativer KI beruhen AIA-Code | AIH 0301 | generative KI-Systeme, einschließlich KI-Systemen, die auf KI-Modellen mit allgemeinem Verwendungszweck beruhen d) Neue KI-Technologien AIA-Code | AIH 0401 | KI-Systeme, die auf anderen neuen KI-Technologien beruhen, die nicht unter andere Codes fallen, einschließlich agentischer KI 4. Antrag auf Benennung Konformitätsbewertungsstellen verwenden das Verzeichnis der Codes, Kategorien und entsprechenden Arten von KI-Systemen aus diesem Anhang, wenn sie die Arten von KI-Systemen in dem in Artikel 29 genannten Antrag auf Benennung angeben. | |
Anzeige
Link zu dieser Seite: https://www.buzer.de/gesetz/16733/v340748-2026-07-27.htm
Menü: Normalansicht
| Start
| Suchen
| Sachgebiete
| Aktuell
| Verkündet
| Web-Plugin
| Über buzer.de
| Qualität
| Kontakt
| Werbung
| Datenschutz, Impressum
informiert bleiben: Änderungsalarm | Web-Widget | RSS-Feed
informiert bleiben: Änderungsalarm | Web-Widget | RSS-Feed