Neue EU-KI-Verordnung: Compliance von KI-Systemen – das Konformitätsbewertungsverfahren

Am 01.08.2024 trat die EU-KI-Verordnung (KI-VO) in Kraft. In der dritten Ausgabe unserer Serie zur KI-VO beleuchten wir das Konformitätsbewertungsverfahren für Hochrisiko-KI-Systeme.

A. Einleitung

In den vorherigen Beiträgen unserer Serie zur KI-VO haben wir Ihnen zunächst einen Gesamtüberblick über die Verordnung und ihre Wirkweise präsentiert (Teil 1). Die zahlreichen Anforderungen an KI-Systeme, die zum Teil bereits vor dem Inverkehrbringen oder der Inbetriebnahme bestehen, wurden Ihnen im anschließenden Deep Dive zur KI-VO vorgestellt (Teil 2). Zum Abschluss unserer Serie möchten wir nun das verpflichtende Konformitätsbewertungsverfahren für Hochrisiko-KI-Systeme näher beleuchten. In diesem Verfahren wird überprüft, ob die zahlreichen Anforderungen an Hochrisiko-KI-Systeme eingehalten werden.

B. Gewährleistung der Rechtskonformität für KI-Systeme durch Produktsicherheitsmaßnahmen

Künstliche Intelligenz (KI) ist keine neue Technologie. Erste Studien zur KI wurden durch eine Reihe von Konzepten angetrieben, die Ende der 1930er- über die 1940er-Jahre hinweg bis in die frühen 1950er-Jahre an Bedeutung gewannen, aber erst kürzlich, mit den sogenannten „Large Language Models“, praktische Anwendung erfuhren und Traktion erhielten.

Ähnliches kann über den Ansatz der EU zur Regulierung von KI oder besser gesagt ihrer Systeme und Modelle gesagt werden. Obwohl die KI-VO einigen neu erscheinen mag, ist es eine Fortführung eines bewährten Modells – des New Legislative Framework (NLF). Dieses wurde 2008 verabschiedet und etabliert eine harmonisierte und moderne Regulierung der Produktsicherheit in der EU. Mit der KI-VO erweitert die EU dieses Produktsicherheitsrecht auf KI. Da die KI-VO nicht „künstliche Intelligenz“ selbst reguliert, sondern KI-Systeme und KI-Modelle mit allgemeinem Verwendungszweck – die oft Teil eines anderen Produkts wie etwa eines Automobils oder eines medizinischen Geräts sind –, müssen verschiedene Produktregulierungsstandards (CE-Normen) unter dem NLF interagieren und harmonisiert werden.

C. Das Konformitätsbewertungsverfahren der KI-VO für Hochrisiko-KI-Systeme

Anbieter sogenannter Hochrisiko-KI-Systeme müssen „sicherstellen, dass das Hochrisiko-KI‑System dem betreffenden Konformitätsbewertungsverfahren gemäß Artikel 43 [KI-VO] unterzogen wird, bevor es in Verkehr gebracht oder in Betrieb genommen wird“ (Art. 16 lit. f KI-VO).

Solche Anbieter können einem von zwei verschiedenen Arten von Konformitätsbewertungsverfahren unterliegen:

• Konformitätsbewertung auf der Grundlage interner Kontrolle (Anhang VI), als eine Art der „Selbstbewertung“
• Konformitätsbewertung auf der Grundlage einer Bewertung des Qualitätsmanagementsystems (Art. 17 KI-VO) und der technischen Dokumentation (Art. 11 KI-VO) durch eine dritte, notifizierte Stelle (Anhang VII) („Drittbewertung“)

Gegenstand des Konformitätsbewertungsverfahrens sind in beiden Fällen das Qualitätsmanagementsystem (Art. 17 KI-VO) und die technische Dokumentation (Art. 11 KI-VO) des Anbieters, was bedeutet, dass der Anbieter insbesondere die Konformität mit Art. 8 bis 15 KI-VO für das einzelne Hochrisiko-KI-System nachweisen muss.

Je nach Klassifizierung des Hochrisiko-KI-Systems, insbesondere nach Art. 6 Abs. 2 KI-VO, bestimmt Art. 43 KI-VO, welches Konformitätsbewertungsverfahren anzuwenden ist. In den meisten Fällen können Anbieter auf eine „Selbstbewertung“ zurückgreifen. Nur in „biometrischen KI-Use-Cases“ oder abhängig von harmonisierten Rechtsakten kann eine Drittbewertung relevant werden:

• Handelt es sich um ein in der EU in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System, das auch unter Harmonisierungsrechtsakte der Union fällt (Anhang I Abschnitt A), so erfolgt die Konformitätsbewertung nach den dort vorgesehenen Verfahren. In diese Bewertung werden die in Abschnitt 2 der KI-VO festgelegten Anforderungen mit einbezogen (Art. 43 Abs. 3 KI-VO).
• Anbieter von Hochrisiko-KI-Systemen zur biometrischen Identifikation, Kategorisierung oder Emotionserkennung (gem. Anhang III Nr. 1) haben ein Wahlrecht nach Art. 43 Abs. 1 KI-VO, ob sie die Konformitätsbewertung durch eine interne Kontrolle (gem. Anhang VI) oder durch eine Drittbewertung (gem. Anhang VII) durchführen, sofern sie harmonisierte Normen oder gemeinsame Spezifikationen, die ohne Einschränkung vorliegen, vollständig anwenden, um die Anforderungen der KI-VO zu erfüllen. Andernfalls ist für sie eine Drittbewertung verpflichtend vorgeschrieben (Art. 43 Abs. 1 KI-VO).
• Die sonstigen in Anhang III Nr. 2–8 KI-VO genannten Hochrisiko-KI-Systeme müssen gem. Art. 43 Abs. 2 KI-VO das Konformitätsbewertungsverfahren anhand einer internen Kontrolle befolgen.

Wenn der Anbieter nach der ersten Konformitätsbewertung eine wesentliche Änderung am Hochrisiko-KI-System vornimmt, muss dieses ein neues Konformitätsbewertungsverfahren durchlaufen (Art. 43 Abs. 4 KI-VO). Dies gilt nicht für kontinuierlich lernende Hochrisiko-KI-Systeme nach deren Inverkehrbringung oder Inbetriebnahme, wenn „Änderungen des Hochrisiko-KI-Systems und seiner Leistung […] vom Anbieter zum Zeitpunkt der ursprünglichen Konformitätsbewertung vorab festgelegt wurden und in den Informationen der technischen Dokumentation gemäß Anhang IV Nummer 2 Buchstabe f enthalten sind“.

D. Das Konformitätsbewertungsverfahren entlang der KI-Wertschöpfungskette

Andere Stakeholder der KI-VO, insbesondere Betreiber, Einführer und Händler, müssen das Konformitätsbewertungsverfahren für das importierte oder vertriebene KI-Produkt nicht durchführen. Ihnen ist es lediglich untersagt, Hochrisiko-KI-Systeme auf den Markt zu bringen oder in Betrieb zu nehmen, die nicht einem Konformitätsbewertungsverfahren durch den Anbieter, auch wenn dieser im Nicht-EU-Ausland sitzt, unterzogen wurden.

Dies kann sich jedoch ändern, sollte ein Händler, Einführer, Betreiber oder eine andere dritte Partei selbst zum Anbieter werden. Art. 25 KI-VO legt fest, dass jeder Händler, Einführer, Betreiber oder andere Dritte als Anbieter eines Hochrisiko-KI-Systems gilt, wenn er

• seinen Namen oder seine Handelsmarke auf einem Hochrisiko-KI-System anbringt, das bereits auf den Markt gebracht oder in Betrieb genommen wurde,
• eine wesentliche Änderung an einem Hochrisiko-KI-System vornimmt oder
• die Zweckbestimmung eines KI‑Systems, einschließlich eines KI‑Systems mit allgemeinem Verwendungszweck, das nicht als hochriskant eingestuft und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so verändert, dass das betreffende KI‑System zu einem Hochrisiko-KI‑System im Sinne von Art. 6 wird.

Für seinen Status als Anbieter spielt es keine Rolle, ob der Händler, Einführer, Betreiber oder andere Dritte das KI-System tatsächlich bereitstellen, da der Status fingiert wird („gelten als“, Art. 25 Abs. 1 KI-VO). Es ist bemerkenswert, dass Händler, Einführer, Betreiber oder andere Dritte nicht zusätzlich zum ursprünglichen Anbieter hinzutreten, sondern diesen tatsächlich als primär verantwortliche Partei ersetzen. Jeder Händler, Einführer, Betreiber oder andere Dritte ist dabei angehalten, vertragliche Beziehungen mit dem „ursprünglichen“ Anbieter eines KI-Systems genau zu prüfen und zu verhandeln.

E. Nachweis der Konformität durch die EU-Konformitätserklärung und CE-Kennzeichnung

Mit dem erfolgreichen Abschluss des Konformitätsbewertungsverfahrens stellt der Anbieter „für jedes Hochrisiko-KI‑System eine schriftliche maschinenlesbare, physische oder elektronisch unterzeichnete EU-Konformitätserklärung aus“ (Art. 16 lit. g, 47 Abs. 1 KI-VO) und bringt die CE-Kennzeichnung am Hochrisiko-KI-System an oder, falls dies nicht möglich ist, an dessen Verpackung oder der beigefügten Dokumentation (Art. 16 lit. h, 48 Abs. 1 KI-VO). Für ausschließlich digital bereitgestellte Hochrisiko-KI-Systeme kann unter bestimmten Bedingungen gemäß Art. 48 Abs. 2 KI-VO eine digitale CE-Kennzeichnung verwendet werden.

In diesem Zusammenhang ergeben sich zahlreiche praktische Fragestellungen für das einzelne Hochrisiko-KI-System:

• In welcher Größe und Dimension ist die CE-Kennzeichnung erforderlich?
• Wo sollte sie idealerweise auf einer Website oder im System positioniert werden?
• Ist es zwingend erforderlich, dass die Kennzeichnung direkt im System angezeigt wird, oder reicht es aus, wenn sie auf der Website angezeigt wird, über die der Download erfolgt?
• Wäre es im Hinblick auf das „Frontend“ des Systems ausreichend, wenn die CE-Kennzeichnung auf einer für den Benutzer nach ein paar Klicks zugänglichen Sekundärseite erscheint, oder sollte sie immer gut sichtbar sein, vielleicht in einer Fuß- oder Kopfzeile?

F. Registrierung in der EU-Datenbank für Hochrisiko-KI-Systeme

Bevor der Anbieter das Hochrisiko-KI-System auf den Markt bringen oder in Betrieb nehmen kann, müssen er (oder sein bevollmächtigter Vertreter) und das System selbst gemäß den Artikeln 49 Abs. 1, 71 KI-VO in der EU-Datenbank registriert werden. Von dieser Registrierungspflicht ausgenommen sind nur solche Hochrisiko-KI‑Systeme, die bestimmungsgemäß als Sicherheitsbauteile im Rahmen der Verwaltung und des Betriebs kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- oder Stromversorgung verwendet werden sollen (Art. 6 Abs. 2, Anhang III Nr. 2 KI-VO), da sie unterschiedliche Registrierungsanforderungen unter den EU-Vorschriften für kritische Infrastrukturen haben.