Digital Law

Die weltweit erste Regulierung von Künstlicher Intelligenz (KI)

Authors

4 minute read 11 Dez. 2023
Related topics
Rechtsberatung

Politische Einigung auf die EU KI-Verordnung im „Trilog“

Überblick

  • Unterhändler des Parlaments und des Rats haben die letzten politischen Streitpunkte für eine EU KI-Verordnung (KI-VO) geklärt. Die EU hat die letzten Hürden zur Schaffung eines verbindlichen Rechtsrahmens zur weltweit ersten Regulierung von Künstlicher Intelligenz genommen.

In der Nacht von Freitag auf Samstag, den 9. Dezember 2023 haben das Parlament und der Rat eine politische Einigung über den Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung bestimmter Rechtsakte der Union erzielt.

So unterstützen wir Sie

  • Digital Law

    Die Digitalisierung transformiert nicht nur die Welt der Arbeit, Freizeit und Mobilität, sondern birgt auch immense rechtliche Herausforderungen. Mit unserer Practice Group Digital Law beraten wir unsere Mandanten dabei, die digitale Transformation rechtssicher zu gestalten.

    Mehr lesen

Einheitliche Definition von KI

Mit Spannung wurde erwartet, welche Definition von KI-System der Verordnung zu Grunde liegen soll. Davon wird maßgeblich der sachliche Anwendungsbereich abhängig sein. Am Ende steht ein Kompromiss, der die Definition sehr stark an dem vorhandenen Ansatz der OECD ausrichtet. Kurz gefasst, liegt KI vor, wenn auf Basis eines Inputs maschinell und autonom ein Output wie etwa Vorhersagen, Entscheidungen oder Inhalte generiert werden.

 

Risikobasierter Ansatz

Beim risikobasierten Ansatz, der unterschiedliche qualitative und quantitative Anforderungen an die verschiedenen Risikoklassifizierungen von KI-Systemen stellt, wurden letzte Feinheiten verhandelt. Dabei standen insbesondere die sogenannten Hochrisiko-KI-Systeme und verbotene KI-Praktiken im Mittelpunkt.

 

Für Hochrisiko-KI-System müssen insbesondere KI-Anbieter eine Vielzahl von Anforderungen erfüllen. Angefangen beim Risikomanagement, einer Data-Governance, menschlicher Aufsicht, technischen Dokumentation über System-Transparenz bis hin zum Qualitätsmanagement. Hingegen treffen Nicht-Hochrisiko-KI-Systeme weiterhin nur Transparenz gegenüber der natürlichen Person.

“General purpose” KI-Systeme, Basismodelle und “fundamental rights impact assessment”

Auf den letzten Metern der Verhandlungen wurden Regelungen für “General purpose” KI-Systeme und Basismodelle geschaffen. Bei Ersteren handelt es sich um KI-Systeme, die für eine Vielzahl von verschiedenen Zwecken eingesetzt werden können. Die Basismodelle hingegen sind KI-Systeme, die eine weite Bandbreite an unterschiedlichen Aufgaben erfüllen können, wie etwa bei GPT-3.5 bzw. 4, welche in ChatGPT eingesetzt werden. Sie erstellen problemlos Videos, Texte, Bilder oder auch Quellcode für Computerprogramme nach einer entsprechenden Anweisung („Prompt“) des Nutzers. Für sie sollen insbesondere spezifische Transparenzanforderungen gelten, bevor sie in Verkehr gebracht werden. Zusätzliche Anforderungen sollen für „high impact“ Basismodelle gelten.

Für den Einsatz von Hochrisiko-KI-Systemen wird künftig ein sogenanntes „fundamental rights impact assessment“ durchzuführen sein. Der Ansatz zur Risikobewertung und Risikomitigierung ähnelt der Datenschutz-Folgenabschätzung aus der DSGVO.

Fazit

EY Law “Point of View” – Was sollten Organisationen jetzt tun?

Organisationen tun gut daran, sich schon heute mit KI-Compliance zu beschäftigen. Die KI-VO wird zeitnah verabschiedet und voraussichtlich in Q2/2024 in Kraft treten. Mit einer Übergangsfrist von zwei Jahren wird die KI-VO somit in 2026 unmittelbar verpflichten. Unternehmen wie auch der öffentliche Sektor sollten den Umsetzungsaufwand nicht unterschätzen (der sich ähnlich wie bei der DSGVO darstellen wird).

Dabei bieten sich prozessorientierte Organisationsmodelle an, die einem „by Design/by Default“-Ansatz folgen. So werden die vollständige und systematische Erfassung sämtlicher KI-Use Cases, deren Bewertung und Umsetzung von Maßnahmen effizient operationalisiert.

Neben der KI-VO gelten schon heute eine Vielzahl rechtlicher und regulatorischer Anforderungen für den Einsatz von KI-Systemen. Dazu gehören der Datenschutz, der Schutz von Geschäftsgeheimnissen, Urheberrechte und arbeitsrechtliche Mitbestimmung.

Weitere Details hierzu auch in unserem EY Law Newsletter unter: Rechtskonformer Einsatz von künstlicher Intelligenz im Lichte des Entwurfs der EU-KI-Verordnung

Über diesen Artikel

Authors

Related topics
Rechtsberatung

Related Topics

Wiederholte Verstöße gegen Rückkehrpflicht rechtfertigen Genehmigungswiderruf

Seit nunmehr 15 Jahren wird jährlich am 28. Januar der Datenschutztag gefeiert. Auf Initiative des Europarates sowie der USA und Kanada soll im Kontext der am 28. Januar 1981 unterzeichneten Europäischen Datenschutzkonvention für die Bedeutung, den Wert und die Schutzbedürftigkeit von Daten sensibilisiert werden. Betrachtet man jedoch heute Recht und Regulierung von Daten, rückt mehr und mehr die innovative und wirtschaftliche Nutzbarmachung von Daten in den Fokus.

Faktisches Verbot von Cloud-Diensten mit US-Bezug – oder DSGVO-konforme Nutzung durch passende Vertragsklauseln?

Nicht erst seit dem EuGH-Urteil vom 16. Juli 2020 zum Privacy-Shield-Abkommen (sog. „Schrems II“) schwelt ein rechtlicher (und faktisch auch politischer und wirtschaftlicher) Konflikt um die Frage der Vereinbarkeit von US-Überwachungsgesetzen mit dem EU-Datenschutzrecht. Dieser entzündete sich zuletzt insbesondere an der rechtskonformen Einbindung von Cloud- und Hosting-Dienstleistern mit US-Hintergrund.

    Die internationale EY-Organisation besteht aus den Mitgliedsunternehmen von Ernst & Young Global Limited (EYG). Jedes EYG-Mitgliedsunternehmen ist rechtlich selbstständig und unabhängig und haftet nicht für das Handeln und Unterlassen der jeweils anderen Mitgliedsunternehmen. Ernst & Young Global Limited ist eine Gesellschaft mit beschränkter Haftung nach englischem Recht und erbringt keine Leistungen für Mandanten.