Künstliche Intelligenz in der Berufswelt: rechtliche Leitlinien für eine Ära des Wandels

„Ich glaube an das Pferd. Das Automobil ist eine vorübergehende Erscheinung.“ Mit diesem Zitat soll Kaiser Wilhelm II. einst die Entwicklung des Automobils skeptisch betrachtet haben. Ähnlich skeptische Stimmen finden wir heute im Kontext der künstlichen Intelligenz (KI) in der Arbeitswelt. Doch die Realität zeigt: KI hat sich in vielen Branchen längst als fester Bestandteil etabliert.

Von medizinischen Diagnoseverfahren bis hin zu automatisierten Prozessen in der Personalabteilung – KI zeigt sich als vielseitiges Instrument, das Effizienz und Produktivität in Unternehmen steigert. Doch wie navigieren Arbeitgeber durch die komplexen rechtlichen Aspekte, die die Integration von KI in ihre Betriebe mit sich bringt? Dieser Artikel beleuchtet die rechtlichen Herausforderungen und Chancen von KI am Arbeitsplatz und bietet Optionen für eine verantwortungsbewusste digitale Transformation.

Einsatz von KI auf Weisung des Arbeitgebers

Bereits bei der Einführung von KI stellen sich grundlegenden Fragen, zum Beispiel ob der Arbeitgeber seine Arbeitnehmer zur Nutzung von KI verpflichten kann. Gemäß dem Weisungsrecht nach § 106 GewO kann der Arbeitgeber grundsätzlich die Nutzung bestimmter Arbeitsmittel, einschließlich KI-Anwendungen wie ChatGPT, anordnen. Doch eine interessante Wendung nimmt die Diskussion, wenn KI-Systeme selbstständig Weisungen an Arbeitnehmer erteilen sollen. Die Frage ist dann, ob solche automatisierten Entscheidungen das erforderliche „billige Ermessen“ nach § 106 GewO erfüllen. Dem könnte man durch die Implementierung einer Art Remonstrationsfunktion begegnen, die es Arbeitnehmern ermöglicht, unbegründete oder fehlerhafte KI-Anweisungen zu hinterfragen und einer natürlichen Person zur Überprüfung zuzuweisen.

KI-Einsatz durch Arbeitnehmer

Auch die mit dem Arbeitgeber nicht abgestimmte Nutzung von KI durch Arbeitnehmer ist ein relevantes Thema. In Deutschland wird KI nicht als eigenständige Rechtspersönlichkeit, sondern als technisches Hilfsmittel angesehen. Daher gelten selbst fortschrittlichste KI-Systeme nicht als „Personen“ im Rechtssinne. Arbeitnehmer wälzen ihre Aufgaben daher nicht in unzulässiger Weise auf eine andere Person ab, wenn sie sich einer KI bedienen. Vielmehr ist eine KI-Anwendung als ein auf Algorithmen beruhendes Hilfsmittel zu qualifizieren. Arbeitnehmer dürfen daher grundsätzlich KI zur Erbringung ihrer Arbeitsleistung nutzen, solange dem keine spezifischen berufsrechtlichen Regelungen entgegenstehen.

Trotzdem ist der Arbeitgeber kraft seines Weisungsrechts nach § 106 GewO befugt, die Nutzung von KI am Arbeitsplatz zu beschränken oder zu verbieten, insbesondere zum Schutz von Geschäftsgeheimnissen oder Urheberrechten. Der Arbeitnehmer wird sich in der Regel nicht dagegen wehren können. Vielmehr muss er bei Verstößen gegen arbeitgeberseitige Weisungen durch unerlaubte Nutzung von KI-Systemen mit arbeitsrechtlichen Konsequenzen wie Abmahnung bis hin zur (außerordentlichen) Kündigung rechnen.

Datenschutz bei KI-Einführung und Nutzung

Ein zentrales Thema bei der Einführung von KI-Systemen in Unternehmen ist der Datenschutz. Die DSGVO fordert Transparenz und Sicherheit bei der Verarbeitung personenbezogener Daten. Arbeitgeber sollten daher ihre Arbeitnehmer umfassend über eingesetzte KI-Verfahren, die Art der erhobenen Daten und die Zwecke der Datenverarbeitung informieren. Es ist wichtig sicherzustellen, dass bei der Verarbeitung personenbezogener Daten die Datensicherheit gewährleistet ist und Dritte keinen Zugang zu diesen Daten haben. Zudem muss der Arbeitgeber umsichtig handeln, um nicht ausschließlich automatisierten Entscheidungen mit erheblichen Auswirkungen ausgesetzt zu sein, insbesondere in sensiblen Bereichen wie Kündigungen oder Einstellungsverfahren. So kann es sein, dass eine KI, die im Bewerbungsprozess eingesetzt wird, Bewertungskriterien anlegt, die diskriminierend sind oder gegen die Gleichbehandlung verstoßen. Es ist ratsam, solche Prozesse, die eine erhebliche Auswirkung auf Arbeitnehmer haben, zusätzlich durch eine natürliche Person zu verifizieren. Soweit KI-Systeme eingeführt werden, sollten sie nur unterstützenden Charakter haben und der nochmaligen Überprüfung durch natürliche Personen zugänglich sein.

Auch muss der Arbeitgeber den Schutz von betriebsinternen Daten und Informationen von Kunden garantieren. Dies kann sogar so weit gehen, dass die Verwendung bestimmter KI-Systeme, die Daten sichern und verarbeiten, im Betrieb unterbunden werden muss. Auch hier kann der Arbeitgeber auf sein Weisungsrecht zurückgreifen und dadurch z. B. die Nutzung von ChatGPT oder anderen KI-Systemen verbieten.

Gleichbehandlung und Antidiskriminierung

Ein weiterer wesentlicher Aspekt ist die Einhaltung des Antidiskriminierungsrechts, vor allem des Allgemeinen Gleichbehandlungsgesetzes (AGG). Dies wird hauptsächlich bei Verwendung von KI-Systemen im HR-Bereich interessant, z. B. bei Bewerbungsprozessen. Verwendete KI-Systeme müssen so programmiert sein, dass sie Entscheidungen im Einklang mit dem Benachteiligungsverbot treffen. Arbeitgeber müssen sicherstellen, dass ihre KI-Systeme keine diskriminierenden Entscheidungen fällen. Eine unzureichende Programmierung oder Datengrundlage kann, auch unbeabsichtigt, zu Benachteiligungen führen und eine entsprechende Haftung beim Arbeitgeber auslösen.

Mitbestimmungsrecht des Betriebsrats

Die Einführung und Nutzung von KI-Systemen im Betrieb kann das Mitbestimmungsrecht des Betriebsrats nach § 87 Abs. 1 Nr. 6 BetrVG auslösen. Dieses Recht bezieht sich auf technische Einrichtungen, die das Verhalten oder die Leistung der Arbeitnehmer überwachen, was auch KI-Systeme einschließen kann. Die Beteiligung des Betriebsrats bei der Implementierung und Nutzung von KI ist somit ein wichtiger Aspekt, der berücksichtigt werden muss. Es ist ratsam, den Betriebsrat rechtzeitig vor der Implementierung oder sogar bereits in der Planungsphase einzubeziehen und entsprechende Betriebsvereinbarungen abzuschließen.

Weitere Beteiligungsrechte ergeben sich für den Betriebsrat im Rahmen der Programmierung einer KI, soweit diese Arbeitnehmer oder Bewerber nach bestimmten Parametern bewerten soll. In diesem Fall kann der Betriebsrat ein Mitwirkungsrecht nach § 94 BetrVG haben. Danach bedarf die Aufstellung allgemeiner Beurteilungsgrundsätze der Zustimmung des Betriebsrats. Allgemeine Beurteilungsgrundsätze sind Regelungen, die eine Verhaltens- oder Leistungsbewertung objektivieren oder vereinheitlichen und an Kriterien ausrichten sollen, die für die Beurteilung jeweils erheblich sind.

Was kommt als Nächstes?

Ein Augenmerk ist auch stets auf die gesetzliche Entwicklung zu werfen. Am 8. Dezember 2023 einigten sich die EU-Gesetzgebungsinstitutionen auf die Grundzüge einer Verordnung über künstliche Intelligenz. Diese Verordnung kann ein bedeutender Schritt sein, da es die weltweit erste umfassende Regulation von KI darstellen wird.

Die KI-Verordnung folgt einem risikobasierten Ansatz. KI-Technologien werden in verschiedene Kategorien zwischen kein Risiko und hohes Risiko sortiert. Abhängig von der Risikokategorie sind verschiedene Compliance- und Informationspflichten vorgesehen. Technologien mit einem nicht akzeptablen Risiko, wie Social Scoring oder bestimmte Formen von biometrischer Videoüberwachung und subtiler Verhaltensbeeinflussung, sollen komplett verboten werden. Zudem ist die Schaffung eines Europäischen Ausschusses für künstliche Intelligenz vorgesehen. 

Auch Anbieter und Nutzer von KI aus Drittländern sind betroffen, wenn die Ergebnisse, die die KI erzeugt, in der EU verwendet werden. Eine vertieftere Darstellung findet sich im aktuellen Beitrag von Eric Meyer und Peter Katko auf unserer Homepage.