Künstliche Intelligenz wird inzwischen für Texte, Übersetzungen, Personalplanung, Bewerberauswahl und Leistungsanalysen eingesetzt. Arbeitgeber dürfen solche Systeme grundsätzlich nutzen. Sobald die KI jedoch Arbeitnehmerdaten verarbeitet, Beschäftigte überwacht oder Personalentscheidungen beeinflusst, gelten enge rechtliche Grenzen.
Ja, der Arbeitgeber darf künstliche Intelligenz am Arbeitsplatz einsetzen. Er darf jedoch nicht allein aufgrund seines Weisungsrechts jede beliebige KI-Anwendung einführen und verwenden.
Der konkrete Einsatz muss insbesondere mit dem Datenschutzrecht, dem Allgemeinen Gleichbehandlungsgesetz, den Persönlichkeitsrechten der Arbeitnehmer, dem Betriebsverfassungsrecht und dem europäischen AI Act vereinbar sein.
Vergleichsweise geringere rechtliche Risiken bestehen bei allgemeinen Arbeitshilfen, die etwa Formulierungsvorschläge, Übersetzungen oder Zusammenfassungen erstellen. Voraussetzung ist jedoch, dass dabei keine personenbezogenen oder vertraulichen Daten unzulässig verarbeitet, an externe Anbieter übermittelt oder für andere Zwecke verwendet werden.
Deutlich strengere Anforderungen gelten, wenn ein KI-System Bewerbungen vorsortiert, Leistungen bewertet, das Arbeitsverhalten analysiert, Schichten zuteilt, Persönlichkeitsprofile erstellt oder Empfehlungen über Einstellungen, Beförderungen, Versetzungen und Kündigungen abgibt.
Der Arbeitgeber bleibt für den Einsatz und die Ergebnisse des Systems verantwortlich. Er kann eine fehlerhafte, diskriminierende oder rechtswidrige Entscheidung nicht damit rechtfertigen, dass sie von einer Software vorgeschlagen wurde.
Das Wichtigste
Der Arbeitgeber darf KI als Arbeitsmittel einsetzen, sofern dadurch keine gesetzlichen, tariflichen, betrieblichen oder arbeitsvertraglichen Vorgaben verletzt werden.
Werden personenbezogene Daten der Beschäftigten verarbeitet, benötigt der Arbeitgeber eine datenschutzrechtliche Rechtsgrundlage. Die Verarbeitung muss einem festgelegten Zweck dienen, erforderlich und verhältnismäßig sein.
KI darf Arbeitnehmer nicht wegen ihrer ethnischen Herkunft, ihres Geschlechts, ihrer Religion oder Weltanschauung, einer Behinderung, ihres Alters oder ihrer sexuellen Identität benachteiligen.
Entscheidungen mit erheblichen Auswirkungen auf das Arbeitsverhältnis dürfen grundsätzlich nicht ausschließlich automatisiert getroffen werden.
Besteht ein Betriebsrat, muss dieser bei der Planung und Einführung bestimmter KI-Systeme beteiligt werden. Kann das System das Verhalten oder die Leistung der Arbeitnehmer überwachen, besteht regelmäßig ein zwingendes Mitbestimmungsrecht.
Bestimmte besonders eingriffsintensive KI-Anwendungen sind nach dem europäischen AI Act verboten. Andere Anwendungen, vor allem im Bereich der Personalauswahl und Personalsteuerung, können als Hochrisiko-KI eingestuft werden.
Wofür darf der Arbeitgeber KI einsetzen?
Der Arbeitgeber kann KI insbesondere zur Unterstützung bei der Erstellung und Zusammenfassung von Texten, bei Übersetzungen, der Dokumentenauswertung, der Bearbeitung von Kundenanfragen oder der Organisation betrieblicher Abläufe einsetzen.
Auch der Einsatz in der Personalverwaltung ist nicht generell verboten. KI kann beispielsweise Bewerbungsunterlagen strukturieren, Qualifikationen erfassen, Schichtpläne vorbereiten oder Fortbildungsbedarfe auswerten.
Entscheidend ist jedoch, welche Funktion das System tatsächlich erfüllt. Ein Programm, das lediglich Termine koordiniert, greift weniger intensiv in Arbeitnehmerrechte ein als ein System, das aus Fehlzeiten, Kommunikationsverhalten und Arbeitsergebnissen einen individuellen Leistungswert errechnet.
Je stärker die KI Arbeitnehmer beobachtet, bewertet oder Entscheidungen über ihre berufliche Entwicklung vorbereitet, desto höher sind die Anforderungen an Rechtsgrundlage, Transparenz, Kontrolle und Beteiligung des Betriebsrats.
Welche Beschäftigtendaten darf die KI verarbeiten?
Sobald das KI-System Informationen verarbeitet, die sich auf einen bestimmten oder bestimmbaren Arbeitnehmer beziehen, gelten die Datenschutz-Grundverordnung und das Bundesdatenschutzgesetz.
Nach § 26 Abs. 1 BDSG dürfen Beschäftigtendaten verarbeitet werden, wenn dies für die Begründung, Durchführung oder Beendigung des Arbeitsverhältnisses erforderlich ist. Dass eine Auswertung technisch möglich, wirtschaftlich interessant oder für den Arbeitgeber bequem ist, genügt nicht.
Der Arbeitgeber muss vorab festlegen, zu welchem Zweck die Daten erhoben und ausgewertet werden. Daten, die ursprünglich für einen anderen Zweck gespeichert wurden, dürfen nicht ohne Weiteres nachträglich für KI-gestützte Leistungsbewertungen oder Persönlichkeitsprofile verwendet werden.
Außerdem dürfen nur solche Daten verarbeitet werden, die für den konkreten Zweck tatsächlich benötigt werden. Eine umfassende und dauerhafte Analyse sämtlicher E-Mails, Dateien, Gespräche, Mausbewegungen oder Tastatureingaben wäre regelmäßig mit erheblichen rechtlichen Risiken verbunden.
Verarbeitet die KI besonders sensible Daten, etwa Gesundheitsdaten, biometrische Daten oder Informationen über die religiöse oder politische Überzeugung eines Arbeitnehmers, gelten nochmals erhöhte Anforderungen.
Bei umfangreichen Verhaltensanalysen, Beschäftigtenscorings oder systematischen Bewertungen kann vor Einführung des Systems eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich sein.
Muss der Arbeitgeber über den Einsatz von KI informieren?
Arbeitnehmer müssen grundsätzlich darüber informiert werden, welche personenbezogenen Daten verarbeitet werden, zu welchem Zweck die Verarbeitung erfolgt, wie lange die Daten gespeichert bleiben und wer auf die Ergebnisse zugreifen kann.
Verdeckte Datenerhebungen oder Auswertungen sind nur in eng begrenzten Ausnahmefällen zulässig. Das kann insbesondere bei dokumentierten konkreten Verdachtsmomenten in Betracht kommen, wenn die Maßnahme erforderlich und insgesamt verhältnismäßig ist.
Werden automatisierte Bewertungen oder Profile erstellt, müssen die Informationen so verständlich sein, dass der betroffene Arbeitnehmer die Bedeutung und die möglichen Folgen der Verarbeitung erkennen kann.
Eine allgemeine Erklärung, im Unternehmen werde moderne oder intelligente Software eingesetzt, reicht nicht aus, wenn das System tatsächlich individuelle Leistungen bewertet, Verhaltensprofile erstellt oder Personalentscheidungen vorbereitet.
Arbeitnehmer können nach Art. 15 DSGVO grundsätzlich Auskunft über die zu ihrer Person verarbeiteten Daten verlangen. Bei automatisierten Entscheidungen kann der Auskunftsanspruch auch Informationen über die zugrunde liegende Logik sowie über die Bedeutung und die beabsichtigten Auswirkungen der Verarbeitung umfassen.
Darf KI die Leistung oder das Verhalten von Arbeitnehmern überwachen?
Eine KI-gestützte Leistungs- oder Verhaltenskontrolle ist nicht in jedem Fall verboten. Der Arbeitgeber benötigt dafür jedoch einen legitimen Zweck und eine tragfähige Rechtsgrundlage. Die Überwachung muss außerdem erforderlich und verhältnismäßig sein.
Regelmäßig problematisch ist eine dauerhafte und anlasslose Auswertung des gesamten Arbeitsverhaltens. Das gilt etwa für Systeme, die Tippgeschwindigkeit, Mausbewegungen, Gesprächsdauer, Pausenzeiten, Kommunikationsverhalten oder Anwesenheitsdaten zusammenführen und daraus Produktivitätswerte oder Ranglisten erstellen.
Auch aus scheinbar harmlosen Daten können weitreichende Rückschlüsse gezogen werden. Eine KI könnte beispielsweise aus Schreibstil, Gesprächston, Fehlzeiten oder Reaktionsgeschwindigkeit vermeintliche Aussagen über Motivation, Belastbarkeit oder Loyalität ableiten. Solche Bewertungen können erheblich in das Persönlichkeitsrecht eingreifen.
Dass eine Auswertung automatisiert erfolgt, macht sie nicht rechtmäßig. Der Arbeitgeber darf mithilfe von KI nicht mehr Daten erheben oder intensivere Kontrollen durchführen, als ihm bei einer menschlichen Auswertung erlaubt wären.
Darf KI über Einstellung, Beförderung oder Kündigung entscheiden?
KI darf Personalentscheidungen vorbereiten. Sie kann beispielsweise Bewerbungsunterlagen sortieren, Qualifikationen vergleichen oder Entscheidungsvorschläge erstellen.
Eine Entscheidung, die gegenüber einem Arbeitnehmer rechtliche Wirkungen entfaltet oder ihn in ähnlicher Weise erheblich beeinträchtigt, darf nach Art. 22 DSGVO grundsätzlich nicht ausschließlich auf einer automatisierten Verarbeitung beruhen. Das kann etwa die Ablehnung einer Bewerbung, eine Beförderungsentscheidung oder eine Entscheidung über die Fortsetzung des Arbeitsverhältnisses betreffen.
Eine wirksame menschliche Beteiligung liegt nicht bereits dann vor, wenn eine Führungskraft den Vorschlag der KI lediglich bestätigt. Die verantwortliche Person muss die Grundlagen und das Ergebnis tatsächlich prüfen, einen eigenen Entscheidungsspielraum besitzen und von der Empfehlung des Systems abweichen können.
Art. 22 DSGVO kann auch dann eingreifen, wenn ein automatisiert erzeugter Wert die anschließende menschliche Entscheidung faktisch maßgeblich bestimmt. Eine nur formale menschliche Letztentscheidung genügt daher nicht, um das Verbot ausschließlich automatisierter Entscheidungen zu umgehen.
Ist eine ausschließlich automatisierte Entscheidung nicht ausnahmsweise gesetzlich zulässig, darf sie grundsätzlich nicht getroffen werden. In den gesetzlich zugelassenen Ausnahmefällen muss der Arbeitgeber geeignete Schutzmaßnahmen gewährleisten. Dazu gehören insbesondere das Recht auf menschliches Eingreifen, die Möglichkeit, den eigenen Standpunkt darzulegen, und das Recht, die Entscheidung anzufechten.
Eine Kündigung wird nicht allein deshalb wirksam, weil eine KI eine geringe Leistung, ein erhöhtes Fehlzeitenrisiko oder eine vermeintlich geringe Bindung an den Arbeitgeber errechnet hat. Der Arbeitgeber muss die arbeitsrechtlichen Voraussetzungen der Maßnahme weiterhin selbst darlegen und beweisen.
Was gilt bei diskriminierenden KI-Entscheidungen?
Auch eine durch KI vorbereitete Entscheidung muss mit dem Allgemeinen Gleichbehandlungsgesetz vereinbar sein.
Der Arbeitgeber darf Beschäftigte insbesondere nicht wegen ihrer ethnischen Herkunft, ihres Geschlechts, ihrer Religion oder Weltanschauung, einer Behinderung, ihres Alters oder ihrer sexuellen Identität benachteiligen.
Eine Diskriminierung kann auch entstehen, wenn das System diese Merkmale nicht ausdrücklich abfragt. Verwendet die KI andere Daten, die eng mit einem geschützten Merkmal zusammenhängen, kann sie trotzdem bestimmte Beschäftigtengruppen benachteiligen.
Besondere Risiken bestehen, wenn eine KI mit historischen Unternehmensdaten trainiert wurde. Wurden in der Vergangenheit beispielsweise überwiegend jüngere Personen eingestellt oder Männer häufiger befördert, kann ein lernendes System diese Muster übernehmen und fortführen.
Der Arbeitgeber bleibt für solche Auswirkungen verantwortlich. Er muss die von ihm eingesetzten Systeme auswählen, kontrollieren und so überwachen, dass sie keine unzulässigen Benachteiligungen verursachen.
Welche Rechte hat der Betriebsrat beim Einsatz von KI?
Besteht ein Betriebsrat, muss der Arbeitgeber ihn nach § 90 Abs. 1 Nr. 3 BetrVG bereits bei der Planung von Arbeitsverfahren und Arbeitsabläufen einschließlich des Einsatzes künstlicher Intelligenz rechtzeitig unterrichten.
Der Arbeitgeber muss die vorgesehenen Maßnahmen und ihre Auswirkungen auf die Arbeitnehmer so früh mit dem Betriebsrat beraten, dass dessen Vorschläge und Bedenken noch berücksichtigt werden können.
Kann eine technische Einrichtung das Verhalten oder die Leistung von Arbeitnehmern überwachen, besteht nach § 87 Abs. 1 Nr. 6 BetrVG grundsätzlich ein zwingendes Mitbestimmungsrecht. Entscheidend ist nicht allein, ob der Arbeitgeber tatsächlich eine Überwachung beabsichtigt. Es genügt regelmäßig, dass das System objektiv zur Überwachung geeignet ist.
Verwendet der Arbeitgeber KI bei Richtlinien für Einstellungen, Versetzungen, Umgruppierungen oder Kündigungen, gilt § 95 BetrVG. Das Gesetz stellt ausdrücklich klar, dass die Beteiligungsrechte des Betriebsrats auch dann bestehen, wenn bei der Aufstellung der Auswahlrichtlinien künstliche Intelligenz eingesetzt wird.
Muss der Betriebsrat die Einführung oder Anwendung eines KI-Systems beurteilen, gilt die Hinzuziehung eines Sachverständigen nach § 80 Abs. 3 BetrVG grundsätzlich als erforderlich.
In einer Betriebsvereinbarung können insbesondere die zulässigen Anwendungszwecke, Datenquellen, Zugriffsrechte, Löschfristen, Kontrollmöglichkeiten, menschlichen Prüfungen und Beschwerdewege geregelt werden.
Je nach konkreter Verwendung der KI können weitere Mitbestimmungsrechte hinzukommen, etwa bei der Arbeitszeitgestaltung, den Entlohnungsgrundsätzen oder personellen Einzelmaßnahmen.
Was regelt der europäische AI Act?
Der europäische AI Act ordnet KI-Systeme nach dem Risiko ein, das mit ihrem Einsatz verbunden ist.
KI-Systeme, die zur Auswahl von Bewerbern, zur Entscheidung über Einstellungen, zur Zuweisung von Aufgaben, zur Überwachung oder Bewertung von Arbeitnehmern sowie für Entscheidungen über Beförderungen oder die Beendigung von Arbeitsverhältnissen eingesetzt werden, können als Hochrisiko-KI-Systeme eingeordnet werden.
Für solche Systeme sieht der AI Act umfangreiche Anforderungen vor. Dazu gehören insbesondere Vorgaben zum Risikomanagement, zur Qualität der verwendeten Daten, zur technischen Dokumentation, zur Protokollierung, zur Transparenz und zur menschlichen Aufsicht.
Nimmt ein in Anhang III des AI Acts genannter Anwendungsfall ein Profiling natürlicher Personen vor, gilt das System als Hochrisiko-KI. In anderen Fällen können unter den Voraussetzungen des Art. 6 Abs. 3 AI Act Ausnahmen von der Einstufung als Hochrisiko-KI bestehen.
Die besonderen Anforderungen an Hochrisiko-KI-Systeme im Beschäftigungsbereich gelten ab dem 2. Dezember 2027. Für Hochrisiko-KI-Systeme, die als Sicherheitskomponente in bestimmte regulierte Produkte integriert sind, gelten die entsprechenden Vorschriften ab dem 2. August 2028.
Die Vorschriften über verbotene KI-Praktiken und die Verpflichtung zur Sicherstellung ausreichender KI-Kompetenz gelten bereits seit dem 2. Februar 2025. Weitere allgemeine Regelungen des AI Acts gelten ab dem 2. August 2026.
Nach Art. 4 AI Act müssen Anbieter und Betreiber Maßnahmen treffen, damit Beschäftigte und andere Personen, die in ihrem Auftrag mit KI-Systemen arbeiten, über ein ausreichendes Maß an KI-Kompetenz verfügen. Umfang und Inhalt der Qualifikation richten sich unter anderem nach den vorhandenen Kenntnissen, der Ausbildung und dem konkreten Einsatzbereich.
Verboten ist grundsätzlich der Einsatz von KI-Systemen zur Emotionserkennung am Arbeitsplatz, soweit keine medizinischen oder sicherheitsbezogenen Gründe vorliegen. Der Arbeitgeber darf daher grundsätzlich keine biometrische Analyse einsetzen, um aus Gesichtsausdruck, Stimme oder anderen körperlichen Merkmalen vermeintliche Emotionen von Beschäftigten abzuleiten.
Der AI Act ersetzt weder die Datenschutz-Grundverordnung noch das Betriebsverfassungsgesetz oder das Allgemeine Gleichbehandlungsgesetz. Ein KI-System kann deshalb die Vorgaben des AI Acts erfüllen und dennoch datenschutzrechtlich, mitbestimmungsrechtlich oder arbeitsrechtlich unzulässig eingesetzt werden.
Welche Rechte haben Arbeitnehmer?
Arbeitnehmer können vom Arbeitgeber Auskunft darüber verlangen, ob und welche personenbezogenen Daten durch ein KI-System verarbeitet werden. Sie können außerdem die Berichtigung unrichtiger Daten und unter bestimmten Voraussetzungen die Löschung oder Einschränkung der Verarbeitung verlangen.
Ist eine ausschließlich automatisierte Entscheidung ausnahmsweise zulässig und hat sie erhebliche Auswirkungen, können Arbeitnehmer eine menschliche Überprüfung verlangen, ihren eigenen Standpunkt darlegen und die Entscheidung anfechten.
Arbeitnehmer können sich außerdem an den betrieblichen Datenschutzbeauftragten, den Betriebsrat oder die zuständige Datenschutzaufsichtsbehörde wenden.
Hat eine KI-Auswertung zu einer Abmahnung, schlechten Beurteilung, Versetzung, Benachteiligung bei einer Beförderung oder Kündigung geführt, sollte zusätzlich geprüft werden, ob die arbeitsrechtliche Maßnahme angegriffen werden kann.
Ein Datenschutz- oder Mitbestimmungsverstoß führt allerdings nicht in jedem Fall automatisch zur Unwirksamkeit der arbeitsrechtlichen Maßnahme oder zu einem arbeitsgerichtlichen Beweisverwertungsverbot. Die rechtlichen Folgen müssen jeweils anhand der konkreten Umstände geprüft werden.
Rechtliche Einordnung
Der Einsatz künstlicher Intelligenz im Arbeitsverhältnis richtet sich nicht nach einer einzigen gesetzlichen Vorschrift. Er ist als Querschnittsmaterie aus Datenschutzrecht, Arbeitsvertragsrecht, Antidiskriminierungsrecht, Betriebsverfassungsrecht und europäischem KI-Recht zu beurteilen.
Die Verarbeitung personenbezogener Beschäftigtendaten muss insbesondere den Grundsätzen des Art. 5 DSGVO entsprechen. Dazu gehören Rechtmäßigkeit, Transparenz, Zweckbindung, Datenminimierung, Richtigkeit und Speicherbegrenzung.
Als Rechtsgrundlage kommen insbesondere Art. 6 DSGVO und § 26 BDSG in Betracht. Soweit eine Verarbeitung für die Durchführung des Arbeitsverhältnisses nicht erforderlich ist, kann sie nicht allein mit dem allgemeinen Interesse des Arbeitgebers an effizienteren oder genaueren Personalentscheidungen gerechtfertigt werden.
Bei umfangreichen oder besonders risikoreichen Bewertungen kann vor Einführung des Systems eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich sein.
Art. 22 DSGVO begrenzt ausschließlich automatisierte Entscheidungen mit rechtlicher oder vergleichbar erheblicher Wirkung. Die Vorschrift verbietet solche Entscheidungen grundsätzlich und lässt sie nur in den gesetzlich geregelten Ausnahmefällen zu. Soweit eine Ausnahme greift, müssen geeignete Schutzmaßnahmen gewährleistet werden.
Das AGG verpflichtet den Arbeitgeber, auch technische Entscheidungs- und Auswahlverfahren diskriminierungsfrei zu gestalten. Fehler der eingesetzten Software, ungeeignete Trainingsdaten oder diskriminierende Bewertungskriterien fallen grundsätzlich in seinen Verantwortungsbereich.
Betriebsverfassungsrechtlich sind insbesondere § 80 Abs. 3, § 87 Abs. 1 Nr. 6, § 90 und § 95 BetrVG zu beachten. Je nach Einsatzbereich können weitere Beteiligungsrechte hinzukommen, etwa bei Arbeitszeit, Entlohnungsgrundsätzen oder personellen Einzelmaßnahmen.
Der AI Act ergänzt diese Regelungen. Er ersetzt weder die DSGVO noch das BetrVG oder das AGG. Der Einsatz eines KI-Systems muss daher sämtliche jeweils anwendbaren Regelungen gleichzeitig erfüllen.
Autor
Rechtsanwalt Max Matveev berät und vertritt ausschließlich Arbeitnehmerinnen und Arbeitnehmer im Arbeitsrecht für die Kanzlei Dieks. Seine Schwerpunkte liegen insbesondere bei Kündigungen, im Kündigungsschutz, bei Aufhebungsverträgen, Abfindungsverhandlungen und weiteren Konflikten rund um die Beendigung von Arbeitsverhältnissen. Vor seiner Tätigkeit auf Arbeitnehmerseite war Max Matveev viele Jahre für Arbeitgeber tätig. Er kennt daher nicht nur die rechtlichen Anforderungen an Kündigungen und andere arbeitsrechtliche Maßnahmen, sondern auch die internen Entscheidungswege, wirtschaftlichen Erwägungen und typischen Verhandlungsstrategien auf Arbeitgeberseite. Diese Erfahrung setzt er heute gezielt für die Interessen von Arbeitnehmerinnen und Arbeitnehmern ein.
Max Matveev ist Mitglied der Arbeitsgemeinschaft Arbeitsrecht im Deutschen Anwaltverein und befasst sich zudem intensiv mit der Digitalisierung anwaltlicher Arbeit. Sein Ziel ist es, Arbeitnehmerinnen und Arbeitnehmern Zugang zu bezahlbarer anwaltlicher Beratung und Vertretung zu ermöglichen.