KI im Personalwesen: Was Arbeitgeber und Personalreferenten rechtlich beachten müssen
Die künstliche Intelligenz (KI) gewinnt im Personalwesen zunehmend an Bedeutung und verändert die Art und Weise, wie Unternehmen ihre Personalprozesse gestalten. Insbesondere im Recruiting, bei der Bewerberauswahl, der Personalentwicklung und der Leistungsbewertung werden KI-gestützte Systeme eingesetzt, um administrative Tätigkeiten zu automatisieren, Daten auszuwerten und personalwirtschaftliche Entscheidungen zu unterstützen. Für Arbeitgeber und Personalreferenten ergeben sich daraus zahlreiche Möglichkeiten, Arbeitsabläufe effizienter zu gestalten und den Zeitaufwand für wiederkehrende Aufgaben zu reduzieren.

Allerdings ist der Einsatz künstlicher Intelligenz auch mit rechtlichen Herausforderungen verbunden. Sobald KI-Systeme personenbezogene Daten von Bewerbern oder Beschäftigten verarbeiten oder Einfluss auf Personalentscheidungen nehmen, müssen Unternehmen verschiedene gesetzliche Anforderungen berücksichtigen. Hierzu zählen insbesondere die Datenschutz-Grundverordnung (DSGVO), das Bundesdatenschutzgesetz (BDSG), das Allgemeine Gleichbehandlungsgesetz (AGG), das Betriebsverfassungsgesetz (BetrVG) sowie die europäische KI-Verordnung, auch als AI Act bezeichnet.
Mit der Verordnung (EU) 2024/1689 hat die Europäische Union erstmals einen umfassenden Rechtsrahmen für die Entwicklung und Verwendung künstlicher Intelligenz geschaffen. Dieser verfolgt das Ziel, den verantwortungsvollen Einsatz von KI zu fördern und gleichzeitig die Grundrechte betroffener Personen zu schützen (Europäisches Parlament & Rat der Europäischen Union, 2024).
Für Arbeitgeber bedeutet dies, dass KI-Systeme nicht ausschließlich nach wirtschaftlichen oder technischen Gesichtspunkten ausgewählt werden dürfen. Vielmehr müssen Personalverantwortliche sicherstellen, dass deren Einsatz rechtmäßig, transparent, diskriminierungsfrei und nachvollziehbar erfolgt.
Datenschutzrechtliche Anforderungen beim Einsatz von KI
Eine der wichtigsten rechtlichen Grundlagen für den Einsatz künstlicher Intelligenz im Personalwesen bildet die Datenschutz-Grundverordnung. Da KI-Systeme im Personalbereich häufig mit sensiblen Informationen arbeiten, kommt dem Schutz personenbezogener Daten eine besondere Bedeutung zu.
Zu den verarbeiteten Informationen gehören beispielsweise Bewerbungsunterlagen, Kontaktdaten, berufliche Qualifikationen, Leistungsbewertungen oder Angaben zum Beschäftigungsverhältnis. Werden diese Daten mithilfe künstlicher Intelligenz analysiert, muss die Verarbeitung den Anforderungen der DSGVO entsprechen.
Gemäß Art. 5 DSGVO gelten unter anderem die Grundsätze der Rechtmäßigkeit, Transparenz, Zweckbindung und Datenminimierung. Unternehmen dürfen personenbezogene Daten daher nur für festgelegte, eindeutige und legitime Zwecke verarbeiten. Darüber hinaus müssen sie sicherstellen, dass ausschließlich diejenigen Daten erhoben und genutzt werden, die für den jeweiligen Zweck erforderlich sind (Europäisches Parlament & Rat der Europäischen Union, 2016).
Ergänzend regelt § 26 BDSG die Verarbeitung personenbezogener Beschäftigtendaten. Danach ist die Verarbeitung insbesondere dann zulässig, wenn sie für die Entscheidung über die Begründung, Durchführung oder Beendigung eines Beschäftigungsverhältnisses erforderlich ist. Die Vorschrift muss im Zusammenhang mit den unmittelbar geltenden Anforderungen der DSGVO angewendet werden (Bundesdatenschutzgesetz [BDSG], 2017, § 26).
Für Personalreferenten bedeutet dies beispielsweise, dass Bewerbungsunterlagen nicht ohne entsprechende Rechtsgrundlage in beliebige KI-Anwendungen hochgeladen werden dürfen. Insbesondere bei externen KI-Dienstleistern ist zu prüfen, ob personenbezogene Daten gespeichert, für andere Zwecke weiterverwendet oder an Unternehmen außerhalb der Europäischen Union übermittelt werden.
Außerdem müssen Arbeitgeber prüfen, ob mit dem jeweiligen Dienstleister ein Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO erforderlich ist. Sofern eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen mit sich bringt, kann darüber hinaus eine Datenschutz-Folgenabschätzung gemäß Art. 35 DSGVO notwendig sein (Europäisches Parlament & Rat der Europäischen Union, 2016).
Eine datenschutzkonforme Nutzung künstlicher Intelligenz setzt somit voraus, dass Unternehmen die verwendeten Systeme sorgfältig prüfen und geeignete technische sowie organisatorische Schutzmaßnahmen umsetzen.
Automatisierte Personalentscheidungen und menschliche Kontrolle
Ein besonders sensibler Bereich ist die automatisierte Entscheidungsfindung. KI-Systeme können beispielsweise Bewerbungsunterlagen analysieren, Kandidaten anhand bestimmter Kriterien bewerten oder Empfehlungen für die Personalauswahl erstellen.
Problematisch wird dies insbesondere dann, wenn die Entscheidung über die Einstellung oder Ablehnung einer Person ausschließlich durch ein automatisiertes System erfolgt.
Art. 22 Abs. 1 DSGVO schützt betroffene Personen grundsätzlich davor, einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Ausnahmen sind nur unter bestimmten gesetzlichen Voraussetzungen und mit entsprechenden Schutzmaßnahmen zulässig (Europäisches Parlament & Rat der Europäischen Union, 2016).
Dies ist insbesondere bei KI-gestützten Bewerbungsverfahren relevant. Wenn ein Algorithmus Bewerbungen automatisch aussortiert, ohne dass ein Mensch tatsächlich Einfluss auf die Entscheidung nehmen kann, kann dies gegen die datenschutzrechtlichen Anforderungen verstoßen.
Eine menschliche Beteiligung ist dabei nicht bereits dadurch gewährleistet, dass ein Personalreferent die automatisierte Entscheidung lediglich bestätigt. Vielmehr muss eine tatsächliche und eigenständige Überprüfung möglich sein.
Arbeitgeber sollten daher sicherstellen, dass KI-Systeme grundsätzlich als unterstützende Instrumente eingesetzt werden und Personalverantwortliche die Ergebnisse kritisch hinterfragen können. Dies gilt insbesondere bei Entscheidungen, die erhebliche Auswirkungen auf die berufliche Zukunft der betroffenen Personen haben.
Diskriminierungsrisiken und das Allgemeine Gleichbehandlungsgesetz
Neben dem Datenschutz stellt die Vermeidung von Diskriminierung eine weitere zentrale rechtliche Herausforderung dar.
KI-Systeme basieren häufig auf statistischen Modellen und vorhandenen Datensätzen. Enthalten diese Daten bereits gesellschaftliche oder betriebliche Ungleichheiten, besteht die Gefahr, dass entsprechende Benachteiligungen durch algorithmische Entscheidungen übernommen oder verstärkt werden.
So könnte ein KI-System bei der Bewerberauswahl bestimmte Personengruppen systematisch schlechter bewerten, wenn es anhand historischer Einstellungsentscheidungen trainiert wurde, die bereits diskriminierende Muster enthielten.
Das Allgemeine Gleichbehandlungsgesetz soll Benachteiligungen unter anderem wegen des Geschlechts, des Alters, einer Behinderung, der Religion oder Weltanschauung, der ethnischen Herkunft oder der sexuellen Identität verhindern. Das Benachteiligungsverbot gilt auch für Bewerbungsverfahren und berufliche Aufstiegsmöglichkeiten (Allgemeines Gleichbehandlungsgesetz [AGG], 2006, §§ 1–3, 6–7).
Für Arbeitgeber ist dabei entscheidend, dass auch mittelbare Diskriminierungen rechtlich relevant sein können. Eine solche liegt beispielsweise vor, wenn scheinbar neutrale Auswahlkriterien bestimmte Personengruppen besonders benachteiligen und keine ausreichende sachliche Rechtfertigung besteht.
Personalreferenten sollten deshalb darauf achten, dass KI-basierte Auswahlverfahren regelmäßig auf mögliche Verzerrungen untersucht werden. Dazu gehört insbesondere die Überprüfung, ob die verwendeten Bewertungskriterien tatsächlich für die ausgeschriebene Tätigkeit relevant sind.
Die Verantwortung für ein diskriminierungsfreies Bewerbungsverfahren verbleibt beim Arbeitgeber. Der Einsatz eines extern entwickelten KI-Systems befreit Unternehmen nicht von ihren gesetzlichen Pflichten.
Die europäische KI-Verordnung und ihre Bedeutung für das Personalwesen
Mit dem europäischen AI Act wurden zusätzliche rechtliche Anforderungen für die Nutzung künstlicher Intelligenz geschaffen.
Die Verordnung verfolgt einen risikobasierten Ansatz. Danach richten sich die gesetzlichen Anforderungen nach dem Risiko, das mit der jeweiligen KI-Anwendung für die Gesundheit, Sicherheit und Grundrechte von Menschen verbunden ist.
Besonders relevant für das Personalwesen ist die Einstufung bestimmter KI-Anwendungen als Hochrisiko-KI-Systeme.
Gemäß Art. 6 in Verbindung mit Anhang III der Verordnung (EU) 2024/1689 können insbesondere folgende Anwendungen in diese Kategorie fallen:
KI-Systeme zur Analyse, Filterung und Bewertung von Bewerbungsunterlagen.
KI-Anwendungen zur Beurteilung und Auswahl von Bewerbern.
Systeme zur Überwachung und Bewertung von Beschäftigtenleistungen.
KI-Anwendungen, die Entscheidungen über Beförderungen oder die Beendigung von Beschäftigungsverhältnissen beeinflussen.
Systeme zur Aufgabenverteilung auf Grundlage individueller Eigenschaften oder Verhaltensmerkmale.
Die genaue rechtliche Einstufung hängt vom vorgesehenen Einsatzzweck und den gesetzlichen Ausnahmeregelungen ab (Europäisches Parlament & Rat der Europäischen Union, 2024).
Für Hochrisiko-KI-Systeme sieht die Verordnung unter anderem Anforderungen an die menschliche Aufsicht, die Dokumentation, die Transparenz sowie die Überwachung des ordnungsgemäßen Betriebs vor.
Dabei muss zwischen den Pflichten der Anbieter und den Pflichten der Betreiber unterschieden werden. Unternehmen, die ein KI-System im Personalwesen einsetzen, gelten in der Regel als Betreiber und müssen insbesondere die für sie geltenden Anforderungen aus Art. 26 der KI-Verordnung berücksichtigen.
Wichtig ist der aktuelle zeitliche Anwendungsbereich: Durch die Verordnung (EU) 2026/1744 wurden die Anwendungstermine wesentlicher Hochrisiko-Vorschriften angepasst. Die entsprechenden Anforderungen für Hochrisiko-KI-Systeme nach Anhang III, zu denen zahlreiche Personalmanagement-Anwendungen zählen, gelten grundsätzlich ab dem 2. Dezember 2027. Andere Regelungen, beispielsweise bestimmte Verbote und Vorgaben zur KI-Kompetenz, gelten bereits. Bestehende Systeme können zudem Übergangsregelungen unterliegen (Europäisches Parlament & Rat der Europäischen Union, 2026).
Darüber hinaus enthält Art. 5 der KI-Verordnung bestimmte Verbote. Dazu gehört grundsätzlich auch der Einsatz von KI-Systemen zur Erkennung von Emotionen am Arbeitsplatz, wobei eng begrenzte Ausnahmen für medizinische oder sicherheitsbezogene Zwecke vorgesehen sind.
Für Personalverantwortliche ist es deshalb erforderlich, die eingesetzten KI-Anwendungen frühzeitig rechtlich einzuordnen und sich auf die bereits geltenden sowie künftig anwendbaren Anforderungen vorzubereiten.
Mitbestimmungsrechte des Betriebsrats
Ein weiterer wichtiger Aspekt betrifft die Beteiligung des Betriebsrats bei der Einführung und Nutzung künstlicher Intelligenz.
Das Betriebsverfassungsgesetz enthält verschiedene Informations-, Beratungs- und Mitbestimmungsrechte, die beim Einsatz digitaler Technologien zu beachten sind.
Besonders relevant ist § 87 Abs. 1 Nr. 6 BetrVG. Danach hat der Betriebsrat bei der Einführung und Anwendung technischer Einrichtungen mitzubestimmen, die dazu bestimmt sind, das Verhalten oder die Leistung von Arbeitnehmern zu überwachen (Betriebsverfassungsgesetz [BetrVG], 1972).
Dies kann beispielsweise der Fall sein, wenn KI-Systeme Arbeitsleistungen analysieren, Produktivitätskennzahlen auswerten oder das Verhalten von Beschäftigten erfassen.
Darüber hinaus verpflichtet § 90 BetrVG Arbeitgeber dazu, den Betriebsrat über die Planung von Arbeitsverfahren und Arbeitsabläufen einschließlich des Einsatzes künstlicher Intelligenz zu unterrichten und mit ihm zu beraten.
Auch bei personellen Auswahlrichtlinien sind die Beteiligungsrechte relevant. § 95 Abs. 2a BetrVG stellt ausdrücklich klar, dass die Rechte des Betriebsrats bei der Aufstellung von Auswahlrichtlinien auch dann gelten, wenn bei deren Erstellung künstliche Intelligenz zum Einsatz kommt (BetrVG, 1972).
Arbeitgeber sollten den Betriebsrat daher möglichst frühzeitig in entsprechende Vorhaben einbeziehen. Eine rechtzeitige Beteiligung kann dazu beitragen, rechtliche Konflikte zu vermeiden und die Akzeptanz neuer Technologien innerhalb der Belegschaft zu erhöhen.
Transparenz und Verantwortung der Personalabteilung
Neben den unmittelbar geltenden gesetzlichen Anforderungen spielt die Transparenz beim KI-Einsatz eine wesentliche Rolle.
Bewerber und Beschäftigte sollten nachvollziehen können, in welchen Personalprozessen künstliche Intelligenz verwendet wird und welche Bedeutung die entsprechenden Systeme für Entscheidungen haben.
Die Informationspflichten der DSGVO, insbesondere nach Art. 13 und 14, verpflichten Arbeitgeber dazu, betroffene Personen über die Verarbeitung ihrer personenbezogenen Daten zu informieren. Bei bestimmten automatisierten Entscheidungsverfahren bestehen darüber hinaus besondere Informationsanforderungen nach Art. 13 bis 15 DSGVO (Europäisches Parlament & Rat der Europäischen Union, 2016).
Zusätzliche Informationspflichten für Betreiber bestimmter Hochrisiko-KI-Systeme ergeben sich aus Art. 26 der europäischen KI-Verordnung, sobald die jeweiligen Vorschriften anwendbar sind.
Für die praktische Umsetzung bedeutet dies, dass Unternehmen klare interne Vorgaben für den Einsatz künstlicher Intelligenz entwickeln sollten.
Hierzu gehören insbesondere die Festlegung zulässiger Anwendungsbereiche, die Dokumentation relevanter Entscheidungen und die Benennung verantwortlicher Personen. Ebenso wichtig ist die regelmäßige Schulung der Beschäftigten, die KI-Anwendungen nutzen.
Art. 4 der europäischen KI-Verordnung verpflichtet Anbieter und Betreiber von KI-Systemen dazu, Maßnahmen zu ergreifen, um nach besten Kräften ein ausreichendes Maß an KI-Kompetenz bei den mit den Systemen befassten Personen sicherzustellen. Dabei sind unter anderem deren Kenntnisse, Erfahrungen und der konkrete Einsatzkontext zu berücksichtigen (Europäisches Parlament & Rat der Europäischen Union, 2024).
Personalreferenten benötigen daher nicht nur grundlegende technische Kenntnisse, sondern auch ein Bewusstsein für datenschutzrechtliche Risiken, mögliche Diskriminierungen und die Grenzen automatisierter Entscheidungen.
Handlungsempfehlungen für Arbeitgeber und Personalreferenten
Um KI-Systeme rechtssicher und verantwortungsvoll im Personalwesen einzusetzen, empfiehlt sich ein strukturiertes Vorgehen. Die folgenden Maßnahmen können Unternehmen dabei unterstützen:
1. Rechtliche Prüfung vor der Einführung
Vor der Nutzung eines KI-Systems sollten dessen Zweck, Risikoklasse, datenschutzrechtliche Zulässigkeit sowie mögliche Mitbestimmungsrechte geprüft werden.
2. Datenschutz und Datensicherheit gewährleisten
Personenbezogene Daten müssen geschützt und auf das notwendige Maß beschränkt werden. Externe Dienstleister sind hinsichtlich ihrer Datenverarbeitung zu kontrollieren.
3. Diskriminierungsrisiken überprüfen
KI-gestützte Auswahl- und Bewertungsverfahren sollten regelmäßig auf mögliche Benachteiligungen bestimmter Personengruppen untersucht werden.
4. Menschliche Kontrolle sicherstellen
Personalentscheidungen mit erheblichen Auswirkungen auf Beschäftigte oder Bewerber sollten einer tatsächlichen menschlichen Überprüfung zugänglich sein.
5. Beschäftigte schulen und Verantwortlichkeiten festlegen
Personalreferenten sollten im Umgang mit KI-Systemen geschult werden. Zusätzlich sind interne Verantwortlichkeiten sowie Kontroll- und Dokumentationsprozesse festzulegen.
Diese Maßnahmen können dazu beitragen, rechtliche Risiken zu reduzieren und gleichzeitig die Chancen künstlicher Intelligenz für die Personalarbeit zu nutzen.
Fazit
Der Einsatz künstlicher Intelligenz bietet Arbeitgebern und Personalreferenten vielfältige Möglichkeiten, Personalprozesse effizienter zu gestalten und administrative Aufgaben zu erleichtern. Insbesondere die automatisierte Verarbeitung von Bewerbungen, die Unterstützung bei Personalentscheidungen und die Analyse personalwirtschaftlicher Daten können Unternehmen organisatorische Vorteile verschaffen.
Gleichzeitig entstehen durch den KI-Einsatz erhebliche rechtliche Anforderungen. Vor allem der Schutz personenbezogener Daten, die Vermeidung von Diskriminierung, die Sicherstellung menschlicher Kontrolle sowie die Beteiligung des Betriebsrats müssen berücksichtigt werden.
Mit der europäischen KI-Verordnung kommen zusätzliche Anforderungen hinzu, die insbesondere den Einsatz von Hochrisiko-KI-Systemen im Personalmanagement betreffen. Arbeitgeber sind daher gefordert, ihre bestehenden Verfahren zu überprüfen und geeignete organisatorische sowie technische Schutzmaßnahmen zu entwickeln.
Für Personalreferenten bedeutet dies, dass neben klassischen personalwirtschaftlichen Kompetenzen zunehmend Kenntnisse im Datenschutz-, Arbeits- und KI-Recht erforderlich werden.
Langfristig wird ein verantwortungsvoller KI-Einsatz im Personalwesen nur dann erfolgreich sein, wenn technologische Effizienz mit rechtlicher Sicherheit, Transparenz und dem Schutz der Beschäftigtenrechte verbunden wird.




