Künstliche Intelligenz revolutioniert das Personalwesen – von automatisiertem Recruiting über Chatbots bis hin zu Leistungsbewertungen. Doch ab August 2026 wird der Einsatz von KI im HR-Bereich zur Compliance-Frage. Der EU AI Act bringt strenge Anforderungen, die Arbeitgeber jetzt kennen sollten.
Was ist der EU AI Act?
Der EU AI Act ist die weltweit erste umfassende Regulierung von Künstlicher Intelligenz. Er trat im August 2024 in Kraft und wird schrittweise verbindlich. Für HR besonders relevant: KI-Systeme, die Personalentscheidungen beeinflussen, werden als Hochrisiko-Systeme eingestuft.
Die wichtigsten Fristen im Überblick:
- Februar 2025: Verbotene KI-Praktiken (z.B. Social Scoring) untersagt
- August 2025: Erste Transparenzpflichten für generative KI
- August 2026: Vollständige Anwendung für Hochrisiko-KI im HR-Bereich
- August 2027: Verschärfte Anforderungen und volle Sanktionen
Warum ist HR-KI Hochrisiko?
KI-Systeme, die Entscheidungen über Einstellung, Beförderung, Bewertung oder Kündigung unterstützen, können Grundrechte verletzen und Diskriminierung reproduzieren. Der EU AI Act definiert folgende HR-Anwendungen als Hochrisiko:
- Veröffentlichung gezielter Stellenanzeigen
- Analyse und Filterung von Bewerbungen (CV-Screening)
- Bewertung von Bewerberinnen und Bewerbern
- Leistungsbewertung von Mitarbeitenden
- Beförderungs- und Kündigungsentscheidungen
- Aufgabenverteilung und Arbeitszeitplanung
Wichtig: Nicht nur die Entwicklung, sondern auch die bloße Nutzung von High-Risk-KI ist reguliert. Unternehmen tragen als Betreiber eine aktive Mitverantwortung.
Welche Pflichten gelten ab August 2026?
Für Hochrisiko-KI-Systeme im Personalwesen gelten ab dem 2. August 2026 folgende Anforderungen:
1. Risikomanagement
Unternehmen müssen ein kontinuierliches Risikomanagementsystem etablieren, das Risiken wie Datenschutzverletzungen und Diskriminierung analysiert und minimiert.
2. Datenqualität
Die Eingabedaten müssen zur Aufgabe passen, aktuell sein und möglichst frei von Verzerrungen (Bias). Trainingsdaten für KI-Systeme müssen dokumentiert werden.
3. Dokumentation
Nachvollziehbarkeit von Prozessen und Entscheidungen ist Pflicht. Sie müssen dokumentieren, wie das KI-System funktioniert und welche Risiken bestehen.
4. Transparenz
Betroffene Personen (Bewerber, Mitarbeitende) müssen über den KI-Einsatz informiert werden. Eine heimliche Nutzung ist nicht zulässig.
5. Menschliche Kontrolle
Entscheidungen dürfen nicht vollautomatisch erfolgen. Menschliche Eingriffe müssen jederzeit möglich sein – das sogenannte Human-in-the-Loop-Prinzip.
6. Qualitätssicherung
Regelmäßige Überprüfung auf Genauigkeit und Verzerrungen (Bias). KI-Systeme müssen kontinuierlich überwacht werden.
Verbotene KI-Praktiken im HR
Einige KI-Anwendungen sind seit Februar 2025 komplett verboten:
- Social Scoring: Bewertung von Personen anhand ihres Verhaltens oder sozialer Merkmale
- Manipulative KI: Systeme, die Menschen zu schädlichem Verhalten verleiten
- Emotionserkennung am Arbeitsplatz: Außer für Sicherheits- oder medizinische Zwecke
- Biometrische Kategorisierung: Nach sensiblen Merkmalen wie Ethnie oder politischer Überzeugung
Chancen von KI im Personalwesen
Trotz der Regulierung bietet KI enorme Chancen für HR-Abteilungen:
- Zeitersparnis: Automatisierung von Routineaufgaben wie Terminplanung, Dokumentenerstellung
- Bessere Kandidatenauswahl: Objektive Vorauswahl basierend auf definierten Kriterien
- Personalisierte Mitarbeiterentwicklung: Individuelle Lernpfade und Karriereempfehlungen
- Predictive Analytics: Frühzeitiges Erkennen von Kündigungsrisiken oder Überlastung
- Chatbots für HR-Anfragen: 24/7-Support für Mitarbeitende bei Standardfragen
- Effiziente Dienstplanung: Optimierte Schichtpläne unter Berücksichtigung aller Faktoren
Praktische Umsetzung: So werden Sie compliant
Schritt 1: Bestandsaufnahme
Inventarisieren Sie alle KI-Systeme, die in Ihrer HR-Abteilung eingesetzt werden. Dazu gehören auch Tools von Drittanbietern wie Bewerbermanagementsysteme mit KI-Funktionen.
Schritt 2: Risikobewertung
Klassifizieren Sie jedes System nach dem Risikolevel des EU AI Acts. Hochrisiko-Systeme erfordern umfangreiche Dokumentation und Kontrollen.
Schritt 3: Governance-Strukturen aufbauen
Definieren Sie Verantwortlichkeiten: Wer ist für die Überwachung der KI-Systeme zuständig? Erwägen Sie die Ernennung eines KI-Beauftragten.
Schritt 4: Mitarbeitende schulen
Der EU AI Act verlangt, dass Personal mit KI-Kompetenz ausgestattet wird. Schulen Sie Ihre HR-Mitarbeitenden im verantwortungsvollen Umgang mit KI.
Schritt 5: Transparenz herstellen
Informieren Sie Bewerber und Mitarbeitende darüber, wo KI zum Einsatz kommt. Aktualisieren Sie Ihre Datenschutzerklärungen entsprechend.
Schritt 6: Dokumentation aufbauen
Beginnen Sie jetzt mit der Dokumentation: Wie funktionieren Ihre KI-Systeme? Welche Daten werden verwendet? Wie werden Entscheidungen getroffen?
Strafen bei Verstößen
Die Sanktionen bei Nichteinhaltung sind empfindlich:
- Verbotene KI-Systeme: Bis zu 35 Mio. € oder 7% des weltweiten Jahresumsatzes
- Verstöße gegen Hochrisiko-Anforderungen: Bis zu 15 Mio. € oder 3% des Umsatzes
- Falsche Angaben: Bis zu 7,5 Mio. € oder 1% des Umsatzes
Bei KMUs wird jeweils mit dem geringeren Betrag gerechnet, bei Großunternehmen mit dem höheren.
Betriebsrat einbeziehen
Setzen Arbeitgeber KI-Systeme ein, die Mitarbeitende betreffen, hat der Betriebsrat ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG. Binden Sie den Betriebsrat frühzeitig ein, um spätere Konflikte zu vermeiden.
Checkliste: KI-Compliance im HR
- Alle KI-Systeme in HR inventarisieren
- Risikobewertung nach EU AI Act durchführen
- Verantwortlichkeiten und Governance definieren
- Dokumentation der KI-Systeme erstellen
- Mitarbeitende schulen (KI-Kompetenz)
- Transparenzpflichten umsetzen (Information an Bewerber/Mitarbeiter)
- Human-in-the-Loop-Prozesse etablieren
- Betriebsrat einbeziehen
- Regelmäßige Überprüfung auf Bias und Diskriminierung
- Datenschutz-Folgenabschätzung (DSFA) durchführen
Fazit
KI im Personalwesen bietet enorme Chancen – von effizienteren Prozessen bis zu besseren Entscheidungen. Doch ab August 2026 wird der Einsatz zur Compliance-Frage. Unternehmen, die jetzt handeln, minimieren Risiken und können KI als Wettbewerbsvorteil nutzen. Ein transparenter und verantwortungsvoller Umgang mit KI stärkt nicht nur die Compliance, sondern auch die Arbeitgebermarke.