AI Act im HR: Hochrisiko, Fristen, Pflichten für Arbeitgeber

Im ursprünglichen Zeitplan hätte dieser Text vor einem Stichtag gewarnt, der schon vorbei ist. Ab dem 2. August 2026 sollten die Pflichten für Hochrisiko-KI gelten, darunter fast jede KI, die Bewerbungen sortiert oder Beschäftigte bewertet. Dann kam der Digital Omnibus. Die Verordnung (EU) 2026/1744 wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und trat drei Tage später in Kraft. Sie verschiebt die Pflichten für Hochrisiko-Systeme aus Anhang III auf den 2. Dezember 2027.

Das ist ein Aufschub von 16 Monaten. Für ein Software-Projekt im Personalbereich ist das nicht viel.

Was im Personalbereich als Hochrisiko gilt

Die KI-Verordnung (EU) 2024/1689 listet in Anhang III, Nummer 4, zwei Gruppen von Anwendungen in Beschäftigung und Personalmanagement:

• KI für die Einstellung oder Auswahl von Personen, insbesondere für gezielte Stellenanzeigen, für die Analyse und Filterung von Bewerbungen und für die Bewertung von Bewerbern.
• KI für Entscheidungen über Arbeitsbedingungen, Beförderung oder Kündigung, für die Zuweisung von Aufgaben auf Grundlage von Verhalten oder persönlichen Merkmalen und für die Überwachung und Bewertung von Leistung und Verhalten.

Das ist breit. Es umfasst den Ranking-Algorithmus im Bewerbermanagement genauso wie eine Software, die Schichten nach Leistungskennzahlen verteilt, oder ein Tool, das Vertriebsmitarbeiter nach Aktivität bewertet.

Es gibt eine Ausnahme. Nach Art. 6 Abs. 3 ist ein System aus Anhang III kein Hochrisiko, wenn es kein erhebliches Risiko birgt, etwa weil es nur eine eng begrenzte Verfahrensaufgabe erledigt oder eine menschliche Tätigkeit nur verbessert. Diese Ausnahme gilt aber nie, wenn das System Profile von natürlichen Personen erstellt. Im Recruiting tun das die meisten Bewertungsfunktionen. Ich würde mich auf die Ausnahme nur stützen, wenn der Anbieter sie schriftlich begründet.

Nicht nur Recruiting: das laufende Arbeitsverhältnis

Die Debatte dreht sich meist um Bewerbungen. Die zweite Gruppe in Anhang III ist für viele Betriebe aber relevanter, weil sie bestehende Beschäftigte betrifft. Drei Beispiele aus dem Alltag zeigen, wie schnell man dort landet.

Ein Callcenter lässt Gespräche von einer KI auf Qualität prüfen und erstellt daraus Bewertungen pro Mitarbeiter. Das ist Überwachung und Bewertung von Leistung und fällt unter Anhang III. Ein Logistiklager verteilt Kommissionieraufträge per Algorithmus, der die bisherige Geschwindigkeit der einzelnen Beschäftigten einbezieht. Das ist Aufgabenzuweisung auf Grundlage individuellen Verhaltens. Ein Vertriebsteam bekommt monatliche Scores aus CRM-Aktivitäten, die in die Bonusberechnung einfließen. Auch das ist erfasst.

Anders dürfte es bei einer KI liegen, die Schichtpläne nur nach Verfügbarkeit und Arbeitszeitregeln erstellt und weder Leistung noch persönliche Merkmale einbezieht. Sie verteilt Zeiten, nicht Menschen nach ihrem Verhalten. Die Grenze verläuft also nicht zwischen Software-Kategorien, sondern zwischen Funktionen.

Die Fristen nach dem Digital Omnibus

1. 1. Aug. 2024AI Act tritt in Kraft.
2. 2. Feb. 2025Verbote nach Art. 5 gelten, darunter Emotionserkennung am Arbeitsplatz. Pflicht zur KI-Kompetenz nach Art. 4.
3. 27. Juli 2026Digital Omnibus in Kraft, verschiebt die Hochrisiko-Fristen und fasst Art. 4 neu.
4. 2. Aug. 2026Transparenzpflichten nach Art. 50, etwa Hinweis, dass ein Chatbot eine KI ist.
5. 2. Dez. 2027Pflichten für Hochrisiko-KI nach Anhang III, also auch Recruiting und Personalmanagement.
6. 2. Aug. 2028Pflichten für Hochrisiko-KI in regulierten Produkten nach Anhang I.

Quelle: Verordnung (EU) 2024/1689; Verordnung (EU) 2026/1744 (Digital Omnibus)

Zwei Pflichten gelten also schon heute. Das Verbot der Emotionserkennung am Arbeitsplatz, außer aus medizinischen oder Sicherheitsgründen, betrifft vor allem Video-Interview-Tools, die Mimik oder Stimme auswerten. Und Art. 4 gilt seit Februar 2025: Wer KI einsetzt, muss sich um die KI-Kompetenz seines Personals kümmern. Der Digital Omnibus hat die Vorschrift neu gefasst. Seit dem 27. Juli 2026 müssen Anbieter und Betreiber Maßnahmen ergreifen, die die KI-Kompetenz ihres Personals fördern, ein bestimmtes Niveau einzelner Personen müssen sie nicht garantieren. Eine kurze Schulung für das HR-Team, das mit KI-Funktionen arbeitet, bleibt trotzdem der naheliegende Weg, diese Pflicht zu erfüllen.

Seit August 2026 kommt die Transparenzpflicht nach Art. 50 hinzu. Ein Chatbot auf der Karriereseite muss offenlegen, dass Bewerber mit einer KI sprechen, sofern das nicht offensichtlich ist.

Anbieter oder Betreiber: welche Rolle du hast

Der AI Act unterscheidet scharf zwischen dem Anbieter, der ein KI-System entwickelt und in Verkehr bringt, und dem Betreiber, der es in eigener Verantwortung nutzt. Ein Arbeitgeber, der eine Bewerbermanagement-Software mit KI-Ranking kauft, ist Betreiber. Die schweren Pflichten wie Risikomanagement, technische Dokumentation und Konformitätsbewertung trägt der Anbieter.

Die Rolle kann aber kippen. Nach Art. 25 wird ein Betreiber selbst zum Anbieter, wenn er ein Hochrisiko-System unter eigenem Namen anbietet, es wesentlich verändert oder ein anderes System so einsetzt, dass es zum Hochrisiko-System wird. Das passiert schneller, als man denkt. Wer ein allgemeines Sprachmodell per Prompt anweist, Bewerbungen zu bewerten und eine Rangliste zu erstellen, kann damit Anbieterpflichten auslösen.

Kriterium	Anbieter	Betreiber (Arbeitgeber)
Risikomanagement und technische Dokumentation
Konformitätsbewertung, CE-Kennzeichnung, EU-Datenbank
Nutzung nach Gebrauchsanweisung
Menschliche Aufsicht durch kompetente Personen	ermöglichen	sicherstellen
Eingabedaten relevant und repräsentativ	Trainingsdaten	soweit unter eigener Kontrolle
Protokolle aufbewahren		mind. 6 Monate
Betriebsrat und Beschäftigte vorab informieren
Betroffene über KI-Einsatz bei Entscheidungen informieren

Die Betreiberpflichten im Einzelnen

Art. 26 der KI-Verordnung fasst zusammen, was Arbeitgeber als Betreiber leisten müssen. Die wichtigsten Punkte:

Das System wird nach der Gebrauchsanweisung des Anbieters eingesetzt. Wer es für andere Zwecke nutzt, verliert den Schutz der Betreiberrolle.

Die menschliche Aufsicht übernehmen Personen, die dafür die nötige Kompetenz, Ausbildung und Befugnis haben. Ein Recruiter, der die KI-Rangliste nur abnickt, erfüllt das nicht.

Soweit der Arbeitgeber die Eingabedaten kontrolliert, müssen sie für den Zweck relevant und ausreichend repräsentativ sein. Wer etwa eigene Anforderungsprofile hinterlegt, ist dafür verantwortlich.

Die automatisch erzeugten Protokolle werden mindestens sechs Monate aufbewahrt, soweit andere Vorschriften nichts anderes verlangen.

Vor der Inbetriebnahme am Arbeitsplatz informiert der Arbeitgeber die Arbeitnehmervertretung und die betroffenen Beschäftigten (Art. 26 Abs. 7). Das ersetzt die Mitbestimmung nach dem Betriebsverfassungsgesetz nicht. Wie die läuft, erklärt der Beitrag zur Mitbestimmung bei Software.

Menschen, über die mithilfe des Systems entschieden wird, erfahren, dass ein Hochrisiko-System im Spiel ist (Art. 26 Abs. 11). Abgelehnte Bewerber können nach Art. 86 außerdem eine Erklärung verlangen, welche Rolle das System bei der Entscheidung gespielt hat.

Eine Grundrechte-Folgenabschätzung nach Art. 27 brauchen private Arbeitgeber in der Regel nicht. Die Datenschutz-Folgenabschätzung nach Art. 35 DSGVO bleibt dagegen meist Pflicht.

Was bei Verstößen droht

Die Bußgelder sind gestaffelt (Art. 99). Verstöße gegen die Verbote, etwa Emotionserkennung, kosten bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes. Verstöße gegen die Betreiberpflichten bis zu 15 Millionen Euro oder 3 Prozent. Für kleine und mittlere Unternehmen gilt jeweils der niedrigere Wert. Das klingt nach Konzernthema, aber ein Bußgeld ist nicht das einzige Risiko. Eine fehlerhafte KI-Absage ist im AGG-Verfahren ein Problem, ganz unabhängig vom AI Act. Warum, steht im Beitrag KI im Recruiting.

Was du bis Dezember 2027 erledigen solltest

• Inventur: Welche Software im HR-Bereich hat KI-Funktionen, und welche davon bewerten Menschen?
• Emotionserkennung und Persönlichkeitsanalyse aus Video- oder Sprachdaten sofort abschalten
• KI-Schulung für alle, die mit solchen Funktionen arbeiten (Art. 4)
• Chatbots auf der Karriereseite als KI kennzeichnen (Art. 50)
• Anbieter schriftlich fragen, ob und wie sie die Hochrisiko-Pflichten bis 2. Dezember 2027 erfüllen
• Verantwortliche für die menschliche Aufsicht benennen und ihre Befugnisse festlegen
• Protokollaufbewahrung von mindestens sechs Monaten einrichten
• Betriebsrat einbinden, Betriebsvereinbarung um KI-Regeln ergänzen
• Datenschutzhinweise für Bewerber und Beschäftigte anpassen

Mein Rat: Fang mit der Inventur an. In vielen Betrieben weiß niemand genau, welche KI-Funktionen in der vorhandenen HR-Software eingeschaltet sind, weil sie mit Updates kamen. Wer neue Software kauft, sollte die Frage nach der AI-Act-Konformität ins Pflichtenheft schreiben, siehe Bewerbermanagement-Software. Den vollständigen Text der Verordnung findest du bei EUR-Lex.

Wer eigene KI-Systeme für HR entwickeln lässt, sollte die Anforderungen an Protokollierung und menschliche Aufsicht von Anfang an einplanen. Studios wie OnlineBuilders bauen solche Systeme und können die Rollenfrage zwischen Anbieter und Betreiber früh mitdenken.

Dein nächster Schritt: Schreib eine Liste aller HR-Werkzeuge mit KI-Funktion und markiere die, die Menschen bewerten, sortieren oder überwachen. Für jede markierte Zeile brauchst du bis Dezember 2027 eine Antwort des Anbieters. Weitere Themen findest du in der Rubrik Recht und Mitbestimmung.

Häufige Fragen

Gilt der AI Act auch für kleine Unternehmen?

Ja, der AI Act kennt keine Größenschwelle für Betreiber. Kleine und mittlere Unternehmen profitieren aber von Erleichterungen, etwa bei Bußgeldern, die bei ihnen nach dem jeweils niedrigeren Betrag bemessen werden, und von vereinfachten Dokumentationspflichten für Anbieter.

Ist ChatGPT im Personalbereich Hochrisiko?

Nicht automatisch. Entscheidend ist der Einsatzzweck. Wer damit Anzeigen formuliert, nutzt kein Hochrisiko-System. Wer damit Bewerbungen bewerten oder sortieren lässt, setzt das Werkzeug für einen Hochrisiko-Zweck ein und kann damit selbst Pflichten eines Anbieters übernehmen.

Brauchen Arbeitgeber eine Grundrechte-Folgenabschätzung?

In der Regel nicht. Art. 27 AI Act verpflichtet nur öffentliche Stellen, private Anbieter öffentlicher Dienste und Betreiber bestimmter Kredit- und Versicherungssysteme. Eine Datenschutz-Folgenabschätzung nach DSGVO ist bei KI-Personalauswahl dagegen meist Pflicht.

Wer überwacht den AI Act in Deutschland?

Nach dem KI-Marktüberwachungsgesetz (KI-MIG), in Kraft seit dem 29. Juli 2026, ist die Bundesnetzagentur die zentrale Marktüberwachungsbehörde. Für Fragen des Datenschutzes bleiben die Datenschutzaufsichtsbehörden zuständig.