*Anmerkung der Redaktion am 23. Juni 2026: Derzeit gilt für zentrale Anforderungen des AI Acts weiterhin der 2. August 2026. Im Rahmen des ‚Digital Omnibus on AI‘ wird jedoch eine Verschiebung einzelner Pflichten, insbesondere für Hochrisiko-Systeme, auf voraussichtlich Dezember 2027 diskutiert; die formale Verabschiedung steht noch aus.

KI-Einsatz in mittelständischen Unternehmen

Mit dem EU AI Act hat die Europäische Union mit Inkrafttreten am 1. August 2024 erstmals einen verbindlichen Rechtsrahmen für den Einsatz Künstlicher Intelligenz geschaffen. Die Verordnung gilt branchen‑ und größenunabhängig und betrifft damit auch den Mittelstand unmittelbar. Sie ist dabei weniger als Technologiegesetz zu verstehen, sondern als Regelwerk für verantwortungsvolle Entscheidungsfindung mit KI. Für Unternehmen ist entscheidend, dass der EU AI Act nicht nur Anbieter von KI-Systemen adressiert. Auch Organisationen, die KI‑Systeme und KI-Funktionen in Standardsoftware einsetzen, tragen als Betreiber die Verantwortung für den Einsatz im eigenen Kontext.

Anforderungen für KI-Anwendungen im Personalwesen ab August 2026*

Für KI-Anwendungen im Personalbereich mit hohem Risiko verlangt der EU AI Act ab diesem August* von den Betreibern insbesondere ein strukturiertes Risikomanagement, die Sicherstellung von Datenqualität und Bias‑Prävention, eine nachvollziehbare Dokumentation von Einsatzkontexten sowie die Gewährleistung menschlicher Aufsicht und Entscheidungshoheit. Anbieter eines hochriskanten KI-Systems unterliegen darüber hinaus weitergehenden technischen, organisatorischen und dokumentationsbezogenen Pflichten.

Die Leitfrage jeder Personalabteilung mit KI-Anwendungen lautet für eine erste Einordnung des Risikoniveaus daher: Beeinflusst diese KI‑Anwendung Entscheidungen über berufliche Chancen, Arbeitsbedingungen oder den Fortbestand eines Arbeitsverhältnisses? Dabei reicht es aus, dass eine KI empfehlend oder vorbereitend wirkt, wenn diesen Empfehlungen in der Praxis regelmäßig gefolgt wird.

Risikoeinordnung typischer HR-Anwendungsfälle mit KI

KI stellt kein einheitliches Risiko dar, sondern kann abhängig davon, wo und wie sie eingesetzt wird, unterschiedliche Wirkungen entfalten. Daher verfolgt der EU AI Act einen risikobasierten Ansatz und unterscheidet vier Risikokategorien:

• Unzulässige KI‑Praktiken sind mit europäischen Grundwerten unvereinbar (z.B. manipulative oder stark überwachende Systeme) und grundsätzlich verboten.
• Hochrisiko‑KI‑Systeme umfassen KI‑Anwendungen, die geeignet sind, Grundrechte, Sicherheit oder berufliche Chancen von Menschen erheblich zu beeinflussen. Sie sind zulässig, unterliegen jedoch strengen Anforderungen.
• KI‑Systeme mit begrenztem Risiko erfordern Transparenzpflichten, wie die Kennzeichnung von KI‑Interaktionen.
• KI‑Systeme mit minimalem Risiko bleiben weitgehend unreguliert.

Eher unkritische Anwendungsfälle (Use‑Cases) sind zum Beispiel HR‑Chatbots für Standardanfragen oder automatisierte Text- und Dokumentenerstellung. Hier unterstützt KI-Prozesse, ohne Entscheidungen über Personen zu treffen.

Eine differenzierte Betrachtung ist insbesondere bei Learning- und Entwicklungsanwendungen erforderlich. Typischerweise nicht hochriskant sind etwa Content-Empfehlungen oder Lernassistenten. Hochrisiko‑Relevanz entsteht jedoch dort, wo KI‑Systeme Lernergebnisse bewerten oder den Zugang zu Bildungs‑ oder Entwicklungsmaßnahmen steuern.

Besonders sensible Use‑Cases liegen im Recruiting oder Performance‑ und Talent‑Management, wenn KI-Bewertungen, Rankings oder Trennungsentscheidungen vorbereitet oder beeinflusst.

Für Unternehmen ergibt sich daraus: Nicht jede KI‑Anwendung im HR-Bereich erfordert Handlungsbedarf, aber jede Anwendung muss sichtbar und eingeordnet werden. Diese Differenzierung ist der Schlüssel, um regulatorische Anforderungen handhabbar zu machen und den KI‑Einsatz nicht unnötig auszubremsen.

Wie kann der Mittelstand den EU AI Act pragmatisch im Personalbereich angehen?

Der EU AI Act erfordert klare Verantwortlichkeiten und nachvollziehbare Prozesse in der Anwendung von KI. Für HR‑Verantwortliche lassen sich daraus vier pragmatische Handlungsfelder ableiten:

1. Transparenz schaffen: Wo wird im HR-Bereich bereits KI eingesetzt – bewusst oder als Funktion in Softwarelösungen?
2. Anwendungsfälle (Use-Cases) einordnen: Welche KI‑Anwendungen beeinflussen Entscheidungen über Menschen?
3. Governance klären: Wer trägt Verantwortung für den KI‑Einsatz? Wie arbeiten HR, IT, Datenschutz, Recht und ggf. Betriebsrat zusammen?
4. HR befähigen: Verantwortliche im Personalbereich benötigen die Kompetenz, KI‑Ergebnisse einzuordnen, kritisch zu hinterfragen und Verantwortung zu übernehmen.

Bisher befindet sich der Einsatz von KI im Personalwesen in vielen Unternehmen noch in einer frühen Phase. Dabei kann der EU AI Act als Orientierung genutzt werden, um KI strukturiert, zielgerichtet und entlang klarer Entscheidungslogiken aufzusetzen und weiterzuentwickeln.

THE MAK’ED TEAM unterstützt mittelständische Unternehmen dabei, den EU AI Act praxisnah im HR‑Kontext zu verorten – von der Einordnung bestehender KI‑Anwendungen, über eine strukturierte Risikodifferenzierung bis zur Gestaltung und Implementierung tragfähiger Governance‑Strukturen.