Welche KI-Systeme im Personalwesen als Hochrisiko gelten (Anhang III)

Von allen Abteilungen eines Unternehmens setzt die Personalabteilung am wahrscheinlichsten ein als Hochrisiko eingestuftes KI-System ein — und weiß es am seltensten. Nicht weil das Werkzeug besonders ausgefeilt wäre, sondern weil Anhang III der Verordnung genau dort ansetzt: bei Entscheidungen, die die Beschäftigung einer Person betreffen.

Was Anhang III zur Beschäftigung sagt

Ziffer 4 des Anhangs III stuft KI-Systeme als Hochrisiko ein, die für die Einstellung oder Auswahl natürlicher Personen bestimmt sind, insbesondere für gezielt platzierte Stellenanzeigen, die Analyse und Filterung von Bewerbungen sowie die Bewertung von Bewerbenden. Hinzu kommt ein zweiter Block: Systeme zur Entscheidung über Bedingungen des Arbeitsverhältnisses, Beförderung oder Kündigung, zur Zuweisung von Aufgaben anhand von Verhalten oder persönlichen Merkmalen, sowie zur Überwachung und Bewertung von Leistung und Verhalten.

Mit anderen Worten: Es braucht kein exotisches System. Ein automatischer Lebenslauf-Filter, ein Bewertungswerkzeug für Vorstellungsgespräche, ein Algorithmus zur Schichtzuteilung nach historischer Produktivität oder ein Panel zur jährlichen Leistungsbeurteilung — sie alle fallen unter diese Kategorie, sobald sie erheblich zur Entscheidung beitragen.

Was die Hochrisiko-Einstufung hinzufügt

Betreiber eines Hochrisikosystems zu sein, ändert nicht nur die Anwendung von Artikel 4: Es fügt die konkreten Pflichten aus Artikel 26 hinzu, die man kennen sollte, bevor man mit einem Anbieter einen Vertrag unterzeichnet.

• Nutzung gemäß den Anweisungen des Anbieters und Prüfung, ob die Eingabedaten für den Verwendungszweck relevant und hinreichend repräsentativ sind.
• Menschliche Aufsicht durch Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis, die tatsächlich in der Lage sind, eine Entscheidung des Systems aufzuheben.
• Aufbewahrung der automatisch erzeugten Protokolle für mindestens sechs Monate.
• Unterrichtung der Arbeitnehmervertretung und der betroffenen Personen darüber, dass sie einem Hochrisikosystem unterliegen werden, bevor es in Betrieb genommen wird.
• Meldung an Anbieter und Aufsichtsbehörde bei Feststellung eines ernsten Risikos, sowie Aussetzung der Nutzung während der Untersuchung.

Die übersehene Nuance: vorher informieren, nicht nachher

Die Pflicht, Beschäftigte zu informieren, ist keine nachträgliche Formalität: Artikel 26 Absatz 7 verlangt, dass sie erfüllt wird, bevor das System in Betrieb genommen oder erstmals am Arbeitsplatz eingesetzt wird. Ein Unternehmen, das bereits ein Auswahlsystem nutzt und erst jetzt über die Information nachdenkt, befindet sich streng genommen im Verzug.

Was menschliche Aufsicht tatsächlich verlangt

Es genügt nicht, dass eine Person das Ergebnis theoretisch prüfen könnte. Artikel 14 verlangt, dass die aufsichtführende Person die Fähigkeiten und Grenzen des Systems versteht, dessen Ausgabe korrekt interpretieren kann und in der Lage ist, sie nicht zu verwenden oder eine darauf gestützte Entscheidung aufzuheben. Wer im Personalwesen automatisch übernimmt, was der Algorithmus vorschlägt, ohne ihn tatsächlich hinterfragen zu können, erfüllt nicht die von der Verordnung geforderte wirksame menschliche Aufsicht. Genau diese Kompetenz zu erwerben verlangt Artikel 4.

Häufige Fragen

Womit anfangen

Stützt sich ein Auswahl-, Bewertungs- oder Beförderungsprozess in Ihrem Unternehmen auf ein automatisiertes Werkzeug, lohnt sich zuerst die Prüfung dreier Punkte: ob diese Nutzung unter Anhang III fällt, ob die betroffenen Personen bereits informiert wurden, und ob die aufsichtführende Person die tatsächliche Ausbildung und Befugnis hat, Entscheidungen des Systems aufzuheben. Unsere kostenlose Risikoprüfung hilft, Ihren konkreten Fall in diesen Rahmen einzuordnen.