KI im Personalbereich: Wo ist die Grenze überschritten?

Gerade bei Einstellungen, Beförderungen oder auch Entlassungen muss ein Mensch stets das letzte Wort behalten – nicht die Maschine. Bestimmte KI-Anwendungen überschreiten hier viele Grenzen und dürfen deshalb im sensiblen Personalbereich keinen Platz haben. Dazu gehören Systeme, die Menschen unbemerkt manipulieren oder gezielt psychologische Schwächen ausnutzen. Verboten ist auch die Emotionserkennung am Arbeitsplatz: Software darf nicht aus Mimik, Stimme oder Körpersprache auf Stress, Motivation oder Eignung schließen. Ebenso kritisch sind KI-basierte Social-Scoring-Systeme. Wenn E-Mail-Antwortzeiten, Standortdaten oder private Informationen zu einem Gesamtwert verdichtet werden und dieser Personalentscheidungen beeinflusst, bewegt sich ein Unternehmen, das dies zulässt, im tiefroten Bereich, den die EU-KI-Verordnung unter Strafe stellt.

Hinzu kommt das Risiko mittelbarer Diskriminierung: Bewertet ein Algorithmus zum Beispiel Erwerbspausen negativ, kann er etwa Eltern oder ältere Beschäftigte systematisch benachteiligen. Auch das muss ein Arbeitgeber und HR im Blick haben. Dagegen helfen oft schon verständlich geschriebene Leitfäden, bevor umfassende Schulungen greifen…