KI darf nicht diskriminieren

Immer mehr deutsche Unternehmen nutzen KI-Anwendungen oder planen deren Einsatz. Schwerpunkt dabei ist vor allem das Recruiting, wo die Optimierung von Stellenanzeigen, die Analyse von Lebensläufen oder die Integration von Chatbots immer häufiger automatisiert erfolgt. Doch eine Umfrage von Bundesverband für Personalmanager BPM und dem Ethikbeirat HR-Tech zeigt: Während sich Personalverantwortliche eine deutliche Verbesserung ihrer Arbeit durch den Einsatz moderner Technologien erhoffen, finden nicht alle Anwendungen den Beifall von Arbeitnehmerinnen und Arbeitnehmern. Besonders kritisch bewertet wird die automatisierte Erstellung von Rankings, zum Beispiel bei Einstellungen und Talentmanagement. 

Die Analyse basiert auf einer Befragung von mehr als 700 Arbeitnehmervertretern. Bereits Ende 2021 hatten BPM und Ethikbeirat HR-Tech eine vergleichbare Studie unter Personalverantwortlichen durchgeführt. Nun wurden die Ergebnisse beider Online-Befragungen  nun zusammengeführt, wissenschaftlich betreut durch Martin Kersting, Professor für psychologische Diagnostik an der Justus-Liebig-Universität Gießen und Mitglied des Ethikbeirat HR-Tech.  „Der Einsatz moderner Technologien in HR betrifft weit mehr als nur Personalverantwortliche. Daher war es unser Ziel, neben einer Befragung der HR-Seite auch Arbeitnehmervertreter zu den Herausforderungen eines Einsatzes von KI einzubinden. Die Spiegelung beider Perspektiven liefert wichtige Impulse für die Verankerung von ethischen Richtlinien beim Einsatz moderner Technologien im HR-Management“, erklärt Inga Dransfeld-Haase, Präsidentin des Bundesverbands der Personalmanager (BPM).

Die Frage, ob vor der Einführung moderner Technologien eine ausreichende Aufklärung zur Funktionsweise dieser Anwendungen erfolgte, wird von ArbeitnehmervertreterInnen häufiger verneint als von PersonalerInnen. Die Einbindung des Betriebsrats wird in beiden Umfragen eher als unzureichend eingestuft, wobei auch hier die Seite der Arbeitnehmervertreter größere Lücken sieht. 

Die Studie weist auch auf Unsicherheiten im Umgang mit den neuen Technologien hin. Umso größer ist der Wunsch nach mehr Sicherheit und Verbindlichkeit bei deren Einführung. So wünscht eine Mehrheit von HR-Professionals und Arbeitnehmervertreter verbindliche Richtlinien für den Einsatz entsprechender Technologien. Die Vorgaben müssen dabei nicht zwingend gesetzlicher Natur sein. Alternativ werden Hilfestellungen von Fachgremien auf gesellschaftlicher bzw. wirtschaftlicher Ebene akzeptiert, diese sind aber noch zu wenig präsent. „Die aktuelle Studie unterstreicht mehr denn je die Notwendigkeit pragmatischer und ethischer Richtlinien für den verantwortungsvollen Einsatz von KI und moderner Technologie in HR. Personal- wie Mitbestimmungsgremien müssen daher über das Rüstzeug verfügen, mit den modernen Technologien im Berufsalltag geschäftsorientiert sicher und weitsichtig umzugehen“, betont Prof. Dr. Martin Kersting. 

Im Rahmen der aktuellen Studie wurden die Teilnehmerinnen zu acht Anwendungsfeldern von KI und modernen Technologien im HR-Management befragt. Konkret ging es um: Analyse von Lebensläufen, Optimierung von Stellenanzeigen, Chatbots als Ansprechpartner, Matching von Profilen, Erstellung eines Rankings, Vorschläge für Entwicklungsmaßnahmen, Analyse von Audio- und Video-Aufnahmen sowie Vorhersage der Kündigungsabsicht. 

Am weitesten verbreitet zeigt sich dabei die Nutzung von KI für die Optimierung von Stellenanzeigen sowie die Nutzung von Chatbots. Diese landete bei HR-Verantwortlichen bei der Frage nach der Verbreitung auf Platz zwei, hinter der Analyse von Lebensläufen. Personaler, die KI und moderne Technologien bereits nutzen oder einführen wollen, schätzen deren Einsatz mit deutlicher Mehrheit als zielführend für eine Verbesserung der Personalarbeit ein. Arbeitnehmervertreter sehen das deutlich kritischer. 

Die Arbeit mit KI und modernen Technologien setzt eine sorgfältige Prüfung der genutzten Datenbestände voraus, um Diskriminierung und sonstige Fehlentwicklungen auf Basis historischer Angaben zu vermeiden. Doch die Befragung ermittelt in diesem Punkt einen durchaus beunruhigenden Befund: Bei allen Anwendungen wird in fast der Hälfte der Fälle auf Tests der Anwendungen verzichtet. Aus Sicht des Ethikbeirats HR-Tech sind derartige Tests aber ein unabdingbarer Arbeitsschritt in der Einführung von modernen Technologien. 

Dr. Elke Eller, Co-Chair des Ethikbeirats HR-Tech, mahnt mit Blick auf beiden Seiten: „Es gilt, keine Kraft zu verschwenden, um Technologie-Einsatz aufzuhalten oder gar umzukehren. Die Vertreter von HR wie auch von Arbeitnehmer-Mitbestimmung müssen mutig in entsprechendes Wissen investieren und sich aktiv mit KI und modernen Technologien auseinandersetzen. Nur so können sie für Mitarbeiter und Mitarbeiterinnen ihrer Unternehmen wirksame Hilfe und Orientierung sowie effektiver Schutz im Arbeitsalltag sein.“ Gefragt sei ein enger Schulterschlusses beider Seiten: „Personaler verantworten Entscheidungen und -Prozesse im HR-Bereich – egal ob sie offline, digital oder mit Hilfe KI-basierter Technologien ablaufen. Die Einbeziehung der Mitbestimmungsseite birgt sicherlich Herausforderungen, ist aber alternativlos und wird letztlich zum Erfolg führen“, so Dr. Eller.

„Die Digitalisierung ist in den Unternehmen und hier insbesondere in HR angekommen. Doch die Zeit, die damit verbundenen praktischen und ethischen Herausforderungen breiter zu diskutieren und die Nutzung der Technologien verantwortungsvoll zu gestalten, wird immer knapper. Wenn wir uns in der digital geprägten neuen Welt kompetent bewegen wollen, wenn wir aktiv daran teilhaben wollen, bedarf es im HR Bereich jetzt einer Zeit der digitalen Aufklärung und Emanzipation“, resümiert der wissenschaftliche Studienleiter Prof. Dr. Martin Kersting von der Universität Gießen. Es gelte, HR und Mitbestimmung zu befähigen, moderne Technologien im Spektrum von Chancen und Risiken sowie Nutzen und Kosten zu identifizieren und die richtigen Entscheidungen im Sinne einer nachhaltig verantwortungsvollen und qualitativ hochwertigeren Unternehmenspraxis zu fällen. „Die Richtlinien des Ethikbeirat HR-Tech können dabei als wirksame Grundlage dienen“, so der wissenschaftliche Studienleiter.