Doch das ist alles andere als ein Selbstläufer. Auch Algorithmen können diskriminieren, wenn diese entweder von vorneherein schlecht aufgesetzt oder mit Datensätzen trainiert wurden, in denen Diskriminierung vorliegt. Da Letzteres praktisch auf alle Messgrößen zutrifft, die auf menschlichen Produktivitätsmessungen – wie Gehaltsmessungen, Beförderung oder Job-Evaluation – beruhen, ist hier Vorsicht geboten. Die Blindheit eines Algorithmus hinsichtlich sensibler Charakteristika wie Geschlecht oder Herkunft löst dieses Problem nicht. Algorithmen sind überraschend gut darin, auch ohne die Angabe des Geschlechts dieses aus anderen Eigenschaften abzuleiten.
Wie sehen HR-Abteilungen und Bewerbende Algorithmen?
Die Meinung und Akzeptanz von Mitarbeitern in HR-Abteilungen gegenüber neuen Technologien hat die Forschung schon mehrfach erfasst. Das Ergebnis: Die meisten Personalverantwortlichen halten künstliche Intelligenz und Algorithmen für wichtige Zukunftstrends, haben allerdings oft noch wenig Wissen über deren Funktionsweisen und Anwendungsmöglichkeiten.
Um herauszufinden, ob Bewerbende Algorithmen bei der Personalauswahl akzeptieren, wurden im März 2020 rund 15.500 Studierende befragt. Die Befragung fand im Rahmen der Studienreihe „Fachkraft 2030“ statt, die die Maastricht University in Kooperation mit Studitemps durchführt. Die Auswertung und Publikation der Ergebnisse erfolgte im Rahmen des vorwettbewerblichen Forschungsprojektes FAIR durch die Universität zu Köln und das HR-Tech Unternehmen candidate select.
Im Whitepaper wird die Akzeptanz von Studierenden gegenüber Algorithmen in der Personalauswahl beleuchtet, auch hinsichtlich der konkreten Anwendungskriterien:
- Transparenz von Entscheidungen
- Vermeidung von Fehlentscheidungen
- Abbau von Diskriminierung und
- Entscheidungsgeschwindigkeit
Studierende zeigen sich grundsätzlich kritisch
Drei Fünftel (60 Prozent) der befragten Studierenden zeigen sich skeptisch, was den generellen Einsatz von Algorithmen in der Personalauswahl betrifft. Dies trifft auf beide Geschlechter zu, auch wenn Studentinnen dem gegenüber kritischer sind als Studenten. Außerdem lässt sich erkennen, dass Studierende der MINT-Fächer (Mathematik, Informatik, Naturwissenschaften und Technik) Algorithmen in der Personalauswahl weniger skeptisch gegenüberstehen als Studierende anderer Fächer. Mehrheitlich für den Einsatz der neuen Technologien in Personalauswahlprozessen sind ausländische Studierende. Hier könnte ein Zusammenhang mit Diskriminierung im Einstellungsprozess bestehen.
Auf die Begründung kommt es an
Das Whitepaper belegt auch, dass Studierende meinen, dass sich das Recruiting durch Algorithmen in vielerlei Hinsicht verbessern lassen könnte. Denn: Wenn man sie nach ihrer Akzeptanz mit Blick auf konkrete Anwendungskriterien – Abbau von Diskriminierung, Vermeidung von Fehlentscheidungen, Transparenz der Entscheidungen oder schnelle Rückmeldung – befragt, ändert sich die bisher kritische Position. Es lässt sich nun sogar eine deutliche Präferenz für den Einsatz von Algorithmen feststellen, entweder als alleiniges Kriterium oder in Kombination mit menschlichen Entscheidungsträgern. In allen vier erhobenen Anwendungskriterien bevorzugen Studierende mehrheitlich den Einsatz von Algorithmen, wenn dieser begründet wird.
Abgesehen von der merklichen Steigerung, wenn man den Einsatz von Algorithmen konkret begründet, nehmen die Unterschiede nach Geschlecht oder Studienfach ebenso deutlich ab. Unter männlichen Studierenden ist die Akzeptanz von Algorithmen immer noch höher als unter weiblichen Studierenden.
Ähnliches gilt für Vergleiche zwischen ausländischen und inländischen Studierenden sowie beim Blick auf die Fachbereiche. Von den MINT-Studenten präferieren nur noch 29 Prozent hinsichtlich der vier Merkmale überhaupt Einstellungsprozesse ohne Algorithmen.
Was bedeuten diese Ergebnisse für den HR-Bereich?
Studierende sind die größte bald in den Arbeitsmarkt eintretende Gruppe, und die Suche nach jungen Talenten wird für Unternehmen mit Blick auf die demographische Entwicklung in den kommenden Jahren schwieriger. Auch die Corona-Krise wird daran langfristig nichts ändern. Deshalb ist die Akzeptanz der Bewerbenden hinsichtlich der im Auswahlprozess genutzten Technologien durchaus relevant. Und hier zeigt sich: Grundbedingung für eine hohe Akzeptanz in dieser Gruppe ist, die Anwendung von Algorithmen gut zu begründen. Die eingangs diskutierten Chancen und Risiken werden auch von Studierenden erkannt und sollten klar in der Kommunikation während des Bewerbungsprozesses berücksichtigt werden.
Um gemeinsam die Digitalisierung voranzutreiben, müssen Anbieter und HR-Abteilungen stärker ins Gespräch kommen. HR auf der einen Seite sollte offen für Wandel und aufklärende Gespräche sein. Anbieter von KI-Lösungen auf der anderen Seite müssen ihre Algorithmen transparent und einfach erklären.
Wichtig dabei bleibt: Selbst die besten Fachleute können einen Algorithmus nicht ohne Datengrundlage überprüfen. Deswegen müssen HR und auch andere Bereiche bereit sein, verantwortungsvoll Daten zu sammeln und zu analysieren. Das ist Grundlage dafür, um zu beantworten, ob ein bestimmter Algorithmus valide Voraussagen treffen kann und welchen Einfluss er auf Diskriminierung hat.
Ob die Akzeptanz von Algorithmen in Zukunft hoch oder niedrig ausfällt, hängt auch mit den genutzten Lösungen und ihrer Güte zusammen. Daher sollten Technik und Innovation gut genutzt werden, um Unternehmen divers und HR-Arbeit fair zu gestalten.
In diesem Beitrag sind stets Personen jeden Geschlechts gemeint; aus Gründen der Lesbarkeit wird nur die männliche Form verwendet