Biased decisions in recruiting and how to reduce them with the use of a decision support application

Abstract

In einer Welt in der die automatisierte Datenverarbeitung zunehmend mehr an Bedeutung gewinnt, kommen immer mehr Bereiche und Menschen in Berührung mit Entscheidungen die auf teil-/automatisiert verarbeiteten Daten basieren. Sogenannte Decision Support Systems übernehmen teilweise, großteils oder sogar komplette Entscheidungsprozesse.So auch im Bereich des Einstellungsprozesses in Unternehmen. Es existiert bereits eine Vielzahl an Software die durch unterschiedliche Algorithmen die Entscheidungsfindung unterstützt. Mit dem Einsatz solcher Software sollte man sich ebenfalls mit der Frage auseinandersetzten, wie die Bevorzugung oder Benachteiligung der Bewerber*innen durch Vorurteile mit dem Einsatz eines Decision Support Systems vermieden oder auf ein minimum reduziert werden kann. Im Rahmen dieser Forschungsarbeit werden unterschiedliche Arten von Bias (Vorurteile aufgrund des Geschlechts, Vorurteile aufgrund der ethnischen Zugehörigkeit und Vorurteile aufgrund von Ähnlichkeiten) im Detail analysiert. Die vorliegende Arbeit hat das Ziel, folgende Fragen zu beantworten: Welche der selektierten, verbreiteten, unterbewussten Arten von Vorurteilen (Vorurteile aufgrund des Geschlechts, Vorurteile aufgrund der ethnischen Zugehörigkeit und Vorurteile aufgrund von Ähnlichkeiten) können in Interviews mit HR Mitarbeiter*innen erkannt werden? Resultierend aus der qualitativen Inhaltsanalyse der Interviews mit 11 Experten aus sieben unterschiedlichen Unternehmen in Österreich, wurden Anforderungen an ein Decision Support System definiert um die zuvor genannten Arten von Vorurteilen zu reduzieren oder zu vermeiden. Die Ergebnisse zeigen zudem, dass unter den erkannten Quellen von Vorurteilen, welche sowohl zu Vorurteilen aufgrund des Geschlechts, Vorurteilen aufgrund der ethnischen Zugehörigkeit als auch Vorurteilen aufgrund von Ähnlichkeiten zugeordnet werden können, zusätzlich auch technische Eigenschaften der verwendeten Software eine wichtige Rolle spielen. Die definierten Anforderungen sollen bei der Entwicklung von Decision Support Systems in die Implementierung einfließen und berücksichtigt werden, sodass für die untersuchten Arten von Vorurteilen eine bessere Chance auf Gleichbehandlung im Einstellungsprozess besteht.

In a world where automation supported data processing gains on relevance, more and more areas and people get in contact with decisions that are based on semi-/automated processed data. So called decison support systems take over decision-finding-processes partially, mostly or completely. This is also happening in recruiting processes of companies.There is plenty of software that makes use of different algorithms to support the decisionmaking process. With the use of such software, one should confront himself or herself with the question of how biases could be avoided or reduced with the use of a decision supportsystem. This research work analyzes different types of bias (Gender Bias, Ethnical Biasand Similar Attraction Bias) in detail . The proposed research strives to answer the following question: Which of the selected common unintentional biases (Gender Bias,Ethnical Bias and Similar Attraction Bias) can be identified by the interviewed recruitingemployees in the recruiting process? A qualitative content analysis of the interviews of 11 experts from seven different companies located in Austria was done. Based on this analysis, requirements for the implementation of decision support systems were defined to avoid or reduce the mentioned types of bias. The findings show that, in addition to the found sources of bias that were assigned to all three types of bias that are the focus of this reasearch, technical characteristics of the used software play a huge role. The defined requirements should act as an additional guideline for the implementation process of decision support systems and should help to provide a better chance of being treated equally during the recruiting process in regards of the mentioned types of bias.