Diskriminierung durch IT in der Berufsorientierung?
Fairness-Auditierung der Webanwendung BERUFE Entdecker von der Bundesagentur für Arbeit
Zusammenfassung
Eine IT der Bundesagentur für Arbeit gab die Empfehlung: Wählt Informatik und Pflege als Beruf – stets entgegen den beruflichen Interessen der Jugendlichen? Die Fairness-Auditierung der Webanwendung BERUFE Entdecker öffnet exemplarisch die Blackbox der algorithmischen, datenbasierten, staatlichen Beratung in der Berufsorientierung. Beantwortet wird, was eine faire, digitale Beratung im Anwendungskontext des SGB III ist und wann eine Diskriminierung der Nutzer:innen vorliegt. Der Sachverhalt des Risikos einer geschlechtsspezifischen Diskriminierung durch einen Bias im Algorithmus und/oder in den Daten wird somit erstmalig operationalisiert – eine Blaupause für weitere Fairness-Auditierungen von IT der digitalen Berufsorientierung.
Abstract
A recommendation system used by the Federal Employment Agency gave young people the following career advice: Choose computer science and nursing as professions! Was this advice always contrary to their vocational interests? Fairness auditing by the web application ‘BERUFE Entdecker’ (online 2015–2021) exemplarily opens the black box of algorithmic, data-based governmental counselling in career guidance. It answers the question of what constitutes fair digital counselling tied to social legislation and when there is discrimination against users. This study is the first to operationalise the issue of the risk of gender-specific discrimination through bias in the algorithm and/or in the data, thus providing a blueprint for further fairness audits by IT in digital career guidance.
Schlagworte
Jugendliche Bildungspolitik Sozialpolitik Diskriminierung Digitalisierung SGB III Gleichbehandlung Interests IT Beruf Pflege Bundesagentur für Arbeit Information Technology care Ausbildungsberufe Interessen Informationstechnologie Berufswahl Informatik Operationalisierung Berufsberatung Berufsorientierung ADM-Systeme algorithmische Entscheidungssysteme Ausbildungsmarkt berufliche Ausbildung geschlechtsspezifisches Berufslenkungsverbot geschlechter-sensible Beratung § 33 SGB III BERUFE Entdecker career guidance digital counselling fairness auditing Digitale Beratung Federal Employment Agency Fairness-Auditierung operationalization vocational guidance vocational orientation web application young people WebanwendungKeywords
discrimination occupation- Kapitel Ausklappen | EinklappenSeiten
- 31–40 1 Einleitung 31–40
- 243–342 7 Ergebnisse der Untersuchung einer Diskriminierung durch das ADM-System BERUFE Entdecker 243–342
- 343–344 8 Fazit & Ausblick 343–344
- 345–376 Literaturverzeichnis 345–376
- 377–397 Anhang 377–397