Künstliche Intelligenz und Diskriminierung
Zur Regulierung algorithmischer Entscheidungssysteme zum Zwecke der Verhinderung gruppenbezogener Benachteiligungen
Zusammenfassung
Die Charakteristika der algorithmischen Entscheidungsfindung begründen interdisziplinäre Herausforderungen, welche bei der datenbasierten Bewertung von Personen etwa im Rahmen der Bewerberauswahl im Beschäftigungskontext insbesondere in neuen Formen der Ungleichbehandlung zu sehen sind. Der bestehenden Rechtsordnung gelingt es dabei nur bedingt, unerwünschten Ungleichbehandlungen Einhalt zu gebieten. Die Arbeit befasst sich mit dem Zusammenspiel zwischen dem Antidiskriminierungs- und Datenschutzrecht sowie dem in Entstehung begriffenen Recht über Künstliche Intelligenz und entwirft dabei ein Konzept zur regulatorischen Einhegung von Diskriminierungseffekten beim Einsatz von Systemen der Künstlichen Intelligenz.
Abstract
The characteristics of algorithmic decision-making give rise to interdisciplinary challenges, involving new forms of unequal treatment in the data-based assessment of persons, for example in job or credit applications. The existing legal framework cannot entirely prevent undesirable forms of unequal treatment. This paper examines the interplay between anti-discrimination, data protection law and the emerging law on artificial intelligence, and develops a concept for the regulatory containment of discrimination effects in the use of artificial intelligence systems.
Schlagworte
KI Algorithmus AI Bewerberauswahl Datenbasierte Personenbewertung Diskriminierungseffekte- Kapitel Ausklappen | EinklappenSeiten