Self-imposed Algorithmic Thoughtlessness and the Automation of Crime Control
A study of person-based predictive policing and the algorithmic turn
Zusammenfassung
Verbrechen verhindern bevor sie geschehen? Dieses verlockende Narrativ ist nicht länger nur Science-Fiction. Computergestützte Systeme mit dem Ziel kriminelles Verhalten vorauszusagen werden weltweit eingesetzt. Die Autorin beleuchtet diesen Einsatz kritisch mit rechtswissenschaftlich-interdisziplinärem Zugang. Sie kommt zu dem Ergebnis, dass die Technologie eine Aushöhlung verfassungsrechtlicher Garantien mit sich bringt und beachtliche Risiken für Rechtsstaat und Gesellschaft birgt. Insbesondere droht sich die Kriminalitätskontrolle in eine – in Anlehnung an Arendt – selbstauferlegte Gedankenlosigkeit zu begeben. Die Arbeit schließt mit einem Vorschlag für Mindestanforderungen, an denen sich die Technologie in Zukunft orientieren sollte. Die Arbeit wurde mit dem ersten Platz des Deutschen Studienpreises der Körber-Stiftung ausgezeichnet.
Abstract
Verbrechen verhindern bevor sie geschehen? Dieses verlockende Narrativ ist nicht länger nur Science-Fiction. Computergestützte Systeme mit dem Ziel kriminelles Verhalten vorauszusagen werden weltweit eingesetzt. Die Autorin beleuchtet diesen Einsatz kritisch mit rechtswissenschaftlich-interdisziplinärem Zugang. Sie kommt zu dem Ergebnis, dass die Technologie eine Aushöhlung verfassungsrechtlicher Garantien mit sich bringt und beachtliche Risiken für Rechtsstaat und Gesellschaft birgt. Insbesondere droht sich die Kriminalitätskontrolle in eine – in Anlehnung an Arendt – selbstauferlegte Gedankenlosigkeit zu begeben. Die Arbeit schließt mit einem Vorschlag für Mindestanforderungen, an denen sich die Technologie in Zukunft orientieren sollte. Die Arbeit wurde mit dem ersten Platz des Deutschen Studienpreises der Körber-Stiftung ausgezeichnet.
Schlagworte
algorithmic turn Crime AI Crime Algorithms Crime Prevention Crime Prevention Technology Predictive Policing preventive turn Smart Algorithm Smart Justice Predictive Algorithms- 223–224 Chapter VI. Theses 223–224
- 225–260 Bibliography 225–260
8 Treffer gefunden
- „... Republic674 Does the use of crime prediction algorithms bring something genuinely new to crime control or ...” „... risk-oriented crime control that existed before the introduction of algorithms (I). But person-based predictive ...” „... ) Further, the outsourcing of responsibility to algorithms threatens to lead crime control into ...”
- „... limited number of people. Non-discrimination Discriminatory effects of predictive algorithms in crime ...” „... minority, because such a risk score corresponds to the crime reality identified by the algorithm in the ...” „... algorithm-supported methods of making an algorithm explainable often exhibit internal complexity to such a degree ...”
- „... of predictive policingI. 30 Crime algorithms beyond preventive policing: court proceedings, the ...” „... confirming and suspicion generating approaches 2. 32 Crime algorithms beyond preventive policing: court ...” „... Table of Contents 20 List of Figures Fig. 1. Overview of predictive algorithms in crime control 29 Fig ...”
- „... algorithms3 have been employed to help answer these questions, including in crime control.4 Predictive ...” „... crime prediction in the near future. However, algorithms are not just used to prevent future crime; they ...” „... media as a catch-all phrase for all algorithm-based procedures in crime control. A clear conceptual ...”
- „... , 1947. Aghababaei, Somayyeh / Makrehchi, Masoud, ‘Mining Social Media Content for Crime Prediction ...” „... . Ananny, Mike, ‘Toward an Ethics of Algorithms: Convening, Observation, Probability, and Timeliness ...” „... , ‘Predictive Policing – What can we learn from Wal-Mart and Amazon about Fighting Crime in a Recession?’, The ...”
- „... by the algorithm as high risk actually go on to commit a crime. The predictive power of a ...” „... algorithm-based crime prediction described above can be summarized in the checklist on the following page. D. 1011 ...” „... Minimum requirements for algorithmic crime prediction This chapter is based on the results of the ...”
- „... rule of law, the use of system-inherent non-transparent algorithms for crime control should be banned ...” „... algorithmic turn in crime control: 9. The use of predictive algorithms is not merely a continuation of ...” „... to algorithms represents a new level of crime control whose various effects can be summarized under ...”
- „... least their well-off elites, will look back on our critical analyses of algorithmic crime control with ...” „... digital age that has now also reached crime control, the traditional tools of the rule of law are ...” „... being falsely identified as carrying high risk [false-positives], the COMPAS algorithm in which ...”