Menu Expand

Cite JOURNAL ARTICLE

Style

Mölders, M (2018). Auf dem Weg zum Subsumtionsautomaten?. Sociologia Internationalis, 56(2), 71-89. https://doi.org/10.3790/sint.56.2.71
Mölders, Marc (2018). "Auf dem Weg zum Subsumtionsautomaten?" Sociologia Internationalis, vol. 56no. 2, 2018 pp. 71-89. https://doi.org/10.3790/sint.56.2.71
Mölders, M (2018). Auf dem Weg zum Subsumtionsautomaten?. Sociologia Internationalis, Vol. 56 (Issue 2), pp 71-89. https://doi.org/10.3790/sint.56.2.71

Format

Auf dem Weg zum Subsumtionsautomaten?

Algorithmische richterliche Entscheidungshilfe

Mölders, Marc

Sociologia Internationalis, Vol. 56 (2018), Iss. 2 : pp. 71–89

Additional Information

Article Details

Pricing

Author Details

Marc Mölders, Universität Bielefeld, Fakultät für Soziologie, Universitätsstraße 25, 33615 Bielefeld.

References

  1. Angwin, Julia u. a. (2016): Machine Bias. There’s software that is used across the county to predict future criminals. And it is biased against blacks. ProPublica. URL: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing, letzter Zugriff: 11. 09. 2019.  Google Scholar
  2. Berk, Richard u. a. (2017): Fairness in Criminal Justice Risk Assessments: The State of the Art. URL: https://arxiv.org/pdf/1703.09207, letzter Zugriff 11. 09. 2019.  Google Scholar
  3. Burawoy, Michael (2007): For Public Sociology. In: Dan Clawson u. a. (Hg.), Public Sociology: Fifteen Eminent Sociologists Debate Politics and the Profession in the Twenty-First Century. Berkeley, S. 23 – 66.  Google Scholar
  4. Chouldechova, Alexandra (2017): Fair Prediction with Disparate Impact: A Study of Bias in Recidivism Prediction Instruments. In: Big Data 5 (2), S. 153 – 163.  Google Scholar
  5. Christin, Angèle (2017): Algorithms in Practice. Comparing Web Journalism and Criminal Justice. In: Big Data & Society 4 (2), S. 1 – 14.  Google Scholar
  6. Crenshaw, Kimberlé (1989): Demarginalizing the Intersection of Race and Sex: A Black Feminist Critique of Antidiscrimination Doctrine, Feminist Theory and Antiracist Politics. In: University of Chicago Legal Forum (1), S. 139 – 167.  Google Scholar
  7. DeMichele, Matthew u. a. (2018a): The Intuitive-Override Model. Nudging Judges Toward Pretrial Risk Assessment Instruments. In: SSRN Journal. URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3168500, letzter Zugriff: 11. 09. 2019.  Google Scholar
  8. – (2018b): The Public Safety Assessment. A Re-Validation and Assessment of Predictive Utility and Differential Prediction by Race and Gender in Kentucky. In: SSRN Journal. URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3168452, letzter Zugriff: 11. 09. 2019.  Google Scholar
  9. – (2018c): What Do Criminal Justice Professionals Think About Risk Assessment at Pretrial? In: SSRN Journal. URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3168490, letzter Zugriff: 11. 09. 2019.  Google Scholar
  10. Dickel, Sascha (2015): Post-Technokratie. Prekäre Verantwortung in digitalen Kontexten. In: Soziale Systeme 19 (2), S. 282 – 303.  Google Scholar
  11. DiMaggio, Paul J./Powell, Walter W. (1983): The Iron Cage Revisited: Institutional Isomorphism and Collective Rationality in Organizational Fields. In: American Sociological Review 48 (2), S. 147 – 160.  Google Scholar
  12. Elish, Madeleine C./boyd, Danah (2017): Situating Methods in the Magic of Big Data and Artificial Intelligence. URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3040201, letzter Zugriff: 11. 09. 2019.  Google Scholar
  13. Esposito, Elena (2017): Artificial Communication? The Production of Contingency by Algorithms. In: Zeitschrift für Soziologie 46 (4), S. 249 – 265.  Google Scholar
  14. Flores, Anthony W./Bechtel, Kristin/Lowenkamp, Christopher T. (2016): False Positives, False Negatives, and False Analyses: A Rejoinder to „Machine Bias: There’s Software Used across the Country to Predict Future Criminals. And It’s Biased against Blacks.“ In: Federal Probation 80 (2), S. 38 – 46.  Google Scholar
  15. Gesellschaft für Informatik (2018): Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren. Studien und Gutachten im Auftrag des Sachverständigenrats für Verbraucherfragen. Berlin. URL: http://www.svr-verbraucherfragen.de/wp-content/uploads/GI_Studie_Algorithmenregulierung.pdf, letzter Zugriff: 11. 09. 2019.  Google Scholar
  16. Heidegger, Martin (2006 [1927]): Sein und Zeit. 19. Aufl. Tübingen.  Google Scholar
  17. Kahneman, Daniel (2011): Thinking, Fast and Slow. New York.  Google Scholar
  18. Kleinberg, Jon/Mullainathan, Sendhil/Raghavan, Manish (2016): Inherent Trade-Offs in the Fair Determination of Risk Scores. URL: https://arxiv.org/pdf/1609.05807, letzter Zugriff: 11. 09. 2019.  Google Scholar
  19. Kleinberg, Jon u. a. (2019): Discrimination in the Age of Algorithms. URL: https://doi.org/10.2139/ssrn.3329669, letzter Zugriff: 11. 09. 2019.  Google Scholar
  20. Kroneberg, Clemens (2005): Die Definition der Situation und die variable Rationalität der Akteure. Ein allgemeines Modell des Handelns. In: Zeitschrift für Soziologie 34 (5), S. 344 – 363.  Google Scholar
  21. – (2007): Wertrationalität und das Modell der Frame-Selektion. In: Kölner Zeitschrift für Soziologie und Sozialpsychologie 59 (2), S. 215 – 239.  Google Scholar
  22. Lessenich, Stephan/Neckel, Sighard (2012): DGS goes public! In: Soziologie 41 (3), S. 317 – 319.  Google Scholar
  23. Luhmann, Niklas (1995): Die Form „Person“. In: ders., Soziologische Aufklärung. Bd. 6: Die Soziologie und der Mensch. Opladen, S. 142 – 154.  Google Scholar
  24. Martini, Mario (2017): Algorithmen als Herausforderung für die Rechtsordnung. In: JuristenZeitung 72 (21), S. 1017 – 1025.  Google Scholar
  25. Meißner, Stefan (2017): Techniken des Sozialen. Gestaltung und Organisation des Zusammenarbeitens in Unternehmen. Wiesbaden.  Google Scholar
  26. Mertz, Elizabeth/Ford, William K./Matoesian, Gregory (Hg.) (2016): Translating the Social World for Law. Linguistic Tools for a New Legal Realism. New York.  Google Scholar
  27. Mölders, Marc (2018): Talking the Law into Co-Evolution. Übersetzungsanregungen in den Medien der Interaktion und der Publizität. In: Zeitschrift für Theoretische Soziologie 7 (1), S. 4 – 24.  Google Scholar
  28. Morozov, Evgeny (2013): To Save Everything, Click Here. Technology, Solutionism and the Urge to Fix Problems that Don’t Exist. New York.  Google Scholar
  29. Muhle, Florian (2018): Sozialität von und mit Robotern? Drei soziologische Antworten und eine kommunikationstheoretische Alternative. In: Zeitschrift für Soziologie 47 (3), S. 147 – 163.  Google Scholar
  30. Müller, Peter/Pöchhacker, Nikolaus (2019): Algorithmic Risk Assessment als Medium des Rechts. Medientechnische Entwicklung und institutionelle Verschiebungen aus Sicht einer Techniksoziologie des Rechts. In: Österreichische Zeitschrift für Soziologie 44 (S1), S. 157 – 179.  Google Scholar
  31. Nachtwey, Oliver/Seidl, Timo (2017): Die Ethik der Solution und der Geist des digitalen Kapitalismus. Institut für Sozialforschung an der Johann Wolfgang Goethe‐Universität Frankfurt a. M. IFS Working Paper 11. URL: http://www.ifs.uni-frankfurt.de/wp-content/uploads/IfS-WP-11.pdf, letzter Zugriff: 11. 09. 2019.  Google Scholar
  32. Ogorek, Regina (1986): Richterkönig oder Subsumtionsautomat? Zur Justiztheorie im 19. Jahrhundert. Frankfurt a. M.  Google Scholar
  33. Oldenburg, Felix (2010): Venture Philanthropy skalieren – eine globale Perspektive. In: Philipp Hoelscher/Thomas Ebermann/Andreas Schlüter (Hg.), Venture Philanthropy in Theorie und Praxis. Stuttgart, S. 169 – 177.  Google Scholar
  34. Partnership on AI (2019): Report on Algorithmic Risk Assessment Tools in the U.S. Criminal Justice System. URL: https://www.partnershiponai.org/report-on-machine-learning-in-risk-assessment-tools-in-the-u-s-criminal-justice-system/, letzter Zugriff: 11. 09. 2019.  Google Scholar
  35. Renn, Joachim (2006): Übersetzungsverhältnisse. Perspektiven einer pragmatistischen Gesellschaftstheorie. Weilerswist.  Google Scholar
  36. Skeem, Jennifer L./Scurich, Nicholas/Monahan, John (2019): Impact of Risk Assessment on Judges’ Fairness in Sentencing Relatively Poor Defendants. In: SSRN Journal. URL: https://ssrn.com/abstract=3316266, letzter Zugriff: 11. 09. 2019.  Google Scholar
  37. Spangher, Alexander/Ustun, Berk (2018): Actionable Recourse in Linear Classification. Proceedings of the 5th Workshop on Fairness, Accountability and Transparency in Machine Learning, Stockholm, Sweden. URL: https://econcs.seas.harvard.edu/files/econcs/files/spangher_fatml18.pdf, letzter Zugriff: 11. 09. 2019.  Google Scholar
  38. Staab, Philipp/Nachtwey, Oliver (2016): Market and Labour Control in Digital Capitalism. In: tripleC 14 (2), S. 457 – 474.  Google Scholar
  39. Steinmetz, Kevin F./Henderson, Howard (2015): On the Precipice of Intersectionality: The Influence of Race, Gender, and Offense Severity Interactions on Probation Outcomes. In: Criminal Justice Review 40 (3), S. 361 – 377.  Google Scholar
  40. Stevenson, Megan T. (2018): Assessing Risk Assessment in Action. In: Minnesota Law Review 103 (1), S. 303 – 384.  Google Scholar
  41. Thomas, Philip S. u.a. (2019): Preventing Undesirable Behavior of Intelligent Machines. In: Science 366 (6468), S. 999 – 1004.  Google Scholar
  42. Tversky, Amos/Kahneman, Daniel (1974): Judgment under Uncertainty: Heuristics and Biases. In: Science 185 (4157), S. 1124 – 1131.  Google Scholar
  43. Tyrell, Hartmann (1978): Anfragen an die Theorie der gesellschaftlichen Differenzierung. In: Zeitschrift für Soziologie 7 (2), S. 175 – 193.  Google Scholar
  44. Wachter, Sandra/Mittelstadt, Brent (2019): A Right to Reasonable Inferences. Re-Thinking Data Protection Law in the Age of Big Data and AI. In: Columbia Business Law Review (2), S. 494 – 620.  Google Scholar
  45. Wachter, Sandra/Mittelstadt, Brent/Russell, Chris (2018): Counterfactual Explanations without Opening the Black Box. Automated Decisions and the GDPR. URL: https://arxiv.org/pdf/1711.00399, letzter Zugriff: 11. 09. 2019.  Google Scholar
  46. Wagner, Jens (2018): Legal Tech und Legal Robots. Der Wandel im Rechtsmarkt durch neue Technologien und künstliche Intelligenz. Wiesbaden.  Google Scholar

Abstract

Algorithmen werden in Gerichten eingesetzt, z. B. zur Rückfälligkeitsvorhersage. Dies ruft Assoziationen zum Subsumtionsautomaten des 19. Jahrhunderts hervor und fügt sich nahtlos in die Kritik des Solutionismus ein, soziale Probleme würden zunehmend technisch gelöst. Die Untersuchung von zwei vielfach verwendeten und diskutierten Beispielen (COMPAS, PSA) zeigt allerdings, dass an entscheidenden Stellen gerade nicht auf Technik gesetzt wird. Um den Algorithmus fair zu gestalten, werden nicht technische Schnittstellen, sondern Beteiligungsformate gefordert. Nicht nur hierfür, sondern an vielen Stellen der Entwicklung von Algorithmen im Recht wird auf soziologisches Wissen zurückgegriffen. Entgegen der Kritik, Soziologie müsse praxisrelevanter werden, lässt sich hieran zeigen, dass in der Praxis Soziologie längst eingesetzt wird, allerdings nicht als kritische Beobachterin.

Algorithms have entered courts, e. g. via scores assessing recidivism. The 19th century topos “subsumtion automat” as well as the recent notion of solutionism seem to coincide in warning of social problems getting increasingly fixed technologically. Analyzing two of the most prominent examples for legal algorithms (COMPAS, PSA) shows that crucial problems are not (only) tackled by technical means. To design a fair algorithm, for instance, stakeholder procedures should precede technical tweaks. Diffusion of these algorithms is triggered with the help of sociological knowledge. Against lines of criticism calling for a more applicable sociology, such developments rather show that practice makes use of sociology long since, yet not in terms of critical observation.

Table of Contents

Section Title Page Action Price
Marc Mölders: Auf dem Weg zum Subsumtionsautomaten? 71
Algorithmische richterliche Entscheidungshilfe 71
I. Einleitung 71
II. Klärungen: Subsumtionsautomat – Algorithmus – Entscheidungshilfe 72
III. Fallbeispiele: COMPAS und PSA 74
1. Fall A: COMPAS 75
2. COMPAS – soziologisch diskutiert 76
3. Zwischenfazit: Algorithmen als Subsumtionsautomaten? 78
4. Fall B: PSA 79
5. PSA – soziologisch diskutiert 71
IV. Schlussbemerkungen 71
Literatur 71
Zusammenfassung 71
Abstract 71