Menu Expand

Artificial Intelligence und Strafrecht

Cite BOOK

Style

Schäfer, M. (2024). Artificial Intelligence und Strafrecht. Zur Leistungsfähigkeit des geltenden Strafrechts im Hinblick auf die Herstellerverantwortlichkeit bei Schädigungen durch tiefe neuronale Netze. Duncker & Humblot. https://doi.org/10.3790/978-3-428-59095-7
Schäfer, Milan. Artificial Intelligence und Strafrecht: Zur Leistungsfähigkeit des geltenden Strafrechts im Hinblick auf die Herstellerverantwortlichkeit bei Schädigungen durch tiefe neuronale Netze. Duncker & Humblot, 2024. Book. https://doi.org/10.3790/978-3-428-59095-7
Schäfer, M (2024): Artificial Intelligence und Strafrecht: Zur Leistungsfähigkeit des geltenden Strafrechts im Hinblick auf die Herstellerverantwortlichkeit bei Schädigungen durch tiefe neuronale Netze, Duncker & Humblot, [online] https://doi.org/10.3790/978-3-428-59095-7

Format

Artificial Intelligence und Strafrecht

Zur Leistungsfähigkeit des geltenden Strafrechts im Hinblick auf die Herstellerverantwortlichkeit bei Schädigungen durch tiefe neuronale Netze

Schäfer, Milan

Schriften zum Strafrecht, Vol. 426

(2024)

Additional Information

Book Details

Pricing

About The Author

Milan Schäfer absolvierte von 2013 bis 2018 ein rechtswissenschaftliches Studium an der Johannes Gutenberg-Universität Mainz mit Schwerpunkt im Bereich Strafrechtspflege und Strafverteidigung. Seit dem Jahr 2020 ist er bei einer internationalen Wirtschaftskanzlei in Frankfurt am Main als wissenschaftlicher Mitarbeiter tätig und setzt sich in dieser Funktion schwerpunktmäßig mit aktienrechtlichen Fragestellungen sowie damit zusammenhängenden kapitalmarktrechtlichen Fragen auseinander. Seit November 2022 ist er zudem Rechtsreferendar am Oberlandesgericht Frankfurt am Main. Im Oktober 2023 schloss er seine Promotion am Fachbereich Rechts- und Wirtschaftswissenschaften der Johannes Gutenberg-Universität Mainz ab.

Abstract

Artificial Intelligence ist spätestens, seitdem der Chatbot »ChatGPT« einer breiten Öffentlichkeit bekannt geworden ist, in aller Munde. Darüber hinaus zeigen weitere Anwendungsfälle wie das autonome Fahren, dass die A.I.-Technologie zwar einerseits ein enormes Potential birgt, andererseits aber auch nicht unerhebliche Gefahren.

Die Arbeit untersucht das Phänomen Artificial Intelligence, konkret die Technologie des sogenannten Deep Learning, vor diesem Hintergrund aus strafrechtlicher Perspektive. Nicht zuletzt mit Blick darauf, dass verschiedentlich das Entstehen von »Verantwortungslücken« befürchtet wird, wird auf den Prüfstand gestellt, wie leistungsfähig das geltende deutsche Strafrecht ist, Fälle sachgerecht zu erfassen, in denen es zu Rechtsgutsverletzungen durch A.I.-Systeme kommt. Im Mittelpunkt steht dabei die Frage nach der strafrechtlichen Verantwortlichkeit der Hersteller solcher Systeme.
»Artificial Intelligence and Criminal Law. On the Capacity of Current Criminal Law with Regard to Producer Responsibility for Damage Caused by Deep Neural Networks«: The thesis examines the phenomenon of artificial intelligence (A.I. for short) from a criminal law perspective. Not least because there are various fears of ›responsibility gaps‹ arising, it is being put to the test how capable the current German criminal law is of dealing appropriately with cases in which legal interests are violated by A.I. systems. The thesis hereby focuses on the question of the criminal liability of the manufacturers of such systems.

Table of Contents

Section Title Page Action Price
Vorwort 5
Inhaltsübersicht 7
Inhaltsverzeichnis 9
Teil 1: Einführung in den Untersuchungsgegenstand 19
Kapitel 1: Einleitung 21
A. Verantwortungsfrage und „Verantwortungslücken“? 21
B. Ziel der vorliegenden Arbeit 25
Kapitel 2: Artificial Intelligence 27
A. Definition 27
B. Geschichte der Artificial Intelligence 31
I. Die Anfänge 31
II. Der A. I.-„Winter“ 32
III. Fortschritte der jüngeren Vergangenheit 33
C. Starke und schwache A. I. 35
D. Deep Learning mittels Künstlicher Neuronaler Netze 37
I. Funktionsweise 37
1. Machine Learning 37
2. Künstliche Neuronale Netze und Deep Learning 39
II. Lernen 42
1. Verschiedene Arten des Lernens 42
2. Lernprozess beim überwachten Lernen 45
3. Batch- und Online-Lernen 47
III. Der Vergleich zum menschlichen Gehirn 48
IV. Risiken und Herausforderungen 51
1. Datenmenge und -qualität 51
2. Over- und Underfitting 52
3. Robustheit 53
V. Phänomen Blackbox 54
1. Fehlende Nachvollziehbarkeit 54
2. Explainable A. I. 55
VI. Sicherheit 57
1. Technische Ansätze 58
2. Menschliche Aufsicht 59
E. Anwendungsbeispiele 60
Kapitel 3: Strafrechtliches „Potential“ von Artificial Intelligence 67
A. Denkbare Fallgestaltungen 67
B. Beweislage 76
Kapitel 4: Fragestellung und Umgrenzung des Untersuchungsgegenstands 78
A. Präzisierung der Fragestellung und Gang der Untersuchungen 79
B. Begrenzung des Untersuchungsgegenstands 80
Teil 2: Das fahrlässige A. I.-Erfolgsdelikt 85
Kapitel 1: Einstieg in die Untersuchungen zum fahrlässigen Erfolgsdelikt 87
A. Bedeutung der Fahrlässigkeitsdelikte im A. I.-Kontext 87
B. Übersicht zum Aufbau der Untersuchungen zum Tatbestand der fahrlässigen Erfolgsdelikte 88
I. Tatbestand 89
1. Kausalität 89
2. Todesverursachung „durch Fahrlässigkeit“ 89
a) Präzisierung in Rechtsprechung und Literatur 90
aa) Herrschende Auffassung 90
bb) Verschiedene abweichende Konzeptionen 92
cc) Fahrlässigkeitskonzeption von Duttge und Stellungnahme 93
b) Fallgruppenbildung 97
C. Exkurs: Rechtswidrigkeit und Schuld 100
I. Dilemma-Situationen 100
II. Individueller Fahrlässigkeitsvorwurf 104
Kapitel 2: Verursachung des Erfolgseintritts 108
A. Bisherige Befassung mit der Kausalitätsfrage in der A. I.-strafrechtlichen Literatur 108
B. Grundlagen 109
C. Fallgruppenbildung 111
D. Einsatz oder Vertrieb des Systems 111
E. Unzureichende Tests 113
I. Abgrenzung von Tun und Unterlassen 114
II. Lösung bei Unterlassen 119
F. Keine Verwendung von Explainable A. I. 121
G. Verwendung falsch gelabelter Datensätze 122
I. Problemstellung: Unkenntnis der konkreten Entscheidungsfindung 122
II. Generelle Kausalität 124
III. Kritiker der Rechtsprechung 127
IV. Stellungnahme 128
H. Verwendung eines nicht geeigneten Systems 131
I. Zwischenergebnis zur Kausalität und Schlussfolgerungen im Hinblick auf die Ausgangsfrage 133
Kapitel 3: Fahrlässigkeit 135
A. Objektive Voraussehbarkeit 135
I. Meinungsstand in der A. I.-strafrechtlichen Literatur 135
1. Generelle Voraussehbarkeit nicht ausreichend 136
2. Generelle Voraussehbarkeit genügt 137
II. Voraussehbarkeit in Rechtsprechung und Literatur 139
III. Generelle Voraussehbarkeit aus der maßgeblichen Perspektive 141
IV. Generelle Voraussehbarkeit als ausreichende Voraussehbarkeit? 145
1. Konkretisierung auf einen bestimmten Tatbestand 145
a) Fehlende Voraussehbarkeit der konkreten Schädigung 146
b) Fehlende Voraussehbarkeit des Zustandekommens der Fehlentscheidung innerhalb des Systems 148
2. Qualität der Voraussehbarkeit 149
V. Schlussfolgerungen 154
VI. Zwischenergebnis 158
B. Fahrlässigkeit bei Einsatz, Entwicklung und Vertrieb eines A. I.-Systems 159
I. Meinungsstand in der A. I.-strafrechtlichen Literatur 160
1. Stimmen gegen eine „generelle Fahrlässigkeit“ 160
a) Argumentation aus dem Nutzen von A. I.-Systemen 160
b) Förderung von Innovation 164
2. Kritische Stimmen 165
a) Fahrlässigkeit des Vertriebs und der Nutzung generell und Forderung nach menschlicher Kontrolle 166
b) Allgemeines Lebensrisiko 168
c) Exkurs: Übernahmefahrlässigkeit 169
3. Zusammenfassung des bisherigen Meinungsbildes 171
II. Maßstabsbildung im Allgemeinen 172
III. Beurteilung im Anwendungsbereich von Sondernormen 174
1. Rechtsnormen und Artificial Intelligence 175
a) Autonom fahrende Fahrzeuge 176
b) Hochfrequenzhandel 180
c) Regelungen im medizinischen Sektor 181
d) Produktsicherheit 184
e) Gesellschafts- und Datenschutzrecht 186
f) BSIG 187
g) Zusammenfassung der Untersuchungen zu außerstrafrechtlichen Rechtsnormen 189
2. Verkehrsnormen und Artificial Intelligence 191
a) Strafrechtliche Bedeutung von Verkehrsnormen 192
b) Verkehrsnormen und Artificial Intelligence 194
IV. Beurteilung ohne Geltung von Verbots-Sondernormen 195
1. Die „Maßfigur“ 195
2. Interessenabwägung 197
a) Grundlagen der Abwägung 198
aa) Maßstab 199
bb) Perspektive 200
cc) Abwägungsformel 204
b) Risiken und Vorteile von A. I.-Systemen 204
c) Abwägung der widerstreitenden Interessen 206
aa) Fälle unter Betroffenheit von Rechtsgütern höchsten Ranges 207
bb) Exkurs: Sonstige Fälle 210
cc) Verallgemeinerung der gewonnenen Erkenntnisse 211
d) Weitere abzuwägende Gesichtspunkte 212
e) Das Problem des fehlenden Grundkonsenses 215
f) Verfassungskonforme Auslegung 216
aa) Geeignetheit eines Verbots im Vergleich zum Menschen 218
bb) Fehlendes Korrektiv der Strafbarkeit 220
cc) Auswirkungen auf den anzustellenden Vergleich 225
dd) Zusätzliche menschliche Kontrolle 226
g) Ergebnis der Abwägung 227
3. Praktische Schlussfolgerungen 238
a) Abstrakte strafrechtliche Maßgaben für Einsatz, Entwicklung und Vertrieb von A. I.-Systemen außerhalb von Verbots-Sondernormen 238
b) Rückschlüsse für die Anwendung von Verbots-Sondernormen? – Vollautonomes Fahren der Stufe fünf und andere außerstrafrechtliche Verbote 248
V. Zwischenergebnis 251
C. Grundsätze einer strafrechtlichen A. I.-Produzentenhaftung 253
I. Rückgriff auf die Grundsätze der strafrechtlichen Produzentenhaftung 253
II. Grundlagen der strafrechtlichen Produzentenhaftung 254
1. Zivilrecht 254
2. Strafrechtlicher Maßstab 255
III. Anwendungsbereich 259
1. Software als „Produkt“ im Sinne des ProdHaftG? 260
2. Software als Fall der strafrechtlichen Produzentenhaftung 260
IV. Konkretisierung der strafrechtlichen Produzentenhaftung im Hinblick auf A. I.-Systeme 262
1. Konstruktion von A. I.-Systemen 264
a) Konzipierung des Systems 266
aa) Abstrakt taugliche Konzipierung 266
bb) Explainable A. I. 268
cc) Sicherheitsmechanismen 270
b) Trainingsphase 276
aa) Verwendung falsch gelabelter Daten 276
bb) Datenmenge und -qualität 279
c) Testphase 280
d) Algorithmus-TÜV 284
e) Einzelfragen 287
aa) Konstruktion speziell online-lernender Systeme 287
bb) Vertrauensgrundsatz 288
cc) Nachweis von Konstruktionsfehlern 292
2. Produktion von A. I.-Systemen 293
3. Instruktion beim Vertrieb von A. I.-Systemen 295
4. Überwachung von A. I.-Systemen 299
a) Dogmatische Grundlage 300
b) Besondere Bedeutung der Beobachtung bei A. I.-Systemen 302
c) Strafrechtlich erforderliche Beobachtung 304
aa) Passive und aktive Beobachtung 304
bb) Integrierte Beobachtung 306
(1) Integrierte Beobachtung durch den Hersteller 306
(2) Kollisionsmeldesysteme 309
cc) Beobachtung speziell online-lernender Systeme 311
d) Strafrechtlich erforderliche Reaktion 312
aa) Grundlagen einer strafrechtlichen Rückrufpflicht 312
bb) Umfang der Reaktionspflichten im Hinblick auf A. I.-Systeme 313
(1) Warnung 314
(2) Rückruf 315
(3) Updates 318
(4) Weitervertrieb 322
(5) Reaktion speziell im Hinblick auf online-lernende Systeme 323
V. Zwischenergebnis 325
D. Sonderwissen 326
E. Fahrlässigkeit im Hinblick auf die konkrete Erfolgsverursachung (Schutzzweckzusammenhang) 328
F. Schlussfolgerungen zur Fahrlässigkeit im Hinblick auf die Ausgangsfrage 335
Kapitel 4: Eigenverantwortliche Selbstgefährdung 337
A. Grundlagen 337
B. Selbstgefährdung und A. I. 339
I. Meinungsstand in der A. I.-strafrechtlichen Literatur 340
II. Abgrenzungskriterien 340
III. Abgrenzung von Selbst- und Fremdgefährdung 341
C. Eigenverantwortlichkeit der Selbstgefährdung und A. I. 345
I. Meinungsstand in der A. I.-strafrechtlichen Literatur 345
II. Eigenverantwortlichkeit und überlegenes Sachwissen 346
1. Instruktion über Risiken generell 346
2. Hinzutreten weiterer Umstände 349
III. Eigenverantwortlichkeit und besseres Erfassen-Können des Risikos 351
IV. Richtiger Maßstab der Eigenverantwortlichkeit 354
D. Zwischenergebnis zur eigenverantwortlichen Selbstgefährdung und Schlussfolgerungen im Hinblick auf die Ausgangsfrage 357
Kapitel 5: Erfolgsverursachung „durch“ Fahrlässigkeit (Pflichtwidrigkeitszusammenhang) 359
A. Bisherige Auseinandersetzungen mit der Thematik in der A. I.-strafrechtlichen Literatur 359
B. Grundlagen 361
C. Einsatz/Vertrieb trotz generellen Verbots oder unzureichender Testergebnisse 363
D. Unzureichende Tests 369
I. Abstellen darauf, dass Tests durchgeführt worden wären 369
1. Problemstellung 370
2. Beurteilung unter Anwendung der Vermeidbarkeitstheorie 372
3. Beurteilung unter Anwendung der Risikoerhöhungslehre 373
II. Abstellen darauf, dass Einsatz oder Vertrieb unterblieben wären 375
III. Maßgebliches Alternativverhalten 376
IV. Konsequenzen für Fälle arbeitsteiliger Organisation 380
E. Verwendung falsch gelabelter Daten 382
I. Problematik des Abstellens auf den Verzicht der Verwendung falsch gelabelter Daten 383
II. Lösung für die ganz überwiegende Zahl der Fälle 385
III. Behandlung der wenigen „Problemfälle“ 386
F. Einsatz eines für die Anwendung abstrakt nicht geeigneten Systems 387
G. Verallgemeinerung der gewonnenen Erkenntnisse 389
H. Behandlung der wenigen verbleibenden Problemfälle 391
I. Zwischenergebnis zur Erfolgsverursachung „durch“ Fahrlässigkeit und Schlussfolgerungen im Hinblick auf die Ausgangsfrage 399
Kapitel 6: Eigenverantwortliches Dazwischentreten von A. I.-Systemen 404
A. Meinungsstand in der A. I.-strafrechtlichen Literatur 404
B. Grundlegende Voraussetzungen für ein eigenverantwortliches Dazwischentreten 407
C. Handlungsfähigkeit von A. I.-Systemen? 408
D. Kein Sachgrund für eine Einbeziehung von A. I.-Systemen 414
E. Einzelne Begründungsansätze unpassend 415
F. Systematik 419
G. Zwischenergebnis zum eigenverantwortlichen Dazwischentreten und Schlussfolgerungen im Hinblick auf die Ausgangsfrage 421
Teil 3: Das vorsätzliche A. I.-Erfolgsdelikt 423
Kapitel 1: Vorsätzliche Erfolgsdelikte und A. I. 425
A. Bisherige Auseinandersetzung mit dem Vorsatzdelikt in der A. I.-strafrechtlichen Literatur 425
B. Objektiver Tatbestand des Vorsatzdelikts 426
I. Gemeinsamkeiten des Vorsatz- und des Fahrlässigkeitsdelikts 426
II. Schlussfolgerungen für die A. I.-strafrechtliche Betrachtung 431
1. Kausalität 432
2. Schaffung einer rechtlich missbilligten Gefahr 432
a) Keine Unterschiede wegen eines „bösen Willens“ 432
b) Besonderheiten beim Vorsatzdelikt 435
3. Gefahrrealisierung im Erfolg, eigenverantwortliches Dazwischentreten 436
C. Vorsatz und Täterschaft 436
Kapitel 2: Vorsatz 439
A. Wissenskomponente 439
I. Bisherige Auseinandersetzung mit der Thematik in der A. I.-strafrechtlichen Literatur 439
II. Hinreichende Kenntnis des Erfolgseintritts 441
III. Hinreichende Kenntnis des zum Erfolgseintritt führenden Geschehensablaufs 444
IV. Einzelfälle 448
B. Willenskomponente 450
C. Zwischenergebnis zum Vorsatz und Schlussfolgerungen im Hinblick auf die Ausgangsfrage 452
Kapitel 3: Täterschaft und Teilnahme 454
A. Bisherige Auseinandersetzung mit Beteiligungsfragen in der A. I.-strafrechtlichen Literatur 454
B. Täterschaft und Teilnahme bei Einsatz des Systems 456
I. Keine Beteiligung an „Taten“ von A. I.-Systemen 456
II. Unmittelbare Täterschaft (§ 25 Abs. 1 Alt. 1 StGB) und A. I.-Systeme 459
1. Verwirklichung aller Tatbestandsvoraussetzungen 459
2. Begründungsansätze 461
a) Herrschaft in faktischer Betrachtung 463
aa) Werkzeugqualität? 463
bb) Parallelen zur Organisationsherrschaft? 467
cc) Programmherrschaft nach Mansdörfer 470
b) Normative Betrachtung 471
aa) „Normative Tatherrschaftslehre“ 472
bb) Einschränkung der „normativen Tatherrschaftslehre“ 475
c) Lehre vom Pflichtdelikt 476
3. Stellungnahme für eine normative Betrachtung 478
a) Widersprüchlichkeit der faktischen Betrachtungsweise 478
b) Keine durchgreifenden Argumente gegen eine normative Betrachtung 479
c) Bestätigung in historischer Betrachtung 481
d) Bestätigung in systematischer Betrachtung 482
4. Voraussetzungen unmittelbarer Täterschaft bei Erfolgsdelikten 486
C. Täterschaft und Teilnahme bei Vertrieb des Systems 488
D. Zwischenergebnis zu Täterschaft und Teilnahme und Schlussfolgerungen im Hinblick auf die Ausgangsfrage 493
Teil 4: Zusammenfassung der Ergebnisse, Fazit und Ausblick de lege ferenda 495
Kapitel 1: Zusammenfassung der bisherigen Ergebnisse 497
A. Das fahrlässige Erfolgsdelikt 497
I. Kausalität 497
II. Fahrlässigkeit (einschließlich Schutzzweckzusammenhang) 498
III. Eigenverantwortliche Selbstgefährdung 501
IV. Erfolgsverwirklichung „durch“ Fahrlässigkeit (Pflichtwidrigkeitszusammenhang) 502
V. A. I.-Systeme sind kein eigenverantwortlicher Dritter 505
B. Das vorsätzliche Erfolgsdelikt 505
I. Objektiver Tatbestand 505
II. Vorsatz 506
III. Täterschaft und Teilnahme 506
Kapitel 2: Fazit zur Leistungsfähigkeit des geltenden Strafrechts 508
A. Keine empfindlichen „Verantwortungslücken“ 508
B. Sachgerechter und angemessener Interessenausgleich 512
C. Ergebnis der Betrachtung de lege lata 515
Kapitel 3: Ausblick de lege ferenda 517
A. Sanktionierung des Systems 517
B. Schaffung eines abstrakten Gefährdungsdelikts 521
C. Konkretisierung der Anforderungen an die Hersteller von A. I.-Systemen 527
I. Allgemeines 527
II. Entwurf eines Gesetzes über künstliche Intelligenz 529
1. Wesentlicher Entwurfsinhalt 530
2. Auswirkungen auf das Strafrecht 535
a) Strafrechtliche Relevanz der Verbote des A. I.-Act-E 536
b) Hochrisiko-Systeme und das Strafrecht 537
aa) Strafrechtliche Relevanz der Anforderungen des A. I.-Act-E 537
bb) Gemeinsamkeiten zu den geltenden strafrechtlichen Anforderungen 539
cc) Unterschiede 546
3. Bewertung 549
D. Schluss 551
Glossar 554
Literaturverzeichnis 556
Stichwortverzeichnis 591