Artificial Intelligence und Strafrecht

Milan Schäfer

doi:10.3790/978-3-428-59095-7

Preview Login to order (PDF)

BOOK

Cite BOOK

Style

Schäfer, M. (2024). Artificial Intelligence und Strafrecht. Zur Leistungsfähigkeit des geltenden Strafrechts im Hinblick auf die Herstellerverantwortlichkeit bei Schädigungen durch tiefe neuronale Netze. Duncker & Humblot. https://doi.org/10.3790/978-3-428-59095-7

Format

BIBTEX

ENDNOTE

RIS

Download

Artificial Intelligence und Strafrecht

Zur Leistungsfähigkeit des geltenden Strafrechts im Hinblick auf die Herstellerverantwortlichkeit bei Schädigungen durch tiefe neuronale Netze

Schäfer, Milan

Schriften zum Strafrecht, Vol. 426

(2024)

Preview Login to order (PDF)

Additional Information

Book Details

Publisher Name: Duncker & Humblot
ISBN: 978-3-428-59095-7
978-3-428-19095-9 (print edition)
DOI: https://doi.org/10.3790/978-3-428-59095-7
Edition: 1
Language: German
Pages: 594
Collections: D&H 2024
NBE D&H
NBE RECHT
RECHT 2024
Subjects: Criminal law: procedure & offences
Artificial intelligence

Pricing

Institution: € 166.00 (incl. local VAT if applicable)
Individual: € 109.90 (incl. local VAT if applicable)

About The Author

Milan Schäfer absolvierte von 2013 bis 2018 ein rechtswissenschaftliches Studium an der Johannes Gutenberg-Universität Mainz mit Schwerpunkt im Bereich Strafrechtspflege und Strafverteidigung. Seit dem Jahr 2020 ist er bei einer internationalen Wirtschaftskanzlei in Frankfurt am Main als wissenschaftlicher Mitarbeiter tätig und setzt sich in dieser Funktion schwerpunktmäßig mit aktienrechtlichen Fragestellungen sowie damit zusammenhängenden kapitalmarktrechtlichen Fragen auseinander. Seit November 2022 ist er zudem Rechtsreferendar am Oberlandesgericht Frankfurt am Main. Im Oktober 2023 schloss er seine Promotion am Fachbereich Rechts- und Wirtschaftswissenschaften der Johannes Gutenberg-Universität Mainz ab.

Abstract

Artificial Intelligence ist spätestens, seitdem der Chatbot »ChatGPT« einer breiten Öffentlichkeit bekannt geworden ist, in aller Munde. Darüber hinaus zeigen weitere Anwendungsfälle wie das autonome Fahren, dass die A.I.-Technologie zwar einerseits ein enormes Potential birgt, andererseits aber auch nicht unerhebliche Gefahren.

Die Arbeit untersucht das Phänomen Artificial Intelligence, konkret die Technologie des sogenannten Deep Learning, vor diesem Hintergrund aus strafrechtlicher Perspektive. Nicht zuletzt mit Blick darauf, dass verschiedentlich das Entstehen von »Verantwortungslücken« befürchtet wird, wird auf den Prüfstand gestellt, wie leistungsfähig das geltende deutsche Strafrecht ist, Fälle sachgerecht zu erfassen, in denen es zu Rechtsgutsverletzungen durch A.I.-Systeme kommt. Im Mittelpunkt steht dabei die Frage nach der strafrechtlichen Verantwortlichkeit der Hersteller solcher Systeme.
»Artificial Intelligence and Criminal Law. On the Capacity of Current Criminal Law with Regard to Producer Responsibility for Damage Caused by Deep Neural Networks«: The thesis examines the phenomenon of artificial intelligence (A.I. for short) from a criminal law perspective. Not least because there are various fears of ›responsibility gaps‹ arising, it is being put to the test how capable the current German criminal law is of dealing appropriately with cases in which legal interests are violated by A.I. systems. The thesis hereby focuses on the question of the criminal liability of the manufacturers of such systems.

Section Title	Page	Action	Price
Vorwort	5
Inhaltsübersicht	7
Inhaltsverzeichnis	9
Teil 1: Einführung in den Untersuchungsgegenstand	19
Kapitel 1: Einleitung	21
A. Verantwortungsfrage und „Verantwortungslücken“?	21
B. Ziel der vorliegenden Arbeit	25
Kapitel 2: Artificial Intelligence	27
A. Definition	27
B. Geschichte der Artificial Intelligence	31
I. Die Anfänge	31
II. Der A. I.-„Winter“	32
III. Fortschritte der jüngeren Vergangenheit	33
C. Starke und schwache A. I.	35
D. Deep Learning mittels Künstlicher Neuronaler Netze	37
I. Funktionsweise	37
1. Machine Learning	37
2. Künstliche Neuronale Netze und Deep Learning	39
II. Lernen	42
1. Verschiedene Arten des Lernens	42
2. Lernprozess beim überwachten Lernen	45
3. Batch- und Online-Lernen	47
III. Der Vergleich zum menschlichen Gehirn	48
IV. Risiken und Herausforderungen	51
1. Datenmenge und -qualität	51
2. Over- und Underfitting	52
3. Robustheit	53
V. Phänomen Blackbox	54
1. Fehlende Nachvollziehbarkeit	54
2. Explainable A. I.	55
VI. Sicherheit	57
1. Technische Ansätze	58
2. Menschliche Aufsicht	59
E. Anwendungsbeispiele	60
Kapitel 3: Strafrechtliches „Potential“ von Artificial Intelligence	67
A. Denkbare Fallgestaltungen	67
B. Beweislage	76
Kapitel 4: Fragestellung und Umgrenzung des Untersuchungsgegenstands	78
A. Präzisierung der Fragestellung und Gang der Untersuchungen	79
B. Begrenzung des Untersuchungsgegenstands	80
Teil 2: Das fahrlässige A. I.-Erfolgsdelikt	85
Kapitel 1: Einstieg in die Untersuchungen zum fahrlässigen Erfolgsdelikt	87
A. Bedeutung der Fahrlässigkeitsdelikte im A. I.-Kontext	87
B. Übersicht zum Aufbau der Untersuchungen zum Tatbestand der fahrlässigen Erfolgsdelikte	88
I. Tatbestand	89
1. Kausalität	89
2. Todesverursachung „durch Fahrlässigkeit“	89
a) Präzisierung in Rechtsprechung und Literatur	90
aa) Herrschende Auffassung	90
bb) Verschiedene abweichende Konzeptionen	92
cc) Fahrlässigkeitskonzeption von Duttge und Stellungnahme	93
b) Fallgruppenbildung	97
C. Exkurs: Rechtswidrigkeit und Schuld	100
I. Dilemma-Situationen	100
II. Individueller Fahrlässigkeitsvorwurf	104
Kapitel 2: Verursachung des Erfolgseintritts	108
A. Bisherige Befassung mit der Kausalitätsfrage in der A. I.-strafrechtlichen Literatur	108
B. Grundlagen	109
C. Fallgruppenbildung	111
D. Einsatz oder Vertrieb des Systems	111
E. Unzureichende Tests	113
I. Abgrenzung von Tun und Unterlassen	114
II. Lösung bei Unterlassen	119
F. Keine Verwendung von Explainable A. I.	121
G. Verwendung falsch gelabelter Datensätze	122
I. Problemstellung: Unkenntnis der konkreten Entscheidungsfindung	122
II. Generelle Kausalität	124
III. Kritiker der Rechtsprechung	127
IV. Stellungnahme	128
H. Verwendung eines nicht geeigneten Systems	131
I. Zwischenergebnis zur Kausalität und Schlussfolgerungen im Hinblick auf die Ausgangsfrage	133
Kapitel 3: Fahrlässigkeit	135
A. Objektive Voraussehbarkeit	135
I. Meinungsstand in der A. I.-strafrechtlichen Literatur	135
1. Generelle Voraussehbarkeit nicht ausreichend	136
2. Generelle Voraussehbarkeit genügt	137
II. Voraussehbarkeit in Rechtsprechung und Literatur	139
III. Generelle Voraussehbarkeit aus der maßgeblichen Perspektive	141
IV. Generelle Voraussehbarkeit als ausreichende Voraussehbarkeit?	145
1. Konkretisierung auf einen bestimmten Tatbestand	145
a) Fehlende Voraussehbarkeit der konkreten Schädigung	146
b) Fehlende Voraussehbarkeit des Zustandekommens der Fehlentscheidung innerhalb des Systems	148
2. Qualität der Voraussehbarkeit	149
V. Schlussfolgerungen	154
VI. Zwischenergebnis	158
B. Fahrlässigkeit bei Einsatz, Entwicklung und Vertrieb eines A. I.-Systems	159
I. Meinungsstand in der A. I.-strafrechtlichen Literatur	160
1. Stimmen gegen eine „generelle Fahrlässigkeit“	160
a) Argumentation aus dem Nutzen von A. I.-Systemen	160
b) Förderung von Innovation	164
2. Kritische Stimmen	165
a) Fahrlässigkeit des Vertriebs und der Nutzung generell und Forderung nach menschlicher Kontrolle	166
b) Allgemeines Lebensrisiko	168
c) Exkurs: Übernahmefahrlässigkeit	169
3. Zusammenfassung des bisherigen Meinungsbildes	171
II. Maßstabsbildung im Allgemeinen	172
III. Beurteilung im Anwendungsbereich von Sondernormen	174
1. Rechtsnormen und Artificial Intelligence	175
a) Autonom fahrende Fahrzeuge	176
b) Hochfrequenzhandel	180
c) Regelungen im medizinischen Sektor	181
d) Produktsicherheit	184
e) Gesellschafts- und Datenschutzrecht	186
f) BSIG	187
g) Zusammenfassung der Untersuchungen zu außerstrafrechtlichen Rechtsnormen	189
2. Verkehrsnormen und Artificial Intelligence	191
a) Strafrechtliche Bedeutung von Verkehrsnormen	192
b) Verkehrsnormen und Artificial Intelligence	194
IV. Beurteilung ohne Geltung von Verbots-Sondernormen	195
1. Die „Maßfigur“	195
2. Interessenabwägung	197
a) Grundlagen der Abwägung	198
aa) Maßstab	199
bb) Perspektive	200
cc) Abwägungsformel	204
b) Risiken und Vorteile von A. I.-Systemen	204
c) Abwägung der widerstreitenden Interessen	206
aa) Fälle unter Betroffenheit von Rechtsgütern höchsten Ranges	207
bb) Exkurs: Sonstige Fälle	210
cc) Verallgemeinerung der gewonnenen Erkenntnisse	211
d) Weitere abzuwägende Gesichtspunkte	212
e) Das Problem des fehlenden Grundkonsenses	215
f) Verfassungskonforme Auslegung	216
aa) Geeignetheit eines Verbots im Vergleich zum Menschen	218
bb) Fehlendes Korrektiv der Strafbarkeit	220
cc) Auswirkungen auf den anzustellenden Vergleich	225
dd) Zusätzliche menschliche Kontrolle	226
g) Ergebnis der Abwägung	227
3. Praktische Schlussfolgerungen	238
a) Abstrakte strafrechtliche Maßgaben für Einsatz, Entwicklung und Vertrieb von A. I.-Systemen außerhalb von Verbots-Sondernormen	238
b) Rückschlüsse für die Anwendung von Verbots-Sondernormen? – Vollautonomes Fahren der Stufe fünf und andere außerstrafrechtliche Verbote	248
V. Zwischenergebnis	251
C. Grundsätze einer strafrechtlichen A. I.-Produzentenhaftung	253
I. Rückgriff auf die Grundsätze der strafrechtlichen Produzentenhaftung	253
II. Grundlagen der strafrechtlichen Produzentenhaftung	254
1. Zivilrecht	254
2. Strafrechtlicher Maßstab	255
III. Anwendungsbereich	259
1. Software als „Produkt“ im Sinne des ProdHaftG?	260
2. Software als Fall der strafrechtlichen Produzentenhaftung	260
IV. Konkretisierung der strafrechtlichen Produzentenhaftung im Hinblick auf A. I.-Systeme	262
1. Konstruktion von A. I.-Systemen	264
a) Konzipierung des Systems	266
aa) Abstrakt taugliche Konzipierung	266
bb) Explainable A. I.	268
cc) Sicherheitsmechanismen	270
b) Trainingsphase	276
aa) Verwendung falsch gelabelter Daten	276
bb) Datenmenge und -qualität	279
c) Testphase	280
d) Algorithmus-TÜV	284
e) Einzelfragen	287
aa) Konstruktion speziell online-lernender Systeme	287
bb) Vertrauensgrundsatz	288
cc) Nachweis von Konstruktionsfehlern	292
2. Produktion von A. I.-Systemen	293
3. Instruktion beim Vertrieb von A. I.-Systemen	295
4. Überwachung von A. I.-Systemen	299
a) Dogmatische Grundlage	300
b) Besondere Bedeutung der Beobachtung bei A. I.-Systemen	302
c) Strafrechtlich erforderliche Beobachtung	304
aa) Passive und aktive Beobachtung	304
bb) Integrierte Beobachtung	306
(1) Integrierte Beobachtung durch den Hersteller	306
(2) Kollisionsmeldesysteme	309
cc) Beobachtung speziell online-lernender Systeme	311
d) Strafrechtlich erforderliche Reaktion	312
aa) Grundlagen einer strafrechtlichen Rückrufpflicht	312
bb) Umfang der Reaktionspflichten im Hinblick auf A. I.-Systeme	313
(1) Warnung	314
(2) Rückruf	315
(3) Updates	318
(4) Weitervertrieb	322
(5) Reaktion speziell im Hinblick auf online-lernende Systeme	323
V. Zwischenergebnis	325
D. Sonderwissen	326
E. Fahrlässigkeit im Hinblick auf die konkrete Erfolgsverursachung (Schutzzweckzusammenhang)	328
F. Schlussfolgerungen zur Fahrlässigkeit im Hinblick auf die Ausgangsfrage	335
Kapitel 4: Eigenverantwortliche Selbstgefährdung	337
A. Grundlagen	337
B. Selbstgefährdung und A. I.	339
I. Meinungsstand in der A. I.-strafrechtlichen Literatur	340
II. Abgrenzungskriterien	340
III. Abgrenzung von Selbst- und Fremdgefährdung	341
C. Eigenverantwortlichkeit der Selbstgefährdung und A. I.	345
I. Meinungsstand in der A. I.-strafrechtlichen Literatur	345
II. Eigenverantwortlichkeit und überlegenes Sachwissen	346
1. Instruktion über Risiken generell	346
2. Hinzutreten weiterer Umstände	349
III. Eigenverantwortlichkeit und besseres Erfassen-Können des Risikos	351
IV. Richtiger Maßstab der Eigenverantwortlichkeit	354
D. Zwischenergebnis zur eigenverantwortlichen Selbstgefährdung und Schlussfolgerungen im Hinblick auf die Ausgangsfrage	357
Kapitel 5: Erfolgsverursachung „durch“ Fahrlässigkeit (Pflichtwidrigkeitszusammenhang)	359
A. Bisherige Auseinandersetzungen mit der Thematik in der A. I.-strafrechtlichen Literatur	359
B. Grundlagen	361
C. Einsatz/Vertrieb trotz generellen Verbots oder unzureichender Testergebnisse	363
D. Unzureichende Tests	369
I. Abstellen darauf, dass Tests durchgeführt worden wären	369
1. Problemstellung	370
2. Beurteilung unter Anwendung der Vermeidbarkeitstheorie	372
3. Beurteilung unter Anwendung der Risikoerhöhungslehre	373
II. Abstellen darauf, dass Einsatz oder Vertrieb unterblieben wären	375
III. Maßgebliches Alternativverhalten	376
IV. Konsequenzen für Fälle arbeitsteiliger Organisation	380
E. Verwendung falsch gelabelter Daten	382
I. Problematik des Abstellens auf den Verzicht der Verwendung falsch gelabelter Daten	383
II. Lösung für die ganz überwiegende Zahl der Fälle	385
III. Behandlung der wenigen „Problemfälle“	386
F. Einsatz eines für die Anwendung abstrakt nicht geeigneten Systems	387
G. Verallgemeinerung der gewonnenen Erkenntnisse	389
H. Behandlung der wenigen verbleibenden Problemfälle	391
I. Zwischenergebnis zur Erfolgsverursachung „durch“ Fahrlässigkeit und Schlussfolgerungen im Hinblick auf die Ausgangsfrage	399
Kapitel 6: Eigenverantwortliches Dazwischentreten von A. I.-Systemen	404
A. Meinungsstand in der A. I.-strafrechtlichen Literatur	404
B. Grundlegende Voraussetzungen für ein eigenverantwortliches Dazwischentreten	407
C. Handlungsfähigkeit von A. I.-Systemen?	408
D. Kein Sachgrund für eine Einbeziehung von A. I.-Systemen	414
E. Einzelne Begründungsansätze unpassend	415
F. Systematik	419
G. Zwischenergebnis zum eigenverantwortlichen Dazwischentreten und Schlussfolgerungen im Hinblick auf die Ausgangsfrage	421
Teil 3: Das vorsätzliche A. I.-Erfolgsdelikt	423
Kapitel 1: Vorsätzliche Erfolgsdelikte und A. I.	425
A. Bisherige Auseinandersetzung mit dem Vorsatzdelikt in der A. I.-strafrechtlichen Literatur	425
B. Objektiver Tatbestand des Vorsatzdelikts	426
I. Gemeinsamkeiten des Vorsatz- und des Fahrlässigkeitsdelikts	426
II. Schlussfolgerungen für die A. I.-strafrechtliche Betrachtung	431
1. Kausalität	432
2. Schaffung einer rechtlich missbilligten Gefahr	432
a) Keine Unterschiede wegen eines „bösen Willens“	432
b) Besonderheiten beim Vorsatzdelikt	435
3. Gefahrrealisierung im Erfolg, eigenverantwortliches Dazwischentreten	436
C. Vorsatz und Täterschaft	436
Kapitel 2: Vorsatz	439
A. Wissenskomponente	439
I. Bisherige Auseinandersetzung mit der Thematik in der A. I.-strafrechtlichen Literatur	439
II. Hinreichende Kenntnis des Erfolgseintritts	441
III. Hinreichende Kenntnis des zum Erfolgseintritt führenden Geschehensablaufs	444
IV. Einzelfälle	448
B. Willenskomponente	450
C. Zwischenergebnis zum Vorsatz und Schlussfolgerungen im Hinblick auf die Ausgangsfrage	452
Kapitel 3: Täterschaft und Teilnahme	454
A. Bisherige Auseinandersetzung mit Beteiligungsfragen in der A. I.-strafrechtlichen Literatur	454
B. Täterschaft und Teilnahme bei Einsatz des Systems	456
I. Keine Beteiligung an „Taten“ von A. I.-Systemen	456
II. Unmittelbare Täterschaft (§ 25 Abs. 1 Alt. 1 StGB) und A. I.-Systeme	459
1. Verwirklichung aller Tatbestandsvoraussetzungen	459
2. Begründungsansätze	461
a) Herrschaft in faktischer Betrachtung	463
aa) Werkzeugqualität?	463
bb) Parallelen zur Organisationsherrschaft?	467
cc) Programmherrschaft nach Mansdörfer	470
b) Normative Betrachtung	471
aa) „Normative Tatherrschaftslehre“	472
bb) Einschränkung der „normativen Tatherrschaftslehre“	475
c) Lehre vom Pflichtdelikt	476
3. Stellungnahme für eine normative Betrachtung	478
a) Widersprüchlichkeit der faktischen Betrachtungsweise	478
b) Keine durchgreifenden Argumente gegen eine normative Betrachtung	479
c) Bestätigung in historischer Betrachtung	481
d) Bestätigung in systematischer Betrachtung	482
4. Voraussetzungen unmittelbarer Täterschaft bei Erfolgsdelikten	486
C. Täterschaft und Teilnahme bei Vertrieb des Systems	488
D. Zwischenergebnis zu Täterschaft und Teilnahme und Schlussfolgerungen im Hinblick auf die Ausgangsfrage	493
Teil 4: Zusammenfassung der Ergebnisse, Fazit und Ausblick de lege ferenda	495
Kapitel 1: Zusammenfassung der bisherigen Ergebnisse	497
A. Das fahrlässige Erfolgsdelikt	497
I. Kausalität	497
II. Fahrlässigkeit (einschließlich Schutzzweckzusammenhang)	498
III. Eigenverantwortliche Selbstgefährdung	501
IV. Erfolgsverwirklichung „durch“ Fahrlässigkeit (Pflichtwidrigkeitszusammenhang)	502
V. A. I.-Systeme sind kein eigenverantwortlicher Dritter	505
B. Das vorsätzliche Erfolgsdelikt	505
I. Objektiver Tatbestand	505
II. Vorsatz	506
III. Täterschaft und Teilnahme	506
Kapitel 2: Fazit zur Leistungsfähigkeit des geltenden Strafrechts	508
A. Keine empfindlichen „Verantwortungslücken“	508
B. Sachgerechter und angemessener Interessenausgleich	512
C. Ergebnis der Betrachtung de lege lata	515
Kapitel 3: Ausblick de lege ferenda	517
A. Sanktionierung des Systems	517
B. Schaffung eines abstrakten Gefährdungsdelikts	521
C. Konkretisierung der Anforderungen an die Hersteller von A. I.-Systemen	527
I. Allgemeines	527
II. Entwurf eines Gesetzes über künstliche Intelligenz	529
1. Wesentlicher Entwurfsinhalt	530
2. Auswirkungen auf das Strafrecht	535
a) Strafrechtliche Relevanz der Verbote des A. I.-Act-E	536
b) Hochrisiko-Systeme und das Strafrecht	537
aa) Strafrechtliche Relevanz der Anforderungen des A. I.-Act-E	537
bb) Gemeinsamkeiten zu den geltenden strafrechtlichen Anforderungen	539
cc) Unterschiede	546
3. Bewertung	549
D. Schluss	551
Glossar	554
Literaturverzeichnis	556
Stichwortverzeichnis	591

Cite BOOK

Style

Format

Artificial Intelligence und Strafrecht

Zur Leistungsfähigkeit des geltenden Strafrechts im Hinblick auf die Herstellerverantwortlichkeit bei Schädigungen durch tiefe neuronale Netze

Additional Information

Book Details

Pricing

About The Author

Abstract

Table of Contents

Contact

Quick Navigation