Haftungsfragen automatisierter Systeme

David Essers

doi:10.3790/978-3-428-59080-3

Preview Login to order (PDF)

BOOK

Cite BOOK

Style

Essers, D. (2024). Haftungsfragen automatisierter Systeme. Duncker & Humblot. https://doi.org/10.3790/978-3-428-59080-3

Format

BIBTEX

ENDNOTE

RIS

Download

Haftungsfragen automatisierter Systeme

Essers, David

Internetrecht und Digitale Gesellschaft, Vol. 58

(2024)

Preview Login to order (PDF)

Additional Information

Book Details

Publisher Name: Duncker & Humblot
ISBN: 978-3-428-59080-3
978-3-428-19080-5 (print edition)
DOI: https://doi.org/10.3790/978-3-428-59080-3
Edition: 1
Language: German
Pages: 390
Collections: D&H 2024
NBE D&H
NBE RECHT
RECHT 2024
Subjects: Road traffic law, motoring offences
Artificial intelligence

Pricing

Institution: € 150.00 (incl. local VAT if applicable)
Individual: € 99.90 (incl. local VAT if applicable)

About The Author

Nach Abschluss des Studiums der Rechtswissenschaften in Erlangen absolvierte David Essers das Rechtsreferendariat nebst Weiterbildung zum Wirtschaftsmediator in Nürnberg und New York City. Während der Ausbildung war er am Lehrstuhl für Bürgerliches Recht, Internationales Privatrecht und Rechtsvergleichung der Friedrich-Alexander-Universität Erlangen-Nürnberg (Prof. Dr. Dr. h.c. Mathias Rohe) und dem Erlanger Zentrum für Islam und Recht in Europa beschäftigt. Seit 2020 war David Essers zunächst in einer Hamburger Corporate-Boutique und sodann als Legal Counsel in Herzogenaurach tätig. Im Jahr 2023 wechselte er als Syndikusrechtsanwalt in die Automobilindustrie im Stuttgarter Raum.

Abstract

Die Arbeit behandelt Fragen zivilrechtlicher Verantwortungszuweisung beim Einsatz automatisierter Systeme. Dabei wurde ein abstrakter Ansatz gewählt, um die gewonnenen Erkenntnisse auch anwendungsübergreifend verwertbar zu machen.

Nach einer Einordnung des Themenkomplexes werden unter Darstellung der Vor- und Nachteile automatisierter Systeme die dahinterstehenden Interessenkonflikte herausgearbeitet. Darauf aufbauend zeigt die Arbeit, dass insb. das Produkthaftungs- und Deliktsrecht bereits wertvolle Grundsätze für eine Lösung dieser Konflikte und damit verbundener Haftungsrisiken bereithält (z.B. Orientierung am Institut der Betriebsgefahr). Dennoch offenbart sich auch judikativer und legislativer Anpassungsbedarf (Justierung der Sorgfaltspflichten, Beweislast). Im Ergebnis zeichnet sich eine Haftungs- und Beweislastverschiebung zulasten der Hersteller ab, was auch die abschließend untersuchten Fallstudien im Kfz- und Medizinbereich nahelegen.

Ausgezeichnet mit dem Förderpreis der Schmitz-Nüchterlein-Stiftung.
»Liability Aspects of Automated Systems«: The thesis shows the conflict between potential and risk of automated systems in a cross-application analysis. The focus is on demonstrating that the German liability law in place can often reflect these conflicts of interests as well as on identifying needs for adaptation. Particular emphasis lies on product liability and tort law as well as new types of liability subjects, current EU developments and fields of application (autonomous driving, medical surgical robots).

Section Title	Page	Action	Price
Vorwort	7
Inhaltsverzeichnis	9
Abkürzungsverzeichnis	19
Teil 1: Hinführung	27
Teil 2: Begriff und (potenzieller) Anwendungsbereich von Automatisierung und KI	29
Kapitel 1: Begriff Automatisierung und KI	29
A. Automatisierung	29
B. Künstliche Intelligenz	30
C. Ist Automatisierung gleich künstliche Intelligenz?	33
Kapitel 2: Aktuelle Einordnung: Auf dem Weg zur Vollautomatisierung?	35
A. Vision und Wirklichkeit	35
B. Technische Entwicklung	36
I. Analog und elektronisch	37
II. Digital	38
III. Vernetzt und intelligent	39
C. Anwendungsbereiche	42
I. Heutige Anwendungsbereiche	42
1. Automatisiertes Fahren	42
a) Stufen der Automatisierung	43
aa) Aktuelle Stufen	43
bb) Abgrenzungsprobleme	47
b) Rechtliche Einordnung: Straßenverkehrs- und Zulassungsrecht	48
aa) Zulassungsrecht	48
(1) Art. 8 Abs. 5bis Hs. 2 StVÜ: Übersteuerbarkeit oder Abschaltbarkeit	48
(2) Art. 8 Abs. 5bis Hs. 1 StVÜ: UN / ECE-Regelungen	52
(3) Zwischenergebnis	54
bb) Straßenverkehrsrecht	55
2. Medizinsektor	57
3. Weitere aktuelle Anwendungsbereiche	62
II. Zukünftige Anwendungsbereiche / Projekte	69
Teil 3: Rechtlicher Rahmen der Automatisierung: Ordnungsaufgabe	78
Kapitel 1: Begriff und Methodik der Ordnungsaufgabe	78
Kapitel 2: Mit der Automatisierung verbundene Interessen(-konflikte)	79
A. Typisierende Chancen und Risiken der Automatisierung	80
I. Chancen	80
1. Optimierte Resultate: Verfügbar, präziser, schneller	80
2. Effizienzsteigerung	82
3. Entlastung des Menschen	83
4. Unfallvermeidung	84
5. Neue Wege im Straßenverkehr	86
6. Der Zyklus eines (Wirtschafts-)Guts	88
a) Herstellung / Fertigung	88
b) Transport des Guts: Umweltschutz	88
c) Nach Transport: Schutz des Anwenders und Weiterentwicklung	89
d) Zwischenergebnis	89
7. Kostenersparnis	90
8. Zusammenfassung: Chancen	91
II. Risiken	91
1. Missbrauch	92
2. Fehleranfälligkeit	93
3. Opazität und Intransparenz	94
4. Diskriminierung	96
5. Natürliche Lerngrenzen von KI	97
6. Automation Bias	98
7. Zusätzliche Arbeitsbelastung?	99
8. Torpedierung von Effizienz und Umweltschutz?	100
9. Zusammenfassung: Risiken	100
III. Gesellschaftliche Akzeptanz	102
B. Austarieren von Chancen und Risiken: Maßnahmen, Investition, Regulierung	105
C. Folgen daraus typisierte Interessenskonflikte?	110
Kapitel 3: Ordnungsaufgabe: Risikoverteilung / Haftung	110
A. Typisierende Betrachtung automatisierter Systeme: Verteilung des Risikos anhand der involvierten Interessen	111
I. Beteiligte und in Betracht kommende Risikoträger	111
1. Hersteller und Zulieferer, IT-Dienstleister	111
2. Zulassungsstelle	113
3. Inhaber und Nutzer	113
4. Überwachungsakteur	114
5. E-Person	114
a) Identifizierbarkeit	116
b) Eigenes Vermögen: Haftungsmasse	117
c) (Finanzieller) Überlebenswille	118
d) Teilrechtsfähigkeit?	120
e) Unbillige Entlastung anderer Haftungssubjekte?	120
f) Zwischenergebnis	120
6. Pflichtversicherungen und Fonds	121
a) Vollwertige Risikoträger?	121
b) Die Bedeutung von Pflichtversicherungen: Die neue Kfz-Pflichtversicherung als Leitbild?	124
aa) Die neue Kfz-Pflichtversicherung	124
bb) Übertragbarkeit auf andere Bereiche	128
II. Ermittlung und Auswirkung der Interessen der Beteiligten	131
1. In bestehenden Haftungsregimes	131
a) Vertragliche Haftung	132
aa) Entwicklung des Haftungsergebnisses	132
bb) Zu untersuchende Rechtsfiguren	133
cc) Dahinterstehende Interessen	133
(1) Zurechnung von Willenserklärungen	133
(a) Botenschaft, vgl. § 120 BGB	133
(b) Stellvertretung, §§ 164 ff. BGB	134
(aa) Tatbestand des § 164 BGB	134
(bb) Willensmängel, Wissenszurechnung, § 166 BGB	135
(cc) Vertretungsmacht / falsus procurator, § 179 BGB	136
(2) Verschulden	138
(a) Verschuldensprinzip	138
(b) Verschuldensvermutung	140
(c) Zurechnung von Verschulden	142
(aa) Abgrenzung von § 278 BGB und § 831 BGB	142
(bb) Interessen(-konflikte) hinter § 278 S. 1 Alt. 2 BGB	143
b) Gefährdungs-/Produkthaftung	144
aa) Entwicklung des Haftungsergebnisses	144
bb) Zu untersuchende Rechtsfiguren	144
cc) Dahinterstehende Interessen	145
(1) Fehlendes Verschuldensprinzip	145
(a) Telos	145
(b) Haftung im Außen- und Innenverhältnis	147
(c) Keine Analogiefähigkeit	147
(2) Produkthaftung	149
(a) Produkt: Bewegliche Sache	149
(b) Beschädigung einer „anderen“ Sache	150
(c) Haftungsadressat	153
(d) Fehlerlehre	154
(e) Beweislast	156
(f) (Weitere) Haftungsbeschränkungen und -ausschlüsse	157
(aa) Beschränkung der Sachbeschädigung auf privat genutzte Sachen (§ 1 Abs. 1 S. 2 Alt. 2 ProdHaftG)	158
(bb) Ausschluss bei späteren Fehlern (§ 1 Abs. 2 Nr. 2 ProdHaftG)	158
(cc) Ausschluss nach Stand von Wissenschaft und Technik (§ 1 Abs. 2 Nr. 5 ProdHaftG)	159
(dd) Haftungshöchstbetrag und Selbstbeteiligung (§§ 10 f. ProdHaftG)	161
c) Produzentenhaftung	162
aa) Entwicklung des Haftungsergebnisses	162
bb) Zu untersuchende Rechtsfiguren	162
cc) Dahinterstehende Interessen	163
(1) Produktbegriff	163
(2) Fehlerlehre: Produktbeobachtung	163
(3) Verschulden	164
(4) Beweislast	165
d) Klassische deliktische Haftung	166
aa) Entwicklung des Haftungsergebnisses	167
bb) Zu untersuchende Rechtsfiguren	167
(1) Verkehrspflichten und Verschulden	167
(2) Beweisrecht	168
2. In der Automatisierung	168
a) Vertragliche Haftung	169
aa) Zurechnung von Willenserklärungen	169
(1) Botenschaft, vgl. § 120 BGB	170
(a) Interessensverschiebung durch Automatisierung?	170
(b) Neues Ergebnis?	172
(c) Neue Rechtsfigur nötig?	173
(2) Stellvertretung, §§ 164 ff. BGB	174
(a) Interessensverschiebung durch Automatisierung?	174
(aa) „Eigene Willenserklärung“ (Wissen und Wollen)	174
(α) Willens-/Wissensfähigkeit	174
(β) Rechtsfähigkeit	177
(γ) Erkennbarkeit für den Rechtsverkehr	179
(bb) (Analoge) Anwendung des § 166 BGB	180
(cc) Vertretungsmacht / falsus procurator, § 179 BGB	180
(b) Neues Ergebnis?	186
(c) Neue Rechtsfigur nötig?	186
bb) Verschulden	190
(1) Verschuldensprinzip	190
(a) Verschulden des Systems	190
(b) Verschulden des Systemverwenders	191
(c) Exkurs: UN-Kaufrecht	192
(2) Verschuldensvermutung	194
(a) Zulasten des Systemverwenders	194
(b) Zulasten des Systems	197
(3) Zurechnung von Verschulden	197
(a) Direkte Anwendung des § 278 S. 1 Alt. 2 BGB	197
(b) Analoge Anwendung des § 278 S. 1 Alt. 2 BGB	198
(aa) Planwidrige Regelungslücke	198
(bb) Vergleichbare Interessenlage	201
(cc) Zwischenergebnis	204
(dd) Einschränkung: Einzelfallentscheidung	205
b) Gefährdungs-/Produkthaftung	206
aa) Fehlendes Verschuldensprinzip	206
(1) Keine Analogie	206
(2) Eigener Gefährdungshaftungstatbestand?	207
(a) Interessensverschiebung durch Automatisierung?	207
(aa) Generalklausel (Haftung für „KI-Systeme“)	208
(bb) Exkurs: Bestrebungen zur Regulierung von KI auf EU-Ebene	209
(α) Einordnung der Entwicklung	211
(β) Verschuldensabhängig: Vorschlag für eine Richtlinie über KI-Haftung (RL-E)	212
(γ) Verschuldensunabhängig: Verhältnis zur ProdHaftRL	214
(δ) Zeitlicher Erwartungshorizont	215
(ε) Entschließung mit Empfehlung	217
(cc) Zwischenergebnis: Abstrakter Ansatz	222
(dd) Fehlende Beherrschbarkeit des Systems	222
(ee) Beherrschbarkeit des Systems: Anreizschaffung zur Risikominimierung	227
(ff) Versicherungspflicht	229
(gg) Höchstbeträge und Haftungsausschlüsse	230
(hh) Beweisschwierigkeiten	231
(ii) Neuer Risikoträger?	233
(α) Vorüberlegung	233
(β) Ansätze	233
(γ) Außen- und Innenverhältnis: Haftungsverschiebung?	236
(b) Neues Ergebnis?	243
(c) Neue Rechtsfigur nötig?	244
bb) Produkthaftung	244
(1) Interessensverschiebung: Software und Algorithmus als Bestandteile des Systems	245
(a) Software und Algorithmus als Produkt?	246
(aa) Ergebnis nach ProdHaftRL-E	247
(bb) Ergebnis de lege lata	247
(b) System als Teilprodukt?	253
(c) Haftungsadressat	253
(d) Produktfehler	255
(aa) Algorithmische Logik vs. menschliche Sinnhaftigkeit	255
(bb) Maßgeblicher Zeitpunkt: Produktbeobachtungsfehler?	259
(cc) Beweislast für Fehler	262
(dd) Fehlerlehre nach dem ProdHaftRL-E	262
(α) Ausgangspunkt: Art. 6 ProdHaftRL-E	262
(β) Algorithmische Logik vs. menschliche Sinnhaftigkeit	263
(γ) Objektivierte Erwartungshaltung?	263
(δ) Lernfähigkeit, Art. 6 (1) (c) ProdHaftRL-E	264
(ε) Stand der Technik, Art. 6 (1) (f) ProdHaftRL-E	265
(ζ) Zwischenergebnis: Produktbeobachtungspflicht	266
(η) Vermutungswirkungen, insb. zugunsten des Fehlers	267
(θ) Exkurs: Erweiterter Schadensbegriff, Art. 4 (6) ProdHaftRL-E	270
(ι) Zwischenergebnis	272
(e) Haftungsausschlüsse und -beschränkungen	272
(aa) Beschränkung der Sachbeschädigung auf privat genutzte Sachen (§ 1 Abs. 1 S. 2 Alt. 2 ProdHaftG)	272
(bb) Ausschluss bei späteren Fehlern (§ 1 Abs. 2 Nr. 2 ProdHaftG)	273
(α) Problemkreis de lege lata	273
(β) Lösung nach ProdHaftRL-E	275
(cc) Ausschluss nach Stand von Wissenschaft und Technik (§ 1 Abs. 2 Nr. 5 ProdHaftG)	277
(dd) Haftungshöchstbetrag und Selbstbeteiligung (§§ 10 f. ProdHaftG)	281
(2) Neue Rechtsfigur nötig?	282
c) Produzentenhaftung	284
aa) Interessensverschiebung und Entwürfe neuer Rechtsfiguren	284
(1) Produktbegriff: Erfassung von Software und KI	284
(2) Fehlerlehre: Produktbeobachtung	284
(3) Verschulden	287
(4) Beweislast	287
(a) Allgemein	287
(b) Vorschlag für eine Richtlinie über KI-Haftung (RL-E)	289
(aa) Anwendbarkeit auf Produzentenhaftung	289
(bb) Auswirkung auf Produzentenhaftung	289
bb) Neue Rechtsfigur nötig?	293
d) Klassische deliktische Haftung	293
aa) Interessensverschiebung durch Automatisierung?	294
(1) Verschiebung der Sorgfaltspflichten – § 831 BGB als Leitbild?	294
(a) Auswahl	296
(b) Überwachung	297
(2) Verschulden	300
(3) Beweisfragen	301
(4) Vorschlag für eine Richtlinie über KI-Haftung (RL-E)	302
(a) Anwendbarkeit auf § 823 BGB	302
(b) Auswirkungen auf § 823 BGB	302
(aa) „Offenlegung von Beweismitteln“ (Art. 3 RL-E)	302
(bb) „Widerlegbare Vermutung eines ursächlichen Zusammenhangs“ (Art. 4 RL-E)	303
(cc) Anpassungsbedarf	305
(α) Grundsätzlich	305
(β) Bei Verschiebung der Sorgfaltspflichten (§ 831 BGB)	305
bb) Zwischenergebnis	306
3. Zwischenergebnis: Risikoverschiebung aufgrund ermittelter Interessen?	307
B. Einzelne Haftungsszenarien	308
I. Verkehrsunfall durch automatisierten PKW	309
1. Technische Funktionsweise der Automatik	309
a) Grundbedingung	309
b) Wahrnehmung	310
aa) Kamerabild	310
bb) Lidar	310
cc) Radar und Ultraschall	311
dd) Raddrehzahl-, Lenkwinkel- und Inertialsensoren	311
ee) Mikrofone	312
ff) Global Positioning System (GPS)	312
gg) Karten	312
hh) Interaktion	312
c) Zusammenführung und Interpretation	313
d) Weitergabe und Umsetzungsbefehl	314
2. Abbildung eines Verkehrsunfallszenarios	314
3. Haftung de lege lata: Wer haftet im Szenario nach Status quo?	316
a) Haftung des Fahrers	316
b) Haftung der Technischen Aufsicht	316
aa) (Anforderung an die) Person der Technischen Aufsicht	316
bb) Intensität und Begründung der Pflichten	317
cc) Haftungsadressat?	318
c) Haftung des Halters	319
d) Haftung des Kfz-Versicherers	321
e) Haftung des Herstellers	322
aa) Nach ProdHaftG	322
bb) Nach Produzentenhaftung	323
cc) Verstöße gegen das StVG	323
dd) Verstöße gegen § 823 Abs. 2 BGB	325
f) Haftung des Fahrzeugs?	325
g) Gesamtschuld und Regress	325
4. Haftung de lege ferenda: Anpassungsbedarf?	326
a) Fahrer	326
b) Technische Aufsicht	327
c) Halter	329
d) Hersteller	330
e) Fahrzeug?	331
f) Zulassungsstelle (TÜV)?	331
g) Zwischenergebnis	331
II. Fehlerhafte medizinische Operation durch Roboter	332
1. Technische Funktionsweise der Automatik	332
a) Hardware	333
aa) Roboter-Instrumente	333
bb) OP-Instrumente	333
cc) Bildgebung	333
b) Software (Algorithmus)	334
2. Abbildung eines Operationsfehlerszenarios	334
3. Haftung de lege lata: Wer haftet im Szenario nach Status quo?	336
a) Haftung der Ärztin / des Krankenhausträgers	338
aa) Vertragliche Haftung	338
bb) Deliktische Haftung	342
b) Haftung des Herstellers	344
aa) Produkthaftung	344
(1) Software-Update	345
(2) Selbstlernen	346
bb) Produzentenhaftung	347
c) Software-Lieferant	349
d) Benannte Stelle	351
e) Gesamtschuld und Regress	351
4. Haftung de lege ferenda	352
a) Ärztin	352
b) Hersteller	354
aa) Produkthaftung	354
bb) Produzentenhaftung	355
cc) Produkthaftpflichtversicherung?	356
c) Software-Lieferant	357
d) System?	358
e) Patientin?	358
f) Zwischenergebnis	359
Teil 4: Fazit	360
Literaturverzeichnis	361
Sachwortverzeichnis	388

Cite BOOK

Style

Format

Haftungsfragen automatisierter Systeme

Additional Information

Book Details

Pricing

About The Author

Abstract

Table of Contents

Contact

Quick Navigation