Menu Expand

Haftungsfragen automatisierter Systeme

Cite BOOK

Style

Essers, D. (2024). Haftungsfragen automatisierter Systeme. Duncker & Humblot. https://doi.org/10.3790/978-3-428-59080-3
Essers, David. Haftungsfragen automatisierter Systeme. Duncker & Humblot, 2024. Book. https://doi.org/10.3790/978-3-428-59080-3
Essers, D (2024): Haftungsfragen automatisierter Systeme, Duncker & Humblot, [online] https://doi.org/10.3790/978-3-428-59080-3

Format

Haftungsfragen automatisierter Systeme

Essers, David

Internetrecht und Digitale Gesellschaft, Vol. 58

(2024)

Additional Information

Book Details

Pricing

About The Author

Nach Abschluss des Studiums der Rechtswissenschaften in Erlangen absolvierte David Essers das Rechtsreferendariat nebst Weiterbildung zum Wirtschaftsmediator in Nürnberg und New York City. Während der Ausbildung war er am Lehrstuhl für Bürgerliches Recht, Internationales Privatrecht und Rechtsvergleichung der Friedrich-Alexander-Universität Erlangen-Nürnberg (Prof. Dr. Dr. h.c. Mathias Rohe) und dem Erlanger Zentrum für Islam und Recht in Europa beschäftigt. Seit 2020 war David Essers zunächst in einer Hamburger Corporate-Boutique und sodann als Legal Counsel in Herzogenaurach tätig. Im Jahr 2023 wechselte er als Syndikusrechtsanwalt in die Automobilindustrie im Stuttgarter Raum.

Abstract

Die Arbeit behandelt Fragen zivilrechtlicher Verantwortungszuweisung beim Einsatz automatisierter Systeme. Dabei wurde ein abstrakter Ansatz gewählt, um die gewonnenen Erkenntnisse auch anwendungsübergreifend verwertbar zu machen.

Nach einer Einordnung des Themenkomplexes werden unter Darstellung der Vor- und Nachteile automatisierter Systeme die dahinterstehenden Interessenkonflikte herausgearbeitet. Darauf aufbauend zeigt die Arbeit, dass insb. das Produkthaftungs- und Deliktsrecht bereits wertvolle Grundsätze für eine Lösung dieser Konflikte und damit verbundener Haftungsrisiken bereithält (z.B. Orientierung am Institut der Betriebsgefahr). Dennoch offenbart sich auch judikativer und legislativer Anpassungsbedarf (Justierung der Sorgfaltspflichten, Beweislast). Im Ergebnis zeichnet sich eine Haftungs- und Beweislastverschiebung zulasten der Hersteller ab, was auch die abschließend untersuchten Fallstudien im Kfz- und Medizinbereich nahelegen.


Ausgezeichnet mit dem Förderpreis der Schmitz-Nüchterlein-Stiftung.
»Liability Aspects of Automated Systems«: The thesis shows the conflict between potential and risk of automated systems in a cross-application analysis. The focus is on demonstrating that the German liability law in place can often reflect these conflicts of interests as well as on identifying needs for adaptation. Particular emphasis lies on product liability and tort law as well as new types of liability subjects, current EU developments and fields of application (autonomous driving, medical surgical robots).

Table of Contents

Section Title Page Action Price
Vorwort 7
Inhaltsverzeichnis 9
Abkürzungsverzeichnis 19
Teil 1: Hinführung 27
Teil 2: Begriff und (potenzieller) Anwendungsbereich von Automatisierung und KI 29
Kapitel 1: Begriff Automatisierung und KI 29
A. Automatisierung 29
B. Künstliche Intelligenz 30
C. Ist Automatisierung gleich künstliche Intelligenz? 33
Kapitel 2: Aktuelle Einordnung: Auf dem Weg zur Vollautomatisierung? 35
A. Vision und Wirklichkeit 35
B. Technische Entwicklung 36
I. Analog und elektronisch 37
II. Digital 38
III. Vernetzt und intelligent 39
C. Anwendungsbereiche 42
I. Heutige Anwendungsbereiche 42
1. Automatisiertes Fahren 42
a) Stufen der Automatisierung 43
aa) Aktuelle Stufen 43
bb) Abgrenzungsprobleme 47
b) Rechtliche Einordnung: Straßenverkehrs- und Zulassungsrecht 48
aa) Zulassungsrecht 48
(1) Art. 8 Abs. 5bis Hs. 2 StVÜ: Übersteuerbarkeit oder Abschaltbarkeit 48
(2) Art. 8 Abs. 5bis Hs. 1 StVÜ: UN /​ ECE-Regelungen 52
(3) Zwischenergebnis 54
bb) Straßenverkehrsrecht 55
2. Medizinsektor 57
3. Weitere aktuelle Anwendungsbereiche 62
II. Zukünftige Anwendungsbereiche /​ Projekte 69
Teil 3: Rechtlicher Rahmen der Automatisierung: Ordnungsaufgabe 78
Kapitel 1: Begriff und Methodik der Ordnungsaufgabe 78
Kapitel 2: Mit der Automatisierung verbundene Interessen(-konflikte) 79
A. Typisierende Chancen und Risiken der Automatisierung 80
I. Chancen 80
1. Optimierte Resultate: Verfügbar, präziser, schneller 80
2. Effizienzsteigerung 82
3. Entlastung des Menschen 83
4. Unfallvermeidung 84
5. Neue Wege im Straßenverkehr 86
6. Der Zyklus eines (Wirtschafts-)Guts 88
a) Herstellung /​ Fertigung 88
b) Transport des Guts: Umweltschutz 88
c) Nach Transport: Schutz des Anwenders und Weiterentwicklung 89
d) Zwischenergebnis 89
7. Kostenersparnis 90
8. Zusammenfassung: Chancen 91
II. Risiken 91
1. Missbrauch 92
2. Fehleranfälligkeit 93
3. Opazität und Intransparenz 94
4. Diskriminierung 96
5. Natürliche Lerngrenzen von KI 97
6. Automation Bias 98
7. Zusätzliche Arbeitsbelastung? 99
8. Torpedierung von Effizienz und Umweltschutz? 100
9. Zusammenfassung: Risiken 100
III. Gesellschaftliche Akzeptanz 102
B. Austarieren von Chancen und Risiken: Maßnahmen, Investition, Regulierung 105
C. Folgen daraus typisierte Interessenskonflikte? 110
Kapitel 3: Ordnungsaufgabe: Risikoverteilung /​ Haftung 110
A. Typisierende Betrachtung automatisierter Systeme: Verteilung des Risikos anhand der involvierten Interessen 111
I. Beteiligte und in Betracht kommende Risikoträger 111
1. Hersteller und Zulieferer, IT-Dienstleister 111
2. Zulassungsstelle 113
3. Inhaber und Nutzer 113
4. Überwachungsakteur 114
5. E-Person 114
a) Identifizierbarkeit 116
b) Eigenes Vermögen: Haftungsmasse 117
c) (Finanzieller) Überlebenswille 118
d) Teilrechtsfähigkeit? 120
e) Unbillige Entlastung anderer Haftungssubjekte? 120
f) Zwischenergebnis 120
6. Pflichtversicherungen und Fonds 121
a) Vollwertige Risikoträger? 121
b) Die Bedeutung von Pflichtversicherungen: Die neue Kfz-Pflichtversicherung als Leitbild? 124
aa) Die neue Kfz-Pflichtversicherung 124
bb) Übertragbarkeit auf andere Bereiche 128
II. Ermittlung und Auswirkung der Interessen der Beteiligten 131
1. In bestehenden Haftungsregimes 131
a) Vertragliche Haftung 132
aa) Entwicklung des Haftungsergebnisses 132
bb) Zu untersuchende Rechtsfiguren 133
cc) Dahinterstehende Interessen 133
(1) Zurechnung von Willenserklärungen 133
(a) Botenschaft, vgl. § 120 BGB 133
(b) Stellvertretung, §§ 164 ff. BGB 134
(aa) Tatbestand des § 164 BGB 134
(bb) Willensmängel, Wissenszurechnung, § 166 BGB 135
(cc) Vertretungsmacht /​ falsus procurator, § 179 BGB 136
(2) Verschulden 138
(a) Verschuldensprinzip 138
(b) Verschuldensvermutung 140
(c) Zurechnung von Verschulden 142
(aa) Abgrenzung von § 278 BGB und § 831 BGB 142
(bb) Interessen(-konflikte) hinter § 278 S. 1 Alt. 2 BGB 143
b) Gefährdungs-/Produkthaftung 144
aa) Entwicklung des Haftungsergebnisses 144
bb) Zu untersuchende Rechtsfiguren 144
cc) Dahinterstehende Interessen 145
(1) Fehlendes Verschuldensprinzip 145
(a) Telos 145
(b) Haftung im Außen- und Innenverhältnis 147
(c) Keine Analogiefähigkeit 147
(2) Produkthaftung 149
(a) Produkt: Bewegliche Sache 149
(b) Beschädigung einer „anderen“ Sache 150
(c) Haftungsadressat 153
(d) Fehlerlehre 154
(e) Beweislast 156
(f) (Weitere) Haftungsbeschränkungen und -ausschlüsse 157
(aa) Beschränkung der Sachbeschädigung auf privat genutzte Sachen (§ 1 Abs. 1 S. 2 Alt. 2 ProdHaftG) 158
(bb) Ausschluss bei späteren Fehlern (§ 1 Abs. 2 Nr. 2 ProdHaftG) 158
(cc) Ausschluss nach Stand von Wissenschaft und Technik (§ 1 Abs. 2 Nr. 5 ProdHaftG) 159
(dd) Haftungshöchstbetrag und Selbstbeteiligung (§§ 10 f. ProdHaftG) 161
c) Produzentenhaftung 162
aa) Entwicklung des Haftungsergebnisses 162
bb) Zu untersuchende Rechtsfiguren 162
cc) Dahinterstehende Interessen 163
(1) Produktbegriff 163
(2) Fehlerlehre: Produktbeobachtung 163
(3) Verschulden 164
(4) Beweislast 165
d) Klassische deliktische Haftung 166
aa) Entwicklung des Haftungsergebnisses 167
bb) Zu untersuchende Rechtsfiguren 167
(1) Verkehrspflichten und Verschulden 167
(2) Beweisrecht 168
2. In der Automatisierung 168
a) Vertragliche Haftung 169
aa) Zurechnung von Willenserklärungen 169
(1) Botenschaft, vgl. § 120 BGB 170
(a) Interessensverschiebung durch Automatisierung? 170
(b) Neues Ergebnis? 172
(c) Neue Rechtsfigur nötig? 173
(2) Stellvertretung, §§ 164 ff. BGB 174
(a) Interessensverschiebung durch Automatisierung? 174
(aa) „Eigene Willenserklärung“ (Wissen und Wollen) 174
(α) Willens-/Wissensfähigkeit 174
(β) Rechtsfähigkeit 177
(γ) Erkennbarkeit für den Rechtsverkehr 179
(bb) (Analoge) Anwendung des § 166 BGB 180
(cc) Vertretungsmacht /​ falsus procurator, § 179 BGB 180
(b) Neues Ergebnis? 186
(c) Neue Rechtsfigur nötig? 186
bb) Verschulden 190
(1) Verschuldensprinzip 190
(a) Verschulden des Systems 190
(b) Verschulden des Systemverwenders 191
(c) Exkurs: UN-Kaufrecht 192
(2) Verschuldensvermutung 194
(a) Zulasten des Systemverwenders 194
(b) Zulasten des Systems 197
(3) Zurechnung von Verschulden 197
(a) Direkte Anwendung des § 278 S. 1 Alt. 2 BGB 197
(b) Analoge Anwendung des § 278 S. 1 Alt. 2 BGB 198
(aa) Planwidrige Regelungslücke 198
(bb) Vergleichbare Interessenlage 201
(cc) Zwischenergebnis 204
(dd) Einschränkung: Einzelfallentscheidung 205
b) Gefährdungs-/Produkthaftung 206
aa) Fehlendes Verschuldensprinzip 206
(1) Keine Analogie 206
(2) Eigener Gefährdungshaftungstatbestand? 207
(a) Interessensverschiebung durch Automatisierung? 207
(aa) Generalklausel (Haftung für „KI-Systeme“) 208
(bb) Exkurs: Bestrebungen zur Regulierung von KI auf EU-Ebene 209
(α) Einordnung der Entwicklung 211
(β) Verschuldensabhängig: Vorschlag für eine Richtlinie über KI-Haftung (RL-E) 212
(γ) Verschuldensunabhängig: Verhältnis zur ProdHaftRL 214
(δ) Zeitlicher Erwartungshorizont 215
(ε) Entschließung mit Empfehlung 217
(cc) Zwischenergebnis: Abstrakter Ansatz 222
(dd) Fehlende Beherrschbarkeit des Systems 222
(ee) Beherrschbarkeit des Systems: Anreizschaffung zur Risikominimierung 227
(ff) Versicherungspflicht 229
(gg) Höchstbeträge und Haftungsausschlüsse 230
(hh) Beweisschwierigkeiten 231
(ii) Neuer Risikoträger? 233
(α) Vorüberlegung 233
(β) Ansätze 233
(γ) Außen- und Innenverhältnis: Haftungsverschiebung? 236
(b) Neues Ergebnis? 243
(c) Neue Rechtsfigur nötig? 244
bb) Produkthaftung 244
(1) Interessensverschiebung: Software und Algorithmus als Bestandteile des Systems 245
(a) Software und Algorithmus als Produkt? 246
(aa) Ergebnis nach ProdHaftRL-E 247
(bb) Ergebnis de lege lata 247
(b) System als Teilprodukt? 253
(c) Haftungsadressat 253
(d) Produktfehler 255
(aa) Algorithmische Logik vs. menschliche Sinnhaftigkeit 255
(bb) Maßgeblicher Zeitpunkt: Produktbeobachtungsfehler? 259
(cc) Beweislast für Fehler 262
(dd) Fehlerlehre nach dem ProdHaftRL-E 262
(α) Ausgangspunkt: Art. 6 ProdHaftRL-E 262
(β) Algorithmische Logik vs. menschliche Sinnhaftigkeit 263
(γ) Objektivierte Erwartungshaltung? 263
(δ) Lernfähigkeit, Art. 6 (1) (c) ProdHaftRL-E 264
(ε) Stand der Technik, Art. 6 (1) (f) ProdHaftRL-E 265
(ζ) Zwischenergebnis: Produktbeobachtungspflicht 266
(η) Vermutungswirkungen, insb. zugunsten des Fehlers 267
(θ) Exkurs: Erweiterter Schadensbegriff, Art. 4 (6) ProdHaftRL-E 270
(ι) Zwischenergebnis 272
(e) Haftungsausschlüsse und -beschränkungen 272
(aa) Beschränkung der Sachbeschädigung auf privat genutzte Sachen (§ 1 Abs. 1 S. 2 Alt. 2 ProdHaftG) 272
(bb) Ausschluss bei späteren Fehlern (§ 1 Abs. 2 Nr. 2 ProdHaftG) 273
(α) Problemkreis de lege lata 273
(β) Lösung nach ProdHaftRL-E 275
(cc) Ausschluss nach Stand von Wissenschaft und Technik (§ 1 Abs. 2 Nr. 5 ProdHaftG) 277
(dd) Haftungshöchstbetrag und Selbstbeteiligung (§§ 10 f. ProdHaftG) 281
(2) Neue Rechtsfigur nötig? 282
c) Produzentenhaftung 284
aa) Interessensverschiebung und Entwürfe neuer Rechtsfiguren 284
(1) Produktbegriff: Erfassung von Software und KI 284
(2) Fehlerlehre: Produktbeobachtung 284
(3) Verschulden 287
(4) Beweislast 287
(a) Allgemein 287
(b) Vorschlag für eine Richtlinie über KI-Haftung (RL-E) 289
(aa) Anwendbarkeit auf Produzentenhaftung 289
(bb) Auswirkung auf Produzentenhaftung 289
bb) Neue Rechtsfigur nötig? 293
d) Klassische deliktische Haftung 293
aa) Interessensverschiebung durch Automatisierung? 294
(1) Verschiebung der Sorgfaltspflichten – § 831 BGB als Leitbild? 294
(a) Auswahl 296
(b) Überwachung 297
(2) Verschulden 300
(3) Beweisfragen 301
(4) Vorschlag für eine Richtlinie über KI-Haftung (RL-E) 302
(a) Anwendbarkeit auf § 823 BGB 302
(b) Auswirkungen auf § 823 BGB 302
(aa) „Offenlegung von Beweismitteln“ (Art. 3 RL-E) 302
(bb) „Widerlegbare Vermutung eines ursächlichen Zusammenhangs“ (Art. 4 RL-E) 303
(cc) Anpassungsbedarf 305
(α) Grundsätzlich 305
(β) Bei Verschiebung der Sorgfaltspflichten (§ 831 BGB) 305
bb) Zwischenergebnis 306
3. Zwischenergebnis: Risikoverschiebung aufgrund ermittelter Interessen? 307
B. Einzelne Haftungsszenarien 308
I. Verkehrsunfall durch automatisierten PKW 309
1. Technische Funktionsweise der Automatik 309
a) Grundbedingung 309
b) Wahrnehmung 310
aa) Kamerabild 310
bb) Lidar 310
cc) Radar und Ultraschall 311
dd) Raddrehzahl-, Lenkwinkel- und Inertialsensoren 311
ee) Mikrofone 312
ff) Global Positioning System (GPS) 312
gg) Karten 312
hh) Interaktion 312
c) Zusammenführung und Interpretation 313
d) Weitergabe und Umsetzungsbefehl 314
2. Abbildung eines Verkehrsunfallszenarios 314
3. Haftung de lege lata: Wer haftet im Szenario nach Status quo? 316
a) Haftung des Fahrers 316
b) Haftung der Technischen Aufsicht 316
aa) (Anforderung an die) Person der Technischen Aufsicht 316
bb) Intensität und Begründung der Pflichten 317
cc) Haftungsadressat? 318
c) Haftung des Halters 319
d) Haftung des Kfz-Versicherers 321
e) Haftung des Herstellers 322
aa) Nach ProdHaftG 322
bb) Nach Produzentenhaftung 323
cc) Verstöße gegen das StVG 323
dd) Verstöße gegen § 823 Abs. 2 BGB 325
f) Haftung des Fahrzeugs? 325
g) Gesamtschuld und Regress 325
4. Haftung de lege ferenda: Anpassungsbedarf? 326
a) Fahrer 326
b) Technische Aufsicht 327
c) Halter 329
d) Hersteller 330
e) Fahrzeug? 331
f) Zulassungsstelle (TÜV)? 331
g) Zwischenergebnis 331
II. Fehlerhafte medizinische Operation durch Roboter 332
1. Technische Funktionsweise der Automatik 332
a) Hardware 333
aa) Roboter-Instrumente 333
bb) OP-Instrumente 333
cc) Bildgebung 333
b) Software (Algorithmus) 334
2. Abbildung eines Operationsfehlerszenarios 334
3. Haftung de lege lata: Wer haftet im Szenario nach Status quo? 336
a) Haftung der Ärztin /​ des Krankenhausträgers 338
aa) Vertragliche Haftung 338
bb) Deliktische Haftung 342
b) Haftung des Herstellers 344
aa) Produkthaftung 344
(1) Software-Update 345
(2) Selbstlernen 346
bb) Produzentenhaftung 347
c) Software-Lieferant 349
d) Benannte Stelle 351
e) Gesamtschuld und Regress 351
4. Haftung de lege ferenda 352
a) Ärztin 352
b) Hersteller 354
aa) Produkthaftung 354
bb) Produzentenhaftung 355
cc) Produkthaftpflichtversicherung? 356
c) Software-Lieferant 357
d) System? 358
e) Patientin? 358
f) Zwischenergebnis 359
Teil 4: Fazit 360
Literaturverzeichnis 361
Sachwortverzeichnis 388