BOOK
Cite BOOK
Style
Essers, D. (2024). Haftungsfragen automatisierter Systeme. Duncker & Humblot. https://doi.org/10.3790/978-3-428-59080-3
Essers, David. Haftungsfragen automatisierter Systeme. Duncker & Humblot, 2024. Book. https://doi.org/10.3790/978-3-428-59080-3
Essers, D (2024): Haftungsfragen automatisierter Systeme, Duncker & Humblot, [online] https://doi.org/10.3790/978-3-428-59080-3
Format
Haftungsfragen automatisierter Systeme
Internetrecht und Digitale Gesellschaft, Vol. 58
(2024)
Additional Information
Book Details
Pricing
About The Author
Nach Abschluss des Studiums der Rechtswissenschaften in Erlangen absolvierte David Essers das Rechtsreferendariat nebst Weiterbildung zum Wirtschaftsmediator in Nürnberg und New York City. Während der Ausbildung war er am Lehrstuhl für Bürgerliches Recht, Internationales Privatrecht und Rechtsvergleichung der Friedrich-Alexander-Universität Erlangen-Nürnberg (Prof. Dr. Dr. h.c. Mathias Rohe) und dem Erlanger Zentrum für Islam und Recht in Europa beschäftigt. Seit 2020 war David Essers zunächst in einer Hamburger Corporate-Boutique und sodann als Legal Counsel in Herzogenaurach tätig. Im Jahr 2023 wechselte er als Syndikusrechtsanwalt in die Automobilindustrie im Stuttgarter Raum.Abstract
Die Arbeit behandelt Fragen zivilrechtlicher Verantwortungszuweisung beim Einsatz automatisierter Systeme. Dabei wurde ein abstrakter Ansatz gewählt, um die gewonnenen Erkenntnisse auch anwendungsübergreifend verwertbar zu machen.
Nach einer Einordnung des Themenkomplexes werden unter Darstellung der Vor- und Nachteile automatisierter Systeme die dahinterstehenden Interessenkonflikte herausgearbeitet. Darauf aufbauend zeigt die Arbeit, dass insb. das Produkthaftungs- und Deliktsrecht bereits wertvolle Grundsätze für eine Lösung dieser Konflikte und damit verbundener Haftungsrisiken bereithält (z.B. Orientierung am Institut der Betriebsgefahr). Dennoch offenbart sich auch judikativer und legislativer Anpassungsbedarf (Justierung der Sorgfaltspflichten, Beweislast). Im Ergebnis zeichnet sich eine Haftungs- und Beweislastverschiebung zulasten der Hersteller ab, was auch die abschließend untersuchten Fallstudien im Kfz- und Medizinbereich nahelegen.
Ausgezeichnet mit dem Förderpreis der Schmitz-Nüchterlein-Stiftung.»Liability Aspects of Automated Systems«: The thesis shows the conflict between potential and risk of automated systems in a cross-application analysis. The focus is on demonstrating that the German liability law in place can often reflect these conflicts of interests as well as on identifying needs for adaptation. Particular emphasis lies on product liability and tort law as well as new types of liability subjects, current EU developments and fields of application (autonomous driving, medical surgical robots).
Table of Contents
| Section Title | Page | Action | Price |
|---|---|---|---|
| Vorwort | 7 | ||
| Inhaltsverzeichnis | 9 | ||
| Abkürzungsverzeichnis | 19 | ||
| Teil 1: Hinführung | 27 | ||
| Teil 2: Begriff und (potenzieller) Anwendungsbereich von Automatisierung und KI | 29 | ||
| Kapitel 1: Begriff Automatisierung und KI | 29 | ||
| A. Automatisierung | 29 | ||
| B. Künstliche Intelligenz | 30 | ||
| C. Ist Automatisierung gleich künstliche Intelligenz? | 33 | ||
| Kapitel 2: Aktuelle Einordnung: Auf dem Weg zur Vollautomatisierung? | 35 | ||
| A. Vision und Wirklichkeit | 35 | ||
| B. Technische Entwicklung | 36 | ||
| I. Analog und elektronisch | 37 | ||
| II. Digital | 38 | ||
| III. Vernetzt und intelligent | 39 | ||
| C. Anwendungsbereiche | 42 | ||
| I. Heutige Anwendungsbereiche | 42 | ||
| 1. Automatisiertes Fahren | 42 | ||
| a) Stufen der Automatisierung | 43 | ||
| aa) Aktuelle Stufen | 43 | ||
| bb) Abgrenzungsprobleme | 47 | ||
| b) Rechtliche Einordnung: Straßenverkehrs- und Zulassungsrecht | 48 | ||
| aa) Zulassungsrecht | 48 | ||
| (1) Art. 8 Abs. 5bis Hs. 2 StVÜ: Übersteuerbarkeit oder Abschaltbarkeit | 48 | ||
| (2) Art. 8 Abs. 5bis Hs. 1 StVÜ: UN / ECE-Regelungen | 52 | ||
| (3) Zwischenergebnis | 54 | ||
| bb) Straßenverkehrsrecht | 55 | ||
| 2. Medizinsektor | 57 | ||
| 3. Weitere aktuelle Anwendungsbereiche | 62 | ||
| II. Zukünftige Anwendungsbereiche / Projekte | 69 | ||
| Teil 3: Rechtlicher Rahmen der Automatisierung: Ordnungsaufgabe | 78 | ||
| Kapitel 1: Begriff und Methodik der Ordnungsaufgabe | 78 | ||
| Kapitel 2: Mit der Automatisierung verbundene Interessen(-konflikte) | 79 | ||
| A. Typisierende Chancen und Risiken der Automatisierung | 80 | ||
| I. Chancen | 80 | ||
| 1. Optimierte Resultate: Verfügbar, präziser, schneller | 80 | ||
| 2. Effizienzsteigerung | 82 | ||
| 3. Entlastung des Menschen | 83 | ||
| 4. Unfallvermeidung | 84 | ||
| 5. Neue Wege im Straßenverkehr | 86 | ||
| 6. Der Zyklus eines (Wirtschafts-)Guts | 88 | ||
| a) Herstellung / Fertigung | 88 | ||
| b) Transport des Guts: Umweltschutz | 88 | ||
| c) Nach Transport: Schutz des Anwenders und Weiterentwicklung | 89 | ||
| d) Zwischenergebnis | 89 | ||
| 7. Kostenersparnis | 90 | ||
| 8. Zusammenfassung: Chancen | 91 | ||
| II. Risiken | 91 | ||
| 1. Missbrauch | 92 | ||
| 2. Fehleranfälligkeit | 93 | ||
| 3. Opazität und Intransparenz | 94 | ||
| 4. Diskriminierung | 96 | ||
| 5. Natürliche Lerngrenzen von KI | 97 | ||
| 6. Automation Bias | 98 | ||
| 7. Zusätzliche Arbeitsbelastung? | 99 | ||
| 8. Torpedierung von Effizienz und Umweltschutz? | 100 | ||
| 9. Zusammenfassung: Risiken | 100 | ||
| III. Gesellschaftliche Akzeptanz | 102 | ||
| B. Austarieren von Chancen und Risiken: Maßnahmen, Investition, Regulierung | 105 | ||
| C. Folgen daraus typisierte Interessenskonflikte? | 110 | ||
| Kapitel 3: Ordnungsaufgabe: Risikoverteilung / Haftung | 110 | ||
| A. Typisierende Betrachtung automatisierter Systeme: Verteilung des Risikos anhand der involvierten Interessen | 111 | ||
| I. Beteiligte und in Betracht kommende Risikoträger | 111 | ||
| 1. Hersteller und Zulieferer, IT-Dienstleister | 111 | ||
| 2. Zulassungsstelle | 113 | ||
| 3. Inhaber und Nutzer | 113 | ||
| 4. Überwachungsakteur | 114 | ||
| 5. E-Person | 114 | ||
| a) Identifizierbarkeit | 116 | ||
| b) Eigenes Vermögen: Haftungsmasse | 117 | ||
| c) (Finanzieller) Überlebenswille | 118 | ||
| d) Teilrechtsfähigkeit? | 120 | ||
| e) Unbillige Entlastung anderer Haftungssubjekte? | 120 | ||
| f) Zwischenergebnis | 120 | ||
| 6. Pflichtversicherungen und Fonds | 121 | ||
| a) Vollwertige Risikoträger? | 121 | ||
| b) Die Bedeutung von Pflichtversicherungen: Die neue Kfz-Pflichtversicherung als Leitbild? | 124 | ||
| aa) Die neue Kfz-Pflichtversicherung | 124 | ||
| bb) Übertragbarkeit auf andere Bereiche | 128 | ||
| II. Ermittlung und Auswirkung der Interessen der Beteiligten | 131 | ||
| 1. In bestehenden Haftungsregimes | 131 | ||
| a) Vertragliche Haftung | 132 | ||
| aa) Entwicklung des Haftungsergebnisses | 132 | ||
| bb) Zu untersuchende Rechtsfiguren | 133 | ||
| cc) Dahinterstehende Interessen | 133 | ||
| (1) Zurechnung von Willenserklärungen | 133 | ||
| (a) Botenschaft, vgl. § 120 BGB | 133 | ||
| (b) Stellvertretung, §§ 164 ff. BGB | 134 | ||
| (aa) Tatbestand des § 164 BGB | 134 | ||
| (bb) Willensmängel, Wissenszurechnung, § 166 BGB | 135 | ||
| (cc) Vertretungsmacht / falsus procurator, § 179 BGB | 136 | ||
| (2) Verschulden | 138 | ||
| (a) Verschuldensprinzip | 138 | ||
| (b) Verschuldensvermutung | 140 | ||
| (c) Zurechnung von Verschulden | 142 | ||
| (aa) Abgrenzung von § 278 BGB und § 831 BGB | 142 | ||
| (bb) Interessen(-konflikte) hinter § 278 S. 1 Alt. 2 BGB | 143 | ||
| b) Gefährdungs-/Produkthaftung | 144 | ||
| aa) Entwicklung des Haftungsergebnisses | 144 | ||
| bb) Zu untersuchende Rechtsfiguren | 144 | ||
| cc) Dahinterstehende Interessen | 145 | ||
| (1) Fehlendes Verschuldensprinzip | 145 | ||
| (a) Telos | 145 | ||
| (b) Haftung im Außen- und Innenverhältnis | 147 | ||
| (c) Keine Analogiefähigkeit | 147 | ||
| (2) Produkthaftung | 149 | ||
| (a) Produkt: Bewegliche Sache | 149 | ||
| (b) Beschädigung einer „anderen“ Sache | 150 | ||
| (c) Haftungsadressat | 153 | ||
| (d) Fehlerlehre | 154 | ||
| (e) Beweislast | 156 | ||
| (f) (Weitere) Haftungsbeschränkungen und -ausschlüsse | 157 | ||
| (aa) Beschränkung der Sachbeschädigung auf privat genutzte Sachen (§ 1 Abs. 1 S. 2 Alt. 2 ProdHaftG) | 158 | ||
| (bb) Ausschluss bei späteren Fehlern (§ 1 Abs. 2 Nr. 2 ProdHaftG) | 158 | ||
| (cc) Ausschluss nach Stand von Wissenschaft und Technik (§ 1 Abs. 2 Nr. 5 ProdHaftG) | 159 | ||
| (dd) Haftungshöchstbetrag und Selbstbeteiligung (§§ 10 f. ProdHaftG) | 161 | ||
| c) Produzentenhaftung | 162 | ||
| aa) Entwicklung des Haftungsergebnisses | 162 | ||
| bb) Zu untersuchende Rechtsfiguren | 162 | ||
| cc) Dahinterstehende Interessen | 163 | ||
| (1) Produktbegriff | 163 | ||
| (2) Fehlerlehre: Produktbeobachtung | 163 | ||
| (3) Verschulden | 164 | ||
| (4) Beweislast | 165 | ||
| d) Klassische deliktische Haftung | 166 | ||
| aa) Entwicklung des Haftungsergebnisses | 167 | ||
| bb) Zu untersuchende Rechtsfiguren | 167 | ||
| (1) Verkehrspflichten und Verschulden | 167 | ||
| (2) Beweisrecht | 168 | ||
| 2. In der Automatisierung | 168 | ||
| a) Vertragliche Haftung | 169 | ||
| aa) Zurechnung von Willenserklärungen | 169 | ||
| (1) Botenschaft, vgl. § 120 BGB | 170 | ||
| (a) Interessensverschiebung durch Automatisierung? | 170 | ||
| (b) Neues Ergebnis? | 172 | ||
| (c) Neue Rechtsfigur nötig? | 173 | ||
| (2) Stellvertretung, §§ 164 ff. BGB | 174 | ||
| (a) Interessensverschiebung durch Automatisierung? | 174 | ||
| (aa) „Eigene Willenserklärung“ (Wissen und Wollen) | 174 | ||
| (α) Willens-/Wissensfähigkeit | 174 | ||
| (β) Rechtsfähigkeit | 177 | ||
| (γ) Erkennbarkeit für den Rechtsverkehr | 179 | ||
| (bb) (Analoge) Anwendung des § 166 BGB | 180 | ||
| (cc) Vertretungsmacht / falsus procurator, § 179 BGB | 180 | ||
| (b) Neues Ergebnis? | 186 | ||
| (c) Neue Rechtsfigur nötig? | 186 | ||
| bb) Verschulden | 190 | ||
| (1) Verschuldensprinzip | 190 | ||
| (a) Verschulden des Systems | 190 | ||
| (b) Verschulden des Systemverwenders | 191 | ||
| (c) Exkurs: UN-Kaufrecht | 192 | ||
| (2) Verschuldensvermutung | 194 | ||
| (a) Zulasten des Systemverwenders | 194 | ||
| (b) Zulasten des Systems | 197 | ||
| (3) Zurechnung von Verschulden | 197 | ||
| (a) Direkte Anwendung des § 278 S. 1 Alt. 2 BGB | 197 | ||
| (b) Analoge Anwendung des § 278 S. 1 Alt. 2 BGB | 198 | ||
| (aa) Planwidrige Regelungslücke | 198 | ||
| (bb) Vergleichbare Interessenlage | 201 | ||
| (cc) Zwischenergebnis | 204 | ||
| (dd) Einschränkung: Einzelfallentscheidung | 205 | ||
| b) Gefährdungs-/Produkthaftung | 206 | ||
| aa) Fehlendes Verschuldensprinzip | 206 | ||
| (1) Keine Analogie | 206 | ||
| (2) Eigener Gefährdungshaftungstatbestand? | 207 | ||
| (a) Interessensverschiebung durch Automatisierung? | 207 | ||
| (aa) Generalklausel (Haftung für „KI-Systeme“) | 208 | ||
| (bb) Exkurs: Bestrebungen zur Regulierung von KI auf EU-Ebene | 209 | ||
| (α) Einordnung der Entwicklung | 211 | ||
| (β) Verschuldensabhängig: Vorschlag für eine Richtlinie über KI-Haftung (RL-E) | 212 | ||
| (γ) Verschuldensunabhängig: Verhältnis zur ProdHaftRL | 214 | ||
| (δ) Zeitlicher Erwartungshorizont | 215 | ||
| (ε) Entschließung mit Empfehlung | 217 | ||
| (cc) Zwischenergebnis: Abstrakter Ansatz | 222 | ||
| (dd) Fehlende Beherrschbarkeit des Systems | 222 | ||
| (ee) Beherrschbarkeit des Systems: Anreizschaffung zur Risikominimierung | 227 | ||
| (ff) Versicherungspflicht | 229 | ||
| (gg) Höchstbeträge und Haftungsausschlüsse | 230 | ||
| (hh) Beweisschwierigkeiten | 231 | ||
| (ii) Neuer Risikoträger? | 233 | ||
| (α) Vorüberlegung | 233 | ||
| (β) Ansätze | 233 | ||
| (γ) Außen- und Innenverhältnis: Haftungsverschiebung? | 236 | ||
| (b) Neues Ergebnis? | 243 | ||
| (c) Neue Rechtsfigur nötig? | 244 | ||
| bb) Produkthaftung | 244 | ||
| (1) Interessensverschiebung: Software und Algorithmus als Bestandteile des Systems | 245 | ||
| (a) Software und Algorithmus als Produkt? | 246 | ||
| (aa) Ergebnis nach ProdHaftRL-E | 247 | ||
| (bb) Ergebnis de lege lata | 247 | ||
| (b) System als Teilprodukt? | 253 | ||
| (c) Haftungsadressat | 253 | ||
| (d) Produktfehler | 255 | ||
| (aa) Algorithmische Logik vs. menschliche Sinnhaftigkeit | 255 | ||
| (bb) Maßgeblicher Zeitpunkt: Produktbeobachtungsfehler? | 259 | ||
| (cc) Beweislast für Fehler | 262 | ||
| (dd) Fehlerlehre nach dem ProdHaftRL-E | 262 | ||
| (α) Ausgangspunkt: Art. 6 ProdHaftRL-E | 262 | ||
| (β) Algorithmische Logik vs. menschliche Sinnhaftigkeit | 263 | ||
| (γ) Objektivierte Erwartungshaltung? | 263 | ||
| (δ) Lernfähigkeit, Art. 6 (1) (c) ProdHaftRL-E | 264 | ||
| (ε) Stand der Technik, Art. 6 (1) (f) ProdHaftRL-E | 265 | ||
| (ζ) Zwischenergebnis: Produktbeobachtungspflicht | 266 | ||
| (η) Vermutungswirkungen, insb. zugunsten des Fehlers | 267 | ||
| (θ) Exkurs: Erweiterter Schadensbegriff, Art. 4 (6) ProdHaftRL-E | 270 | ||
| (ι) Zwischenergebnis | 272 | ||
| (e) Haftungsausschlüsse und -beschränkungen | 272 | ||
| (aa) Beschränkung der Sachbeschädigung auf privat genutzte Sachen (§ 1 Abs. 1 S. 2 Alt. 2 ProdHaftG) | 272 | ||
| (bb) Ausschluss bei späteren Fehlern (§ 1 Abs. 2 Nr. 2 ProdHaftG) | 273 | ||
| (α) Problemkreis de lege lata | 273 | ||
| (β) Lösung nach ProdHaftRL-E | 275 | ||
| (cc) Ausschluss nach Stand von Wissenschaft und Technik (§ 1 Abs. 2 Nr. 5 ProdHaftG) | 277 | ||
| (dd) Haftungshöchstbetrag und Selbstbeteiligung (§§ 10 f. ProdHaftG) | 281 | ||
| (2) Neue Rechtsfigur nötig? | 282 | ||
| c) Produzentenhaftung | 284 | ||
| aa) Interessensverschiebung und Entwürfe neuer Rechtsfiguren | 284 | ||
| (1) Produktbegriff: Erfassung von Software und KI | 284 | ||
| (2) Fehlerlehre: Produktbeobachtung | 284 | ||
| (3) Verschulden | 287 | ||
| (4) Beweislast | 287 | ||
| (a) Allgemein | 287 | ||
| (b) Vorschlag für eine Richtlinie über KI-Haftung (RL-E) | 289 | ||
| (aa) Anwendbarkeit auf Produzentenhaftung | 289 | ||
| (bb) Auswirkung auf Produzentenhaftung | 289 | ||
| bb) Neue Rechtsfigur nötig? | 293 | ||
| d) Klassische deliktische Haftung | 293 | ||
| aa) Interessensverschiebung durch Automatisierung? | 294 | ||
| (1) Verschiebung der Sorgfaltspflichten – § 831 BGB als Leitbild? | 294 | ||
| (a) Auswahl | 296 | ||
| (b) Überwachung | 297 | ||
| (2) Verschulden | 300 | ||
| (3) Beweisfragen | 301 | ||
| (4) Vorschlag für eine Richtlinie über KI-Haftung (RL-E) | 302 | ||
| (a) Anwendbarkeit auf § 823 BGB | 302 | ||
| (b) Auswirkungen auf § 823 BGB | 302 | ||
| (aa) „Offenlegung von Beweismitteln“ (Art. 3 RL-E) | 302 | ||
| (bb) „Widerlegbare Vermutung eines ursächlichen Zusammenhangs“ (Art. 4 RL-E) | 303 | ||
| (cc) Anpassungsbedarf | 305 | ||
| (α) Grundsätzlich | 305 | ||
| (β) Bei Verschiebung der Sorgfaltspflichten (§ 831 BGB) | 305 | ||
| bb) Zwischenergebnis | 306 | ||
| 3. Zwischenergebnis: Risikoverschiebung aufgrund ermittelter Interessen? | 307 | ||
| B. Einzelne Haftungsszenarien | 308 | ||
| I. Verkehrsunfall durch automatisierten PKW | 309 | ||
| 1. Technische Funktionsweise der Automatik | 309 | ||
| a) Grundbedingung | 309 | ||
| b) Wahrnehmung | 310 | ||
| aa) Kamerabild | 310 | ||
| bb) Lidar | 310 | ||
| cc) Radar und Ultraschall | 311 | ||
| dd) Raddrehzahl-, Lenkwinkel- und Inertialsensoren | 311 | ||
| ee) Mikrofone | 312 | ||
| ff) Global Positioning System (GPS) | 312 | ||
| gg) Karten | 312 | ||
| hh) Interaktion | 312 | ||
| c) Zusammenführung und Interpretation | 313 | ||
| d) Weitergabe und Umsetzungsbefehl | 314 | ||
| 2. Abbildung eines Verkehrsunfallszenarios | 314 | ||
| 3. Haftung de lege lata: Wer haftet im Szenario nach Status quo? | 316 | ||
| a) Haftung des Fahrers | 316 | ||
| b) Haftung der Technischen Aufsicht | 316 | ||
| aa) (Anforderung an die) Person der Technischen Aufsicht | 316 | ||
| bb) Intensität und Begründung der Pflichten | 317 | ||
| cc) Haftungsadressat? | 318 | ||
| c) Haftung des Halters | 319 | ||
| d) Haftung des Kfz-Versicherers | 321 | ||
| e) Haftung des Herstellers | 322 | ||
| aa) Nach ProdHaftG | 322 | ||
| bb) Nach Produzentenhaftung | 323 | ||
| cc) Verstöße gegen das StVG | 323 | ||
| dd) Verstöße gegen § 823 Abs. 2 BGB | 325 | ||
| f) Haftung des Fahrzeugs? | 325 | ||
| g) Gesamtschuld und Regress | 325 | ||
| 4. Haftung de lege ferenda: Anpassungsbedarf? | 326 | ||
| a) Fahrer | 326 | ||
| b) Technische Aufsicht | 327 | ||
| c) Halter | 329 | ||
| d) Hersteller | 330 | ||
| e) Fahrzeug? | 331 | ||
| f) Zulassungsstelle (TÜV)? | 331 | ||
| g) Zwischenergebnis | 331 | ||
| II. Fehlerhafte medizinische Operation durch Roboter | 332 | ||
| 1. Technische Funktionsweise der Automatik | 332 | ||
| a) Hardware | 333 | ||
| aa) Roboter-Instrumente | 333 | ||
| bb) OP-Instrumente | 333 | ||
| cc) Bildgebung | 333 | ||
| b) Software (Algorithmus) | 334 | ||
| 2. Abbildung eines Operationsfehlerszenarios | 334 | ||
| 3. Haftung de lege lata: Wer haftet im Szenario nach Status quo? | 336 | ||
| a) Haftung der Ärztin / des Krankenhausträgers | 338 | ||
| aa) Vertragliche Haftung | 338 | ||
| bb) Deliktische Haftung | 342 | ||
| b) Haftung des Herstellers | 344 | ||
| aa) Produkthaftung | 344 | ||
| (1) Software-Update | 345 | ||
| (2) Selbstlernen | 346 | ||
| bb) Produzentenhaftung | 347 | ||
| c) Software-Lieferant | 349 | ||
| d) Benannte Stelle | 351 | ||
| e) Gesamtschuld und Regress | 351 | ||
| 4. Haftung de lege ferenda | 352 | ||
| a) Ärztin | 352 | ||
| b) Hersteller | 354 | ||
| aa) Produkthaftung | 354 | ||
| bb) Produzentenhaftung | 355 | ||
| cc) Produkthaftpflichtversicherung? | 356 | ||
| c) Software-Lieferant | 357 | ||
| d) System? | 358 | ||
| e) Patientin? | 358 | ||
| f) Zwischenergebnis | 359 | ||
| Teil 4: Fazit | 360 | ||
| Literaturverzeichnis | 361 | ||
| Sachwortverzeichnis | 388 |