Die Haftung beim Einsatz intelligenter Medizinprodukte
BOOK
Cite BOOK
Style
Format
Die Haftung beim Einsatz intelligenter Medizinprodukte
Schriften zum Gesundheitsrecht, Vol. 72
(2024)
Additional Information
Book Details
Pricing
About The Author
Kim Roegels studierte von 2014 bis 2020 Rechtswissenschaften an der Heinrich-Heine-Universität Düsseldorf. Nach ihrem ersten Staatsexamen war sie als wissenschaftliche Mitarbeiterin bei Hengeler Mueller tätig. Ihre im Jahr 2023 abgeschlossene Promotion wurde von Herrn Prof. Dr. Ulrich Noack betreut. Den juristischen Vorbereitungsdienst absolviert sie seit Januar 2023 im OLG-Bezirk Düsseldorf.Abstract
Künstliche Intelligenz (KI) erlangt durch den technologischen Fortschritt ein steigendes Anwendungspotenzial in verschiedenen Bereichen der Gesellschaft. Insbesondere in der Medizin könnten die Vorteile von KI fruchtbar gemacht werden. Die dadurch entstehenden Behandlungsmöglichkeiten werfen jedoch gleichzeitig neue Haftungsfragen auf. Die Autorin untersucht zunächst die Haftung des Herstellers und beleuchtet hierzu die Pflichten des Herstellers in Bezug auf selbstlernende Medizinprodukte unter Heranziehung der europäischen Medizinprodukteverordnung. Anschließend behandelt sie die Frage der Haftung des Arztes beim Einsatz intelligenter Medizinprodukte. Dazu werden zunächst die Pflichten bei der Anwendung von herkömmlichen Medizinprodukten herausgearbeitet und sodann auf Grundlage dieser Grundsätze ein Pflichtenkatalog für den Einsatz von selbstlernenden Medizinprodukten entwickelt. Abschließend wird der von der Europäischen Kommission veröffentlichte Entwurf der KI-Haftungsrichtlinie beleuchtet.»Liability for Intelligent Medical Devices«: The author examines liability risks when using AI-based medical devices. For this purpose, she first analyses the manufacturer's obligations with reference to the European Union Medical Device Regulation. Then she elaborates the medical doctor’s duties when using conventional medical devices. On this basis she develops a list of obligations for the use of self-learning medical devices. Finally, the author deals with the draft of the AI Liability Directive published by the European Commission.
Table of Contents
| Section Title | Page | Action | Price |
|---|---|---|---|
| Vorwort | 7 | ||
| Inhaltsverzeichnis | 9 | ||
| A. Einleitung | 13 | ||
| I. Was ist KI? | 13 | ||
| II. Einsatzbereiche von KI in der Medizin | 17 | ||
| III. Begriffsverständnis „intelligentes Medizinprodukt“ | 18 | ||
| IV. Einführung in die haftungsrechtliche Problematik | 19 | ||
| 1. Unvorhersehbarkeit | 20 | ||
| 2. Mangelnde Beherrschbarkeit | 21 | ||
| 3. Eingeschränkte Nachvollziehbarkeit | 22 | ||
| B. Die (neue) EU-Medizinprodukteverordnung | 23 | ||
| I. Begriffsbestimmungen | 25 | ||
| II. Software als Medizinprodukt unter der MDR | 26 | ||
| III. Zwischenergebnis | 28 | ||
| C. Die Haftung des Herstellers von intelligenten Medizinprodukten | 29 | ||
| I. Die deliktische Produzentenhaftung (§ 823 Abs. 1 BGB) | 30 | ||
| II. Die Produkthaftung (§ 1 Abs. 1 S. 1 ProdHaftG) | 31 | ||
| III. Produkteigenschaft eines intelligenten Medizinprodukts | 32 | ||
| IV. Haftungssubjekte | 36 | ||
| V. Sicherheitserwartungen an intelligente Medizinprodukte | 38 | ||
| 1. Adressatenkreis | 40 | ||
| 2. Vergleichsmaßstab | 41 | ||
| 3. Berechtigte Sicherheitserwartungen an die CE-Konformitätskennzeichnung | 43 | ||
| a) Klassifizierung von KI-basierter Medizinproduktesoftware | 44 | ||
| b) EU-Konformitätserklärung | 47 | ||
| c) Risiko- und Qualitätsmanagementsystem | 48 | ||
| d) Zwischenergebnis | 49 | ||
| 4. Ergebnis zu den Sicherheitserwartungen an intelligente Medizinprodukte | 50 | ||
| VI. Pflichten bis zum Inverkehrbringen | 51 | ||
| 1. Konstruktionsfehler | 52 | ||
| a) Sicherheitsmaßstab | 53 | ||
| aa) Erforderlichkeit der Sicherungsmaßnahmen | 54 | ||
| bb) Zumutbarkeit der Sicherungsmaßnahmen | 55 | ||
| cc) Keine absolute Sicherheit | 56 | ||
| dd) Öffentliches Sicherheitsrecht und technische Normen | 56 | ||
| b) Konstruktionspflichten nach der MDR | 59 | ||
| aa) Vorschriften der MDR zu Software-basierten Medizinprodukten | 60 | ||
| bb) Nachträgliche Änderungen des KI-basierten Medizinprodukts | 62 | ||
| cc) Praxis | 65 | ||
| dd) Vergleich zur U.S. Food and Drug Administration | 66 | ||
| ee) Zwischenergebnis | 69 | ||
| c) Selbstlernfähigkeit als Konstruktionsfehler | 70 | ||
| aa) Übertragung der Rechtsprechung zum Konstruktionsfehler | 72 | ||
| bb) Kein Entwicklungsrisiko bei intelligenten Medizinprodukten | 77 | ||
| (1) Grundsätze der Rechtsprechung zum Entwicklungsrisiko | 78 | ||
| (2) Anwendung auf intelligente Medizinprodukte | 79 | ||
| cc) Zwischenergebnis | 80 | ||
| d) Ergebnis zum Konstruktionsfehler | 81 | ||
| 2. Fabrikationsfehler | 82 | ||
| 3. Instruktionsfehler | 83 | ||
| a) Instruktionspflichten nach der MDR | 85 | ||
| b) Instruktionspflichten nach der MPBetreibV | 88 | ||
| 4. Fehlerverdacht | 88 | ||
| VII. Pflichten nach dem Inverkehrbringen | 90 | ||
| 1. Produktbeobachtung | 90 | ||
| 2. Software-Update-Pflicht | 92 | ||
| 3. Zwischenergebnis | 96 | ||
| VIII. Haftungsbegründende Kausalität | 97 | ||
| 1. Hackerangriffe | 98 | ||
| 2. Ärztliches Handeln | 100 | ||
| 3. Vernetzungsfähigkeit und Input von Daten | 102 | ||
| IX. Verschulden | 102 | ||
| X. Beweislast | 103 | ||
| 1. Ausgangslage | 104 | ||
| 2. Beweislastumkehr | 105 | ||
| 3. Anscheinsbeweis | 107 | ||
| 4. Dokumentation durch die KI | 108 | ||
| 5. Offenlegungspflichten und widerlegbare Vermutungen nach dem KI-RL-E | 109 | ||
| 6. Offenlegungspflichten und widerlegbare Vermutungen nach dem ProdHaftRL-E | 112 | ||
| 7. Zwischenergebnis | 113 | ||
| XI. Schutzgesetzverletzung (§ 823 Abs. 2 BGB i.V.m. MDR und MPDG) | 114 | ||
| XII. Ergebnis und Bewertung der Haftung des Herstellers | 116 | ||
| D. Die Haftung des Arztes beim Einsatz von intelligenten Medizinprodukten | 120 | ||
| I. Rechtsgrundlagen der ärztlichen Haftung | 121 | ||
| II. Sorgfaltsstandard | 123 | ||
| 1. Medizinischer Standard | 124 | ||
| 2. Konkretisierung des medizinischen Standards durch Leitlinien | 126 | ||
| III. Behandlungsfehler | 127 | ||
| 1. Therapiefreiheit des Arztes | 127 | ||
| 2. Sorgfaltsstandard beim Einsatz von herkömmlichen Medizinprodukten | 129 | ||
| a) Apparative Ausstattung | 129 | ||
| b) Personelle Ausstattung | 131 | ||
| c) Pflichten nach MPBetreibV und MPDG | 131 | ||
| 3. Anwendung auf intelligente Medizinprodukte | 134 | ||
| a) Pflichtenkatalog | 134 | ||
| b) Überprüfungspflichten des Arztes – Kontrolle der Entscheidung der KI? | 139 | ||
| aa) Prinzip der Eigenverantwortung und Vertrauensgrundsatz | 140 | ||
| bb) Horizontale Arbeitsteilung | 141 | ||
| cc) Vertikale Arbeitsteilung | 143 | ||
| (1) Anwendung des Vertrauensgrundsatzes bei horizontaler Arbeitsteilung | 144 | ||
| (2) Anwendung des Vertrauensgrundsatzes bei vertikaler Arbeitsteilung | 146 | ||
| 4. Zwischenergebnis | 148 | ||
| IV. Analoge Anwendung von § 278 BGB | 149 | ||
| V. Aufklärungsfehler | 151 | ||
| 1. Aufklärung über den Einsatz von KI | 152 | ||
| a) KI als Standardmethode | 152 | ||
| b) KI als Neulandmethode | 155 | ||
| 2. Aufklärung durch das KI-System | 156 | ||
| 3. (Hypothetische) Einwilligung | 158 | ||
| VI. Beweislast | 160 | ||
| 1. KI als vollbeherrschbares Risiko | 160 | ||
| 2. Dokumentationspflicht | 163 | ||
| VII. Ergebnis und Bewertung der Haftung des Arztes | 164 | ||
| E. Ausblick – Haftung de lege ferenda | 166 | ||
| I. Einführung einer E-Person und Fondslösung | 166 | ||
| II. Analoge Anwendung von § 831 BGB | 167 | ||
| III. Verordnungsvorschlag der Europäischen Kommission zur Regulierung von KI | 168 | ||
| 1. Anwendungsbereich | 169 | ||
| 2. Klassifizierung intelligenter Medizinproduktesoftware als Hochrisiko-KI-System | 171 | ||
| 3. Anforderungen des Anbieters von Hochrisiko-KI-Systemen | 172 | ||
| 4. Anforderungen des Nutzers von Hochrisiko-KI-Systemen | 175 | ||
| 5. Das Verhältnis von MDR und KI-VO-E | 176 | ||
| 6. Konformitätsbewertung nach MDR und KI-VO-E | 176 | ||
| 7. Zertifizierung von (selbstlernender) KI-basierter Medizinproduktesoftware | 177 | ||
| 8. Bedeutung des KI-VO-E für intelligente Medizinprodukte | 178 | ||
| IV. Verordnungsvorschlag des Europäischen Parlaments zur Haftung für KI | 180 | ||
| 1. Sachlicher Anwendungsbereich | 181 | ||
| 2. Persönlicher Anwendungsbereich | 181 | ||
| 3. Verschuldens- und Gefährdungshaftung | 183 | ||
| a) Gefährdungshaftung nach Art. 4ff. VO-E | 183 | ||
| b) Verschuldenshaftung nach Art. 8ff. VO-E | 184 | ||
| 4. Bewertung | 184 | ||
| V. Fazit zur Haftung de lege ferenda | 185 | ||
| F. Ergebnis zur Haftung beim Einsatz intelligenter Medizinprodukte in Thesen | 187 | ||
| Literaturverzeichnis | 191 | ||
| Sachverzeichnis | 209 |