Einsatz Künstlicher Intelligenz zur vorbereitenden Unterstützung von Leitungsentscheidungen des Vorstands einer AG
BOOK
Cite BOOK
Style
Telle, M. (2023). Einsatz Künstlicher Intelligenz zur vorbereitenden Unterstützung von Leitungsentscheidungen des Vorstands einer AG. Duncker & Humblot. https://doi.org/10.3790/978-3-428-58787-2
Telle, Marc. Einsatz Künstlicher Intelligenz zur vorbereitenden Unterstützung von Leitungsentscheidungen des Vorstands einer AG. Duncker & Humblot, 2023. Book. https://doi.org/10.3790/978-3-428-58787-2
Telle, M (2023): Einsatz Künstlicher Intelligenz zur vorbereitenden Unterstützung von Leitungsentscheidungen des Vorstands einer AG, Duncker & Humblot, [online] https://doi.org/10.3790/978-3-428-58787-2
Format
Einsatz Künstlicher Intelligenz zur vorbereitenden Unterstützung von Leitungsentscheidungen des Vorstands einer AG
Abhandlungen zum Deutschen und Europäischen Gesellschafts- und Kapitalmarktrecht, Vol. 209
(2023)
Additional Information
Book Details
Pricing
About The Author
Marc Telle studierte bis 2018 Rechtswissenschaften an der Heinrich-Heine-Universität Düsseldorf. Während der Promotion bei Prof. Dr. Ulrich Noack absolvierte er das Rechtsreferendariat im Oberlandesgerichtsbezirk Düsseldorf und war anschließend als Rechtsanwalt in einer mittelständischen Wirtschaftskanzlei tätig. Seit Ende 2022 ist er als Rechtsanwalt für Gesellschaftsrecht in einer führenden, international tätigen Großkanzlei beschäftigt.Abstract
Längst sind Fragen der »elektronischen Datenverarbeitung« in Unternehmen ein fester Bestandteil datenschutzrechtlicher, arbeits- und gesellschaftsrechtlicher Erörterungen. Auch die Entwicklung künstlich intelligenter Systeme schreitet dynamisch voran. Der Autor befasst sich vor diesem Hintergrund eingehend mit den verschiedenen Rechtsfragen, die sich im Kontext des entscheidungsunterstützenden Einsatzes von Künstlicher Intelligenz im Vorstand einer AG ergeben. Steht es dem Vorstand frei, derartige Informationstechnik als vorgeschaltete Hilfs- bzw. Arbeitsmittel oder ausgelagert über einen externen Dienstleister einzusetzen? Ist er unter Umständen sogar verpflichtet, Künstliche Intelligenz im Rahmen der Entscheidungsprozesse einzusetzen? Und wie gestalten sich die mit dem Systemeinsatz verbundenen Sorgfaltspflichten und Haftungsrisiken der Vorstandsmitglieder? Diese und andere Fragen untersucht der Autor in seiner Arbeit.»Use of Artificial Intelligence to Prepare Management Decisions for the Board of Directors of a German Stock Corporation«: In companies questions of »electronic data processing« have been an integral part of discussions on data protection law, labor law and company law for a long time. The development of artificially intelligent systems is also progressing dynamically. In light of this, the author takes an in-depth look at the various legal issues that arise in the context of the decision-supporting use of artificial intelligence by the executive board of a German stock corporation.
Table of Contents
| Section Title | Page | Action | Price |
|---|---|---|---|
| Vorwort | 5 | ||
| Inhaltsverzeichnis | 7 | ||
| Einführung | 13 | ||
| A. Einleitung | 13 | ||
| B. Anwendungsbeispiele und Aktualität der Thematik | 17 | ||
| I. Anwendungsbereiche im Wirtschaftsleben | 17 | ||
| II. Politische Entwicklung | 19 | ||
| 1. Deutschland | 19 | ||
| 2. Europäische Union | 20 | ||
| 3. USA | 21 | ||
| 4. Multinationale Kooperationen | 22 | ||
| III. Rechtsprechung | 23 | ||
| C. Terminologie und technisches Verständnis | 23 | ||
| I. Künstliche Intelligenz | 24 | ||
| 1. Machine Learning & Deep Learning | 25 | ||
| a) Überwachtes Lernen | 26 | ||
| b) Unüberwachtes Lernen | 27 | ||
| c) Bestärkendes Lernen | 28 | ||
| 2. Big Data | 28 | ||
| II. KI-Akteure | 28 | ||
| D. Untersuchungsgegenstand | 29 | ||
| Teil 1: Recht und Pflicht zur Nutzung eines KI-Systems als „Entscheidungs- und Informationsassistent“ im Leitungsbereich | 31 | ||
| A. Die Leitungskompetenz des Vorstands und ihre Delegation | 31 | ||
| I. Der Begriff der Unternehmensleitung | 31 | ||
| II. Grenzen der Übertragbarkeit von Leitungsaufgaben | 32 | ||
| B. Recht zur KI-gestützten Entscheidungsfindung | 34 | ||
| I. Zulässigkeit der Leitungsunterstützung durch KI-Systeme („Legalität“) | 34 | ||
| 1. Das KI-System als vorgeschaltetes Hilfs- und Arbeitsmittel des Vorstands | 35 | ||
| a) Übertragung der Grundsätze zur Aufgabendelegation | 36 | ||
| aa) Fehlende Nachvollziehbarkeit – das Blackbox-Problem | 36 | ||
| bb) Fehlende Eigenhaftung | 40 | ||
| b) Resümee zur Zulässigkeit eines KI-Systems nals Hilfsmittel des Vorstands | 41 | ||
| 2. Nutzung eines externen KI-Systems | 44 | ||
| 3. Das KI-System als „Digitales Vorstandsmitglied“ | 45 | ||
| a) Rechtliche Würdigung de lege lata | 45 | ||
| b) Rechtliche Würdigung de lege ferenda | 46 | ||
| 4. Die KI als singuläre Leitungsinstanz | 52 | ||
| II. Anforderungen an die abstrakte Einsatzentscheidung | 53 | ||
| 1. Unternehmerische Entscheidung | 53 | ||
| 2. Kompetenz und Einfluss der Hauptversammlung | 54 | ||
| a) Zustimmungspflicht der Hauptversammlung | 54 | ||
| b) Satzungsmäßige Beschränkungen | 56 | ||
| 3. Zustimmungsvorbehalt des Aufsichtsrats | 56 | ||
| 4. Berichtspflicht an den Aufsichtsrat gemäß § 90 Abs. 1 AktG | 58 | ||
| C. Pflicht zur Nutzung eines KI-Systems | 59 | ||
| I. Herleitung einer KI-Nutzungspflicht | 60 | ||
| 1. Gesetzliche KI-Nutzungspflicht | 60 | ||
| a) Nutzungspflicht resultierend aus einer Analogie zu § 25a Abs. 1 S. 3 Nr. 4 KWG? | 61 | ||
| b) Nutzungspflicht resultierend aus der Business Judgement Rule (§ 93 Abs. 1 S. 2 AktG)? | 62 | ||
| aa) Dogmatische Einordnung | 62 | ||
| (1) Meinungsstand | 63 | ||
| (2) Stellungnahme und Schlussfolgerung | 64 | ||
| (a) Wortlaut | 64 | ||
| (b) Gesetzeszweck und Historie | 65 | ||
| (c) Telos | 65 | ||
| (d) Zwischenergebnis | 65 | ||
| (e) Konsequenz | 66 | ||
| bb) Anforderungen an die Informationsgrundlage | 66 | ||
| c) Nutzungspflicht resultierend aus dem allgemeinen Sorgfaltsmaßstab (§ 93 Abs. 1 S. 1 AktG i. V. m. § 76 Abs. 1 AktG)? | 68 | ||
| d) Nutzungspflicht resultierend aus § 91 Abs. 3 AktG | 72 | ||
| 2. Verpflichtung zur KI-Nutzung durch Selbstregulierung | 73 | ||
| a) Nutzungspflicht folgend aus der Satzung der AG | 73 | ||
| aa) Reichweite der Satzungshoheit (Satzungsstrenge) | 73 | ||
| bb) Stellungnahme | 76 | ||
| b) Nutzungspflicht folgend aus der Geschäftsordnung des Vorstands | 77 | ||
| c) Nutzungspflicht folgend aus dem Anstellungsvertrag des jeweiligen Vorstandsmitglieds | 78 | ||
| d) Nutzungspflicht folgend aus einer KI-Richtlinie | 79 | ||
| II. Fazit | 79 | ||
| D. Pflicht zur Befolgung der KI-Empfehlungen unter besonderer Betrachtung des Stichentscheids und der Vertragskonzernierung | 80 | ||
| I. Vertragliche Verpflichtung zur Befolgung der KI-Empfehlung | 80 | ||
| II. Die KI-Empfehlung als Mechanismus zur Auflösung von Patt-Situationen | 81 | ||
| III. Pflicht zur Befolgung der KI-Empfehlungen im Vertragskonzern | 82 | ||
| Teil 2: Das Pflichtenprogramm des Vorstands im Umgang mit entscheidungsunterstützenden KI-Systemen im Leitungsbereich | 85 | ||
| A. Wahl des Nutzungsweges | 86 | ||
| B. Sorgfaltspflichten des Vorstands im Umgang mit leitungsunterstützenden KI-Systemen | 87 | ||
| I. Unternehmensinterner KI-Betrieb | 87 | ||
| 1. Rechtsdogmatische Einordnung | 88 | ||
| a) Meinungsspektrum | 88 | ||
| b) Stellungnahme | 89 | ||
| aa) Sonderproblem: Anwendbarkeit der ISION-Grundsätze | 95 | ||
| (1) Anwendbarkeit auf unternehmerische Entscheidungen? | 95 | ||
| (a) Meinungsstand | 96 | ||
| (b) Stellungnahme | 97 | ||
| (2) Anwendbarkeit auf entscheidungsunterstützende KI-Systeme? | 100 | ||
| bb) Zwischenergebnis | 101 | ||
| 2. Die KI-spezifischen Sorgfaltspflichten im Einzelnen | 101 | ||
| a) Den Sorgfaltsmaßstab des Vorstands beeinflussende Faktoren | 102 | ||
| b) KI-spezifische Residualpflichten | 104 | ||
| aa) Make-or-Buy-Entscheidung | 105 | ||
| bb) Sorgfältige Auswahl | 106 | ||
| (1) Auswahlkriterien | 106 | ||
| (a) Funktionalität (technische Zuverlässigkeit) | 108 | ||
| (b) Kompetenz (fachliche Zuverlässigkeit) – das KI-System als fachlich qualifizierter Berufsträger i. S. d. ISION-Rechtsprechung? | 109 | ||
| (aa) Die Berufsträgereigenschaft | 109 | ||
| (bb) Die fachliche Qualifikation | 110 | ||
| (c) Neutralität | 112 | ||
| (d) Rechenschaftsfähigkeit | 115 | ||
| (2) Überprüfung der KI-Eigenschaften | 118 | ||
| (a) Zertifikate, Gütesiegel, Standards, Prüfzeichen, Sicherheitskennzeichen und Testate | 118 | ||
| (aa) Zertifizierungen und Standards nach derzeitigem Stand | 119 | ||
| (bb) Zweck und Nutzen der Zertifizierung | 121 | ||
| (b) Zulassungspflicht | 122 | ||
| (c) Gebrauchsanweisung | 123 | ||
| (d) Sachverständige Überprüfung | 124 | ||
| (e) Funktionstest, Vorführung | 125 | ||
| (f) Zwischenergebnis | 126 | ||
| (3) Weitere Organisationspflichten im Rahmen des KI-Erwerbsprozesses | 126 | ||
| (a) Sicherstellung der Rechtskonformität | 127 | ||
| (b) Implementierung von Grundwerten | 129 | ||
| (c) Implementierung und Kalibrierung der Unternehmensziele | 130 | ||
| (d) Umgang mit Konflikten | 131 | ||
| cc) Sorgfältige Einweisung | 132 | ||
| dd) Hinreichende Ressourcenausstattung | 133 | ||
| (1) Gewährleistung der Datenqualität | 135 | ||
| (2) Gewährleistung ausreichender Datenbestände | 137 | ||
| ee) Allgemeine Informations- und Fortbildungspflicht | 138 | ||
| (1) Beratung durch den Aufsichtsrat | 139 | ||
| (2) Einrichtung eines unterstützenden KI-Rats | 140 | ||
| ff) Fortlaufende Überwachung | 142 | ||
| (1) Überwachung der Neutralität und Cybersicherheit | 144 | ||
| (2) KI-Qualitätsmanagement und regelmäßige Audits | 147 | ||
| (3) Einrichtung einer unternehmensinternen KI-Richtlinie | 149 | ||
| gg) Pflicht zur Auseinandersetzung mit der Entscheidungsgrundlage | 149 | ||
| (1) Technischer Funktionalitätscheck | 151 | ||
| (2) Technische Herleitungsplausibilisierung | 152 | ||
| (3) Sachlich-inhaltliche Plausibilitätskontrolle | 154 | ||
| (a) Sachlich-inhaltliche KI-Plausibilisierung | 155 | ||
| (b) Entscheidungsplausibilisierung | 157 | ||
| (4) Dokumentationsobliegenheit | 159 | ||
| c) Personelle Maßnahmen zu Zwecken der Arbeitsteilung | 159 | ||
| aa) Horizontale Delegation an ein fachkompetentes Vorstandsmitglied | 160 | ||
| bb) Vertikale Delegation an fachkompetente Mitarbeiter | 161 | ||
| II. Auslagerung | 162 | ||
| 1. Wahl des Auslagerungsmodells | 163 | ||
| 2. Sorgfältige Auswahl des externen Dienstleisters | 163 | ||
| 3. Kautelarjuristische Ausgestaltung des Outsourcing-Vertrages | 164 | ||
| a) Allgemeine Gestaltungshinweise | 165 | ||
| b) KI-spezifischer Vertragsinhalt | 167 | ||
| aa) Entwicklung des KI-Assistenzsystems | 167 | ||
| bb) Anforderungen an den Umfang und die Qualität der Daten | 168 | ||
| cc) Nutzungs- und Verwertungsrechte | 169 | ||
| 4. Auslagerungscontrolling | 169 | ||
| Teil 3: Die Haftung des Vorstands im Umgang mit entscheidungsunterstützenden KI-Systemen im Leitungsbereich | 171 | ||
| A. Anknüpfungspunkt der Pflichtverletzung | 172 | ||
| I. Zurechnung der fehlerhaften Arbeitsleistung des KI-Systems | 172 | ||
| 1. Kein Handeln in Erfüllung der Verbindlichkeiten des Vorstands | 172 | ||
| 2. Fehlende Verschuldensfähigkeit | 174 | ||
| 3. Teleologische Begründung | 176 | ||
| 4. Zwischenergebnis | 177 | ||
| II. Verstöße gegen das Delegationsverbot | 178 | ||
| III. Pflichtverletzung aufgrund unterlassener Aufgabenübertragung an ein KI-System | 178 | ||
| IV. Verletzung von KI-spezifischen Sorgfaltspflichten des Vorstands | 179 | ||
| V. Keine Zurechnung von Pflichtverletzungen des KI-zuständigen Vorstandsmitglieds | 180 | ||
| B. Kausalität zwischen Pflichtverletzung und Schaden als Voraussetzung der Ersatzpflicht | 181 | ||
| I. Kausalzusammenhang | 181 | ||
| II. Fallgruppe des rechtmäßigen Alternativverhaltens | 183 | ||
| Schlussteil: Zusammenfassung der wesentlichen Ergebnisse in Thesen | 185 | ||
| Literaturverzeichnis | 192 | ||
| Stichwortregister | 208 |