Menu Expand

Einsatz Künstlicher Intelligenz zur vorbereitenden Unterstützung von Leitungsentscheidungen des Vorstands einer AG

Cite BOOK

Style

Telle, M. (2023). Einsatz Künstlicher Intelligenz zur vorbereitenden Unterstützung von Leitungsentscheidungen des Vorstands einer AG. Duncker & Humblot. https://doi.org/10.3790/978-3-428-58787-2
Telle, Marc. Einsatz Künstlicher Intelligenz zur vorbereitenden Unterstützung von Leitungsentscheidungen des Vorstands einer AG. Duncker & Humblot, 2023. Book. https://doi.org/10.3790/978-3-428-58787-2
Telle, M (2023): Einsatz Künstlicher Intelligenz zur vorbereitenden Unterstützung von Leitungsentscheidungen des Vorstands einer AG, Duncker & Humblot, [online] https://doi.org/10.3790/978-3-428-58787-2

Format

Einsatz Künstlicher Intelligenz zur vorbereitenden Unterstützung von Leitungsentscheidungen des Vorstands einer AG

Telle, Marc

Abhandlungen zum Deutschen und Europäischen Gesellschafts- und Kapitalmarktrecht, Vol. 209

(2023)

Additional Information

Book Details

Pricing

About The Author

Marc Telle studierte bis 2018 Rechtswissenschaften an der Heinrich-Heine-Universität Düsseldorf. Während der Promotion bei Prof. Dr. Ulrich Noack absolvierte er das Rechtsreferendariat im Oberlandesgerichtsbezirk Düsseldorf und war anschließend als Rechtsanwalt in einer mittelständischen Wirtschaftskanzlei tätig. Seit Ende 2022 ist er als Rechtsanwalt für Gesellschaftsrecht in einer führenden, international tätigen Großkanzlei beschäftigt.

Abstract

Längst sind Fragen der »elektronischen Datenverarbeitung« in Unternehmen ein fester Bestandteil datenschutzrechtlicher, arbeits- und gesellschaftsrechtlicher Erörterungen. Auch die Entwicklung künstlich intelligenter Systeme schreitet dynamisch voran. Der Autor befasst sich vor diesem Hintergrund eingehend mit den verschiedenen Rechtsfragen, die sich im Kontext des entscheidungsunterstützenden Einsatzes von Künstlicher Intelligenz im Vorstand einer AG ergeben. Steht es dem Vorstand frei, derartige Informationstechnik als vorgeschaltete Hilfs- bzw. Arbeitsmittel oder ausgelagert über einen externen Dienstleister einzusetzen? Ist er unter Umständen sogar verpflichtet, Künstliche Intelligenz im Rahmen der Entscheidungsprozesse einzusetzen? Und wie gestalten sich die mit dem Systemeinsatz verbundenen Sorgfaltspflichten und Haftungsrisiken der Vorstandsmitglieder? Diese und andere Fragen untersucht der Autor in seiner Arbeit.»Use of Artificial Intelligence to Prepare Management Decisions for the Board of Directors of a German Stock Corporation«: In companies questions of »electronic data processing« have been an integral part of discussions on data protection law, labor law and company law for a long time. The development of artificially intelligent systems is also progressing dynamically. In light of this, the author takes an in-depth look at the various legal issues that arise in the context of the decision-supporting use of artificial intelligence by the executive board of a German stock corporation.

Table of Contents

Section Title Page Action Price
Vorwort 5
Inhaltsverzeichnis 7
Einführung 13
A. Einleitung 13
B. Anwendungsbeispiele und Aktualität der Thematik 17
I. Anwendungsbereiche im Wirtschaftsleben 17
II. Politische Entwicklung 19
1. Deutschland 19
2. Europäische Union 20
3. USA 21
4. Multinationale Kooperationen 22
III. Rechtsprechung 23
C. Terminologie und technisches Verständnis 23
I. Künstliche Intelligenz 24
1. Machine Learning & Deep Learning 25
a) Überwachtes Lernen 26
b) Unüberwachtes Lernen 27
c) Bestärkendes Lernen 28
2. Big Data 28
II. KI-Akteure 28
D. Untersuchungsgegenstand 29
Teil 1: Recht und Pflicht zur Nutzung eines KI-Systems als „Entscheidungs- und Informationsassistent“ im Leitungsbereich 31
A. Die Leitungskompetenz des Vorstands und ihre Delegation 31
I. Der Begriff der Unternehmensleitung 31
II. Grenzen der Übertragbarkeit von Leitungsaufgaben 32
B. Recht zur KI-gestützten Entscheidungsfindung 34
I. Zulässigkeit der Leitungsunterstützung durch KI-Systeme („Legalität“) 34
1. Das KI-System als vorgeschaltetes Hilfs- und Arbeitsmittel des Vorstands 35
a) Übertragung der Grundsätze zur Aufgabendelegation 36
aa) Fehlende Nachvollziehbarkeit – das Blackbox-Problem 36
bb) Fehlende Eigenhaftung 40
b) Resümee zur Zulässigkeit eines KI-Systems nals Hilfsmittel des Vorstands 41
2. Nutzung eines externen KI-Systems 44
3. Das KI-System als „Digitales Vorstandsmitglied“ 45
a) Rechtliche Würdigung de lege lata 45
b) Rechtliche Würdigung de lege ferenda 46
4. Die KI als singuläre Leitungsinstanz 52
II. Anforderungen an die abstrakte Einsatzentscheidung 53
1. Unternehmerische Entscheidung 53
2. Kompetenz und Einfluss der Hauptversammlung 54
a) Zustimmungspflicht der Hauptversammlung 54
b) Satzungsmäßige Beschränkungen 56
3. Zustimmungsvorbehalt des Aufsichtsrats 56
4. Berichtspflicht an den Aufsichtsrat gemäß § 90 Abs. 1 AktG 58
C. Pflicht zur Nutzung eines KI-Systems 59
I. Herleitung einer KI-Nutzungspflicht 60
1. Gesetzliche KI-Nutzungspflicht 60
a) Nutzungspflicht resultierend aus einer Analogie zu § 25a Abs. 1 S. 3 Nr. 4 KWG? 61
b) Nutzungspflicht resultierend aus der Business Judgement Rule (§ 93 Abs. 1 S. 2 AktG)? 62
aa) Dogmatische Einordnung 62
(1) Meinungsstand 63
(2) Stellungnahme und Schlussfolgerung 64
(a) Wortlaut 64
(b) Gesetzeszweck und Historie 65
(c) Telos 65
(d) Zwischenergebnis 65
(e) Konsequenz 66
bb) Anforderungen an die Informationsgrundlage 66
c) Nutzungspflicht resultierend aus dem allgemeinen Sorgfaltsmaßstab (§ 93 Abs. 1 S. 1 AktG i. V. m. § 76 Abs. 1 AktG)? 68
d) Nutzungspflicht resultierend aus § 91 Abs. 3 AktG 72
2. Verpflichtung zur KI-Nutzung durch Selbstregulierung 73
a) Nutzungspflicht folgend aus der Satzung der AG 73
aa) Reichweite der Satzungshoheit (Satzungsstrenge) 73
bb) Stellungnahme 76
b) Nutzungspflicht folgend aus der Geschäftsordnung des Vorstands 77
c) Nutzungspflicht folgend aus dem Anstellungsvertrag des jeweiligen Vorstandsmitglieds 78
d) Nutzungspflicht folgend aus einer KI-Richtlinie 79
II. Fazit 79
D. Pflicht zur Befolgung der KI-Empfehlungen unter besonderer Betrachtung des Stichentscheids und der Vertragskonzernierung 80
I. Vertragliche Verpflichtung zur Befolgung der KI-Empfehlung 80
II. Die KI-Empfehlung als Mechanismus zur Auflösung von Patt-Situationen 81
III. Pflicht zur Befolgung der KI-Empfehlungen im Vertragskonzern 82
Teil 2: Das Pflichtenprogramm des Vorstands im Umgang mit entscheidungsunterstützenden KI-Systemen im Leitungsbereich 85
A. Wahl des Nutzungsweges 86
B. Sorgfaltspflichten des Vorstands im Umgang mit leitungsunterstützenden KI-Systemen 87
I. Unternehmensinterner KI-Betrieb 87
1. Rechtsdogmatische Einordnung 88
a) Meinungsspektrum 88
b) Stellungnahme 89
aa) Sonderproblem: Anwendbarkeit der ISION-Grundsätze 95
(1) Anwendbarkeit auf unternehmerische Entscheidungen? 95
(a) Meinungsstand 96
(b) Stellungnahme 97
(2) Anwendbarkeit auf entscheidungsunterstützende KI-Systeme? 100
bb) Zwischenergebnis 101
2. Die KI-spezifischen Sorgfaltspflichten im Einzelnen 101
a) Den Sorgfaltsmaßstab des Vorstands beeinflussende Faktoren 102
b) KI-spezifische Residualpflichten 104
aa) Make-or-Buy-Entscheidung 105
bb) Sorgfältige Auswahl 106
(1) Auswahlkriterien 106
(a) Funktionalität (technische Zuverlässigkeit) 108
(b) Kompetenz (fachliche Zuverlässigkeit) – das KI-System als fachlich qualifizierter Berufsträger i. S. d. ISION-Rechtsprechung? 109
(aa) Die Berufsträgereigenschaft 109
(bb) Die fachliche Qualifikation 110
(c) Neutralität 112
(d) Rechenschaftsfähigkeit 115
(2) Überprüfung der KI-Eigenschaften 118
(a) Zertifikate, Gütesiegel, Standards, Prüfzeichen, Sicherheitskennzeichen und Testate 118
(aa) Zertifizierungen und Standards nach derzeitigem Stand 119
(bb) Zweck und Nutzen der Zertifizierung 121
(b) Zulassungspflicht 122
(c) Gebrauchsanweisung 123
(d) Sachverständige Überprüfung 124
(e) Funktionstest, Vorführung 125
(f) Zwischenergebnis 126
(3) Weitere Organisationspflichten im Rahmen des KI-Erwerbsprozesses 126
(a) Sicherstellung der Rechtskonformität 127
(b) Implementierung von Grundwerten 129
(c) Implementierung und Kalibrierung der Unternehmensziele 130
(d) Umgang mit Konflikten 131
cc) Sorgfältige Einweisung 132
dd) Hinreichende Ressourcenausstattung 133
(1) Gewährleistung der Datenqualität 135
(2) Gewährleistung ausreichender Datenbestände 137
ee) Allgemeine Informations- und Fortbildungspflicht 138
(1) Beratung durch den Aufsichtsrat 139
(2) Einrichtung eines unterstützenden KI-Rats 140
ff) Fortlaufende Überwachung 142
(1) Überwachung der Neutralität und Cybersicherheit 144
(2) KI-Qualitätsmanagement und regelmäßige Audits 147
(3) Einrichtung einer unternehmensinternen KI-Richtlinie 149
gg) Pflicht zur Auseinandersetzung mit der Entscheidungsgrundlage 149
(1) Technischer Funktionalitätscheck 151
(2) Technische Herleitungsplausibilisierung 152
(3) Sachlich-inhaltliche Plausibilitätskontrolle 154
(a) Sachlich-inhaltliche KI-Plausibilisierung 155
(b) Entscheidungsplausibilisierung 157
(4) Dokumentationsobliegenheit 159
c) Personelle Maßnahmen zu Zwecken der Arbeitsteilung 159
aa) Horizontale Delegation an ein fachkompetentes Vorstandsmitglied 160
bb) Vertikale Delegation an fachkompetente Mitarbeiter 161
II. Auslagerung 162
1. Wahl des Auslagerungsmodells 163
2. Sorgfältige Auswahl des externen Dienstleisters 163
3. Kautelarjuristische Ausgestaltung des Outsourcing-Vertrages 164
a) Allgemeine Gestaltungshinweise 165
b) KI-spezifischer Vertragsinhalt 167
aa) Entwicklung des KI-Assistenzsystems 167
bb) Anforderungen an den Umfang und die Qualität der Daten 168
cc) Nutzungs- und Verwertungsrechte 169
4. Auslagerungscontrolling 169
Teil 3: Die Haftung des Vorstands im Umgang mit entscheidungsunterstützenden KI-Systemen im Leitungsbereich 171
A. Anknüpfungspunkt der Pflichtverletzung 172
I. Zurechnung der fehlerhaften Arbeitsleistung des KI-Systems 172
1. Kein Handeln in Erfüllung der Verbindlichkeiten des Vorstands 172
2. Fehlende Verschuldensfähigkeit 174
3. Teleologische Begründung 176
4. Zwischenergebnis 177
II. Verstöße gegen das Delegationsverbot 178
III. Pflichtverletzung aufgrund unterlassener Aufgabenübertragung an ein KI-System 178
IV. Verletzung von KI-spezifischen Sorgfaltspflichten des Vorstands 179
V. Keine Zurechnung von Pflichtverletzungen des KI-zuständigen Vorstandsmitglieds 180
B. Kausalität zwischen Pflichtverletzung und Schaden als Voraussetzung der Ersatzpflicht 181
I. Kausalzusammenhang 181
II. Fallgruppe des rechtmäßigen Alternativverhaltens 183
Schlussteil: Zusammenfassung der wesentlichen Ergebnisse in Thesen 185
Literaturverzeichnis 192
Stichwortregister 208