Menu Expand

Cite BOOK

Style

Calabro, C. (2023). Künstliche Intelligenz und Corporate Governance. Der Einsatz von Künstlicher Intelligenz im Vorstand der börsennotierten Aktiengesellschaft. Duncker & Humblot. https://doi.org/10.3790/978-3-428-58706-3
Calabro, Claudio. Künstliche Intelligenz und Corporate Governance: Der Einsatz von Künstlicher Intelligenz im Vorstand der börsennotierten Aktiengesellschaft. Duncker & Humblot, 2023. Book. https://doi.org/10.3790/978-3-428-58706-3
Calabro, C, (2023): Künstliche Intelligenz und Corporate Governance: Der Einsatz von Künstlicher Intelligenz im Vorstand der börsennotierten Aktiengesellschaft, Duncker & Humblot, [online] https://doi.org/10.3790/978-3-428-58706-3

Format

Künstliche Intelligenz und Corporate Governance

Der Einsatz von Künstlicher Intelligenz im Vorstand der börsennotierten Aktiengesellschaft

Calabro, Claudio

Abhandlungen zum Deutschen und Europäischen Gesellschafts- und Kapitalmarktrecht, Vol. 208

(2023)

Additional Information

Book Details

Pricing

About The Author

Claudio Calabro studierte bis 2019 Rechtswissenschaften an der Universität Tübingen und der Universität Freiburg i.Br. Während der Promotion bei Prof. Dr. Jan Lieder, LL.M. (Harvard) war er als wissenschaftlicher Mitarbeiter in einer auf erneuerbare Energien spezialisierten Wirtschaftskanzlei tätig. Seit 2022 ist er Rechtsreferendar am OLG München und wissenschaftlicher Mitarbeiter in einer internationalen Großkanzlei im Bereich Mergers & Acquisitions.

Abstract

Künstliche Intelligenz (KI) hat inzwischen auch den Vorstand großer börsennotierter Aktiengesellschaften erreicht. Viele administrative und analytische Aufgaben des Vorstands werden durch KI effizienter und ökonomischer erfüllt werden können, was der Aktiengesellschaft insoweit einen Wettbewerbsvorteil verschafft.

Diese Entwicklung beleuchtet der Autor in seiner Arbeit umfassend in rechtlicher Hinsicht und schafft für die praktische Vorstandsarbeit bedeutsame Entscheidungsgrundlagen. Er stellt zunächst heraus, welche Hinderungsgründe der Substitution des Vorstands durch KI entgegenstehen. Davon ausgehend erarbeitet der Autor grundsätzliche Leitlinien für die rechtssichere Aufgabendelegation durch den Vorstand an KI. Diese konstatieren die Zulässigkeit der Delegation von Einzelaufgaben an KI, einen KI-spezifischen Pflichtenkanon des Vorstands zur Vermeidung von Haftungsfällen und beantworten die Frage nach einer Pflicht des Vorstands zur Delegation an KI.
»Artificial Intelligence and Corporate Governance. The Use of Artificial Intelligence in the Management Board of Listed Stock Corporations«: Artificial intelligence (AI) regularly represents a competitive advantage in listed stock corporations. It is therefore essential that the management board can use this without liability risks. The author first addresses the question of the permissibility of the complete substitution of the management board by AI. He then paves the way for the legally secure delegation of tasks to AI by developing fundamental guidelines for the avoidance of violations of the board's duties.

Table of Contents

Section Title Page Action Price
Vorwort 9
Inhaltsverzeichnis 11
Abkürzungsverzeichnis 17
Einleitung 19
A. Konkretisierung des Forschungsgegenstandes und Ziele der Untersuchung 19
B. Gang der Untersuchung 22
Erster Teil: Grundlagen der Künstlichen Intelligenz 23
A. Allgemeines 23
I. Definition des Begriffs Künstliche Intelligenz 23
II. Zur anthropomorphen und metaphorischen Sprache in der Arbeit 25
III. Entwicklung der Künstlichen Intelligenz 25
IV. Über „schwache KI“ und „starke KI“ 28
B. Grundzüge der Funktionsweise der in der Arbeit betrachteten KI in Form der (Software-)Agenten 29
I. Grundfunktion des Agenten und Agentenumgebung 30
1. Agentenumgebung 30
2. Agentenprogramme 31
a) Einfacher Reflexagent 32
b) Modellbasierter Reflexagent 32
c) Zielbasierter Agent 33
d) Utilitaristischer Agent 33
II. Lernfähigkeit der Agenten 34
1. Grundzüge des Machine Learnings 34
2. Lernstruktur eines lernenden Agenten 35
3. Grundzüge der Lernsysteme und Lernverfahren 37
a) Supervised Learning 37
b) Unsupervised Learning 37
c) Lernverfahren 38
aa) Supervised Learning: Klassifikation 38
bb) Unsupervised Learning: Clustering 39
cc) Künstliche Neuronale Netze 39
C. Zusammenfassung der für die rechtliche Bewertung wesentlichen KI-spezifischen Besonderheiten 41
Zweiter Teil: KI und der Einsatz als Substitut des Vorstands der Aktiengesellschaft 42
A. KI als Vorstandsmitglied einer Aktiengesellschaft? 42
I. Anforderungen an den Vorstand und Anwendung auf KI 43
1. Voraussetzungen aus § 76 Abs. 3 AktG 43
a) Keine juristische Person als Vorstandsmitglied 44
aa) Kompensationsaspekt und haftungsrechtliche Steuerungswirkung in Verbindung mit § 93 AktG 44
(1) Kompensationsaspekt 44
(2) Verhaltenssteuerungsfunktion des § 93 AktG 46
(3) Zwischenergebnis 49
bb) Beeinträchtigung der Geschäftsführung und Unternehmenspolitik 50
cc) Beeinträchtigung der Handlungsfähigkeit der Geschäftsleitung 51
dd) Verschiebung der Personalkompetenz 53
ee) Zwischenergebnis 55
2. Voraussetzungen aus § 76 Abs. 1 AktG 56
a) Beeinträchtigung der Weisungs- und Willensfreiheit 56
b) Beeinträchtigung des Gebots der Gleichberechtigung im Vorstand 58
c) Zwischenergebnis 59
3. Voraussetzungen aus der Person des Vorstands und der Vorstandspraxis 59
a) Persönliche Voraussetzungen an den Vorstand der AG 60
b) Geschäftsleitung durch den Gesamtvorstand 62
aa) Unternehmerische Funktion und Geschäftsleitung 62
bb) Kommunikation und Arbeit im Kollegialorgan 63
c) Zwischenergebnis 65
4. Voraussetzungen aus weiteren Normen des Aktiengesetzes 65
a) Vertrauen in den Vorstand 65
aa) Vertrauensbeziehungen in Bezug auf den menschlichen Vorstand 66
bb) Vergleichbares Vertrauen in KI 67
(1) Technikspezifisches Vertrauen 68
(2) \x07Vertrauen unter Berücksichtigung der technikspezifischen Bausteine im Vertrauensgeflecht des Vorstands 69
(a) Vertrauen der Hauptversammlung in den KI-Vorstand 69
(b) Vertrauen des Aufsichtsrats in den KI-Vorstand 70
(c) Vertrauen anderer Vorstandsmitglieder in den KI-Vorstand 71
(d) Vertrauen Dritter in den KI-Vorstand 73
cc) Zwischenergebnis zum Vertrauen in einen KI-Vorstand 73
b) Transparenz und Publizität 74
aa) Transparenz und Publizität menschlicher Vorstandsmitglieder 74
bb) Transparenz und Publizität von KI-Vorstandsmitgliedern 75
cc) Zwischenergebnis 76
5. Allgemeine technikspezifische Hinderungsgründe 77
a) Missbrauchspotenzial von KI-Vorstandsmitgliedern: Änderung der zulässigen Unternehmensgegenstände und -ziele? 77
b) Erhöhte Haftungsrisiken bei Fehlleistung von KI-Vorständen 78
c) Zusammenfassung allgemeiner technikspezifischer Hinderungsgründe 79
6. Zusammenfassung: Keine KI als Vorstandsmitglied 80
II. Heute grundsätzlich keine KI als Vorstandsmitglied? 80
III. Zusammenfassung zur KI als Vorstandsmitglied 81
Dritter Teil: Die Delegation durch den Vorstand der Aktiengesellschaft an KI 82
A. Delegation an natürliche Personen 82
I. Grundsätzliche Zulässigkeit der Aufgabendelegation durch den Vorstand 83
II. Differenzierung in Leitungs- und Geschäftsführungsaufgaben 83
III. Differenzierung der Reichweite der Delegation 85
B. Delegation an Künstliche Intelligenz 86
I. Kein grundsätzliches Verbot der Delegation an KI 86
II. Delegation von Leitungs- und Geschäftsführungsaufgaben 87
1. Geschäftsführungsaufgaben 87
2. Leitungsaufgaben 89
a) Delegation der Stufe 1: Vorbereitende und nachbereitende Tätigkeiten 89
b) Delegation der Stufe 2: Ausführung der Aufgabe durch KI, Letztentscheidungsbefugnis des Vorstands 91
aa) Meinungsstand 92
bb) Kritische Stellungnahme 93
(1) Zur Ansicht vom technischen Grundverständnis 93
(a) Zur Sicherstellung der Steuerungsmacht 94
(b) Zur Sicherstellung des Vorstandswillens – Überprüfbarkeit der Willenskongruenz 98
(2) Zur Auffassung der Plausibilitätsprüfung 101
(3) Zur Ansicht des Mindesteinflusses 102
(4) Zur Auffassung der Grenzüberschreitung 102
(5) Zusammenfassung zum Meinungsstand 103
cc) Eigene Ansicht: Anforderungen an die Zulässigkeit der Delegation 104
(1) Beständiger Informationsfluss 104
(2) Mit arbeitsrechtlichem Weisungsrecht vergleichbare Einflussmöglichkeit und Reversibilität 106
(3) Reversibilität der Aufgabenübertragung und jederzeitige „Kündigungsmöglichkeit“ 108
dd) Zusammenfassung 109
c) Delegation der Stufe 3: Vollständige Aufgabenübertragung 109
aa) Meinungsstand 110
bb) Kritische Stellungnahme 110
(1) Eigene Bewertung: Unzulässigkeit vollständiger Delegation 111
(a) Informationsfluss des Vorstands 111
(b) Mit arbeitsrechtlicher Weisung vergleichbare Steuerungsmöglichkeit 112
(c) Reversibilität und jederzeitige Kündigungsmöglichkeit 113
(d) Zwischenergebnis der Diskussion 114
(e) Andere Bewertung für spezialisierte Hochtechnologieunternehmen? (Diskussion der dritten Ansicht) 114
(f) Zusammenfassung zu Hochtechnologieunternehmen 116
(2) Zwischenergebnis 117
III. Zusammenfassung zur Delegation an Künstliche Intelligenz 117
C. Haftung des Vorstands nach § 93 Abs. 2 Satz 1 AktG bei der Aufgabendelegation an KI 118
I. Pflicht zur Auswahl, Einweisung und Überwachung bei zulässiger Aufgabendelegation an KI 118
1. Auswahlpflicht 120
a) Zweistufige Geeignetheitsprüfung: 1. Qualifikationsprüfung des Herstellers durch den Vorstand 123
b) Zweistufige Geeignetheitsprüfung: 2. Funktionalitätsprüfung der KI durch den Vorstand 125
aa) Überprüfung der Daten und Datenqualität 125
(1) Datenmenge und Datendiversifikation 125
(2) Qualität der „Label“ der Daten 126
(3) „Legalität“ der Daten 126
bb) Überprüfung der Rahmenbedingungen und Algorithmen 126
cc) Überprüfung der Kontinuität brauchbarer Ergebnisse 127
dd) Art und Weise der Sicherstellung der Funktionalitätsprüfung durch den Vorstand 128
c) Zusammenfassung zur Auswahlpflicht 129
2. Einweisungspflicht 129
a) Einweisungsmaßstab bei KI-Delegataren 130
aa) Verlagerung des Bezugszeitpunkts der Einweisung 131
bb) Verlagerung des Bezugssubjekts der Einweisung 131
cc) Konkrete Einweisungspflichten beim Einsatz von KI 132
(1) Programmierung von Berichtspflichten der KI 133
(2) Regelmäßige „Schulung und Fortbildung“ der KI 134
b) Zusammenfassung zur Einweisungspflicht 135
3. Überwachungspflicht 135
a) Allgemeine Überwachungsparameter beim Einsatz von KI 136
b) Herleitung spezifischer Überwachungspflichten beim Einsatz von KI 138
aa) Kasuistik der Rechtsprechung und Literatur zu § 130 OWiG 139
(1) Einschreiten bei Verdachtsmomenten 139
(2) Laufende Kontrolle 140
(3) Organisationspflichten und mehrstufige Überwachung 142
(4) Zusammenfassung 142
bb) Analogie zu § 80 Abs. 2 WpHG (zuvor: § 33 Abs. 1a WpHG) 143
(1) Keine vergleichbare Interessenlage 144
(a) § 80 Abs. 2 WpHG als Ausnahmeregelung 144
(b) Nicht vergleichbare Pflichtenlage 145
(c) Unterschiedliche Zielsetzung und Schutzwürdigkeit 145
(d) Unterschiedliche Beziehungen der betroffenen Akteure 146
(2) Extraktion organisatorischer Grundanforderungen beim Einsatz von KI aus § 80 Abs. 2 WpHG zur Konkretisierung der Überwachungspflichten des Vorstands 146
(a) Zur Tauglichkeit der Vorschrift für den vorgesehenen Zweck der Konkretisierung 147
(b) Extraktion organisatorischer Grundanforderungen aus § 80 Abs. 2 WpHG 148
c) Zusammenfassung und Formulierung eines Kanons der Überwachungspflichten beim Einsatz von KI 150
II. Übertragbarkeit der ISION-Grundsätze bei „beratender KI“ 151
1. Umfassende Darstellung der Verhältnisse der Gesellschaft und Offenlegung der erforderlichen Unterlagen 152
2. KI-Berater als fachlich qualifizierter Berufsträger 153
a) „Berufsträger“ 153
aa) Interne Beratung 154
bb) Externe Beratung 154
b) „Fachliche Qualifikation“ 155
aa) Zweistufige Formalqualifikationsprüfung auch bei Beratung 155
(1) Interne Beratung 155
(2) Externe Beratung 157
bb) Intensivierung der zweistufigen Qualifikationsprüfung bei KI-Beratung 157
(1) Interne Beratung 157
(2) Externe Beratung 159
c) Zwischenergebnis zum Erfordernis des „fachlich qualifizierten Berufsträger“ 159
3. Unabhängigkeit des KI-Beraters 159
a) Grundsätzliche Unabhängigkeit von KI 160
b) KI-spezifische Besonderheit: Mögliche „technische Unabhängigkeit“ 161
4. Sorgfältige Plausibilitätskontrolle des KI-Rats 162
a) Allgemeine Leitlinien für die Plausibilitätsprüfung 162
b) Plausibilitätsprüfung bei KI-Beratern 164
aa) Interne Beratung 164
bb) Externe KI-gestützte Beratung 164
5. Zusammenfassung: Leitplanken beim Einholen von KI-Rat 166
6. (Mittelfristige) Zukunft der KI-Beratung – Überlegungen zu einem Rechtsfortbildungsvorschlag unter Berücksichtigung ökonomischer und gesellschaftspolitischer Anforderungen 167
a) Notwendigkeit der Erwägung einer Anpassung der Plausibilitätsprüfung bei KI-Beratung 167
b) Kompensationsmöglichkeit der Intransparenz der KI bei der Plausbilitätsprüfung nach hergebrachten Grundsätzen für menschliche Berater 167
aa) Ausschluss „völlig untauglicher Gutachten“ 168
bb) Ausschluss von „Gefälligkeitsgutachten“ 168
c) Ergebnis zu den Überlegungen einer künftigen Anpassung der Plausibilitätsprüfung beim Einsatz von KI-Beratern 170
D. Pflicht zum Einsatz von KI im Rahmen der Business Judgment Rule? 171
I. Maßstab für eine angemessene Informationsgrundlage 171
1. „Angemessenheit“ der Informationsgrundlage 172
2. Gerichtliche Kontrolle des Beurteilungsspielraums 173
II. Pflicht zur Konsultation von KI für eine angemessene Informationsgrundlage? 176
III. Zusammenfassung 178
E. Zusammenfassung zur Delegation 178
Zusammenfassung der Forschungsergebnisse in Thesen 180
Literaturverzeichnis 186
Stichwortverzeichnis 199