Künstliche Intelligenz und Corporate Governance

Claudio Calabro

doi:10.3790/978-3-428-58706-3

Künstliche Intelligenz und Corporate Governance

Preview Login to order (PDF)

BOOK

Cite BOOK

Style

Calabro, C. (2023). Künstliche Intelligenz und Corporate Governance. Der Einsatz von Künstlicher Intelligenz im Vorstand der börsennotierten Aktiengesellschaft. Duncker & Humblot. https://doi.org/10.3790/978-3-428-58706-3

Format

BIBTEX

ENDNOTE

RIS

Download

Künstliche Intelligenz und Corporate Governance

Der Einsatz von Künstlicher Intelligenz im Vorstand der börsennotierten Aktiengesellschaft

Calabro, Claudio

Abhandlungen zum Deutschen und Europäischen Gesellschafts- und Kapitalmarktrecht, Vol. 208

(2023)

Preview Login to order (PDF)

Additional Information

Book Details

Publisher Name: Duncker & Humblot
ISBN: 978-3-428-58706-3
978-3-428-18706-5 (print edition)
DOI: https://doi.org/10.3790/978-3-428-58706-3
Edition: 1
Language: German
Pages: 202
Collections: NBE D&H
NBE RECHT
NBE WISO
RECHT 2023
D&H 2023
Subjects: Corporate governance: role & responsibilities of boards & directors
Company law
Artificial intelligence

Pricing

Institution: € 106.00 (incl. local VAT if applicable)
Individual: € 69.90 (incl. local VAT if applicable)

About The Author

Claudio Calabro studierte bis 2019 Rechtswissenschaften an der Universität Tübingen und der Universität Freiburg i.Br. Während der Promotion bei Prof. Dr. Jan Lieder, LL.M. (Harvard) war er als wissenschaftlicher Mitarbeiter in einer auf erneuerbare Energien spezialisierten Wirtschaftskanzlei tätig. Seit 2022 ist er Rechtsreferendar am OLG München und wissenschaftlicher Mitarbeiter in einer internationalen Großkanzlei im Bereich Mergers & Acquisitions.

Abstract

Künstliche Intelligenz (KI) hat inzwischen auch den Vorstand großer börsennotierter Aktiengesellschaften erreicht. Viele administrative und analytische Aufgaben des Vorstands werden durch KI effizienter und ökonomischer erfüllt werden können, was der Aktiengesellschaft insoweit einen Wettbewerbsvorteil verschafft.

Diese Entwicklung beleuchtet der Autor in seiner Arbeit umfassend in rechtlicher Hinsicht und schafft für die praktische Vorstandsarbeit bedeutsame Entscheidungsgrundlagen. Er stellt zunächst heraus, welche Hinderungsgründe der Substitution des Vorstands durch KI entgegenstehen. Davon ausgehend erarbeitet der Autor grundsätzliche Leitlinien für die rechtssichere Aufgabendelegation durch den Vorstand an KI. Diese konstatieren die Zulässigkeit der Delegation von Einzelaufgaben an KI, einen KI-spezifischen Pflichtenkanon des Vorstands zur Vermeidung von Haftungsfällen und beantworten die Frage nach einer Pflicht des Vorstands zur Delegation an KI.»Artificial Intelligence and Corporate Governance. The Use of Artificial Intelligence in the Management Board of Listed Stock Corporations«: Artificial intelligence (AI) regularly represents a competitive advantage in listed stock corporations. It is therefore essential that the management board can use this without liability risks. The author first addresses the question of the permissibility of the complete substitution of the management board by AI. He then paves the way for the legally secure delegation of tasks to AI by developing fundamental guidelines for the avoidance of violations of the board's duties.

Section Title	Page	Action	Price
Vorwort	9
Inhaltsverzeichnis	11
Abkürzungsverzeichnis	17
Einleitung	19
A. Konkretisierung des Forschungsgegenstandes und Ziele der Untersuchung	19
B. Gang der Untersuchung	22
Erster Teil: Grundlagen der Künstlichen Intelligenz	23
A. Allgemeines	23
I. Definition des Begriffs Künstliche Intelligenz	23
II. Zur anthropomorphen und metaphorischen Sprache in der Arbeit	25
III. Entwicklung der Künstlichen Intelligenz	25
IV. Über „schwache KI“ und „starke KI“	28
B. Grundzüge der Funktionsweise der in der Arbeit betrachteten KI in Form der (Software-)Agenten	29
I. Grundfunktion des Agenten und Agentenumgebung	30
1. Agentenumgebung	30
2. Agentenprogramme	31
a) Einfacher Reflexagent	32
b) Modellbasierter Reflexagent	32
c) Zielbasierter Agent	33
d) Utilitaristischer Agent	33
II. Lernfähigkeit der Agenten	34
1. Grundzüge des Machine Learnings	34
2. Lernstruktur eines lernenden Agenten	35
3. Grundzüge der Lernsysteme und Lernverfahren	37
a) Supervised Learning	37
b) Unsupervised Learning	37
c) Lernverfahren	38
aa) Supervised Learning: Klassifikation	38
bb) Unsupervised Learning: Clustering	39
cc) Künstliche Neuronale Netze	39
C. Zusammenfassung der für die rechtliche Bewertung wesentlichen KI-spezifischen Besonderheiten	41
Zweiter Teil: KI und der Einsatz als Substitut des Vorstands der Aktiengesellschaft	42
A. KI als Vorstandsmitglied einer Aktiengesellschaft?	42
I. Anforderungen an den Vorstand und Anwendung auf KI	43
1. Voraussetzungen aus § 76 Abs. 3 AktG	43
a) Keine juristische Person als Vorstandsmitglied	44
aa) Kompensationsaspekt und haftungsrechtliche Steuerungswirkung in Verbindung mit § 93 AktG	44
(1) Kompensationsaspekt	44
(2) Verhaltenssteuerungsfunktion des § 93 AktG	46
(3) Zwischenergebnis	49
bb) Beeinträchtigung der Geschäftsführung und Unternehmenspolitik	50
cc) Beeinträchtigung der Handlungsfähigkeit der Geschäftsleitung	51
dd) Verschiebung der Personalkompetenz	53
ee) Zwischenergebnis	55
2. Voraussetzungen aus § 76 Abs. 1 AktG	56
a) Beeinträchtigung der Weisungs- und Willensfreiheit	56
b) Beeinträchtigung des Gebots der Gleichberechtigung im Vorstand	58
c) Zwischenergebnis	59
3. Voraussetzungen aus der Person des Vorstands und der Vorstandspraxis	59
a) Persönliche Voraussetzungen an den Vorstand der AG	60
b) Geschäftsleitung durch den Gesamtvorstand	62
aa) Unternehmerische Funktion und Geschäftsleitung	62
bb) Kommunikation und Arbeit im Kollegialorgan	63
c) Zwischenergebnis	65
4. Voraussetzungen aus weiteren Normen des Aktiengesetzes	65
a) Vertrauen in den Vorstand	65
aa) Vertrauensbeziehungen in Bezug auf den menschlichen Vorstand	66
bb) Vergleichbares Vertrauen in KI	67
(1) Technikspezifisches Vertrauen	68
(2) x07Vertrauen unter Berücksichtigung der technikspezifischen Bausteine im Vertrauensgeflecht des Vorstands	69
(a) Vertrauen der Hauptversammlung in den KI-Vorstand	69
(b) Vertrauen des Aufsichtsrats in den KI-Vorstand	70
(c) Vertrauen anderer Vorstandsmitglieder in den KI-Vorstand	71
(d) Vertrauen Dritter in den KI-Vorstand	73
cc) Zwischenergebnis zum Vertrauen in einen KI-Vorstand	73
b) Transparenz und Publizität	74
aa) Transparenz und Publizität menschlicher Vorstandsmitglieder	74
bb) Transparenz und Publizität von KI-Vorstandsmitgliedern	75
cc) Zwischenergebnis	76
5. Allgemeine technikspezifische Hinderungsgründe	77
a) Missbrauchspotenzial von KI-Vorstandsmitgliedern: Änderung der zulässigen Unternehmensgegenstände und -ziele?	77
b) Erhöhte Haftungsrisiken bei Fehlleistung von KI-Vorständen	78
c) Zusammenfassung allgemeiner technikspezifischer Hinderungsgründe	79
6. Zusammenfassung: Keine KI als Vorstandsmitglied	80
II. Heute grundsätzlich keine KI als Vorstandsmitglied?	80
III. Zusammenfassung zur KI als Vorstandsmitglied	81
Dritter Teil: Die Delegation durch den Vorstand der Aktiengesellschaft an KI	82
A. Delegation an natürliche Personen	82
I. Grundsätzliche Zulässigkeit der Aufgabendelegation durch den Vorstand	83
II. Differenzierung in Leitungs- und Geschäftsführungsaufgaben	83
III. Differenzierung der Reichweite der Delegation	85
B. Delegation an Künstliche Intelligenz	86
I. Kein grundsätzliches Verbot der Delegation an KI	86
II. Delegation von Leitungs- und Geschäftsführungsaufgaben	87
1. Geschäftsführungsaufgaben	87
2. Leitungsaufgaben	89
a) Delegation der Stufe 1: Vorbereitende und nachbereitende Tätigkeiten	89
b) Delegation der Stufe 2: Ausführung der Aufgabe durch KI, Letztentscheidungsbefugnis des Vorstands	91
aa) Meinungsstand	92
bb) Kritische Stellungnahme	93
(1) Zur Ansicht vom technischen Grundverständnis	93
(a) Zur Sicherstellung der Steuerungsmacht	94
(b) Zur Sicherstellung des Vorstandswillens – Überprüfbarkeit der Willenskongruenz	98
(2) Zur Auffassung der Plausibilitätsprüfung	101
(3) Zur Ansicht des Mindesteinflusses	102
(4) Zur Auffassung der Grenzüberschreitung	102
(5) Zusammenfassung zum Meinungsstand	103
cc) Eigene Ansicht: Anforderungen an die Zulässigkeit der Delegation	104
(1) Beständiger Informationsfluss	104
(2) Mit arbeitsrechtlichem Weisungsrecht vergleichbare Einflussmöglichkeit und Reversibilität	106
(3) Reversibilität der Aufgabenübertragung und jederzeitige „Kündigungsmöglichkeit“	108
dd) Zusammenfassung	109
c) Delegation der Stufe 3: Vollständige Aufgabenübertragung	109
aa) Meinungsstand	110
bb) Kritische Stellungnahme	110
(1) Eigene Bewertung: Unzulässigkeit vollständiger Delegation	111
(a) Informationsfluss des Vorstands	111
(b) Mit arbeitsrechtlicher Weisung vergleichbare Steuerungsmöglichkeit	112
(c) Reversibilität und jederzeitige Kündigungsmöglichkeit	113
(d) Zwischenergebnis der Diskussion	114
(e) Andere Bewertung für spezialisierte Hochtechnologieunternehmen? (Diskussion der dritten Ansicht)	114
(f) Zusammenfassung zu Hochtechnologieunternehmen	116
(2) Zwischenergebnis	117
III. Zusammenfassung zur Delegation an Künstliche Intelligenz	117
C. Haftung des Vorstands nach § 93 Abs. 2 Satz 1 AktG bei der Aufgabendelegation an KI	118
I. Pflicht zur Auswahl, Einweisung und Überwachung bei zulässiger Aufgabendelegation an KI	118
1. Auswahlpflicht	120
a) Zweistufige Geeignetheitsprüfung: 1. Qualifikationsprüfung des Herstellers durch den Vorstand	123
b) Zweistufige Geeignetheitsprüfung: 2. Funktionalitätsprüfung der KI durch den Vorstand	125
aa) Überprüfung der Daten und Datenqualität	125
(1) Datenmenge und Datendiversifikation	125
(2) Qualität der „Label“ der Daten	126
(3) „Legalität“ der Daten	126
bb) Überprüfung der Rahmenbedingungen und Algorithmen	126
cc) Überprüfung der Kontinuität brauchbarer Ergebnisse	127
dd) Art und Weise der Sicherstellung der Funktionalitätsprüfung durch den Vorstand	128
c) Zusammenfassung zur Auswahlpflicht	129
2. Einweisungspflicht	129
a) Einweisungsmaßstab bei KI-Delegataren	130
aa) Verlagerung des Bezugszeitpunkts der Einweisung	131
bb) Verlagerung des Bezugssubjekts der Einweisung	131
cc) Konkrete Einweisungspflichten beim Einsatz von KI	132
(1) Programmierung von Berichtspflichten der KI	133
(2) Regelmäßige „Schulung und Fortbildung“ der KI	134
b) Zusammenfassung zur Einweisungspflicht	135
3. Überwachungspflicht	135
a) Allgemeine Überwachungsparameter beim Einsatz von KI	136
b) Herleitung spezifischer Überwachungspflichten beim Einsatz von KI	138
aa) Kasuistik der Rechtsprechung und Literatur zu § 130 OWiG	139
(1) Einschreiten bei Verdachtsmomenten	139
(2) Laufende Kontrolle	140
(3) Organisationspflichten und mehrstufige Überwachung	142
(4) Zusammenfassung	142
bb) Analogie zu § 80 Abs. 2 WpHG (zuvor: § 33 Abs. 1a WpHG)	143
(1) Keine vergleichbare Interessenlage	144
(a) § 80 Abs. 2 WpHG als Ausnahmeregelung	144
(b) Nicht vergleichbare Pflichtenlage	145
(c) Unterschiedliche Zielsetzung und Schutzwürdigkeit	145
(d) Unterschiedliche Beziehungen der betroffenen Akteure	146
(2) Extraktion organisatorischer Grundanforderungen beim Einsatz von KI aus § 80 Abs. 2 WpHG zur Konkretisierung der Überwachungspflichten des Vorstands	146
(a) Zur Tauglichkeit der Vorschrift für den vorgesehenen Zweck der Konkretisierung	147
(b) Extraktion organisatorischer Grundanforderungen aus § 80 Abs. 2 WpHG	148
c) Zusammenfassung und Formulierung eines Kanons der Überwachungspflichten beim Einsatz von KI	150
II. Übertragbarkeit der ISION-Grundsätze bei „beratender KI“	151
1. Umfassende Darstellung der Verhältnisse der Gesellschaft und Offenlegung der erforderlichen Unterlagen	152
2. KI-Berater als fachlich qualifizierter Berufsträger	153
a) „Berufsträger“	153
aa) Interne Beratung	154
bb) Externe Beratung	154
b) „Fachliche Qualifikation“	155
aa) Zweistufige Formalqualifikationsprüfung auch bei Beratung	155
(1) Interne Beratung	155
(2) Externe Beratung	157
bb) Intensivierung der zweistufigen Qualifikationsprüfung bei KI-Beratung	157
(1) Interne Beratung	157
(2) Externe Beratung	159
c) Zwischenergebnis zum Erfordernis des „fachlich qualifizierten Berufsträger“	159
3. Unabhängigkeit des KI-Beraters	159
a) Grundsätzliche Unabhängigkeit von KI	160
b) KI-spezifische Besonderheit: Mögliche „technische Unabhängigkeit“	161
4. Sorgfältige Plausibilitätskontrolle des KI-Rats	162
a) Allgemeine Leitlinien für die Plausibilitätsprüfung	162
b) Plausibilitätsprüfung bei KI-Beratern	164
aa) Interne Beratung	164
bb) Externe KI-gestützte Beratung	164
5. Zusammenfassung: Leitplanken beim Einholen von KI-Rat	166
6. (Mittelfristige) Zukunft der KI-Beratung – Überlegungen zu einem Rechtsfortbildungsvorschlag unter Berücksichtigung ökonomischer und gesellschaftspolitischer Anforderungen	167
a) Notwendigkeit der Erwägung einer Anpassung der Plausibilitätsprüfung bei KI-Beratung	167
b) Kompensationsmöglichkeit der Intransparenz der KI bei der Plausbilitätsprüfung nach hergebrachten Grundsätzen für menschliche Berater	167
aa) Ausschluss „völlig untauglicher Gutachten“	168
bb) Ausschluss von „Gefälligkeitsgutachten“	168
c) Ergebnis zu den Überlegungen einer künftigen Anpassung der Plausibilitätsprüfung beim Einsatz von KI-Beratern	170
D. Pflicht zum Einsatz von KI im Rahmen der Business Judgment Rule?	171
I. Maßstab für eine angemessene Informationsgrundlage	171
1. „Angemessenheit“ der Informationsgrundlage	172
2. Gerichtliche Kontrolle des Beurteilungsspielraums	173
II. Pflicht zur Konsultation von KI für eine angemessene Informationsgrundlage?	176
III. Zusammenfassung	178
E. Zusammenfassung zur Delegation	178
Zusammenfassung der Forschungsergebnisse in Thesen	180
Literaturverzeichnis	186
Stichwortverzeichnis	199

Cite BOOK

Style

Format

Künstliche Intelligenz und Corporate Governance

Der Einsatz von Künstlicher Intelligenz im Vorstand der börsennotierten Aktiengesellschaft

Additional Information

Book Details

Pricing

About The Author

Abstract

Table of Contents

Contact

Quick Navigation