BOOK
Cite BOOK
Style
Calabro, C. (2023). Künstliche Intelligenz und Corporate Governance. Der Einsatz von Künstlicher Intelligenz im Vorstand der börsennotierten Aktiengesellschaft. Duncker & Humblot. https://doi.org/10.3790/978-3-428-58706-3
Calabro, Claudio. Künstliche Intelligenz und Corporate Governance: Der Einsatz von Künstlicher Intelligenz im Vorstand der börsennotierten Aktiengesellschaft. Duncker & Humblot, 2023. Book. https://doi.org/10.3790/978-3-428-58706-3
Calabro, C (2023): Künstliche Intelligenz und Corporate Governance: Der Einsatz von Künstlicher Intelligenz im Vorstand der börsennotierten Aktiengesellschaft, Duncker & Humblot, [online] https://doi.org/10.3790/978-3-428-58706-3
Format
Künstliche Intelligenz und Corporate Governance
Der Einsatz von Künstlicher Intelligenz im Vorstand der börsennotierten Aktiengesellschaft
Abhandlungen zum Deutschen und Europäischen Gesellschafts- und Kapitalmarktrecht, Vol. 208
(2023)
Additional Information
Book Details
Pricing
About The Author
Claudio Calabro studierte bis 2019 Rechtswissenschaften an der Universität Tübingen und der Universität Freiburg i.Br. Während der Promotion bei Prof. Dr. Jan Lieder, LL.M. (Harvard) war er als wissenschaftlicher Mitarbeiter in einer auf erneuerbare Energien spezialisierten Wirtschaftskanzlei tätig. Seit 2022 ist er Rechtsreferendar am OLG München und wissenschaftlicher Mitarbeiter in einer internationalen Großkanzlei im Bereich Mergers & Acquisitions.Abstract
Künstliche Intelligenz (KI) hat inzwischen auch den Vorstand großer börsennotierter Aktiengesellschaften erreicht. Viele administrative und analytische Aufgaben des Vorstands werden durch KI effizienter und ökonomischer erfüllt werden können, was der Aktiengesellschaft insoweit einen Wettbewerbsvorteil verschafft.Diese Entwicklung beleuchtet der Autor in seiner Arbeit umfassend in rechtlicher Hinsicht und schafft für die praktische Vorstandsarbeit bedeutsame Entscheidungsgrundlagen. Er stellt zunächst heraus, welche Hinderungsgründe der Substitution des Vorstands durch KI entgegenstehen. Davon ausgehend erarbeitet der Autor grundsätzliche Leitlinien für die rechtssichere Aufgabendelegation durch den Vorstand an KI. Diese konstatieren die Zulässigkeit der Delegation von Einzelaufgaben an KI, einen KI-spezifischen Pflichtenkanon des Vorstands zur Vermeidung von Haftungsfällen und beantworten die Frage nach einer Pflicht des Vorstands zur Delegation an KI.»Artificial Intelligence and Corporate Governance. The Use of Artificial Intelligence in the Management Board of Listed Stock Corporations«: Artificial intelligence (AI) regularly represents a competitive advantage in listed stock corporations. It is therefore essential that the management board can use this without liability risks. The author first addresses the question of the permissibility of the complete substitution of the management board by AI. He then paves the way for the legally secure delegation of tasks to AI by developing fundamental guidelines for the avoidance of violations of the board's duties.
Table of Contents
| Section Title | Page | Action | Price |
|---|---|---|---|
| Vorwort | 9 | ||
| Inhaltsverzeichnis | 11 | ||
| Abkürzungsverzeichnis | 17 | ||
| Einleitung | 19 | ||
| A. Konkretisierung des Forschungsgegenstandes und Ziele der Untersuchung | 19 | ||
| B. Gang der Untersuchung | 22 | ||
| Erster Teil: Grundlagen der Künstlichen Intelligenz | 23 | ||
| A. Allgemeines | 23 | ||
| I. Definition des Begriffs Künstliche Intelligenz | 23 | ||
| II. Zur anthropomorphen und metaphorischen Sprache in der Arbeit | 25 | ||
| III. Entwicklung der Künstlichen Intelligenz | 25 | ||
| IV. Über „schwache KI“ und „starke KI“ | 28 | ||
| B. Grundzüge der Funktionsweise der in der Arbeit betrachteten KI in Form der (Software-)Agenten | 29 | ||
| I. Grundfunktion des Agenten und Agentenumgebung | 30 | ||
| 1. Agentenumgebung | 30 | ||
| 2. Agentenprogramme | 31 | ||
| a) Einfacher Reflexagent | 32 | ||
| b) Modellbasierter Reflexagent | 32 | ||
| c) Zielbasierter Agent | 33 | ||
| d) Utilitaristischer Agent | 33 | ||
| II. Lernfähigkeit der Agenten | 34 | ||
| 1. Grundzüge des Machine Learnings | 34 | ||
| 2. Lernstruktur eines lernenden Agenten | 35 | ||
| 3. Grundzüge der Lernsysteme und Lernverfahren | 37 | ||
| a) Supervised Learning | 37 | ||
| b) Unsupervised Learning | 37 | ||
| c) Lernverfahren | 38 | ||
| aa) Supervised Learning: Klassifikation | 38 | ||
| bb) Unsupervised Learning: Clustering | 39 | ||
| cc) Künstliche Neuronale Netze | 39 | ||
| C. Zusammenfassung der für die rechtliche Bewertung wesentlichen KI-spezifischen Besonderheiten | 41 | ||
| Zweiter Teil: KI und der Einsatz als Substitut des Vorstands der Aktiengesellschaft | 42 | ||
| A. KI als Vorstandsmitglied einer Aktiengesellschaft? | 42 | ||
| I. Anforderungen an den Vorstand und Anwendung auf KI | 43 | ||
| 1. Voraussetzungen aus § 76 Abs. 3 AktG | 43 | ||
| a) Keine juristische Person als Vorstandsmitglied | 44 | ||
| aa) Kompensationsaspekt und haftungsrechtliche Steuerungswirkung in Verbindung mit § 93 AktG | 44 | ||
| (1) Kompensationsaspekt | 44 | ||
| (2) Verhaltenssteuerungsfunktion des § 93 AktG | 46 | ||
| (3) Zwischenergebnis | 49 | ||
| bb) Beeinträchtigung der Geschäftsführung und Unternehmenspolitik | 50 | ||
| cc) Beeinträchtigung der Handlungsfähigkeit der Geschäftsleitung | 51 | ||
| dd) Verschiebung der Personalkompetenz | 53 | ||
| ee) Zwischenergebnis | 55 | ||
| 2. Voraussetzungen aus § 76 Abs. 1 AktG | 56 | ||
| a) Beeinträchtigung der Weisungs- und Willensfreiheit | 56 | ||
| b) Beeinträchtigung des Gebots der Gleichberechtigung im Vorstand | 58 | ||
| c) Zwischenergebnis | 59 | ||
| 3. Voraussetzungen aus der Person des Vorstands und der Vorstandspraxis | 59 | ||
| a) Persönliche Voraussetzungen an den Vorstand der AG | 60 | ||
| b) Geschäftsleitung durch den Gesamtvorstand | 62 | ||
| aa) Unternehmerische Funktion und Geschäftsleitung | 62 | ||
| bb) Kommunikation und Arbeit im Kollegialorgan | 63 | ||
| c) Zwischenergebnis | 65 | ||
| 4. Voraussetzungen aus weiteren Normen des Aktiengesetzes | 65 | ||
| a) Vertrauen in den Vorstand | 65 | ||
| aa) Vertrauensbeziehungen in Bezug auf den menschlichen Vorstand | 66 | ||
| bb) Vergleichbares Vertrauen in KI | 67 | ||
| (1) Technikspezifisches Vertrauen | 68 | ||
| (2) x07Vertrauen unter Berücksichtigung der technikspezifischen Bausteine im Vertrauensgeflecht des Vorstands | 69 | ||
| (a) Vertrauen der Hauptversammlung in den KI-Vorstand | 69 | ||
| (b) Vertrauen des Aufsichtsrats in den KI-Vorstand | 70 | ||
| (c) Vertrauen anderer Vorstandsmitglieder in den KI-Vorstand | 71 | ||
| (d) Vertrauen Dritter in den KI-Vorstand | 73 | ||
| cc) Zwischenergebnis zum Vertrauen in einen KI-Vorstand | 73 | ||
| b) Transparenz und Publizität | 74 | ||
| aa) Transparenz und Publizität menschlicher Vorstandsmitglieder | 74 | ||
| bb) Transparenz und Publizität von KI-Vorstandsmitgliedern | 75 | ||
| cc) Zwischenergebnis | 76 | ||
| 5. Allgemeine technikspezifische Hinderungsgründe | 77 | ||
| a) Missbrauchspotenzial von KI-Vorstandsmitgliedern: Änderung der zulässigen Unternehmensgegenstände und -ziele? | 77 | ||
| b) Erhöhte Haftungsrisiken bei Fehlleistung von KI-Vorständen | 78 | ||
| c) Zusammenfassung allgemeiner technikspezifischer Hinderungsgründe | 79 | ||
| 6. Zusammenfassung: Keine KI als Vorstandsmitglied | 80 | ||
| II. Heute grundsätzlich keine KI als Vorstandsmitglied? | 80 | ||
| III. Zusammenfassung zur KI als Vorstandsmitglied | 81 | ||
| Dritter Teil: Die Delegation durch den Vorstand der Aktiengesellschaft an KI | 82 | ||
| A. Delegation an natürliche Personen | 82 | ||
| I. Grundsätzliche Zulässigkeit der Aufgabendelegation durch den Vorstand | 83 | ||
| II. Differenzierung in Leitungs- und Geschäftsführungsaufgaben | 83 | ||
| III. Differenzierung der Reichweite der Delegation | 85 | ||
| B. Delegation an Künstliche Intelligenz | 86 | ||
| I. Kein grundsätzliches Verbot der Delegation an KI | 86 | ||
| II. Delegation von Leitungs- und Geschäftsführungsaufgaben | 87 | ||
| 1. Geschäftsführungsaufgaben | 87 | ||
| 2. Leitungsaufgaben | 89 | ||
| a) Delegation der Stufe 1: Vorbereitende und nachbereitende Tätigkeiten | 89 | ||
| b) Delegation der Stufe 2: Ausführung der Aufgabe durch KI, Letztentscheidungsbefugnis des Vorstands | 91 | ||
| aa) Meinungsstand | 92 | ||
| bb) Kritische Stellungnahme | 93 | ||
| (1) Zur Ansicht vom technischen Grundverständnis | 93 | ||
| (a) Zur Sicherstellung der Steuerungsmacht | 94 | ||
| (b) Zur Sicherstellung des Vorstandswillens – Überprüfbarkeit der Willenskongruenz | 98 | ||
| (2) Zur Auffassung der Plausibilitätsprüfung | 101 | ||
| (3) Zur Ansicht des Mindesteinflusses | 102 | ||
| (4) Zur Auffassung der Grenzüberschreitung | 102 | ||
| (5) Zusammenfassung zum Meinungsstand | 103 | ||
| cc) Eigene Ansicht: Anforderungen an die Zulässigkeit der Delegation | 104 | ||
| (1) Beständiger Informationsfluss | 104 | ||
| (2) Mit arbeitsrechtlichem Weisungsrecht vergleichbare Einflussmöglichkeit und Reversibilität | 106 | ||
| (3) Reversibilität der Aufgabenübertragung und jederzeitige „Kündigungsmöglichkeit“ | 108 | ||
| dd) Zusammenfassung | 109 | ||
| c) Delegation der Stufe 3: Vollständige Aufgabenübertragung | 109 | ||
| aa) Meinungsstand | 110 | ||
| bb) Kritische Stellungnahme | 110 | ||
| (1) Eigene Bewertung: Unzulässigkeit vollständiger Delegation | 111 | ||
| (a) Informationsfluss des Vorstands | 111 | ||
| (b) Mit arbeitsrechtlicher Weisung vergleichbare Steuerungsmöglichkeit | 112 | ||
| (c) Reversibilität und jederzeitige Kündigungsmöglichkeit | 113 | ||
| (d) Zwischenergebnis der Diskussion | 114 | ||
| (e) Andere Bewertung für spezialisierte Hochtechnologieunternehmen? (Diskussion der dritten Ansicht) | 114 | ||
| (f) Zusammenfassung zu Hochtechnologieunternehmen | 116 | ||
| (2) Zwischenergebnis | 117 | ||
| III. Zusammenfassung zur Delegation an Künstliche Intelligenz | 117 | ||
| C. Haftung des Vorstands nach § 93 Abs. 2 Satz 1 AktG bei der Aufgabendelegation an KI | 118 | ||
| I. Pflicht zur Auswahl, Einweisung und Überwachung bei zulässiger Aufgabendelegation an KI | 118 | ||
| 1. Auswahlpflicht | 120 | ||
| a) Zweistufige Geeignetheitsprüfung: 1. Qualifikationsprüfung des Herstellers durch den Vorstand | 123 | ||
| b) Zweistufige Geeignetheitsprüfung: 2. Funktionalitätsprüfung der KI durch den Vorstand | 125 | ||
| aa) Überprüfung der Daten und Datenqualität | 125 | ||
| (1) Datenmenge und Datendiversifikation | 125 | ||
| (2) Qualität der „Label“ der Daten | 126 | ||
| (3) „Legalität“ der Daten | 126 | ||
| bb) Überprüfung der Rahmenbedingungen und Algorithmen | 126 | ||
| cc) Überprüfung der Kontinuität brauchbarer Ergebnisse | 127 | ||
| dd) Art und Weise der Sicherstellung der Funktionalitätsprüfung durch den Vorstand | 128 | ||
| c) Zusammenfassung zur Auswahlpflicht | 129 | ||
| 2. Einweisungspflicht | 129 | ||
| a) Einweisungsmaßstab bei KI-Delegataren | 130 | ||
| aa) Verlagerung des Bezugszeitpunkts der Einweisung | 131 | ||
| bb) Verlagerung des Bezugssubjekts der Einweisung | 131 | ||
| cc) Konkrete Einweisungspflichten beim Einsatz von KI | 132 | ||
| (1) Programmierung von Berichtspflichten der KI | 133 | ||
| (2) Regelmäßige „Schulung und Fortbildung“ der KI | 134 | ||
| b) Zusammenfassung zur Einweisungspflicht | 135 | ||
| 3. Überwachungspflicht | 135 | ||
| a) Allgemeine Überwachungsparameter beim Einsatz von KI | 136 | ||
| b) Herleitung spezifischer Überwachungspflichten beim Einsatz von KI | 138 | ||
| aa) Kasuistik der Rechtsprechung und Literatur zu § 130 OWiG | 139 | ||
| (1) Einschreiten bei Verdachtsmomenten | 139 | ||
| (2) Laufende Kontrolle | 140 | ||
| (3) Organisationspflichten und mehrstufige Überwachung | 142 | ||
| (4) Zusammenfassung | 142 | ||
| bb) Analogie zu § 80 Abs. 2 WpHG (zuvor: § 33 Abs. 1a WpHG) | 143 | ||
| (1) Keine vergleichbare Interessenlage | 144 | ||
| (a) § 80 Abs. 2 WpHG als Ausnahmeregelung | 144 | ||
| (b) Nicht vergleichbare Pflichtenlage | 145 | ||
| (c) Unterschiedliche Zielsetzung und Schutzwürdigkeit | 145 | ||
| (d) Unterschiedliche Beziehungen der betroffenen Akteure | 146 | ||
| (2) Extraktion organisatorischer Grundanforderungen beim Einsatz von KI aus § 80 Abs. 2 WpHG zur Konkretisierung der Überwachungspflichten des Vorstands | 146 | ||
| (a) Zur Tauglichkeit der Vorschrift für den vorgesehenen Zweck der Konkretisierung | 147 | ||
| (b) Extraktion organisatorischer Grundanforderungen aus § 80 Abs. 2 WpHG | 148 | ||
| c) Zusammenfassung und Formulierung eines Kanons der Überwachungspflichten beim Einsatz von KI | 150 | ||
| II. Übertragbarkeit der ISION-Grundsätze bei „beratender KI“ | 151 | ||
| 1. Umfassende Darstellung der Verhältnisse der Gesellschaft und Offenlegung der erforderlichen Unterlagen | 152 | ||
| 2. KI-Berater als fachlich qualifizierter Berufsträger | 153 | ||
| a) „Berufsträger“ | 153 | ||
| aa) Interne Beratung | 154 | ||
| bb) Externe Beratung | 154 | ||
| b) „Fachliche Qualifikation“ | 155 | ||
| aa) Zweistufige Formalqualifikationsprüfung auch bei Beratung | 155 | ||
| (1) Interne Beratung | 155 | ||
| (2) Externe Beratung | 157 | ||
| bb) Intensivierung der zweistufigen Qualifikationsprüfung bei KI-Beratung | 157 | ||
| (1) Interne Beratung | 157 | ||
| (2) Externe Beratung | 159 | ||
| c) Zwischenergebnis zum Erfordernis des „fachlich qualifizierten Berufsträger“ | 159 | ||
| 3. Unabhängigkeit des KI-Beraters | 159 | ||
| a) Grundsätzliche Unabhängigkeit von KI | 160 | ||
| b) KI-spezifische Besonderheit: Mögliche „technische Unabhängigkeit“ | 161 | ||
| 4. Sorgfältige Plausibilitätskontrolle des KI-Rats | 162 | ||
| a) Allgemeine Leitlinien für die Plausibilitätsprüfung | 162 | ||
| b) Plausibilitätsprüfung bei KI-Beratern | 164 | ||
| aa) Interne Beratung | 164 | ||
| bb) Externe KI-gestützte Beratung | 164 | ||
| 5. Zusammenfassung: Leitplanken beim Einholen von KI-Rat | 166 | ||
| 6. (Mittelfristige) Zukunft der KI-Beratung – Überlegungen zu einem Rechtsfortbildungsvorschlag unter Berücksichtigung ökonomischer und gesellschaftspolitischer Anforderungen | 167 | ||
| a) Notwendigkeit der Erwägung einer Anpassung der Plausibilitätsprüfung bei KI-Beratung | 167 | ||
| b) Kompensationsmöglichkeit der Intransparenz der KI bei der Plausbilitätsprüfung nach hergebrachten Grundsätzen für menschliche Berater | 167 | ||
| aa) Ausschluss „völlig untauglicher Gutachten“ | 168 | ||
| bb) Ausschluss von „Gefälligkeitsgutachten“ | 168 | ||
| c) Ergebnis zu den Überlegungen einer künftigen Anpassung der Plausibilitätsprüfung beim Einsatz von KI-Beratern | 170 | ||
| D. Pflicht zum Einsatz von KI im Rahmen der Business Judgment Rule? | 171 | ||
| I. Maßstab für eine angemessene Informationsgrundlage | 171 | ||
| 1. „Angemessenheit“ der Informationsgrundlage | 172 | ||
| 2. Gerichtliche Kontrolle des Beurteilungsspielraums | 173 | ||
| II. Pflicht zur Konsultation von KI für eine angemessene Informationsgrundlage? | 176 | ||
| III. Zusammenfassung | 178 | ||
| E. Zusammenfassung zur Delegation | 178 | ||
| Zusammenfassung der Forschungsergebnisse in Thesen | 180 | ||
| Literaturverzeichnis | 186 | ||
| Stichwortverzeichnis | 199 |