BOOK
Cite BOOK
Style
Köhn, K. (2024). Robot-Recruiting. Datenschutz- und antidiskriminierungsrechtliche Herausforderungen beim Einsatz von KI-Systemen im Einstellungsverfahren. Duncker & Humblot. https://doi.org/10.3790/978-3-428-58983-8
Köhn, Kay Alexander. Robot-Recruiting: Datenschutz- und antidiskriminierungsrechtliche Herausforderungen beim Einsatz von KI-Systemen im Einstellungsverfahren. Duncker & Humblot, 2024. Book. https://doi.org/10.3790/978-3-428-58983-8
Köhn, K (2024): Robot-Recruiting: Datenschutz- und antidiskriminierungsrechtliche Herausforderungen beim Einsatz von KI-Systemen im Einstellungsverfahren, Duncker & Humblot, [online] https://doi.org/10.3790/978-3-428-58983-8
Format
Robot-Recruiting
Datenschutz- und antidiskriminierungsrechtliche Herausforderungen beim Einsatz von KI-Systemen im Einstellungsverfahren
Internetrecht und Digitale Gesellschaft, Vol. 55
(2024)
Additional Information
Book Details
Pricing
About The Author
Kay Alexander Köhn studierte Rechtswissenschaften an der Georg-August-Universität Göttingen und der Özyeğin Universität in Istanbul. Sein Referendariat absolvierte er am Oberlandesgericht Düsseldorf. Seit einigen Jahren ist er als Rechtsanwalt bei einer renommierten Wirtschaftskanzlei in Köln tätig. Er wurde im Frühjahr 2023 an der Rheinischen Friedrich-Wilhelms-Universität Bonn promoviert.Abstract
KI-Systeme, insbesondere zur Sprach- und Videoanalyse, finden zunehmend Anwendung bei der Personalauswahl. Ziel ist es, geeignete Bewerber zu identifizieren und das Einstellungsverfahren zu optimieren. In der Untersuchung werden Datenschutz- und Antidiskriminierungsfragen beleuchtet. Der Autor analysiert, inwieweit Einblicke in die Persönlichkeit und Emotionen der Bewerber zulässig sind. Zudem erörtert er, unter welchen Bedingungen automatisierte Entscheidungen im Einstellungsverfahren legitim sind und inwieweit KI-Systeme transparent gemacht werden müssen. Die potenzielle Diskriminierung durch KI-Systeme wird behandelt und die Abdeckung solcher Fälle durch das AGG analysiert. Dabei werden auch Fragen des Verschuldens und der Verschuldenszurechnung berücksichtigt. Ein Ausblick auf die Auswirkungen der geplanten KI-Verordnung auf den Einsatz solcher KI-Systeme rundet die Untersuchung ab. Der Autor gelangt zu dem Schluss, dass KI-Systeme das Einstellungsverfahren verbessern können.»Robot-Recruiting. Challenges under Data Protection and Anti-Discrimination Law in the use of AI Systems in the Recruitment Process«: The thesis addresses the use of AI systems, specifically for speech and video analysis, in recruiting. Privacy and anti-discrimination issues are highlighted. The first part examines the extent to which insights into the personality and emotions of applicants are possible and automated decisions are legally permissible in the recruitment process within the scope of the GDPR. The second part addresses potential discrimination by AI systems and analyzes the coverage of such cases by the GETA.
Table of Contents
| Section Title | Page | Action | Price |
|---|---|---|---|
| Widmungr | 5 | ||
| Vorwort | 7 | ||
| Inhaltsverzeichnis | 9 | ||
| 1. Kapitel: Einleitung | 21 | ||
| A. War Of Talents | 21 | ||
| B. Software-Einsatz im Einstellungsverfahren | 22 | ||
| C. Phasen des Einstellungsverfahrens | 23 | ||
| D. Arten von Softwaresystemen | 24 | ||
| E. Verbreitung von KI-Systemen | 26 | ||
| F. Grundlegende Kritikpunkte | 27 | ||
| G. Untersuchungsgegenstand der Arbeit | 28 | ||
| 2. Kapitel : Technische Grundlagen | 31 | ||
| A. Verschiedene Methoden des maschinellen Lernens | 31 | ||
| B. Training der Modelle durch nMethode des überwachten Lernens | 32 | ||
| C. Evaluation und Implementierung | 36 | ||
| D. Anwendung des KI-Systems | 36 | ||
| 3. Kapitel: Datenschutzrechtliche Konformität | 39 | ||
| A. Grundlegende Vorgaben der DS-GVO | 39 | ||
| I. Der Arbeitgeber als Verantwortlicher | 39 | ||
| II. Personenbezogene Daten | 41 | ||
| 1. „Einfache“ personenbezogene Daten | 41 | ||
| 2. Besondere Kategorien personenbezogener Daten | 41 | ||
| a) Biometrische Daten zur eindeutigen Identifizierung | 42 | ||
| aa) Vorliegen biometrischer Daten | 42 | ||
| (1) Biometrische Daten – Sprachdaten | 42 | ||
| (2) Biometrische Daten – Videoanalyse | 44 | ||
| bb) Zweckrichtung der Datenverarbeitung – Identifizierung einer natürlichen Person | 45 | ||
| b) Daten, aus denen sensible Aspekte hervorgehen | 45 | ||
| aa) Unmittelbar sensible Daten | 46 | ||
| bb) Mittelbar sensible Daten | 47 | ||
| (1) Erste Auffassung – Objektiver Empfängerhorizont | 47 | ||
| (2) Zweite Auffassung – Gesamtverarbeitungszusammenhang | 48 | ||
| (3) Dritte Auffassung – Auswertungsabsicht | 48 | ||
| (4) Streitentscheid | 49 | ||
| c) Weitere Kategorien sensibler Daten | 50 | ||
| d) Zwischenergebnis – besondere Kategorien personenbezogener Daten | 51 | ||
| III. Art und Weise der Datenverarbeitung | 51 | ||
| 1. Profiling – Generierung von Ausgabedaten | 51 | ||
| 2. Scoring – Europarechtskonformität und Anwendbarkeit im Beschäftigungskontext | 52 | ||
| a) Europarechtswidrigkeit des § 31 BDSG | 53 | ||
| b) Keine Anwendbarkeit des § 31 BDSG im Beschäftigungskontext | 53 | ||
| B. Erlaubnistatbestand für die Datenverarbeitung | 55 | ||
| I. Datenverarbeitung bei Bestandsmitarbeitern – Entwicklung von KI-Systemen | 55 | ||
| 1. Untauglichkeit des § 26 Abs. 1 BDSG als Erlaubnistatbestand für die Entwicklung | 57 | ||
| 2. Einzelfallabwägung bei Art. 6 Abs. 1 lit. f) DS-GVO | 58 | ||
| a) Interessenabwägung | 58 | ||
| b) Zweckändernde Weiterverarbeitung | 60 | ||
| c) Zwischenergebnis – Art. 6 Abs. 1 lit. f) DS-GVO | 61 | ||
| 3. Einwilligung – Risiko eines Widerrufs | 62 | ||
| II. Datenverarbeitung bei Bewerbern – Robot-Recruiting | 64 | ||
| 1. Datenverarbeitung auf der Grundlage von Tarifverträgen und Betriebsvereinbarungen | 64 | ||
| a) Betriebsvereinbarungen – Arbeitnehmerbegriff des BetrVG | 65 | ||
| aa) Erste Auffassung – Regelungsmacht des Betriebsrats | 65 | ||
| bb) Zweite Auffassung – Keine Regelungsmacht des Betriebsrats | 65 | ||
| cc) Streitentscheid – Keine Regelungsmacht | 66 | ||
| b) Tarifverträge – Geringer Regelungsspielraum | 67 | ||
| 2. Erlaubnistatbestand des § 26 Abs. 1 BDSG – Erforderlichkeit des Einsatzes von KI-Systemen zur Sprachanalyse | 68 | ||
| a) (Legitime) Zwecke des Beschäftigungsverhältnisses | 69 | ||
| b) Erforderlichkeit der Datenverarbeitung | 69 | ||
| aa) Geeignetheit – Erwägungsgrund 71, S. 6 und Anforderungen an valide Eignungsdiagnostik | 70 | ||
| (1) Mathematisch-statistische Komponente | 71 | ||
| (2) Eignungsdiagnostische Komponente | 73 | ||
| (a) Theoretische Fundierung | 74 | ||
| (b) Objektivität | 75 | ||
| (c) Reliabilität | 75 | ||
| (d) Validität | 76 | ||
| (e) Ergebnis & Konsequenzen | 76 | ||
| (3) Zwischenergebnis – Geeignetheit der Datenverarbeitung | 77 | ||
| bb) Erforderlichkeit – Effektivere Alternativen | 77 | ||
| cc) Verhältnismäßigkeit im engeren Sinne/Angemessenheit | 80 | ||
| (1) Unzulässige Persönlichkeitsdurchleuchtung | 80 | ||
| (a) Erste Auffassung – Übersteigen menschlicher Erkenntnismöglichkeiten | 81 | ||
| (b) Zweite Auffassung – Sphärentheorie | 82 | ||
| (c) Zwischenergebnis – Persönlichkeitsdurchleuchtung | 85 | ||
| (2) Gesamtabwägung | 85 | ||
| (a) Fehlende Subjektqualität | 85 | ||
| (b) Langzeitfolgen – Beeinflussung der Persönlichkeitsentwicklung | 87 | ||
| (c) Langfristige Vertragsbindung | 88 | ||
| (d) Relevanz der Hierarchieebene | 88 | ||
| (e) Bedeutung des Betriebsklimas | 89 | ||
| (f) Stellenprofil | 90 | ||
| (aa) Verkehrswesentliche Eigenschaft | 90 | ||
| (bb) Fragerecht & Arbeitsplatzbezug | 92 | ||
| (g) Einbeziehung des Betriebsrats | 94 | ||
| (aa) § 94 Abs. 1 S. 1 BetrVG –KI-System als Personalfragebogen | 94 | ||
| (bb) § 94 Abs. 2, 2. Alt. BetrVG – Allgemeine Beurteilungsgrundsätze | 95 | ||
| (cc) § 95 Abs. 1 S. 1 BetrVG – KI-System als Auswahlrichtlinie oder Auswahlhilfe | 96 | ||
| (dd) Weitere Rechte des Betriebsrats | 98 | ||
| (h) Transparenz und Diskriminierungsfreiheit | 99 | ||
| dd) Zwischenergebnis – Erforderlichkeit im Sinne von § 26 Abs. 1 BDSG | 99 | ||
| 3. Videoanalyse | 100 | ||
| a) Verarbeitung sensibler Daten zur Emotionserkennung | 101 | ||
| aa) Art. 9 Abs. 2 lit. b) DS-GVO – Erlaubnistatbestand | 101 | ||
| bb) § 26 Abs. 3 S. 1 BDSG – Erlaubnistatbestand | 102 | ||
| (1) Zwecke des Beschäftigungsverhältnisses | 102 | ||
| (2) Erforderlichkeit zur Ausübung von Rechten aus dem Arbeitsrecht | 102 | ||
| (a) Arbeitgeberseitiges Fragerecht als Recht aus dem Arbeitsrecht | 102 | ||
| (aa) Erste Auffassung – Kein Recht aus dem Arbeitsrecht | 103 | ||
| (bb) Zweite Auffassung – Recht aus dem Arbeitsrecht | 103 | ||
| (cc) Streitentscheid | 104 | ||
| (b) Erforderlichkeit – Umfang des Fragerechts | 104 | ||
| (aa) Geeignetheit – Forschungsstand und Ausblick | 105 | ||
| (bb) Erforderlichkeit – Vergleich mit Videobewerbung | 106 | ||
| (cc) Angemessenheit | 108 | ||
| cc) Zwischenergebnis – Einsatz von KI-Systemen zur Emotionserkennung | 110 | ||
| b) Verarbeitung sensibler Daten zur Persönlichkeitsanalyse | 110 | ||
| 4. Erforderlichkeit der Weiterverarbeitung der Ausgabedaten – Speicherung und Abgleich mit Stellenprofil | 111 | ||
| 5. Datenschutzrechtliche Einwilligung | 112 | ||
| a) Einwilligung im Beschäftigungsverhältnis | 113 | ||
| b) Inhaltliche Grenzen der Einwilligung – Allgemeines Gleichbehandlungsgesetz und Persönlichkeitsdurchleuchtung/Fragerecht | 114 | ||
| aa) Allgemeines Gleichbehandlungsgesetz | 114 | ||
| bb) Persönlichkeitsdurchleuchtung/Fragerecht | 115 | ||
| cc) Keine Einwilligung in die Videoanalyse | 116 | ||
| c) Voraussetzungen der Einwilligung | 116 | ||
| aa) Freiwilligkeit der Erteilung der Einwilligung | 117 | ||
| (1) Koppelungsverbot | 117 | ||
| (a) Begriff der Erforderlichkeit | 118 | ||
| (b) Striktes oder eingeschränktes Koppelungsverbot | 119 | ||
| (2) Gesamtabwägung – Einzelfallumstände | 120 | ||
| (3) Zwischenergebnis – Keine Freiwilligkeit | 122 | ||
| bb) Informiertheit des Bewerbers | 123 | ||
| (1) Informationsumfang | 123 | ||
| (2) Verständlichkeit | 124 | ||
| cc) Unmissverständlichkeit und Formerfordernis | 124 | ||
| (1) Ausgangspunkt – Anforderungen bei graphologischen Gutachten | 124 | ||
| (2) Konsequenzen für den Einsatz von KI-Systemen | 125 | ||
| (3) Formerfordernisse im Beschäftigungskontext | 126 | ||
| d) Zwischenergebnis – Einwilligung | 127 | ||
| 6. Auskunftsrecht in Bezug auf Ausgabedaten | 128 | ||
| a) Allgemeines – Sinn und Zweck des Auskunftsrechts | 128 | ||
| b) Personenbezug der Ausgabedaten | 129 | ||
| c) Verarbeitung der Ausgabedaten | 130 | ||
| d) Entgegenstehende Abwägung mit Fremdinteressen – Meinungsfreiheit | 130 | ||
| aa) Persönlichkeit und Emotionen des Bewerbers | 131 | ||
| bb) (Un-)Geeignetheit des Bewerbers | 131 | ||
| 7. Anspruch auf Berichtigung der Ausgabedaten | 132 | ||
| III. Zwischenergebnis – Erlaubnistatbestand für die Datenverarbeitung | 133 | ||
| C. Verwendung der Ausgabedaten (und davon gegebenenfalls abhängige Informations- und Auskunftspflichten) | 134 | ||
| I. Entscheidungsunterstützende Systeme | 135 | ||
| II. Entscheidungsersetzende Systeme | 135 | ||
| 1. Anspruch oder Verbot | 136 | ||
| 2. Regelungsgegenstand des Art. 22 Abs. 1 DS-GVO – Automatisierte Entscheidung | 138 | ||
| a) Differenzierung zwischen Datenverarbeitung und Entscheidung | 138 | ||
| b) Profiling ≠ Automatisierte Entscheidung | 139 | ||
| c) Zuschreibung von Persönlichkeitsmerkmalen ≠ Automatisierte Entscheidung | 140 | ||
| 3. Ausschließlichkeit – Menschliches Dazwischentreten | 141 | ||
| 4. Rechtliche Wirkung oder ähnlich erhebliche Beeinträchtigung | 143 | ||
| a) Entfaltung rechtlicher Wirkung – Keine rechtliche Statusveränderung durch Ablehnung eines Vertragsschlusses | 143 | ||
| b) Ähnlich erhebliche Beeinträchtigung | 144 | ||
| aa) Erste Auffassung – Beschränkung auf monopolitische Märkte | 145 | ||
| bb) Zweite Auffassung – Einzelfallumstände | 146 | ||
| 5. Zwischenergebnis – Einschlägigkeit des Verbots des Art. 22 Abs. 1 DS-GVO | 147 | ||
| 6. Erlaubnistatbestände des Art. 22 Abs. 2 DS-GVO | 147 | ||
| a) Art. 22 Abs. 2 lit. a) DS-GVO – Erforderlichkeit für den Abschluss eines Vertrages | 147 | ||
| aa) Erste Auffassung – Unmittelbarer Sachzusammenhang | 148 | ||
| bb) Zweite Auffassung – Erforderlichkeit der Automatisierung der Entscheidung | 149 | ||
| b) Europäische oder mitgliedstaatliche Rechtsvorschriften | 152 | ||
| aa) Allgemeines – Nationale Zulässigkeitstatbestände | 152 | ||
| bb) § 31 BDSG – Nationaler Zulässigkeitstatbestand? | 152 | ||
| c) Ausdrückliche Einwilligung | 154 | ||
| 7. Informationspflichten im Falle automatisierter Entscheidungen | 155 | ||
| a) Erstreckung der Informationspflicht | 155 | ||
| aa) Informationspflicht über die Durchführung von „bloßem“ Profiling („Bestehen einer automatisierten Entscheidungsfindung“) | 156 | ||
| bb) Bereitstellung aussagekräftiger Informationen über die involvierte Logik sowie die Tragweite der Verarbeitung auch bei der Durchführung von „bloßem“ Profiling? | 157 | ||
| (1) Erste Auffassung – Informationspflicht nur bei ausschließlich auf Profiling beruhender automatisierter Entscheidung | 158 | ||
| (2) Zweite Auffassung – Informationspflicht bei automatisierter Entscheidung und Möglichkeit freiwilliger Informationserteilung | 159 | ||
| (3) Dritte Auffassung – Informationspflicht in anderen Fällen | 159 | ||
| (a) Erste Unterauffassung – Informationspflicht bei Profiling | 160 | ||
| (b) Zweite Unterauffassung – Informationspflicht bei äquivalenten Risiken | 161 | ||
| (4) Zwischenergebnis – Erstreckung des Anwendungsbereichs erweiterter Informationspflichten | 162 | ||
| b) Umfang der Informationspflicht | 163 | ||
| aa) Mindestrechte | 163 | ||
| bb) Aussagekräftige Informationen über die involvierte Logik | 164 | ||
| (1) Offenlegung des Algorithmus – Allgemeines | 164 | ||
| (2) Offenlegung des Algorithmus – SCHUFA-Urteil des BGH | 165 | ||
| (3) Offenlegung des Algorithmus – DS-GVO und KI-Systeme | 166 | ||
| (a) Offenlegung des Ausgangskonstrukts | 166 | ||
| (b) Offenlegung des Anwendungsalgorithmus | 167 | ||
| (c) Zwischenergebnis – Keine Offenlegung des Algorithmus | 171 | ||
| 8. Erklärbarkeit von KI-Systemen | 172 | ||
| a) Recht auf Erklärung | 173 | ||
| aa) Art. 15 Abs. 1 lit. h) – Abweichender Bedeutungsgehalt | 174 | ||
| bb) Art. 22 Abs. 3 DS-GVO; Erwägungsgrund 71, S. 4; Gesamtschau | 176 | ||
| (1) Recht auf Erklärung als Mindestmaßnahme im Sinne von Art. 22 Abs. 3 DS-GVO | 177 | ||
| (2) Recht auf Erklärung als angemessene Maßnahme | 177 | ||
| (3) Recht auf Erklärung als Produkt verschiedener Vorschriften | 179 | ||
| (4) Anwendungsbereich eines Rechts auf Erklärung auf Grundlage von Art. 22 Abs. 3 i. V. m. Erwägungsgrund 71 | 180 | ||
| b) Umfang des Rechts auf Erklärung | 181 | ||
| aa) Angabe sämtlicher Parameter | 182 | ||
| bb) Angabe der wichtigsten Parameter | 183 | ||
| (1) Globale Methoden | 184 | ||
| (2) Lokale Methoden | 185 | ||
| (a) Kontrafaktische Erklärungen | 186 | ||
| (b) Lokale Features | 187 | ||
| (aa) Modellagnostische Ansätze | 188 | ||
| (bb) Modellspezifische/Dekompositionelle Ansätze | 189 | ||
| III. Zwischenergebnis – Verwendung der Ausgabedaten und davon gegebenenfalls abhängige Informations- und Auskunftspflichten | 190 | ||
| D. Potenzielle nachteilige Folgen bei unzulässiger Datenverarbeitung | 192 | ||
| I. Schadensersatzansprüche – Seltenheit materieller Schäden | 193 | ||
| II. Schadensersatz nach Art. 82 DS-GVO | 193 | ||
| 1. Verstoß gegen die DS-GVO | 193 | ||
| 2. Ersatzfähigkeit immaterieller Schäden | 194 | ||
| 3. Kausalität | 195 | ||
| 4. Exkulpation | 195 | ||
| III. Entschädigungsanspruch gemäß § 823 Abs. 1 BGB i. V. m. Art. 2 Abs. 1, 1 Abs. 1 GG | 195 | ||
| 1. Schwerwiegende Persönlichkeitsrechtsverletzung | 196 | ||
| 2. Rechtswidrigkeit | 197 | ||
| 3. Subsidiarität der Entschädigung in Geld | 197 | ||
| 4. Kapitel: Diskriminierungsrisiken und AGG | 198 | ||
| A. Vermeintliche Diskriminierungsfreiheit | 198 | ||
| B. Gegenteilige Beispiele | 199 | ||
| C. Anspruch auf Schadensersatz gemäß § 15 Abs. 1 AGG | 199 | ||
| I. Anwendbarkeit des AGG – Persönlich und sachlich | 200 | ||
| 1. Persönlicher Anwendungsbereich – Formaler Bewerberbegriff | 200 | ||
| 2. Sachlicher Anwendungsbereich – Zugang zu unselbstständiger Erwerbstätigkeit | 200 | ||
| 3. Zwischenergebnis – Anwendbarkeit des AGG | 201 | ||
| II. Verstoß gegen das Benachteiligungsverbot des § 7 Abs. 1 AGG | 201 | ||
| 1. Unmittelbare Benachteiligung – Weniger günstige Behandlung | 201 | ||
| a) Behandlung – Kein Erfordernis menschlichen Tuns oder Unterlassens | 202 | ||
| aa) Etymologie | 202 | ||
| bb) Wertungswiderspruch | 203 | ||
| cc) Vermeidung des Wertungswiderspruchs durch Anknüpfung an vorheriges, menschliches Verhalten – Werkzeugtheorie | 204 | ||
| (1) Inbetriebnahme als Benachteiligung | 205 | ||
| (2) (Keine) Unterbrechung des Kausalzusammenhangs | 205 | ||
| (3) Maßgeblichkeit der Vorgänge in der konkreten Bewerbungssituation | 206 | ||
| (4) Vorverlagerung des Antidiskriminierungsschutzes und die Fiktion des § 3 Abs. 5 AGG | 207 | ||
| dd) Zwischenergebnis – Kein Erfordernis menschlichen Tuns oder Unterlassens | 208 | ||
| b) Weniger günstig – Verortung des Nachteils | 209 | ||
| aa) Entscheidungsersetzende Systeme | 209 | ||
| (1) Nachteil durch (systeminterne) Prozesse | 209 | ||
| (2) Nachteil durch (Vor-)Auswahl | 211 | ||
| (3) Zwischenergebnis – Verortung des Nachteils bei entscheidungsersetzenden KI-Systemen | 211 | ||
| bb) Entscheidungsunterstützende Systeme | 211 | ||
| (1) Nachteil durch Zuschreibung von Merkmalen | 212 | ||
| (2) Nachteil durch Zahlenwert oder Platzierung | 213 | ||
| (a) Vergleichbarkeit mit Suchmaschinen | 214 | ||
| (b) Nutzung menschlicher Entscheidungsspielräume | 215 | ||
| (c) Ankereffekte und Verhaltensfolgen übersteigerten Systemvertrauens | 215 | ||
| (d) Zwischenergebnis – Nachteil durch Zahlenwert/Rangfolgenplatzierung | 217 | ||
| c) Direkte Anknüpfung an Benachteiligungsmerkmal | 218 | ||
| aa) Maßgeblichkeit des Trainingsprozesses | 218 | ||
| bb) Inbetriebnahme als unmittelbare Benachteiligung | 220 | ||
| cc) Systemverhalten als unmittelbare Benachteiligung | 221 | ||
| dd) Menschliche (Vor-)Auswahlentscheidung als unmittelbare Benachteiligung | 222 | ||
| d) Zwischenergebnis – Unmittelbare Benachteiligung | 223 | ||
| 2. Mittelbare Benachteiligung | 224 | ||
| a) „dem Anschein nach neutrale Vorschriften, Kriterien oder Verfahren“ | 224 | ||
| b) „in besonderer Weise benachteiligen“ | 226 | ||
| aa) Behinderung | 226 | ||
| bb) Ethnische Herkunft | 227 | ||
| cc) Geschlecht | 228 | ||
| dd) Alter | 228 | ||
| ee) Videoanalyse | 228 | ||
| ff) Weitere potenzielle Korrelationen mit Benachteiligungsmerkmalen | 229 | ||
| c) Zwischenergebnis – Mittelbare Benachteiligung | 229 | ||
| 3. Kausalität | 230 | ||
| III. § 22 AGG – Beweislast | 230 | ||
| 1. Mögliche Vermutungstatsachen | 231 | ||
| 2. Statistischer Nachweis | 232 | ||
| a) Vergleichsgruppenbildung bei KI-Systemen | 233 | ||
| b) Vergleich von Teilgruppen | 234 | ||
| c) Vergleich benachteiligte Teilgruppe – Gesamtgruppe | 236 | ||
| d) EuGH/US-amerikanisches Recht | 236 | ||
| e) Zwischenergebnis – Statistischer Nachweis | 237 | ||
| 3. Einhegung der Durchsetzungsprobleme | 238 | ||
| a) Auskunftsanspruch und die Rechtssachen Kelly und Meister | 239 | ||
| b) Datenschutzrechtliche Betroffenenrechte | 240 | ||
| aa) Auskunftsrecht nach Art. 15 Abs. 1 lit. h) DS-GVO | 240 | ||
| bb) Alternative – Sekundäre Darlegungslast des Benutzers | 241 | ||
| IV. Rechtfertigung | 243 | ||
| 1. Rechtfertigung einer mittelbaren Benachteiligung | 243 | ||
| a) Rechtmäßiges Ziel | 243 | ||
| b) Mittel zur Zielerreichung | 244 | ||
| aa) Geeignetheit des Mittels | 244 | ||
| (1) Kausalzusammenhang | 245 | ||
| (2) Statistischer Zusammenhang | 246 | ||
| (3) Prognosegenauigkeit | 248 | ||
| bb) Erforderlichkeit des Mittels | 248 | ||
| cc) Angemessenheit des Mittels | 249 | ||
| (1) Verzicht auf Differenzierung | 250 | ||
| (2) Direkte Ermittlung | 251 | ||
| (3) Alternative, indirekte Ermittlung | 251 | ||
| (a) Alternative Trainingsdatensätze | 251 | ||
| (b) Accuracy-Fairness-Tradeoff | 252 | ||
| (c) Unterschiedliche Konzeptualisierung von Fairness | 253 | ||
| 2. Rechtfertigung einer unmittelbaren Benachteiligung | 257 | ||
| a) Erste Auffassung | 257 | ||
| b) Zweite Auffassung | 258 | ||
| V. Vertretenmüssen | 258 | ||
| 1. Verschuldenserfordernis und Unionsrecht | 259 | ||
| a) Erste Auffassung – Unionsrechtswidrigkeit | 259 | ||
| b) Zweite Auffassung – Unionsrechtskonformität | 260 | ||
| c) Konsequenzen der verschiedenen Auffassungen | 261 | ||
| d) Zwischenergebnis – Verschuldenserfordernis und Unionsrecht | 263 | ||
| 2. Eigenes Verschulden des Arbeitgebers | 263 | ||
| a) Sorgfaltswidrigkeit des Einsatzes per se | 264 | ||
| b) § 831 BGB/§ 12 Abs. 1 AGG – Auswahl und Überwachung | 264 | ||
| aa) Ordnungsgemäße Auswahl des KI-Systems | 265 | ||
| (1) Gruppenfairness oder individuelle Fairness | 267 | ||
| (2) Verzerrungserhaltende oder verzerrungsumwandelnde Fairnesskriterien | 270 | ||
| (3) Konkrete Fairnesskriterien | 271 | ||
| bb) Ordnungsgemäße Überwachung des KI-Systems | 275 | ||
| (1) Allgemeine Leitlinien | 275 | ||
| (2) Konkretisierender Maßstab des § 832 BGB | 277 | ||
| c) Berücksichtigung technischer Maßnahmen | 278 | ||
| aa) Pre-Processing-Verfahren | 279 | ||
| (1) Fairness by Blindness | 280 | ||
| (2) Relabelling, Resampling und Fair Representations | 281 | ||
| bb) In-Processing-Verfahren | 281 | ||
| cc) Post-Processing-Verfahren | 282 | ||
| (1) Ansatz von Post-Processing-Verfahren | 282 | ||
| (2) Rechtliche Grenzen der Anwendung bei Post-Processing | 283 | ||
| (a) Vorliegen einer positiven Maßnahme | 284 | ||
| (b) Vorfeldentscheidungen | 284 | ||
| (c) Einzelfallprüfung (keine automatische und unbedingte Vorrangeinräumung) | 285 | ||
| 3. Zurechnung von schuldhaftem Fehlverhalten | 286 | ||
| a) Schuldhaftes Fehlverhalten des Entwicklers/Software-Anbieters | 286 | ||
| b) Schuldhaftes Fehlverhalten des Personalers | 288 | ||
| c) Schuldhaftes Fehlverhalten des Systems | 289 | ||
| aa) Programmtechnisches Versagen | 289 | ||
| bb) Adäquatheit der Garantiehaftung | 292 | ||
| cc) Ökonomische Erwägungen | 293 | ||
| dd) Personen, deren er sich zur Erfüllung seiner Verbindlichkeit bedient | 295 | ||
| (1) Gleichstellungsgedanke und funktionale Äquivalenz | 295 | ||
| (2) Eigenschaften des Erfüllungsgehilfen | 296 | ||
| (3) Verkehrserwartung | 297 | ||
| (4) Autonomie | 297 | ||
| (a) Grade von Autonomie | 298 | ||
| (b) „Sein oder Nichtsein“ | 299 | ||
| ee) Verschuldensfähigkeit | 300 | ||
| ff) Konkretes Verschulden | 305 | ||
| gg) Kein Erfordernis funktionaler Verschuldensäquivalente/Risikohaftung | 307 | ||
| hh) Alternativvorschlag zur Analogie | 308 | ||
| ii) Zwischenergebnis – Schuldhaftes Fehlverhalten des Systems | 309 | ||
| VI. Schaden | 310 | ||
| 1. Bestqualifizierter Bewerber | 310 | ||
| 2. Restliche Bewerber | 312 | ||
| D. Anspruch auf Entschädigung gemäß § 15 Abs. 2 AGG | 313 | ||
| I. Anspruchsvoraussetzungen | 313 | ||
| II. Höhe der Entschädigung | 314 | ||
| 5. Kapitel: Zusammenfassung der Ergebnisse und Ausblick | 318 | ||
| A. Rückschau | 318 | ||
| B. Datenschutzrecht | 318 | ||
| I. Verarbeitung von Sprachdaten | 318 | ||
| 1. Geeignetheit | 319 | ||
| 2. Erforderlichkeit und Angemessenheit | 319 | ||
| II. Verarbeitung von Videodaten | 320 | ||
| III. Weiterverarbeitung | 320 | ||
| IV. Verwendung der Ausgabe | 320 | ||
| 1. Grundsätzliches Verbot | 320 | ||
| 2. Fälle erlaubter automatisierter Entscheidungen | 321 | ||
| V. Sicherstellung von Transparenz | 321 | ||
| 1. Systemische Transparenz | 322 | ||
| 2. Recht auf Erklärung | 322 | ||
| C. Antidiskriminierungsrecht | 323 | ||
| I. Verortung der Benachteiligung | 323 | ||
| II. Feststellung der Benachteiligung | 325 | ||
| 1. Art. 15 Abs. 1 lit. h) DS-GVO | 325 | ||
| 2. Weitere datenschutzrechtliche Hilfsmechanismen | 326 | ||
| III. Verschulden | 326 | ||
| IV. Rechtfertigung | 327 | ||
| V. Ursachen der Benachteiligung & Abhilfemechanismen | 328 | ||
| D. Ausblick – Europäische KI-Verordnung | 329 | ||
| I. Risikobasierter Ansatz | 329 | ||
| II. Anforderungen an Hochrisiko-KI-Systeme | 330 | ||
| 1. Konformitätsnachweis | 330 | ||
| 2. Inhaltliche Vorgaben der Art. 8–15 KI-VO-E | 331 | ||
| E. Zwischenzeitliche Handhabe & positive Perspektive | 333 | ||
| Literaturverzeichnis | 335 | ||
| Stichwortverzeichnis | 365 |