Menu Expand

Expertensysteme in der öffentlichen Verwaltung

Cite BOOK

Style

Tönsmeyer-Uzuner, S. (2000). Expertensysteme in der öffentlichen Verwaltung. Rechtliche Anforderungen an den Einsatz eines neuen behördlichen Handlungsinstrumentes. Duncker & Humblot. https://doi.org/10.3790/978-3-428-50051-2
Tönsmeyer-Uzuner, Sabine. Expertensysteme in der öffentlichen Verwaltung: Rechtliche Anforderungen an den Einsatz eines neuen behördlichen Handlungsinstrumentes. Duncker & Humblot, 2000. Book. https://doi.org/10.3790/978-3-428-50051-2
Tönsmeyer-Uzuner, S (2000): Expertensysteme in der öffentlichen Verwaltung: Rechtliche Anforderungen an den Einsatz eines neuen behördlichen Handlungsinstrumentes, Duncker & Humblot, [online] https://doi.org/10.3790/978-3-428-50051-2

Format

Expertensysteme in der öffentlichen Verwaltung

Rechtliche Anforderungen an den Einsatz eines neuen behördlichen Handlungsinstrumentes

Tönsmeyer-Uzuner, Sabine

Schriften zum Recht des Informationsverkehrs und der Informationstechnik, Vol. 21

(2000)

Additional Information

Book Details

Pricing

Abstract

Die Autorin beschäftigt sich mit dem zukünftig verstärkt zu erwartenden Einsatz von Künstlicher Intelligenz in öffentlichen Verwaltungen. Am Beispiel von Expertensystemen wird untersucht, welche Einsatzpotentiale derartige Computersysteme bieten, welche Chancen für die Qualität des Verwaltungshandelns hiermit verbunden sind und welche Risiken dem gegenüberstehen.

Der juristische Teil beginnt mit der Bestimmung der Rechtsnatur behördlich genutzter Expertensysteme, an die sich die Untersuchung der rechtlichen Voraussetzungen des Einsatzes anschließt. Sabine Tönsmeyer-Uzuner gelangt zu dem Ergebnis, daß die Grundrechtsrelevanz derartiger Systeme eine gesetzliche Grundlage erfordert, die jedoch nicht notwendig materiell-rechtliche Determinierungen enthalten muß, sondern bei der unter Ungewißheit die gesetzgeberische Gestaltung des Entscheidungsverfahrens ausreicht. Abschließend wird das Modell einer verfassungsgemäßen Ausgestaltung des behördlichen Expertensystemeinsatzes entwickelt.

Table of Contents

Section Title Page Action Price
Vorwort 7
Inhaltsverzeichnis 9
Verzeichnis der verwendeten Abkürzungen 18
Einführung 23
Erster Teil: Expertensysteme als Instrumente behördlichen Handelns 26
1. Abschnitt: Einsatzpotentiale von behördlichen Expertensystemen 26
A. Definition und Abgrenzung des Begriffs „Expertensystem“ 26
I. Ziele und Methodik von Expertensystemen 27
II. Struktur von Expertensystemen 28
III. Abgrenzung von Expertensystemen im Hinblick auf die Fragestellungen im Rahmen der vorliegenden Arbeit 29
B. Potentielle Anwendungsgebiete von Expertensystemen in der öffentlichen Verwaltung 30
I. Kategorien von Expertensystemen 30
II. Ansatzpunkte für den Einsatz von Expertensystemen im Aufgabenbereich der öffentlichen Verwaltung 31
1. Unterstützung von Mitarbeitern der Verwaltung durch die Bereitstellung von Expertenwissen in Entscheidungssituationen 32
2. Übernahme von Routinetätigkeiten 34
3. Qualifizierung von Mitarbeitern 34
4. Konservierung von behördlichem Wissen bei gleichzeitiger Unabhängigkeit von einzelnen Mitarbeitern 35
5. Beratung von Bürgern, z. B. in Umweltfragen 36
a) Das Herbizid-Beratungssystem HERBASYS als Beispiel für einen Einsatz von Expertensystemen zu Beratungszwecken 40
b) Funktionsweise von CHEMPROG, einem Teilmodul des Expertensystems HERBASYS zur Abschätzung von Grundwassergefährdungen durch organische Chemikalien 41
2. Abschnitt: Chancen und Risiken eines behördlichen Einsatzes von Expertensystemen 46
A. Analyse der erwarteten Vorteile eines Einsatzes der Expertensystemtechnologie 47
I. Schnelle und permanente Verfügbarkeit von Informationen und Expertenwissen 47
II. Kostengünstigkeit und dadurch bedingte Einsetzbarkeit von Expertensystemen auf breiter Basis 48
III. Leichte Aktualisierbarkeit der Wissensbasis 50
IV. Selbständige Lernfähigkeit von Expertensystemen 51
V. Laiengerechte Wissensdarstellung und damit die Vision vom behördlichen Expertensystem für jedermann 52
VI. Quantifizierbarkeit und Handhabbarmachung von Ungewißheiten 54
VII. Zusammenfassung 56
B. Risiken des Einsatzes von Expertensystemen 56
I. Allgemeine Gefahren der Automation 57
1. Fehler bei der Entwicklung bzw. Installation von Systemen 57
2. Datenschutz 57
3. Manipulierbarkeit von Daten 59
II. Darüber hinausgehende, expertensystemimmanente Risiken 59
1. Mängel beim Aufbau und der Wartung der Wissensbasis 60
2. Fehlende Kontrolle von Systementscheidungen infolge mangelhafter Transparenz der Entscheidungsfindung 62
3. Unkritische Übernahme von Systementscheidungen 64
4. Qualifikationserosion 65
5. Mangelhafte Überwachung und Weiterentwicklung von Systemen 65
6. Manifestierung der herrschenden Meinung 66
7. Fehlende abschließende Testbarkeit der Systeme infolge des spezifischen Benutzereinflusses auf die Qualität der Ergebnisse 67
8. Negative Neben- und Fernwirkungen 68
III. Ergebnis 69
3. Abschnitt: Die Rechtsnatur von entscheidungs- bzw. beratungsunterstützenden Expertensystemen der öffentlichen Verwaltung 69
A. Rechtliche Qualifizierung von behördlichen Expertensystemen als Verwaltungsvorschrift 71
I. Strukturelle Gemeinsamkeiten von Verwaltungsvorschriften und behördlichen Expertensystemen 71
II. Formelle Aspekte einer Qualifizierung als Verwaltungsvorschrift 72
1. Formfreiheit ermöglicht unterschiedliche Erscheinungsformen von Verwaltungsvorschriften 72
2. Die Zusammenfassung einer Vielzahl von Verwaltungsvorschriften in einer Verwaltungsvorschrift 74
III. Technische Regel im Sinne eines antizipierten Sachverständigengutachtens? 75
IV. Überwindung der bei der Arbeit mit Verwaltungsvorschriften charakteristischen Trennung von Subsumtionsvorgabe und Subsumtion bei der Entscheidungsfindung durch bzw. mit Hilfe von Expertensystemen 78
V. Ergebnis 82
B. Rechtliche Qualifizierung von behördlichen Expertensystemen als Plan 83
I. Abgrenzung von planerischer Tätigkeit und Gesetzesvollzug 84
1. Normstruktur als äußerliches Unterscheidungskriterium von planerischer Gestaltungsfreiheit und Gesetzesvollzug? 85
2. Die Entwicklung von entscheidungs- bzw. beratungsunterstützenden Expertensystemen der Verwaltung als planerischer Prozeß 87
a) Offene Programmierung im Hinblick auf das Handlungsziel 87
b) Planerische Abwägung als charakteristische Ausprägung rechtsstaatlicher Planung 89
aa) Planerische Abwägungsprozesse bei der Festlegung von umweltrechtlichen Grenzwerten 90
bb) Vergleichbarkeit mit Expertensystemen 92
c) Inhaltliche Festsetzungen von Expertensystemen im Vergleich mit anderen Plänen 95
aa) Fehlende unmittelbare Rechtswirkungen von Expertensystemen 95
bb) Kombination von abstrakten und konkret-individuellen Festsetzungen 97
cc) Vorläufigkeit der programmierten Erkenntnisse von Expertensystemen zur Entscheidungs- bzw. Beratungsunterstützung 98
3. Zusammenfassung 100
II. Rechtsfolgen einer Einstufung von Expertensystemen als Plan 101
III. Ergebnis 103
C. Die Entscheidungsfindung mit Hilfe bzw. durch Expertensysteme als neuer Typus eines Verwaltungsverfahrens 104
I. Der enge Begriff des Verwaltungsverfahrens im Sinne von § 9 VwVfG 104
II. Das Verwaltungsverfahren im weiten Sinne 105
III. Die Programmierung behördlicher Expertensysteme als eine verwaltungsrechtlich neuartige Mischform aus administrativer Normsetzung und Verwaltungsverfahren 107
D. Ergebnis: Qualitative Besonderheiten des Instrumentes Expertensystem verhindern die Einordnung in das traditionelle Handlungsinstrumentarium der öffentlichen Verwaltung und erfordern eine Qualifizierung behördlicher Expertensysteme als „Instrumente sui generis“ 109
Zweiter Teil: Rechtliche Voraussetzungen eines Einsatzes von Expertensystemen in der öffentlichen Verwaltung 111
1. Abschnitt: Vereinbarkeit des Einsatzes von Expertensystemen in der öffentlichen Verwaltung mit dem Grundgesetz 111
A. Auswirkungen des Grundsatzes der Grundrechts- und Gesetzesbindung der vollziehenden Gewalt (Art. 1 Abs. 3, 20 Abs. 3 GG) auf den Einsatz von behördlichen Expertensystemen 111
I. Grundsatz des Vorrangs des Gesetzes 112
II. Grundsatz des Vorbehalts des Gesetzes 114
1. §§ 28 Abs. II Nr. 4; 37 Abs. IV; 39 Abs. II Nr. 3 VwVfG als mittelbare Ermächtigung für den Einsatz von Expertensystemen in der öffentlichen Verwaltung? 116
a) Computersysteme mit Hilfsmittelcharakter 118
b) Expertensysteme in der öffentlichen Verwaltung als „automatische Einrichtungen“ im Sinne der §§ 28 Abs. II Nr. 4; 37 Abs. IV; 39 Abs. II Nr. 3 VwVfG? 120
c) Das Beispiel „HERBASYS“ 122
d) Ergebnis 123
2. Erfordernis einer Ermächtigungsgrundlage für den Einsatz von Expertensystemen in der öffentlichen Verwaltung 124
a) Befugnis zum Erlaß von Verwaltungsvorschriften 125
b) Grundrechtsrelevanz und Grundrechtsbetroffenheit der Programmierung und des Einsatzes von behördlichen Expertensystemen 129
aa) Beeinträchtigung materieller Grundrechte 129
(1) Grundrechtsrelevanz der Speicherung und Verarbeitung von Daten in behördlichen Expertensystemen 129
(a) Personenbezogene Daten 129
(b) Unternehmensbezogene Daten 130
(aa) Speicherung und Verarbeitung von Daten über wirtschaftliche Zusammenhänge eines Unternehmens 132
(bb) Speicherung und Verarbeitung von betrieblichem Know-how 133
(cc) Speicherung und Verarbeitung von Informationen, die geeignet sind, rufschädigende und imagebeeinträchtigende Wirkungen zu entfalten 133
(2) Grundrechtsrelevanz von inhaltlichen Festsetzungen am Beispiel behördlicher Expertensysteme für den Bereich des Umwelt- und Technikrechts 138
(a) Vergleichbarkeit gefährdungsabschätzender behördlicher Expertensysteme mit fachrechtlichen Umweltstandards in Verwaltungsvorschriften 139
(b) Betroffenheit einzelner Grundrechte 143
(c) Grundrechtsrelevanz der Programminhalte von ausschließlich zu Beratungszwecken eingesetzten behördlichen Expertensystemen 146
(3) Zusammenfassung 148
bb) Beeinträchtigung von grundrechtsrelevanten Verfahrensrechten 150
cc) Gefahr rechtswidriger Verwaltungsentscheidungen 152
c) Zusammenfassung 153
3. Menschliche Kontrolle als Voraussetzung der Gesetzmäßigkeit 154
4. Die Doppelbindung an „Gesetz und Recht“ (Art. 20 Abs. III GG) 155
5. Zusammenfassung 157
B. Der Einsatz der Expertensystemtechnologie im Verwaltungsverfahren als Verstoß gegen das Verhältnismäßigkeitsprinzip? 158
2. Abschnitt: Qualitative Anforderungen an ein die Expertensystemtechnologie als Handlungsform der Verwaltung zulassendes Gesetz 159
A. Regelungsdichte eines Gesetzes zur Programmierung und zum Einsatz von Expertensystemen in der öffentlichen Verwaltung 160
I. Die „Wesentlichkeit“ eines Regelungsgegenstandes als Abgrenzungskriterium von Rechtssatz- und Parlamentsvorbehalt 160
1. Der Parlamentsvorbehalt in Verwaltungsverfahren mit Öffentlichkeitsbeteiligung 162
2. Gesetzliche Normierung bei ungewissen Sachverhalten 166
a) Ungewißheit der Auswirkungen eines Einsatzes der Expertensystemtechnologie in der öffentlichen Verwaltung auf die Qualität behördlicher Entscheidungen bzw. Beratungen 171
b) Ungewißheit bezüglich der weiteren Entwicklung der Expertensystemtechnologie 173
II. Struktur eines die Programmierung und den Einsatz von Expertensystemen in der öffentlichen Verwaltung regelnden Gesetzes 174
B. Verfassungsrechtliche Anforderungen an strukturelle Verfahrensvorgaben im Zusammenhang mit der Programmierung und der Pflege von behördlichen Expertensystemen 176
I. Der Umfang der gesetzgeberischen Regelungsverpflichtung 176
II. Die Beteiligung von Grundrechtsbetroffenen und Sachverständigen an Verwaltungsverfahren mit Expertensystembeteiligung 178
1. Wesentliche Fragestellungen im Zusammenhang mit der Beteiligung Dritter am Verwaltungsverfahren 179
2. Die Modalitäten der Verfahrensbeteiligung 180
a) Die unterschiedlichen Beteiligungsformen 180
b) Gesetzgeberische Bindungen bei der Gestaltung der Beteiligung von Betroffenen und Sachverständigen 181
aa) Der verfassungsrechtlich gebotene Mindeststandard einer Beteiligung Betroffener in Verfahren zur Programmierung und Pflege von behördlichen Expertensystemen 181
(1) Das Recht auf Beteiligung in der Phase der Programmierung von Expertensystemen 185
(2) Entbehrlichkeit der Beteiligung im konkreten Verfahren durch Beteiligung und Rechtsschutz bei Installation des Systems? 189
bb) Gesetzgeberische Bindungen bei der Entscheidung über den am Verfahren zu beteiligenden Personenkreis 195
(1) Die Beteiligung der in ihren (Grund-)Rechten Betroffenen 195
(2) Die Beteiligung von externen Sachverständigen 199
III. Zusammenfassung 201
C. Modell einer gesetzlichen Verfahrensstrukturierung von behördlichen Verwaltungsverfahren mit Expertensystembeteiligung 202
I. Vorüberlegungen 202
1. Wesentliche Regelungsinhalte einer gesetzgeberischen Verfahrensstrukturierung 203
2. Die Bedeutung des Rechts auf Beteiligung in Verfahren mit Expertensystembeteiligung 203
3. Grundzüge des nachfolgenden Modells einer gesetzlichen Regelung des Einsatzes von behördlichen Expertensystemen 208
II. Die inhaltliche Ausgestaltung von Expertensystemen 210
1. Das Programmierungsverfahren 210
a) Behördlicher Vorschlag eines Expertensystems 213
b) Veröffentlichung des Vorschlages 214
c) Einwendungsrechte der Betroffenen 217
d) Erörterungstermin 218
2. Systemeinführung und behördliche Zurechenbarkeit von Maßnahmen 219
3. Das Verfahren bei Änderungen des Inhaltes von Expertensystemen 221
4. Zusammenfassung 225
III. Bereitstellung von Strukturen zur Gestaltung des Einsatzes von Expertensystemen in der öffentlichen Verwaltung 226
1. Normierung von Struktur und Entscheidungsverfahren einer „Technologiekommission“ 227
2. Gesetzliche Aufgabenbestimmung der Kommission 230
a) Ermittlung von Risiken eines Einsatzes von Expertensystemen in der öffentlichen Verwaltung 232
b) Formulierung und Offenlegung von Ungewißheiten im Zusammenhang mit der Risikoprognose 233
c) Darstellung der Auswirkungen eines Einsatzes der Expertensystemtechnologie in der öffentlichen Verwaltung 233
d) Entwicklung von Strategien zur Risikominimierung 234
aa) Maßnahmen zur Vermeidung fehlerhafter Verwaltungsentscheidungen 235
bb) Entwicklung von Instrumentarien zur Gewährleistung der Kontrollmöglichkeiten durch den Benutzer 236
cc) Maßnahmen zum Schutz von Rechten der durch behördliche Expertensysteme Betroffenen 237
e) Veröffentlichung der den Expertensystemeinsatz in der öffentlichen Verwaltung ausgestaltenden Vorgaben und Beschränkungen 238
IV. Strukturierung von fortlaufenden, systematischen Risikoermittlungmechanismen im Zusammenhang mit dem Einsatz von Expertensystemen in der öffentlichen Verwaltung 239
1. Entwicklung von Mechanismen zur Risikobeobachtung 241
2. Organisation des Einflusses neuer Informationen auf den Prozeß der Risiko-Nutzen-Bewertung 243
V. Organisation des Informationsrückflusses an den Gesetzgeber 245
Dritter Teil: Zusammenfassung der Ergebnisse in Thesenform 246
Glossar 254
Literaturverzeichnis 257
Sachwortverzeichnis 283