Digitalisierung und digitale Teilhabe von Menschen mit Behinderung

Abstract

Erst in den letzten Jahren haben Forschung und Entwicklung zu neuen, digitalen Technologien für Menschen mit Behinderung an Bedeutung gewonnen. Digitalisierung und algorithmische Systeme, einschließlich künstlicher Intelligenz, eröffnen den Betroffenen sowohl Chancen als auch Risiken. Deutschland hat sich dazu verpflichtet, eine gleichberechtigte, digitale Teilhabe zu ermöglichen und Zugangsbarrieren zu beseitigen (u.a. UN-Behindertenrechtskonvention). Rechtliche Regelungen, z.B. zum diskriminierungsfreien Zugang, sowie der ethische Rahmen für den Einsatz dieser Technologien müssen jedoch noch (weiter)entwickelt werden. Dies führt zu einer Reihe von ethischen und rechtlichen Fragen. Wo liegen beispielsweise die Grenzen für den Einsatz von Robotern bei der Pflege? Erste Ansätze wie der risikoadaptierte Regulierungsansatz für algorithmische Systeme der Datenethikkommission werden im Folgenden vorgestellt. Dabei werden Schädigungspotenzial und Regulierungsauflagen im Rahmen der sogenannten Kritikalitätspyramide unterschieden. Zudem wird auf das White Paper und den Artificial Intelligence Act der Europäischen Kommission eingegangen. Die Diskussion über die Regulierung von KI ist also in Gang gekommen, Menschen mit Behinderung werden dabei jedoch nicht ausreichend berücksichtigt. Dies gefährdet ihre gleichberechtigte digitale und gesellschaftliche Teilhabe. Zu diesem Thema wurden Experteninterviews mit Forschenden aus den Bereichen Ethik und Medizin sowie assistive Technologien als auch mit einer Selbsthilfevereinigung von Menschen mit Behinderung geführt.

Abstract: Digitisation and Digital Participation of People with Disabilities

Only in recent years has research and development on new, digital technologies for people with disabilities gained in importance. Digitisation and algorithmic systems, including artificial intelligence, open up both opportunities and risks for those affected. Germany has committed itself to enabling equal digital participation and removing barriers to access (including the UN Convention on the Rights of Persons with Disabilities). However, legal regulations, e.g. on non-discriminatory access, as well as the ethical framework for the use of these technologies still need to be (further) developed. This raises a number of ethical and legal questions. For example, where are the limits for the use of robots in care? Initial approaches such as the risk-adapted regulatory approach for algorithmic systems of the Data Ethics Commission are presented below. A distinction is made between damage potential and regulatory requirements within the framework of the so-called criticality pyramid. In addition, the White Paper and the Artificial Intelligence Act of the European Commission are discussed. The discussion on the regulation of AI is thus underway, but people with disabilities are not sufficiently taken into account. This endangers their equal digital and social participation. On this topic, expert interviews were conducted with researchers from the fields of ethics and medicine as well as assistive technologies and with a self-help association of people with disabilities.