KI in der beruflichen Rehabilitation: ein personenzentrierter Ansatz

In dem Projekt KI.ASSIST (2019–2022) wird erstmals systematisch, wissenschaftlich fundiert, praxisnah und bedarfsorientiert untersucht, welche Personengruppen an welchen Lern- und Arbeitsorten nachhaltig von einem Einsatz KI-basierter Assistenzsysteme profitieren können. Dabei steht der Mensch mit seinen Bedarfen im Zentrum des Vorhabens. Vier Projektpartner wirken im Projekt zusammen: der Bundesverband Deutscher Berufsförderungswerke e. V. (BV BFW), die Bundesarbeitsgemeinschaft der Berufsbildungswerke e. V. (BAG BBW), die Bundesarbeitsgemeinschaft Werkstätten für behinderte Menschen e. V. (BAG WfbM) sowie das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI). Das Bundesministerium für Arbeit und Soziales (BMAS) fördert das Projekt aus dem Ausgleichsfonds.

Das Forschungsprojekt vereint mit den Arbeitsschwerpunkten Exploration, Personenzentrierung, Transformation, Monitoring und Dialogplattform verschiedene Perspektiven auf den Einsatz und die Potenziale, aber auch Risiken von künstlicher Intelligenz in der beruflichen Rehabilitation.

Die zehn sogenannten Lern- und Experimentierräume (kurz: LER), die im Cluster "Exploration" eingerichtet werden, stellen das Herzstück des Projekts KI.ASSIST dar.  Sie bieten einen geschützten Rahmen, in dem die Projektpartner gemeinsam mit Menschen mit unterschiedlichen Behinderungen und Fachkräften in Einrichtungen der beruflichen Rehabilitation den Einsatz von KI-basierten Assistenzsystemen erproben können. Jeweils drei Berufsbildungswerke, Berufsförderungswerke und Werkstätten für Menschen mit Behinderung sowie ein Industrieunternehmen sind als Praxispartner bei der Umsetzung der LER beteiligt.

Die meisten Menschen nutzen bereits einfache KI-Systeme beispielsweise die Spracheingabe des Smartphones, ohne diese bewusst als KI wahrzunehmen. Oft werden mit KI sehr unterschiedliche, teilweise überhöhte oder angstbesetzte Erwartungen (Stichwort: Jobkiller) verbunden. Die Ergebnisse einer Online-Befragung, an der sich 540 Menschen mit Behinderung aus den an KI.ASSIST teilnehmenden Einrichtungen beteiligt haben, zeigen eine große Aufgeschlossenheit gegenüber KI-Technologien: 83 Prozent der Befragten sehen die Möglichkeiten, die sich aus der Nutzung von KI-Technologien ergeben. Sie gaben an, dass künstliche Intelligenz sich eher gut auf ihre Arbeit auswirken wird. Fast alle Befragten (91 Prozent) können sich deshalb auch grundsätzlich vorstellen, in Zukunft beim Arbeiten durch KI unterstützt zu werden.

Doch was ist KI? Eine einheitliche Definition gibt es nicht. Das Projekt KI.ASSIST greift hier auf die Arbeitsdefinition der "Hochrangigen Expertengruppe für Künstliche Intelligenz" der Europäischen Kommission zurück. Diese versteht unter KI "vom Menschen entwickelte Softwaresysteme (und gegebenenfalls auch Hardwaresysteme), die in Bezug auf ein komplexes Ziel auf physischer oder digitaler Ebene handeln, indem sie ihre Umgebung durch Datenerfassung wahrnehmen, die gesammelten strukturierten oder unstrukturierten Daten interpretieren, Schlussfolgerungen daraus ziehen oder die aus diesen Daten abgeleiteten Informationen verarbeiten, und über das bestmögliche Handeln zur Erreichung des vorgegebenen Ziels entscheiden."^[1]

Das Forschungsprojekt vereint mit den Arbeitsschwerpunkten Exploration, Personenzentrierung, Transformation, Monitoring und Dialogplattform verschiedene Perspektiven auf den Einsatz und die Potenziale, aber auch Risiken von künstlicher Intelligenz in der beruflichen Rehabilitation.

Unter diese Definition fallen sowohl einfache KI-basierte Technologien wie Sprach- oder Bilderkennungssysteme, die zum Beispiel als KI-Komponente in Assistenzsystemen vorliegen, als auch komplexere Systeme, die aus mehreren KI-Komponenten bestehen.

Um den Bedarfen der Menschen mit Behinderung entsprechende Technologien auszuwählen, wurden diese personenzentriert und partizipativ ermittelt. In mehreren Design-Thinking-Workshops^[2] wurden zunächst die Bedarfe der Rehabilitandinnen und Rehabilitanden herausgearbeitet und anschließend die passenden Technologien selektiert und ein Umsetzungsszenario für die Erprobung im LER erstellt. Die personenzentrierte Herangehensweise bei KI.ASSIST bedeutet für die Erprobung der Technologien: Die Teilhabechancen der Teilnehmenden sollen durch die Orientierung an bestimmten Standards sichergestellt werden. So sollen zum Beispiel Partizipation^[3], Selbstbestimmung und Diskriminierungsfreiheit im LER und bei der Nutzung der KI-Technologien gefördert werden. Dazu eignen sich Maßnahmen wie partizipative Formate, Schulungen zur digitalen Kompetenz und eingesetzten Technologien, barrierefreie Gestaltung des LER oder individuelle Anpassungsmöglichkeiten der Systeme. Eine hohe Priorität wird dabei auch der Datensouveränität und dem Datenschutz eingeräumt. Hier liegt, wie sich in der oben erwähnten Online-Befragung gezeigt hat, ein Schwerpunkt der von den Befragten wahrgenommenen Risiken. 59 Prozent der Befragten ist es besonders wichtig zu wissen, welche Daten von der Technologie gespeichert werden und was im weiteren Verlauf mit den Daten passiert. Außerdem möchten 56 Prozent der Befragten selbst entscheiden, welche Daten an die Technologie übermittelt werden.

Die Verarbeitung personenbezogener Daten durch KI, die beispielsweise Rückschlüsse auf die gesundheitliche Entwicklung der Nutzenden erlauben, erfordert einen kritischen Blick auf den Einsatz von KI-Systemen in der beruflichen Rehabilitation. Das Projekt wird daher von der Expertengruppe "Ethik, KI & Menschen mit Behinderung"^[4] sowie durch Rechtsexperten und Rechtsexpertinnen begleitet. Neben Chancen und Risiken der Nutzung von KI-Technologien werden auch ethische Aspekte in der Entwicklung und in der rechtlichen Regulierung solcher Technologien diskutiert.

Die Verarbeitung personenbezogener Daten durch KI, die beispielsweise Rückschlüsse auf die gesundheitliche Entwicklung der Nutzenden erlauben, erfordert einen kritischen Blick auf den Einsatz von KI-Systemen in der beruflichen Rehabilitation.

Die Erprobung der KI-basierten Assistenzdienste in den LER wird dabei durch eine externe Evaluation begleitet, um zum Beispiel zu erfahren, welche Technologien besonders nützlich für Menschen mit Behinderung sind und welche Chancen und Risiken aus Sicht der LER-Teilnehmenden und Fachkräfte damit jeweils verbunden sein können.

Ausgehend von den praktischen Erfahrungen in den Lern- und Experimentierräumen werden mit dem Projektende im März 2022 möglichst konkrete Empfehlungen für den Einsatz und die Entwicklung von KI für Menschen mit Behinderung vorliegen.

Literatur

Hasso-Plattner-Institut: Was ist Design Thinking? https://hpi.de/school-of-design-thinking/design-thinking/was-ist-design-thinking.html (abgerufen am 10.08.2021)

Hochrangige Expertengruppe für Künstliche Intelligenz: Eine Definition der KI: wichtigste Fähigkeiten und Wissenschaftsgebiete. Brüssel, 2019

Kähler, M.; Feichtenbeiner, R.; Beudt, S.: Facilitating the Implementation of AI-Based Assistive Technologies for Persons with Disabilities in Vocational Rehabilitation: A Practical Design Thinking Approach. In: Roll, I. et al. (Hrsg.): Artificial Intelligence in Education. AIED 2021. Lecture Notes in Computer Science, Vol. 12749. Cham: Springer, 2021