Künstliche Intelligenz (KI) für eine leistungsfähige Arbeits- und Sozialverwaltung

Fast jeder Mensch in Deutschland hat früher oder später mit einer Behörde der Arbeits- und Sozialverwaltung zu tun. Und das vor allem in Umbruch- oder Krisenzeiten des Lebens: etwa nach einem Arbeitsunfall, bei Arbeitslosigkeit oder beim Übergang in die Rente. Gleichzeitig haben die Menschen immer weniger Verständnis für langwierige bürokratische Verfahren und komplizierte Bescheide, weil sie im Alltag moderne, einfach zu bedienende, digitale Tools gewohnt sind. Um diese Diskrepanz zwischen Wunsch und Wirklichkeit aufzulösen, spielen KI-Anwendungen eine zentrale Rolle. Denn KI kann helfen, die Beschäftigten in den Behörden zu entlasten, Abläufe effizienter zu gestalten und so bessere Services für Bürgerinnen und Bürger und Unternehmen zu bieten. Eine moderne, leistungsstarke Verwaltung ist damit auch eine wichtige Voraussetzung für das Vertrauen der Bevölkerung in den Staat.

Zudem sieht sich die öffentliche Verwaltung in den nächsten Jahren mit einem massiven Fachkräftemangel konfrontiert. Um überhaupt arbeitsfähig zu bleiben, wenn die geburtenstarken Jahrgänge in Rente gehen, brauchen die Behörden die Unterstützung digitaler und KI-gestützter Anwendungen.

Die Behörden der Arbeits- und Sozialverwaltung haben beim Einsatz von KI eine besondere Verantwortung. Hier werden sensible Daten der Bürgerinnen und Bürger verarbeitet, und es ist besonders wichtig, dass Leistungen wie Rentenzahlungen, Hilfen bei der Suche nach einer neuen Beschäftigung oder Reha-Angebote nach einem Unfall schnell und fehlerfrei bei den Betroffenen ankommen.

Um den verantwortungsvollen KI-Einsatz voranzutreiben, hat die Abteilung Denkfabrik Digitale Arbeitsgesellschaft des Bundesministeriums für Arbeit und Soziales (BMAS) im Mai 2021 das „Netzwerk KI in der Arbeits- und Sozialverwaltung“ ins Leben gerufen. Alle Behörden, für die das BMAS zuständig ist, wurden eingeladen, darin mitzuarbeiten. Etwa 40 Expertinnen und Experten aus rund 20 Behörden, darunter auch die DGUV und die Berufsgenossenschaften, tauschen sich seitdem regelmäßig über Erfahrungen bei der Einführung von KI-Anwendungen aus und diskutieren Herausforderungen und Potenziale.

Ein zentrales Ziel des Netzwerks ist es, Synergien zwischen den Behörden zu schaffen, von den Erfahrungen anderer zu lernen und einmal entwickelte Lösungen über Behördengrenzen hinweg verfügbar zu machen. Dieser Aspekt wird umso wichtiger, je mehr Behörden KI-Anwendungen nutzen. Durch das Lernen anhand von guten Beispielen und der erfolgreichen Einführung von KI in verwandten Bereichen können Behörden von der Expertise anderer profitieren. Das spart Zeit und Geld und erhöht die Chancen auf eine erfolgreiche Implementierung.

Wenn KI-Systeme in der öffentlichen Verwaltung eingesetzt werden, müssen sie den rechtlichen Rahmenbedingungen und höchsten Qualitätsstandards entsprechen. Sie sollen menschenzentriert entwickelt werden, und die Entscheidungen der eingesetzten KI-Systeme sollen diskriminierungsfrei und nachvollziehbar sein. Deshalb hat das Netzwerk in einem partizipativen Prozess selbstverpflichtende Leitlinien^[1] für den verantwortungsvollen KI-Einsatz in der behördlichen Praxis entwickelt und im November 2022 veröffentlicht. Diese sollen den bestehenden rechtlichen Rahmen ergänzen und Orientierung sowie Handhabe für die Anwendung in der behördlichen Praxis im Einklang mit den rechtlichen Vorgaben bieten. Dabei wurden wichtige Empfehlungen, etwa der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD)^[2], der Enquete-Kommission des Bundestages zu KI^[3] und der EU-Kommission^[4], berücksichtigt. So nutzen die Leitlinien beispielsweise einen risikobasierten Ansatz und sind deshalb auch eine wichtige Vorbereitung für die Behörden zur Umsetzung der europäischen KI-Verordnung. Diese stuft KI-Systeme ebenfalls anhand ihres potenziellen Risikos ein und macht darauf basierend Vorgaben an ihre Entwicklung, Kontrolle und Nutzung. Auch einige KI-Anwendungen in der Arbeits- und Sozialverwaltung können künftig in den Hochrisikobereich fallen, etwa wenn es um die Gewährung von Sozialleistungen geht.

Den Leitlinien wurde eine gemeinsame Wertegrundlage für den Einsatz von KI in der Arbeits- und Sozialverwaltung vorangestellt. Auf Grundlage bereits existierender Vorarbeiten dazu, wie zum Beispiel der Ethik-Leitlinien für eine vertrauenswürdige KI der High-Level Expert Group on Artificial Intelligence (AI HLEG) der Europäischen Kommission^[5], wurden relevante Wertepaare identifiziert. Für die Arbeits- und Sozialverwaltung sind die Wertepaare „Menschenzentrierung & Gemeinwohl“, „Fairness & Nicht-Diskriminierung“, „Erklärbarkeit & Transparenz“, „Privatsphäre & Persönlichkeitsschutz“, „Sicherheit & Robustheit“, „Intervenierbarkeit & Verantwortung“ sowie „ökologische Nachhaltigkeit & Ressourcenschonung“ besonders wichtig.

Die weiteren Kapitel der „Selbstverpflichtenden Leitlinien für den KI-Einsatz in der behördlichen Praxis der Arbeits- und Sozialverwaltung“ geben praktische Hilfestellungen,

• wie Einführungsprozesse von KI-Anwendungen menschenzentriert gestaltet und gemeinsam mit den Stakeholderinnen und Stakeholdern Ziele für den KI-Einsatz definiert werden können,
• wie die Folgen des geplanten KI-Einsatzes frühzeitig abgeschätzt und mögliche Risiken für unterschiedliche Personengruppen, aber auch für die Gesellschaft als Ganzes systematisch bewertet werden können,
• wie eine gute Datenqualität sichergestellt und Bias vermieden werden kann und
• wie Transparenz über den Einsatz, die Ziele und die Funktionsweisen der KI-Anwendungen geschaffen und Erklärbarkeit hergestellt werden kann.

Die Leitlinien enthalten hilfreiche Handlungsempfehlungen und praktische Checklisten, die sehr konkret zeigen, wie KI-Anwendungen in den Behörden menschenzentriert eingeführt werden können, also der Einführungsprozess so gestaltet werden kann, dass der Nutzen für die Menschen stets im Mittelpunkt steht. Hierfür ist es insbesondere wichtig, frühzeitig umfassende Beteiligungsmöglichkeiten für spätere Nutzerinnen und Nutzer sowie Betroffene zu schaffen, wie zum Beispiel Bürgerinnen und Bürger, die Beschäftigten in den Behörden sowie Datenschutzbeauftragte und Personalvertretungen.

Gerade beim Einsatz von KI-Anwendungen in der öffentlichen Verwaltung ist es wichtig, mögliche Folgen frühzeitig abzuschätzen und damit verbundene Risiken zu bewerten und diese zu minimieren. Wenn ein KI-System zum Beispiel bei der Bearbeitung von Anträgen auf Sozialleistungen unterstützt, kann ein Fehler des Systems schwerwiegende Folgen für die antragstellenden Personen haben. Grundsätzlich gilt: Je größer das potenzielle Risiko auf individueller oder gesellschaftlicher Ebene, desto höher müssen die Anforderungen an Qualität und Kontrolle der Systeme sein.

Eine hohe Datenqualität ist dabei Voraussetzung für ein zuverlässiges, sicheres und diskriminierungsfreies KI-System und muss genau geprüft werden. Schlechte Qualität der Daten kann beispielsweise zu einem Bias, also einer Verzerrung in den Daten, und in der Folge zu falschen oder diskriminierenden Ergebnissen führen. Diskriminierung entsteht auch, wenn bestehende Ungleichheiten reproduziert werden. Deshalb müssen die Beschäftigten in den Behörden für mögliche Ursachen von Bias und Diskriminierung sensibilisiert werden, um aktiv gegenzusteuern. Eine diverse Aufstellung der Teams in Bezug auf Geschlecht, Alter, Herkunft und andere Merkmale kann dabei helfen.

Wie ein KI-System funktioniert und konkrete Ergebnisse berechnet, muss für unterschiedliche Zielgruppen verständlich und nachvollziehbar sein. So sollten Behördenmitarbeitende in die Lage versetzt werden, Empfehlungen eines KI-Systems richtig einzuordnen und zu bewerten. Für die Nutzerinnen und Nutzer muss klar werden, wie eine sie betreffende Entscheidung zustande gekommen ist und welche Rolle ein KI-System dabei gespielt hat. Besonders wichtig ist, dass für Bürgerinnen und Bürger auch in Zukunft transparent bleibt, ob sie es mit einem Menschen oder einer Maschine zu tun haben. Mitarbeitende der Sozialverwaltung wiederum müssen in einem ausreichenden Maß verstehen können, wie die KI-Systeme funktionieren, mit denen sie arbeiten. Denn nur so können sie die Ergebnisse kritisch hinterfragen und bei Bedarf korrigieren. Auch das dient der Sicherheit.

Die Leitlinien sind ein lebendes Dokument und werden im bewährten partizipativen Prozess des Netzwerks aktuell gehalten und den jeweiligen gesellschaftlichen, rechtlichen und verwaltungstechnischen Anforderungen entsprechend weiterentwickelt. Ein wesentlicher Meilenstein bei der kontinuierlichen Weiterentwicklung wird es sein, die Leitlinien im Hinblick auf die europäische KI-Verordnung zu überprüfen und an den neuen Rechtsrahmen anzupassen.

Außerdem werden die Leitlinien laufend um Lernerfahrungen aus der konkreten Anwendung in der Verwaltungspraxis ergänzt. Dafür fördert das BMAS die Einführung KI-basierter Modernisierungsprojekte in den Arbeits- und Sozialverwaltungen und unterstützt die Behörden zusätzlich durch externe Expertinnen und Experten bei der Anwendung der Leitlinien. So wurden beispielsweise ergänzende Arbeitshilfen entwickelt^[6], die die Empfehlungen der Leitlinien für einzelne Rollen in Projektteams operationalisieren und so noch praxistauglicher machen. Dabei werden die Empfehlungen aus den Leitlinien in einzelne Aufgaben, zum Beispiel für die Projektleitung, das Change-Management oder die technisch oder fachlich Zuständigen, heruntergebrochen. Diese enthalten unter anderem Hinweise zu Verantwortlichkeiten, guten Beispielen, Verfahren zur Aufwandsschätzung und anderen Methoden.

Damit leisten die vom Netzwerk entwickelten Leitlinien einen wichtigen Beitrag, um die verantwortungsvolle Einführung von KI-Anwendungen in den Behörden zu erleichtern und zu beschleunigen. Denn die einzelnen Behörden müssen nicht erst selbst eigene Leitlinien erarbeiten und diese aktualisieren, sondern können auf die gemeinsam entwickelten Leitlinien zurückgreifen. Selbstverständlich führen Leitlinien allein noch nicht dazu, dass die Arbeits- und Sozialverwaltung durch KI-Anwendungen moderner, leistungsstärker oder serviceorientierter wird. Aber sie sind eine wichtige Voraussetzung, damit sich Behörden zutrauen, auf KI-Lösungen zu setzen, und erste größere KI-Projekte anstoßen.

Um die Behörden auch bei der konkreten Entwicklung und Einführung von KI-Anwendungen zu unterstützen, hat das BMAS bereits zwei Projekte – eines bei der Berufsgenossenschaft der Bauwirtschaft (BG BAU) und eines bei der Deutschen Rentenversicherung Bund (DRV Bund) – als KI-Leuchttürme gefördert. Ziel war es zu zeigen, dass es in relativ kurzer Zeit möglich ist, KI-Anwendungen erfolgreich in Behörden einzuführen, die bis dahin noch keine KI genutzt haben. Dafür wurden gezielt Projekte ausgewählt, die innerhalb eines Jahres abgeschlossen werden konnten und einen konkreten Mehrwert für die jeweilige Behörde bieten. Für die Behörden konnte auf diese Weise ein Erfolgserlebnis bei der Implementierung von KI geschaffen werden, das Leitung und Beschäftigte motiviert, weitere KI-Projekte anzustoßen. Gleichzeitig konnte durch die konsequente Anwendung der KI-Leitlinien ein solides Fundament für den menschenzentrierten, verantwortungsvollen und sicheren Umgang mit KI in den Behörden gelegt werden, auf dem diese nun weiter aufbauen können.

Der erste KI-Leuchtturm bei der BG BAU ist seit Dezember 2023 im operativen Betrieb und unterstützt die rund 500 Aufsichtspersonen bei der zielgenauen Unfallprävention.^[7] Das KI-System macht Vorschläge für die Auswahl der Unternehmen, die am dringendsten beraten werden müssen. Informationen werden aus verschiedenen Datenquellen – zum Beispiel zu Unfällen oder in der Vergangenheit festgestellten Arbeitsschutzmängeln, zu Seminarteilnahmen oder den Unternehmensstammdaten – in einer Datenbasis zusammengefasst. In dieser kann die KI-Anwendung Muster erkennen und daraus Empfehlungen ableiten. Während Aufsichtspersonen vor Einführung der KI in etwa 35 Prozent der Fälle Unternehmen anhand der vorliegenden Daten richtig als Risikofall bewertet hatten, konnte diese Trefferquote durch die Unterstützung der KI nahezu verdoppelt werden. Die KI-Anwendung leistet damit einen wichtigen Beitrag, Arbeitsunfälle zu vermeiden und die Arbeit auf Baustellen sicherer zu machen. Dies kann mittelbar auch dazu beitragen, die hohen Kosten für Entschädigung und Rehabilitation zu reduzieren. So trägt das Projekt zur Stabilität des Systems der sozialen Sicherung in Deutschland bei. Dieses Projekt wird in dieser Ausgabe ausführlich auf den Seiten 3ff. vorgestellt.

Bei der DRV Bund wird mit „KIRA – KI für risikobasierte Arbeitgeberprüfungen“ derzeit eine KI-Anwendung entwickelt, die im Prüfdienst für die Vorauswahl und Priorisierung von Prüfschwerpunkten eingesetzt werden soll.^[8] Der Betriebsprüfdienst der DRV Bund stellt sicher, dass Sozialabgaben wie Renten-, Arbeitslosen- und Krankenversicherung von den Arbeitgeberinnen und Arbeitgebern zutreffend gezahlt werden und Arbeitnehmende den korrekten Versicherungsschutz erhalten. Die KI-Anwendung soll alle von den Arbeitgebenden übermittelten Daten scannen, nach Mustern suchen und feststellen, welche Betriebe Auffälligkeiten vorweisen, zum Beispiel ungewöhnlich hohe oder niedrige Beträge sowie fehlende Nachweise. Außerdem soll die KI kennzeichnen, wo in den Unterlagen die Auffälligkeiten zu finden sind. Somit können Prüfungen ohne Auffälligkeiten besonders schnell abgeschlossen und die gewonnene Zeit für schwierigere Fälle genutzt werden. Bei der DRV Bund fallen jährlich rund 400.000 Betriebsprüfungen an, die von derzeit 1.724 Mitarbeitenden geleistet werden. Im Durchschnitt steht den Prüfenden weniger als ein Tag zur Verfügung, um eine Prüfung durchzuführen.

Das KI-Projekt KIRA hat somit das Potenzial, die Arbeit im Prüfdienst der DRV Bund effizienter und effektiver zu gestalten, Arbeitsprozesse durch datengestützte Entscheidungshilfen zu erleichtern und die Qualität der Arbeitgebendenprüfung im Sinne des gesetzlichen Auftrags zu sichern. Bei erfolgreicher Einführung und Skalierung kann die KI-Anwendung dabei unterstützen, die Erfolgsquote der Prüfungen von Arbeitgebenden zu erhöhen sowie zu wenig geleistete Sozialabgaben nachzufordern und so einen Beitrag zur Finanzierung des Sozialversicherungssystems zu leisten.

Diese Beispiele verdeutlichen das enorme Potenzial von KI-Anwendungen für die Arbeits- und Sozialverwaltung. Das ist insbesondere im Lichte des zunehmenden Fachkräftemangels in den Behörden von Bedeutung. Die Unterstützung durch digitale und KI-basierte Anwendungen wird in Zukunft unerlässlich sein, um weiterhin leistungsstarke Behördenarbeit sicherzustellen. Umso wichtiger ist es, dass die Beschäftigten die KI-Anwendungen souverän nutzen können, dass sie ihnen vertrauen und die Unterstützung als tatsächliche Arbeitserleichterung wahrnehmen. In beiden Leuchtturmprojekten wurden die Beschäftigten daher von Anfang an in die Entwicklung der KI-Anwendungen eingebunden und ihre Bedürfnisse berücksichtigt. Das schafft Vertrauen und steigert die Akzeptanz der KI-Anwendungen. Gleichzeitig wurde konsequent auf Weiterbildung und Kompetenzaufbau gesetzt.

Diese positiven KI-Beispiele gilt es jetzt in die Breite der Behörden und Prozesse zu tragen. Damit das gelingt, ist der Austausch der Behörden untereinander, etwa im „Netzwerk KI in der Arbeits- und Sozialverwaltung“ unerlässlich. Denn nur so können Synergien erkannt und bereits bestehende KI-Lösungen behördenübergreifend genutzt werden.