DGUV-Risikoobservatorium: Trendthema KI und Folgen für den Arbeitsschutz

Die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) definiert KI wie folgt: Ein KI-System ist ein maschinengestütztes System, das für explizite oder implizite Ziele aus den empfangenen Eingaben ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können.^[1] KI gilt als Zukunftstechnologie und verspricht, die digitale Transformation weiter voranzutreiben. Umgekehrt ist die dynamische Technologisierung aller Lebensbereiche der grundlegende Treiber von KI. Die Leistungsfähigkeit von IT-Systemen steigt weiter rasant, es entwickeln sich immer leistungsfähigere Computer (Supercomputer), sogar Quantencomputer sind in naher Zukunft absehbar. Gleichzeitig steigt die Verfügbarkeit riesiger Datenmengen (Big Data) – häufig sogar in Echtzeit – und die Vernetzung von Objekten, Daten, (Kauf-, Bezahl- Liefer-, Produktions-)Prozessen und Lebewesen im „Internet of Everything“ nimmt zu. Ein weiterer Antrieb für KI ist durch neue Technologien zu erwarten. Dazu gehören die Weiterentwicklung autonomer Fahrzeuge, die KI voraussetzt, oder auch der Mobilfunkstandard 6G, wobei sich KI und das 6G-Netzwerk gegenseitig bedingen.^[2][3]

Cyberkriminalität beziehungsweise Cybersicherheit gewinnen für Unternehmen und Institutionen immer mehr an Relevanz. KI wird von Kriminellen eingesetzt, um ihre Angriffsmethoden zu verfeinern, die mit konventionellen Erkennungsinstrumenten kaum zu identifizieren sind. Umgekehrt bietet KI auch Potenziale zur Risikoerkennung und erlaubt es, bösartige Angriffe schneller zu erkennen, zu analysieren und darauf zu reagieren. Beim „Wettrüsten“ zwischen Angreifenden und Verteidigenden halten Fachleute den Einsatz von selbstlernender KI für Unternehmen für alternativlos. Diese nutzt intelligente Algorithmen zur Erkennung von Mustern und Anomalien, die einem Cyberangriff vorausgehen.^[4] Auch der wachsende Druck, dem Klimawandel zu begegnen, stellt einen potenziellen Treiber für KI dar. So lassen sich etwa in historischen Wetterdaten Muster erkennen und damit Früherkennungssysteme für Klimaveränderungen entwickeln. Mit KI-Anwendungen ist es ebenfalls möglich, Klimamodelle so nachzubilden, dass sie weniger Rechenleistung und damit Energie benötigen.^[5]

Der Personal- und Fachkräftemangel prägt KI weniger eindeutig, zumal die Technologie noch am Beginn ihrer Entwicklung steht. Es gibt für fast alle Branchen Beispiele, wie KI Beschäftigte entlasten kann, allerdings schafft KI besonders in der Anfangsphase der Implementierung neue, anspruchsvolle Aufgaben, zum Beispiel Programmierung und Überwachung.^[6][7] Der weitere Fortschritt von KI wird auch von der Fähigkeit der Beschäftigten beeinflusst, mit (generativer) KI effektiv zu interagieren und sich die notwendigen Kenntnisse anzueignen.^[8]

Mit KI lassen sich komplexe technische Abläufe und belastungsintensive Tätigkeiten mit hoher Unfallgefahr automatisieren, aber auch Prozesse der Entscheidungsfindung. KI wird in verschiedensten Systemen in fast allen Branchen eingesetzt; zu den Anwendungen zählen zum Beispiel kollaborierende Roboter (Cobots), Wearable-Technologien, smarte Exoskelette, intelligente persönliche Schutzausrüstung (PSA), autonomes Fahren, Chatbots und KI-gestützte Programme im Personalmanagement.^[9]

KI eignet sich für repetitive, standardisierte und einfache Aufgaben^[10], generative KI bietet aber auch Wissensarbeitenden die Möglichkeit, bei kreativen Aufgaben schneller und besser zu werden. Dabei profitieren Personen mit unterdurchschnittlicher Leistungsfähigkeit besonders stark.^[11] KI kann Prozesse verschlanken und beschleunigen, Beschäftigte entlasten, den Personalmangel reduzieren oder älteren Personen und Menschen mit Einschränkungen die Arbeit erleichtern beziehungsweise ihnen den Weg in die Arbeitswelt ermöglichen.^[12] KI-basierte Weiterbildungssysteme haben das Potenzial, Beschäftigte individuell und effizient beim Lernen zu unterstützen und Kompetenzlücken in Organisationen zu schließen.^[13] Für Führungskräfte kann KI den Zugang zu Daten erweitern und erleichtern, schnellere Kommunikation ermöglichen und die Vernetzung fördern. Eine Entlastung bei Routineaufgaben bietet mehr Raum für mitarbeiterorientierte Führung.

KI kann helfen, bei (Beinahe-)Unfällen Muster zu erkennen und Vorhersagen abzuleiten. Große Echtzeitdatenmengen kann man mithilfe von KI auswerten und Beschäftigte frühzeitig warnen, zum Beispiel bei einer plötzlich auftretenden Exposition gegenüber Gefahrstoffen.^[14] Technische Datenblätter oder Rückrufdatenbanken von Produkten können durch maschinelle Lernverfahren automatisiert verarbeitet werden. Die KI kann dann Gefährdungen identifizieren, Zusammenhänge herausstellen und geeignete Maßnahmen zur Risikominderung vorschlagen.^[15] Zudem lassen sich mithilfe von Daten aus den Prüfungen der Unternehmen und des Unfallgeschehens Betriebe mit erhöhtem Beratungsbedarf identifizieren.^[16]

Allerdings sind die physischen und psychischen Risiken durch KI für Beschäftigte vielfältig. Beispielsweise kann die Integration von KI-Komponenten in Maschinen und Anlagen deren Gesamtsicherheit beeinflussen. Sicherheitslücken bei der KI können zu Systemausfällen, physischen Risiken für die Beschäftigten, Unfällen oder materiellen Schäden im Unternehmen führen. Auch Fehlbedienungen und -interpretationen oder Manipulationen von außen durch fehlende Cybersicherheit sind möglich.^[17]

Je umfangreicher KI-Systeme Beschäftigte unterstützen, desto größer ist die Gefahr, dass menschliche Fähigkeiten in den Hintergrund rücken. Eine übermäßige Technologieabhängigkeit kann so zu einer Entqualifizierung führen. Ebenso sind Auswirkungen auf die Zusammenarbeit der Beschäftigten und die kollegiale Unterstützung denkbar.^[18] Des Weiteren können KI-Systeme bei Beschäftigten die Sorge auslösen, durch Maschinen ersetzt zu werden, was Stress und Leistungseinbußen bedingen kann. Die Automatisierung von Aufgaben kann nicht zuletzt dazu führen, dass mehr Tätigkeiten im Sitzen ausgeführt werden und Aufgaben weniger abwechseln, sodass die Beschäftigten vermehrt repetitive Arbeiten erledigen und Bewegungsarmut zunimmt.

KI-gestützte Personalmanagement-Systeme sammeln – oft in Echtzeit – Daten über den Arbeitsplatz, die Beschäftigten, ihre Arbeit und die digitalen Werkzeuge, die sie verwenden. Solche Systeme können die Autonomie der Beschäftigten über ihre Arbeit erheblich einschränken. Der erzeugte Leistungsdruck kann gesundheitliche Probleme zur Folge haben wie etwa Muskel- und Skeletterkrankungen oder Erschöpfung, das Unfallrisiko erhöhen und Ängste um den Arbeitsplatz schüren.^[19][20]

• KI kann die Arbeit auf organisatorischer und individueller Ebene verändern und Tätigkeiten, Abläufe oder einzelne Arbeitsschritte grundlegend erleichtern und inklusiver gestalten, etwa durch Cobots, selbstlernende Systeme, intelligente persönliche Schutzausrüstung oder körperlich unterstützende Assistenzsysteme. KI birgt aber gleichzeitig Risiken, beispielsweise in Bezug auf Cybersicherheit, Datenschutz und Ethik.
• Der selbstbewusste und kritische Umgang mit KI in allen Lebensbereichen stellt eine Schlüsselkompetenz zukünftiger Generationen dar. Ihren Erwerb frühestmöglich zu fördern, ist ein gesamtgesellschaftlicher Auftrag, der auch die gesetzliche Unfallversicherung betrifft.
• Die Unfallversicherungsträger als direkte Ansprechpartner für ihre Mitglieder müssen zum Einsatz von KI unter der Maschinenverordnung und der KI-Verordnung kompetent beraten können. Dies umfasst auch den Aufbau von Know-how in den Prüfstellen von DGUV Test sowie das Engagement in der Normung.
• Eine partizipative Arbeitsgestaltung spielt für die Akzeptanz von KI in Arbeitsprozessen eine wichtige Rolle, die sich auch in den Beratungs- und Informationsangeboten zum Arbeitsschutz spiegeln sollte.
• KI verursacht strukturelle Veränderungen in der Arbeitswelt, neue Berufsbilder entstehen und damit werden andersartige Kompetenzen – auch im Zusammenhang mit Sicherheit und Gesundheit bei der Arbeit – gefragt sein. Entsprechend angepasste Qualifizierungsangebote sind auch im Arbeitsschutz erforderlich, um die Arbeits- und Beschäftigungsfähigkeit der Menschen zu gewährleisten. Nicht zuletzt ist es wichtig, die Aufsichtspersonen der gesetzlichen Unfallversicherung auf diesem Gebiet zu ertüchtigen.
• Es besteht noch erheblicher Forschungsbedarf, etwa zu Fragen der Robustheit und Genauigkeit von Systemen mit KI, aber auch zur Weiterentwicklung des Konzeptes der vertrauenswürdigen KI und seines Transfers in die Praxis. Der Arbeitsschutz muss sowohl die Expertise und Eigenforschung der gesetzlichen Unfallversicherung auf diesem Gebiet stärken als auch die Vernetzung mit Hochschulen und anderen Forschungseinrichtungen ausbauen.
• Das KKI des Instituts für Arbeitsschutz der DGUV (IFA) unterstützt Berufsgenossenschaften und Unfallkassen bei der Planung und Durchführung konkreter KI-Vorhaben. Zudem ist es Anlaufstelle gegenüber Politik, Forschung und Gesellschaft.

Der vollständige Trendbericht aus dem DGUV-Risikoobservatorium findet sich im IFA-Trendportal.^[21]