KI in der Maschinensicherheit: Potenziale, Grenzen und sichere Einbindung

Gerade dort, wo klassische Schutzkonzepte an ihre Grenzen stoßen, eröffnet der Einsatz von künstlicher Intelligenz neue Möglichkeiten für den Arbeitsschutz. Gleichzeitig kann KI jedoch zu unvorhersehbaren Entscheidungen führen. Für die Sicherheit der Beschäftigten unterliegt ihr Einsatz daher strengen Anforderungen.

Die rasante Entwicklung von KI eröffnet auch für die Maschinensicherheit neue Perspektiven. KI-Systeme können Arbeitsumgebungen interpretieren, Verhaltensmuster erkennen und potenziell gefährliche Situationen frühzeitig melden. So lassen sich Gefährdungen adressieren, die bisher nicht durch konventionelle Sicherheitsfunktionen abgedeckt waren, etwa durch unvorhergesehenes menschliches Verhalten, komplexe Arbeitsumgebungen oder variable Prozesse. Dies ermöglicht die Vermeidung von Arbeitsunfällen. 

Regulatorische Rahmenbedingungen 

Um diese Potenziale zu nutzen und dabei die Sicherheit und Gesundheit der Beschäftigten zu erhalten, werden klare rechtliche Anforderungen benötigt. Die KI-Verordnung (EU) 2024/1689 (KI-VO)^[1] bildet den zentralen europäischen Rechtsrahmen für KI-Systeme. Sie stuft KI-Anwendungen nach Risiken ein und fordert für „Hochrisiko-KI-Systeme“, zu denen KI-basierte Sicherheitsfunktionen in Maschinen zählen, insbesondere: 

• ein Risikomanagement über den gesamten Lebenszyklus,
• hohe Datenqualität, Robustheit und Transparenz,
• technische Dokumentation und menschliche Aufsicht
• sowie Verfahren zum Qualitätsmanagement und Fehlerbehandlung.

Auch die Maschinenverordnung (EU) 2023/1230 (MVO)^[2], gültig ab 20. Januar 2027, betrifft KI-Systeme, wenn sie sicherheitsrelevante Funktionen übernehmen. Die MVO ersetzt die Maschinenrichtlinie 2006/42/EG (MRL)^[3] und verlangt, dass für solche KI-Systeme im Rahmen des Konformitätsbewertungsverfahrens für die Maschine neben den Anforderungen der MVO auch die Anforderungen der KI-VO betrachtet werden.  

Normung und funktionale Sicherheit

Zur Umsetzung der Anforderungen der MRL, und zukünftig der MVO, gelten in der Maschinensicherheit die Grundsätze der funktionalen Sicherheit. Sicherheitsfunktionen müssen deterministisch, nachvollziehbar und validierbar sein. KI-Systeme verhalten sich dagegen probabilistisch. Ihr Entscheidungsprozess ist häufig nicht vollständig erklärbar. Das erschwert den Nachweis der funktionalen Sicherheit im Rahmen des Konformitätsbewertungsprozesses. Normen bilden den Stand der Technik ab und erleichtern die Umsetzung der Anforderungen von MRL und MVO an sichere Maschinen. Relevante Normen auf dem Gebiet der funktionalen Sicherheit sind IEC 61508^[4] und ISO 13849^[5], die Anforderungen an sicherheitsgerichtete Steuerungen festlegen. Diesen Anforderungen müssen auch KI-basierte Sicherheitsfunktionen genügen. Zudem werden die Prüfung und Zertifizierung, zum Beispiel durch notifizierte Stellen, beeinflusst. Neue Bewertungsansätze sind erforderlich.

Nur ein gesamtsystemischer Ansatz kann sicherstellen, dass die Maschine auch unter veränderten Bedingungen vorhersehbar reagiert.

Während die funktionale Sicherheit auf definierte Sicherheitsintegritätslevel (SIL) oder Performance Level (PL) setzt, lassen sich solche Kennwerte auf dynamische KI-Systeme nur eingeschränkt anwenden. Erste Ansätze zur Überbrückung dieser Lücke finden sich im ISO/IEC TR 5469:2024 „Functional Safety and AI Systems“^[6]. Weiterführende Arbeiten erfolgen derzeit im Normungsprojekt ISO/IEC TS 22440^[7].

Gesamtsystemische Absicherung

Damit KI sicher eingesetzt werden kann, muss sie in das gesamte Maschinensystem integriert werden, von der Sensorik über die Steuerung bis zur Mensch-Maschine-Schnittstelle und der Arbeitsumgebung. Entscheidend ist das Zusammenspiel aller Komponenten: Nur wenn ihre Wechselwirkungen verstanden und kontrolliert werden, lässt sich ein sicherer Gesamtzustand gewährleisten.

Eine isolierte Bewertung einzelner KI-Modelle greift dabei zu kurz. Veränderungen an der Datenerfassung oder der Auswertung können das Verhalten des Gesamtsystems beeinflussen. Daher ist es notwendig, die Sicherheit nicht nur auf Funktionsebene, sondern systemisch auf mögliche Rück- und Nebenwirkungen und über den gesamten Lebenszyklus der Maschine hinweg zu betrachten, von der Entwicklung über die Inbetriebnahme bis zum Betrieb, zur Wartung und zum Rückbau.

Nur ein gesamtsystemischer Ansatz kann sicherstellen, dass die Maschine auch unter veränderten Bedingungen vorhersehbar reagiert. So kann KI zu einem Bestandteil eines sicher gestalteten Gesamtsystems werden; unterstützend, aber eingebettet in nachvollziehbare Strukturen und Verantwortlichkeiten.

KI-gestützte Assistenzsysteme

Bereits heute unterstützt KI Beschäftigte direkt, etwa durch Systeme, die gefährliche Körperhaltungen erkennen oder bei riskanten Arbeitsschritten warnen. Diese Assistenzsysteme haben keinen rechnerisch nachweisbaren Einfluss auf die Risikominderung, wirken aber ergänzend zu bestehenden Schutzmaßnahmen. Sie können Fehlverhalten, Ablenkung, Überlastung oder gefährliche Situationen erkennen und so präventiv zur sicheren Arbeit beitragen.

Ein Beispiel ist eine KI-gestützte Objekt- oder Personenerkennung. Diese kann feststellen, wenn Personen ungeschützte Bereiche betreten oder Schutzeinrichtungen umgehen, und dann Warnungen ausgeben oder eine Maschine anhalten, bevor ein Unfall geschieht.

Wesentlich ist, dass solche Systeme nachvollziehbar eingebunden werden. Die DGUV Test Prüfgrundsätze GS-BAU-70^[8] beschreiben grundlegende Anforderungen an den sicheren Einsatz von Assistenzsystemen an Maschinen und Nutzfahrzeugen. Ergänzend wurden in der DGUV Test Information 5^[9] allgemeine Grundsätze für die sicherheitstechnische Bewertung von KI erarbeitet, die künftig als Grundlage für Prüfungen von KI-Systemen in Maschinen dienen können.

Zukunftsperspektive

Die Zukunft der Maschinensicherheit liegt in der Kombination bewährter Sicherheitsprinzipien mit neuen datengetriebenen Verfahren. KI kann dort einen Mehrwert bieten, wo klassische Systeme an Grenzen stoßen, etwa durch vorausschauende Gefährdungserkennung oder adaptive Sicherheitszonen. KI ist in der Lage, Risiken zu erkennen und Maßnahmen vorzuschlagen, aber sicherheitsrelevante Entscheidungen müssen für Betreiberinnen und Betreiber jederzeit überprüfbar bleiben.

Für den Arbeitsschutz bedeutet das: KI kann die sicherheitstechnische Beurteilung unterstützen, diese aber nicht ersetzen. Es braucht klare Zuständigkeiten, eine lückenlose Dokumentation und nachvollziehbare Schritte und Mechanismen, um fehlerhafte Entscheidungen korrigieren zu können. Ziel bleibt, die Zahl der Arbeitsunfälle zu senken. Dies kann durch die Verbindung aus technischer Innovation und bewährter funktionaler Sicherheit geschehen.