EU liefert das weltweit erste KI-Gesetz

Für viele Menschen sind auf künstlicher Intelligenz (KI) basierte Technologien wie die Einkaufshilfe Alexa, KI-generierte Bilder und Sprachmodelle wie ChatGPT nicht mehr aus ihrem Alltag wegzudenken. Auch in der Sozialversicherung wird KI bereits in verschiedenen Bereichen eingesetzt. KI hilft zum Beispiel, potenzielle Fälle für das Reha-Management zu einem möglichst frühen Zeitpunkt zu ermitteln, oder sie unterstützt im Regress, wenn es darum geht, Unfälle nach einheitlichen Kriterien zu bewerten. Umso wichtiger ist es, dass KI sicher und verlässlich arbeitet. Dies sicherzustellen hat sich auch die Europäische Union (EU) auf die Fahne geschrieben und weltweit als erste Region mit einem am 1. August 2024 in Kraft getretenen Gesetz begonnen, KI europaweit zu regulieren.

Doch was genau reguliert das KI-Gesetz und warum ist seine Umsetzung auch für die Sozialversicherung relevant? Hauptelement der neuen europäischen Vorschriften ist die Gewährleistung, dass KI-Systeme, die auf dem EU-Markt in Verkehr gebracht und in der Union verwendet werden, sicher sind. Um dies zu erreichen, werden KI-Systeme durch die neuen europäischen Vorschriften in unterschiedliche Risikogruppen eingeteilt, für die wiederum entsprechende Vorschriften eingehalten werden müssen. Dabei wird ein risikobasierter Ansatz verfolgt. Die Intensität der Regulierung hängt also von dem Risiko ab, das mit dem Einsatz des jeweiligen KI-Systems verbunden ist. Außerdem legen die europaweit geltenden Vorschriften Verpflichtungen für Anbieter und Nutzende fest, die sich nach dem Risiko, das von dem KI-System ausgeht, richten.

Bis die europäischen KI-Regelungen gelten und von den Mitgliedstaaten beachtet werden müssen, sind allerdings noch viele ungeklärte Fragen zu beantworten. So müssen bis zum Geltungsbeginn im August 2026 wichtige Einzelheiten wie die Einrichtung eines wissenschaftlichen Gremiums unabhängiger Sachverständiger und andere Maßnahmen zur Governance ausgearbeitet werden. Es ist mit mehr als 70 Durchführungs- und delegierten Rechtsakten zu rechnen, die die allgemeinen Regeln und Bestimmungen zu KI weiter konkretisieren sollen. Eine ganz schöne Mammutaufgabe für die Europäische Kommission, die diese Rechtsakte erlässt. Auch einzelne Umsetzungsfristen sind sehr anspruchsvoll. So müssen verbotene Systeme wie zum Beispiel solche, die menschliches Verhalten manipulieren, bereits Mitte Februar 2025 schrittweise abgeschafft werden.

Neben den inakzeptablen KI-Systemen, die verboten sind, unterscheidet das Gesetz zwischen KI-Systemen mit hohem und begrenztem Risiko. Für die Nutzung von Hochrisikosystemen, zu denen KI-Systeme, die im Personalmanagement eingesetzt werden, zählen, gilt es umfassende Regelungen zu beachten. Beispielsweise müssen Unternehmen, die solche Systeme nutzen, Qualitätsmanagement- und Informationspflichten erfüllen, die Genauigkeit, Robustheit und Sicherheit des Systems sicherstellen und das System laufend überwachen und gegebenenfalls korrigieren. Die Missachtung der Vorgaben in der KI-Verordnung zieht erhebliche Sanktionen nach sich.

Die Einsatzmöglichkeiten von KI im Bereich der Sozialversicherung sind vielseitig und reichen von der Kommunikation mit Versicherten über die Vereinfachung und Beschleunigung von Prozessen bis hin zur Verbesserung der Sicherheit am Arbeitsplatz. Um in Zukunft das Potenzial voll auszuschöpfen, wird sich auch die Sozialversicherung als Nutzer von KI-Systemen mit den Regelungen des Gesetzes auseinandersetzen müssen. Eine genaue Klassifizierung bereits verwendeter KI-Systeme ist unumgänglich für die Umsetzung der Pflichten, die das KI-Gesetz für bestimmte Systeme vorsieht.