KI ist im Arbeitsalltag nicht mehr wegzudenken. Die Anwendungsfälle und Nutzungsmöglichkeiten sind auch in der Gesundheitswirtschaft nahezu unbegrenzt: Von der Kommunikation im Vorfeld einer Behandlung, über die medizinische Befundung bis hin zu Therapie- und Pflegeempfehlungen.
Mit der hohen Sensitivität von Gesundheitsdaten sind mögliche Risiken besonders zu beachten. Auch aus diesem Grund ist im Mai 2024 die KI-Verordnung verabschiedet und damit ein einheitlicher Rahmen für den Einsatz von Künstlicher Intelligenz in der Europäischen Union definiert worden. Seit dem 1. August 2024 ist die KI-Verordnung in Kraft. Die Umsetzung erfolgt phasenweise; erste Regelungen sind bereits seit dem 2. Februar 2025 anzuwenden.
Ziele der KI-Verordnung: Vertrauen, Schutz und Innovation
Die Verordnung soll sicherstellen, dass KI-Systeme im Einklang mit EU-Werten entwickelt und betrieben werden. Das politische Ziel der Verordnung ist, Vertrauen zu schaffen und Grundrechte zu schützen. Sie dient damit dem Schutz der Betroffenen und hier zeigen sich die grundsätzlichen Parallelen und die operative Nähe zum Datenschutz.
Der Weg zur Umsetzung und Fahrplan der KI-Verordnung
Das Regelungswerk ist unmittelbar anwendbar und nimmt flächendeckend Betreiber wie Nutzer von KI-Systemen in die Pflicht. Die Verordnung greift insbesondere dann, wenn KI-Systeme entwickelt oder deren Einsatz geplant wird. Sie findet aber ebenso Anwendung, wenn Mitarbeitende bereits selbständig Sprach-KI wie ChatGPT im Arbeitsalltag nutzen. Auch im letzteren Fall ist das Unternehmen in der Verantwortung, die Regelungen aus der Verordnung umzusetzen.
Das bedeutet: Durchweg alle Unternehmen und Einrichtungen müssen prüfen, ob KI-Systeme im unternehmerischen Umfeld im Einsatz sind. Nur so kann gewährleistet werden, dass die Anforderungen der KI-Verordnung umgesetzt werden können.
Als ersten Schritt sollten daher Unternehmen und Einrichtungen den aktuellen KI-Nutzungsgrad ermitteln. Wird ein KI-System eingesetzt, muss sichergestellt werden, dass damit arbeitendes Personal über eine “ausreichende KI-Kompetenz” verfügen. Die so definierte Schulungsanforderung ist bereits seit Anfang Februar 2025 zu beachten.
Zudem sollten die Betreiber ein eigenes Verzeichnis zu den KI-Systemen führen, um auch die Dokumentationspflichten zu gewährleisten. Ab dem 2. August 2025 sollen dann nationale Marktüberwachungsbehörden etabliert sein. Ein Jahr später treten dann weite Teile der KI-Verordnung in Kraft: Dann müssen Hochrisiko-KI-Systeme – das sind insbesondere KI-Systeme zur Verarbeitung von sensiblen Datenkategorien wie Gesundheitsdaten – unter anderem die besonderen Anforderungen an Transparenz, Datenqualität, Genauigkeit und Robustheit erfüllen. Daneben werden Datenschutz-Folgenabschätzung und Risiko-Analysen notwendig.
Allein diese kurze Abhandlung zur neuen KI-Verordnung macht deutlich: Die Einführung, Entwicklung und der Betrieb von KI- Systemen bieten nicht nur Chancen durch die Nutzung dieser sich schnell entwickelnden Technologie. KI-Systeme bedingen umfangreiche Steuerungs- und Kontrollaufgaben. Auch auf Grund der inhaltlichen Nähe ist es zu empfehlen, den Datenschutz von Anfang an mit einzubeziehen, um adäquat und sachgerecht auf die KI-Verordnung und deren Anforderungen reagieren zu können.
Gerne unterstützen wir Sie bei genau diesen Herausforderungen. Kommen Sie gerne auf uns zu. Jetzt Kontakt aufnehmen!