Künstliche Intelligenz (KI) verändert die Arbeitswelt – auch im Gesundheits- und Sozialwesen. Von automatisierten Dokumentationsprozessen über intelligente Diagnosesysteme bis hin zur Ressourcenplanung: Die Einsatzmöglichkeiten sind vielfältig. Doch mit den Chancen gehen auch Pflichten einher – insbesondere für die Unternehmensleitung und das Aufsichtsorgan.
Datenschutz und IT-Sicherheit im Fokus
KI-Systeme verarbeiten oft große Mengen personenbezogener Daten. Im Gesundheitswesen sind diese besonders sensibel. Unternehmen müssen sicherstellen, dass alle eingesetzten KI-Anwendungen die Vorgaben der Datenschutz-Grundverordnung (DSGVO) erfüllen. Dazu gehören:
- Transparenz über die Datenverarbeitung
- Zweckbindung und Datenminimierung
- Technische und organisatorische Maßnahmen zur IT-Sicherheit
Ein Datenschutz-Folgenabschätzung (DSFA) ist bei vielen KI-Anwendungen Pflicht. Auch die Einbindung des Datenschutzbeauftragten sollte frühzeitig erfolgen.
Mitarbeitende vorbereiten und schulen
Der Erfolg von KI hängt maßgeblich von den Menschen ab, die mit ihr arbeiten. Unternehmen sollten daher:
- Schulungen zu KI-Grundlagen und ethischen Fragen anbieten
- Veränderungsprozesse aktiv begleiten
- Feedbackmechanismen etablieren, um Risiken frühzeitig zu erkennen
Nur wenn Mitarbeitende verstehen, wie KI funktioniert und welche Auswirkungen sie hat, kann ein verantwortungsvoller Einsatz gelingen.
Verantwortung des Aufsichtsorgans
Das Aufsichtsorgan trägt eine zentrale Rolle bei der Überwachung des KI-Einsatzes. Seine Pflichten umfassen:
- Strategische Begleitung: Die Mitglieder des Aufsichtsorgans sollten sich regelmäßig mit der KI-Strategie des Unternehmens befassen und deren Ausrichtung hinterfragen.
- Risikomanagement: KI kann neue Risiken mit sich bringen – etwa durch fehlerhafte Entscheidungen oder diskriminierende Algorithmen. Das Aufsichtsorgan muss sicherstellen, dass diese Risiken erkannt und gesteuert werden.
- Compliance und Ethik: Der Einsatz von KI muss mit den ethischen Grundsätzen des Unternehmens vereinbar sein. Das Aufsichtsorgan sollte sich berichten lassen bzw. prüfen, ob entsprechende Leitlinien existieren und eingehalten werden.
- Berichtspflichten: KI-Projekte sollten regelmäßig im Rahmen der Berichterstattung thematisiert werden – insbesondere bei größeren Investitionen oder strategischen Veränderungen.
KI bietet enorme Potenziale – auch für Einrichtungen im Gesundheits- und Sozialwesen. Doch der verantwortungsvolle Einsatz erfordert klare Regeln, transparente Prozesse und eine aktive Rolle des Aufsichtsorgans. Nur so lassen sich Innovation und Integrität miteinander verbinden.
Gerne unterstützen wir Sie dabei. Jetzt Kontakt aufnehmen!