Künstliche Intelligenz verändert Entscheidungen in sämtlichen Organisationen des Gesundheits- und Sozialwesens. Sie unterstützt Diagnosen, plant Dienste oder steuert Abrechnungen. Fehlentscheidungen können dabei schnell zur Gefahr einerseits für Patient:innen, Bewohner:innen, Mitarbeitende und andererseits für die Wirtschaftlichkeit und Reputation des Unternehmens oder Trägers werden.
Für Aufsichtsgremien stellt sich daher nicht mehr die Frage, ob KI eingesetzt, sondern wie gut sie gesteuert wird. KI‑Governance definiert dabei als zentraler Rahmen die Strategie, Richtlinien, Prozesse und Verantwortlichkeiten für ihren Einsatz – und zeigt, ob eine Organisation KI beherrscht oder von ihr beherrscht wird.
Das übergeordnete Ziel des Einsatzes von KI ist es, Effizienz zu steigern, Innovation zu fördern und Entscheidungen konsequent auf Daten zu stützen. Gleichzeitig wächst der regulatorische Druck. Der neue EU-AI-Act verpflichtet Organisationen, KI‑Systeme in Risikoklassen einzuordnen und bei Hochrisiko‑Systemen strenge Vorgaben einzuhalten – etwa zu Dokumentation, Risikomanagement und menschlicher Aufsicht.
Aufsichtsgremien sind daher rechtlich verpflichtet, sicherzustellen, dass KI‑Risiken angemessen adressiert werden. Dazu gehört Transparenz: Ein aktuelles Verzeichnis aller KI‑Anwendungen etwa ist Voraussetzung, um überhaupt nachvollziehen zu können, wo Künstliche Intelligenz in der Organisation Entscheidungen beeinflusst.
Darauf aufbauend sollten Regelungen getroffen werden – z. B., wann zwingend ein „Human in the Loop“ die Entscheidung prüft, wie mit Fehlentscheidungen umzugehen ist und welche Vorfälle dem Gremium berichtet werden.
Wesentliche Bausteine eines KI‑Governance‑Rahmens sind daher eine klare KI‑Strategie, verbindliche Richtlinien, ein KI‑Inventar, definierte Verantwortlichkeiten sowie angemessene technische und organisatorische Kontrollen. Viele Organisationen richten zusätzlich Ethik‑ oder KI‑Boards ein, die kritische Projekte prüfen und Empfehlungen abgeben. Aufsichtsgremien sollten sich deren Arbeit regelmäßig erläutern lassen und sicherstellen, dass Erkenntnisse daraus auch in Vorstand, Geschäftsführung und operative Ebenen zurückwirken.
Aufsichtsrät:innen müssen dabei keine KI‑Expert:innen werden. Entscheidend sind die richten Fragen, etwa: Wo setzen wir KI ein? Welche Zuständigkeiten gelten? Wie gelangt das Gremium regelmäßig zu einer unabhängigen Einschätzung der Risiken und Kontrollen?
Organisationen, die KI‑Governance frühzeitig aufsetzen, können KI gezielt nutzen – und zugleich rechtliche, ethische und Reputationsrisiken deutlich begrenzen.
Wenn Sie als Mitglied eines Aufsichtsgremiums prüfen möchten, wie gut Ihre Organisation auf KI vorbereitet ist, unterstützen wir Sie gern. Wir entwickeln mit Ihnen einen passgenauen KI‑Governance‑Rahmen, integrieren KI‑Themen in bestehende Risiko‑ und Compliance‑Strukturen und bieten gezielte Schulungen speziell für Aufsichtsgremien an.
Sprechen Sie uns an, wenn Sie KI‑Chancen nutzen wollen, ohne Kontrolle und Verantwortung aus der Hand zu geben. Jetzt Kontakt aufnehmen!