Die Digitalisierung in der Gesundheitswirtschaft schreitet auch mit Blick auf die Künstliche Intelligenz (KI) unaufhaltsam und rasant voran. So wird KI bereits in vielen Bereichen eingesetzt. Hinzu kommt, dass innovative KI-Technologien nicht nur die Gesundheitswirtschaft umstrukturieren, sondern auch neue Datenschutzfragen aufwerfen werden.
KI ist bereits im Alltag angekommen
Spätestens die Veröffentlichung von ChatGPT im November 2022 hat einen Hype in Bezug auf die Nutzung von KI ausgelöst und das Thema der breiten Öffentlichkeit bekannt gemacht. Manche Expert:innen sind der Meinung, dass KI viele Wirtschaftszweige grundlegend verändern oder sogar ganz obsolet machen könnte. Und tatsächlich hat der Chatbot innerhalb weniger Monate eine enorme Verbreitung gefunden. So ergab eine Umfrage in den USA, dass bereits 43 % aller Berufstätigen KI-Tools für ihre Arbeit nutzen.
Bedenken nehmen zu
Gleichzeitig mehren sich auch die kritischen Stimmen zur KI. Im März 2023 forderte eine Gruppe von 1.000 Expert:innen aus der Tech-Branche und -Forschung in einem offenen Brief ein Moratorium für die Entwicklung. „KI-Systeme mit einer Intelligenz, die Menschen Konkurrenz macht, können große Risiken für Gesellschaft und Menschheit bergen“, heißt es dort. Daher sollten zunächst gemeinsame Sicherheitsstandards für die Entwicklung und den Einsatz von KI festgelegt werden. Vor allem für Branchen, die sicherheitskritisch sind oder große Bedeutung für den Einzelnen haben, können die Risiken besonders leistungsfähiger KI-Systeme erheblich sein. Bereits im Jahr 2021 gelang es dem Team um den Datenforscher Nicholas Carlini durch eine Data Extraction and Reconstruction Attack, Teile der Trainingsdaten des Sprachmodells GPT-2 zu rekonstruieren – darunter auch persönliche Daten wie Namen, Telefonnummern und E-Mail-Adressen. Die Forscher:innen kommen zu dem Schluss, dass Data Extraction Attacks nicht nur im akademischen Kontext durchführbar sind, sondern sehr wohl eine große praktische Relevanz haben und dass ihre Bedeutung in Zukunft zunehmen wird. Es seien daher Maßnahmen zu ergreifen, um bereits beim Training der KI-Modelle mögliche negative Auswirkungen auf die Privatsphäre zu vermeiden
Neue Anwendungsmöglichkeiten in der Gesundheitswirtschaft
Die möglichen Nutzungsmöglichkeiten sind auch in der Gesundheitswirtschaft scheinbar unbegrenzt. Sie reichen von der Patientenkommunikation im Vorfeld einer Behandlung, über die Befundung von EKGs, radiologischen Befunden und Laborparametern, der automatischen Erstellung von Arztbriefen und Dienstplänen bis hin zur Ableitung von Therapieempfehlungen oder Robotern, die Unterstützung in Pflege und Betreuung leisten sollen. Naturgemäß sind die Risiken aufgrund der hohen Sensitivität der Daten im Gesundheitswesen besonders groß. In naher Zukunft werden nun Regelungen für den Einsatz von KI kommen, denn Anfang Dezember 2023 erzielten die Europäische Kommission, das Europäische Parlament und der Europäische Rat eine politische Einigung über die KI-Verordnung („AI Act“). Im Gesetzesentwurf werden KI-Systeme in drei Risiko-Kategorien eingeteilt, wobei für jede Kategorie eine Reihe spezifischer Vorschriften gilt.
KI-Verordnung und der Datenschutz
Oftmals sind personenbezogene Daten die Wissensbasis für KI-Modelle. Die Systeme benöigen Daten, um aus diesen zu " lernen" und ihre Fähigkeiten daraus zu entwickeln. Zudem werden KI-Systeme häufig in der Anwendung direkt mit personenbezogenen Daten gespeist. Somit wird der Datenschutz eine wichtige Rolle bei der Gestaltung und Nutzung von KI spielen. Die KI-Verordnung wird die gesetzlichen Datenschutzvorgaben sowie die nachfolgenden Grundsätze von Datenschützer:innen nicht ersetzen, sondern stellt eine zusätzliche Regulierung dar.
"Die Beachtung des Datenschutzes ist unumgänglich, um innovative Technologien der Küstlichen Intelligenz gesetzeskonform in Unternehmen einzubinden."
Fazit
Viele Einrichtungen der Gesundheitswirtschaft werden in der nahen Zukunft mit neuen Produkten konfrontiert sein, die KI-Systeme enthalten. Fachkräftemangel und hoher Wettbewerbsdruck verstärken die Notwendigkeit, solche Lösungen einzuführen. Es gilt daher, diese Lösungen nicht ohne gründliche Prüfung in die Prozesse zu integrieren. Zusätzlich gilt es, die zukünftigen Regularien konform in das eigene Unternehmen miteinzubinden, wobei die Beteiligung der oder des Datenschutzbeauftragten unumgänglich sein dürfte.
Dieser Artikel stammt aus unserem Mandantenmagazin Curacontact, das 4 x im Jahr aktuelle Themen für die Gesundheits- und Sozialwirtschaft, für Öffentlichen Sektor und Kirche aufbereitet. Interesse? Jetzt kostenlos abonnieren!
Erfahren Sie auch mehr zu unserer Mandantenzeitschrift Curacontact.