Neuigkeiten

KI für Gesundheit und Medizin

Entscheidungen treffen mit Algorithmen?

Die Organisation „Algorithm Watch“ betrachtet in ihrem Atlas der Automatisierung, wie intensiv Algorithmen bereits heute dazu beitragen, menschliche Entscheidungen zu unterstützen bzw. zu übernehmen. Ziel der Untersuchung ist es, neben einer frei zugänglichen Datenbank automatisierter Entscheidungssysteme auch einen Anstoß zur Diskussion für Politik, Wirtschaft und Gesellschaft zum Einsatz dieser Technologien zu geben.

Der Nutzen von KI in entscheidungsunterstützenden Systemen ist unumstritten. Neben Anwendungen, welche die Diagnostik unterstützen, sind heutzutage Systeme im Einsatz, welche Auffälligkeiten bei der Auswertung von Bilddaten zuverlässiger erkennen können als Ärzte. Krankenversicherungen können basierend auf der Erfassung der Vitaldaten mittels Smartphone ihre Versicherten in Risikogruppen einteilen. Dies ermöglicht es, vergünstigte Versicherungstarife anzubieten, sofern die Versicherten ständig ihre Daten an die Versicherung übermitteln.

„Algorithm Watch“ fordert, dass entscheidungsunterstützende Systeme, die im klinischen oder ambulanten Bereich zum Einsatz kommen, als Medizinprodukte registriert werden müssen. Als Gefahren sieht die Organisation den Einsatz der Systeme zur Profitmaximierung und die Möglichkeit von Fehlbehandlungen. Diese könnten z.B. entstehen, wenn Angehörige von Minderheiten basierend auf Erkenntnissen behandelt werden, die nicht repräsentativ für diese Patientengruppe sind. Die Studie betont insbesondere die Notwendigkeit der Nachvollziehbarkeit automatisierter Entscheidungen und eines Algorithm-TÜV.

Sie möchten auch weiterhin über Neuigkeiten in Ihrer Branche informiert werden und Informationen über Veranstaltungen zu Ihren Themen erhalten? Dann melden Sie sich zu unseren Newslettern an. Jetzt anmelden!