Im Gesundheitswesen nutzen immer mehr medizinische Einrichtungen Künstliche Intelligenz (KI), um schneller und effizienter Entscheidungen über den Gesundheitszustand von Patienten treffen zu können. Allerdings kann der Einsatz von KI auch zu ungenauen oder sogar falschen Entscheidungen führen, wie ein Fall auf der Nachrichten-Website „Statnews“ zeigt (siehe Medinside.ch Beitrag vom 16. März 2023)
In diesem Fall wurde eine 85-jährige Frau, die aufgrund einer verletzten Schulter und einer Schmerzmittelallergie in einem Pflegeheim behandelt wurde, von einem KI-System namens „NH Predict“ bewertet. Die KI prognostizierte, dass die Frau nach 16.6 Tagen vollständig genesen und in der Lage wäre, in ihre Wohnung zurückzukehren. Jedoch war diese Vorhersage falsch: Die Frau war nicht in der Lage, sich selbst anzuziehen, auf die Toilette zu gehen oder ohne Hilfe einen Rollator zu benutzen.
Als die Krankenkasse aufgrund der KI-Prognose nach 17 Tagen die Zahlungen stoppte, kam es zu einer gerichtlichen Überprüfung. Das Gericht entschied schließlich, dass die KI-basierte Entscheidung des Versicherers „bestenfalls spekulativ“ war.
Dieser Fall zeigt, dass der Einsatz von KI im Gesundheitswesen mit Bedacht und Sorgfalt erfolgen muss. KI-Systeme müssen korrekt eingesetzt und kontinuierlich überwacht werden, um sicherzustellen, dass sie genaue Vorhersagen treffen. Es ist wichtig, dass KI-Systeme auf dem neuesten Stand der medizinischen Forschung und Technologie sind und dass eine klare Kommunikation zwischen KI-Systemen und den medizinischen Fachkräften besteht, um sicherzustellen, dass alle relevanten Informationen berücksichtigt werden.
Insgesamt zeigt dieser Fall, dass der Einsatz von KI im Gesundheitswesen verantwortungsvoll und vorsichtig erfolgen muss. Obwohl KI-Systeme vielversprechende Werkzeuge sein können, müssen sie sorgfältig eingesetzt und überwacht werden, um die bestmögliche Patientenversorgung zu gewährleisten.