Künstliche Intelligenz wird im Gesundheitswesen zunehmend eingesetzt. Das Potenzial ist gross: schnellere Einschätzungen, skalierbare Analysen, bessere Entscheidungsunterstützung.
Der Fall rund um das System „NH Predict“ zeigt aber auch die Grenze: Eine 85-jährige Patientin wurde mit einer Prognose von 16,6 Tagen als bald wieder selbstständig eingestuft. Die Realität war eine andere. Sie konnte zentrale Alltagsfunktionen nicht ohne Hilfe bewältigen.
Als nach 17 Tagen auf Basis dieser Prognose Zahlungen gestoppt wurden, folgte die gerichtliche Prüfung. Das Urteil war deutlich: Die KI-basierte Entscheidung war bestenfalls spekulativ.
Für mich ist die Lehre klar: KI darf klinische Verantwortung nicht simulieren, sondern muss sie unterstützen. Modelle brauchen valide Daten, laufendes Monitoring, transparente Kommunikation und fachliche Einordnung durch Menschen.
KI kann sehr wertvoll sein. Aber nur dann, wenn Methodik, Ethik und Praxis gemeinsam geführt werden.