// HEISE ONLINE — MODA & SOCIETÀ
Patientenperspektive fehlt in vielen Studien zu medizinischer KI
Medizinische KI wird intensiv erforscht, doch die Perspektive der Patienten bleibt oft auf der Strecke. Eine neue Studie zeigt, wo die Forschung Lücken hat.
This article is also available in
English.
It was translated with technical assistance and editorially reviewed before publication.
Medizinische KI wird zunehmend für Patientinnen und Patienten entwickelt, getestet und in Kliniken erprobt. Wie Patienten solche Systeme verstehen, ihnen vertrauen oder mögliche Risiken wahrnehmen, spielt in der Forschung aktuell aber nur eine Nebenrolle.
Eine wissenschaftliche Arbeit zur systematischen Auswertung von Studien über medizinische KI mit 330 analysierten Arbeiten wurde im Fachjournal Nature Health veröffentlicht. Die Auswertung zeigt, dass grundlegendere Fragen und Anliegen von Patient:innen nur selten erhoben werden. Das Vertrauen von Patient:innen in KI-Systeme wurde etwa nur in 16,7 Prozent der Studien untersucht und Sicherheit aus Patientenperspektive nur in 10,9 Prozent.
Die Auswertung zeigt eine Lücke auf, die für den praktischen Einsatz von KI in der Medizin bedeutend ist. Viele KI-Systeme werden technisch geprüft, aber nur selten gemeinsam mit den Menschen entwickelt, die später von ihren Empfehlungen, Einschätzungen oder Abläufen betroffen sind.
In der in der Fachzeitschrift Nature Health veröffentlichten Studie wurden wissenschaftliche Studien aus verschiedenen Forschungsdatenbanken (PubMed, Web of Science und Embase) ausgewertet. Ziel der Untersuchung war es, den Zustand des ganzen Forschungsfelds zu Medizin-KI zu untersuchen.
In der Auswertung betrachteten die Forscher verschiedene Phasen im Lebenszyklus medizinischer KI: Design, Entwicklung, Validierung und Einsatz. Interessant war, in welcher Phase der Studien Patientenfaktoren untersucht wurden. In 295 der 330 Studien zu medizinischer KI (89,4 Prozent) wurden Patientenfaktoren erst während der Validierung untersucht. In frühen Design- und Entwicklungsphasen waren es nur 3,9 Prozent.
Das bedeutet, dass Aspekte, die für Patient:innen von Bedeutung sind, in vielen Projekten erst dann beachtet werden, wenn ein KI-System schon größtenteils entwickelt ist. Dann wird geprüft, ob sie mit dem System zurechtkommen oder ob sie es als nützlich empfinden.
Am häufigsten untersuchten die ausgewerteten Studien Patientenzufriedenheit (70,6 Prozent der Studien) und wahrgenommene Vorteile (69,4 Prozent).
Um ein KI-gestütztes System in der Medizin einzusetzen, ist es natürlich sehr wichtig zu wissen, ob Patientinnen und Patienten es annehmen und ob sie darin einen Nutzen sehen. Die Übersichtsarbeit zeigt, dass diese einfachen Messgrößen andere zentrale Fragen verdrängen können.