// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
KI-Dokumentation beim Arzt: Patienten entdecken Fehler vor Ärzten
KI-Schreibassistenten im britischen Gesundheitssystem verwechseln Medikamente und Diagnosen. Auch in Deutschland ist so eine Technik bereits im Einsatz.
KI-gestützte Dokumentationssysteme sollen Ärzte im britischen National Health Service (NHS) von Bürokratie entlasten, indem sie während des Arzt-Patienten-Gesprächs mitschreiben und das Gehörte für sie zusammenfassen. Auch in Deutschland sind solche Systeme von Anbietern wie Doctolib gerade auf dem Vormarsch. Die Patientenvertretung Healthwatch England schlägt nun gegenüber der Zeitung The Guardian jedoch Alarm, denn es häufen sich angeblich die Berichte über Fehler in den Transkripten. Die Systeme verwechselten bereits Medikamentennamen, erfanden Diagnosen und ließen wichtige Informationen in Arztbriefen weg. In mehreren dokumentierten Fällen entdeckten nicht die behandelnden Ärzte, sondern die Patienten selbst die Fehler.
Wie The Guardian berichtet, erhielt eine Patientin in der automatisch erstellten Zusammenfassung ihrer Konsultation zum Beispiel fälschlicherweise die Diagnose „Demyelinisierung“. Das ist eine schwere Nervenschädigung, die zu Multipler Sklerose führen kann. Tatsächlich hatte ihr MRT-Befund aber „keine Demyelinisierung“ ergeben. Erst ihre eigene Nachfrage führte zur Korrektur. In einem weiteren Fall verwechselte eine KI das vom Hausarzt verschriebene Medikament mit einem ähnlich klingenden Arzneimittel – auch hier fiel der Fehler dem Patienten auf, nicht dem Arzt.
Solche Fehler sind auch deswegen problematisch, weil die im System hinterlegten Daten Einfluss darauf haben, welche Medikamente der Patient in der Apotheke bekommen kann oder ob er zum Beispiel in Zukunft eine Berufsunfähigkeitsversicherung abschließen kann oder nicht.
Dr. Charlotte Blease von der Universität Uppsala hat das Phänomen mit Hilfe einer Umfrage unter 1003 britischen Hausärzten näher untersucht. Von den Ärzten, die solche KI-Systeme bereits nutzen, berichten 32 Prozent von häufigen Fehlern, 14 Prozent von Fehlern mit schwerwiegenden Folgen.
Darüber hinaus zeigen die Studienergebnisse, dass Fehler bei KI-Transkripten wahrscheinlicher auftreten, wenn das Gespräch mit mehreren Personen gleichzeitig stattfindet, Patienten eine komplexe Krankengeschichte haben oder nicht Englisch als Muttersprache sprechen.
Die Befragung ergab jedoch auch, dass über die Hälfte der Ärzte die KI-Notizen für genauer hielt als die eigene Dokumentation. Denn auch Ärzte machen natürlich Fehler – ob tatsächlich mehr oder weniger als die KI, ließ sich aus der Studie nicht ableiten.
Die Diskussion um KI-gestützte Arztdokumentation betrifft auch Deutschland. Die Charité in Berlin startete zum Beispiel im Mai 2025 eine sechsmonatige Testphase mit Microsofts Dragon Copilot. Auch Doctolib bietet als einer der größten Softwaredienstleister für Praxen solche KI-Systeme an. Darüber hinaus plant das Unternehmen, in Frankreich KI-Modelle mit Gesundheitsdaten zu trainieren – per Opt-out statt Einwilligung. Ob dieses Modell auch für Deutschland zum Vorbild werden könnte, ist umstritten.
Keine News verpassen! Jeden Morgen der frische Nachrichtenüberblick von heise online
Ausführliche Informationen zum Versandverfahren und zu Ihren
Widerrufsmöglichkeiten erhalten Sie in unserer
Datenschutzerklärung.