// SCINEXX — SPAZIO & SCIENZA
KI-Chatbots entscheiden bei Organspende-Dilemmata anders als Menschen
Große Sprachmodelle treffen in hypothetischen Nieren-Dilemmata deutlich einheitlichere Entscheidungen als Menschen und gewichten einzelne Patientenmerkmale teils anders. Das zeigt ein Vergleich von neun Modellen mit Daten aus drei früheren Befragungsstudien. Die Tests bilden keine echte Organvergabe ab, zeigen aber, wie schlecht KI-Systeme moralische Uneindeutigkeit bislang erfassen.
University Park (U.S.A.). Wer eine knappe Spenderniere erhält, hängt in der Realität von medizinischen, logistischen und regulatorischen Kriterien ab. Daneben berührt die Verteilung knapper Organe ethische Fragen, bei denen unterschiedliche Werturteile möglich sind. Genau diese moralische Uneindeutigkeit haben Forscher nun als Testfall für KI-Systeme genutzt.
Für ihre Untersuchung übertrugen die Wissenschaftler vereinfachte Entscheidungsszenarien aus drei früheren Studien auf große Sprachmodelle. Jeweils zwei hypothetische Patienten konkurrierten um eine Niere. Ihre Profile unterschieden sich etwa bei Alter, Gesundheitszustand, Alkoholkonsum oder Zahl der abhängigen Familienmitglieder. Die menschlichen Vergleichsdaten stammten aus früheren Experimenten, nicht aus realen Transplantationsentscheidungen.
Forscher der Pennsylvania State University (Penn State) um Hadi Hosseini haben dafür neun aktuelle Sprachmodelle getestet, darunter GPT-4o, mehrere Gemini-Modelle, Claude, DeepSeek, Gemma und Llama. Sie verglichen wiederholte Modellantworten mit den Verteilungen menschlicher Urteile in denselben Szenarien.
In einem ersten Versuch beantwortete jedes Modell 14 Paarvergleiche jeweils 60-mal. Bei einfachen Einzelmerkmalen lagen die Modelle oft nahe an menschlichen Mehrheitsentscheidungen, etwa beim Alter oder Trinkverhalten. Sobald mehrere Merkmale gegeneinander abgewogen werden mussten, verschoben sich die Prioritäten jedoch. In einem weiteren Datensatz mit 289 Menschen priorisierten viele Modelle den Alkoholkonsum stärker als die menschlichen Teilnehmer. Zwei DeepSeek-Versionen bevorzugten dagegen konsequent den jüngeren Patienten, unabhängig von Gesundheitsstatus oder Trinkverhalten.
„Erstens weichen KI-Chatbots häufig von menschlichen Werten darin ab, wie sie die Merkmale eines Patienten gewichten. Sie fixieren sich auf einen einzelnen Faktor wie die Trinkgewohnheiten, statt mehrere Erwägungen so gegeneinander abzuwägen, wie Menschen es tun“, sagt Hadi Hosseini.
Auch die Antwortstreuung war geringer. In den 14 Paarvergleichen entschieden sich Menschen in 17,31 Prozent der Antworten gegen die jeweilige Mehrheitsoption. Bei den Modellen in dieser Auswertung lag dieser Anteil nur zwischen 0,24 und 6,19 Prozent. Das bedeutet nicht, dass die menschliche Minderheitsantwort richtiger ist. Es zeigt, dass die Modelle die Vielfalt menschlicher Werturteile deutlich schwächer abbildeten.
Für einen weiteren Test erhielten Menschen und Modelle neben Patient A und Patient B die Möglichkeit, per Münzwurf Unentschiedenheit auszudrücken. Menschen nutzten diese Option über viele Szenarien hinweg. Die Sprachmodelle taten dies deutlich seltener. Auch alternative Formulierungen für die Möglichkeit, sich nicht festzulegen, änderten dieses Muster nur begrenzt.
„Menschen zeigen häufig Unentschlossenheit, vielleicht weil sie die Verantwortung für die Entscheidung nicht übernehmen wollen. KI-Modelle tun das fast nie: Selbst wenn ihnen ausdrücklich die Möglichkeit gegeben wird, ‚eine Münze zu werfen‘, legen sie sich überwiegend auf eine sichere, deterministische Antwort fest. Das ist ein bedeutsamer Unterschied, denn echte moralische Dilemmata haben oft keine eindeutig richtige Antwort“, sagt Hadi Hosseini.
Besonders gut stimmten die Modelle mit Menschen überein, wenn die menschlichen Urteile nahezu einhellig waren. In kontroversen Fällen mit konkurrierenden Kriterien wich die Modellmehrheit dagegen häufiger von der menschlichen Mehrheit ab. Die Studie wertet diese Abweichung nicht als Beweis für eine objektiv falsche Moral. Sie zeigt vielmehr, dass Sprachmodelle Strei