// SCINEXX — SPAZIO & SCIENZA
Sprachmodell erkennt akute Suizidgefahr in neuen Chats
Sprache in einer akuten Krise kann Hinweise liefern, die über eine bloße Erwähnung von Depression hinausgehen: Ein erklärbares Sprachmodell ordnet rund 16.000 Krisenchats anhand von 49 Suizid-Risikofaktoren verschiedenen Risikostufen zu. Besonders eng mit der höchsten Stufe verbunden waren Hinweise auf verfügbare Suizidmittel, Substanzkonsum, aktive Suizidgedanken und Selbstverletzung. Vor einem klinischen Einsatz muss das Verfahren jedoch weiter validiert werden.
Cambridge (U.S.A.). Wer in einer psychischen Krise Hilfe sucht, kann sehr unterschiedliche Warnsignale zeigen. Einzelne Risikofaktoren wie Depression, Einsamkeit oder frühere Selbstverletzung sagen für sich allein nur begrenzt aus, wie unmittelbar die Gefahr ist. Entscheidend ist daher nicht nur, ob ein Faktor vorkommt, sondern welche Kombination von Hinweisen sich in einer konkreten Krisensituation zeigt.
Ein Forschungsteam hat nun untersucht, wie sich solche Hinweise direkt in Gesprächen mit Krisenberatern erfassen lassen. Grundlage waren anonymisierte Texte aus rund 16.000 Unterhaltungen der Crisis Text Line. Die Gespräche waren von den Beratern in drei Stufen eingeteilt worden: ohne Suizidalität, Suizidgedanken ohne unmittelbare Gefahr und unmittelbare Gefahr. Die höchste Stufe umfasste Fälle mit einem Suizidplan oder der Absicht, innerhalb von 48 Stunden zu sterben.
Für die Analyse entwickelte Daniel M. Low vom Child Mind Institute mit Kollegen zunächst ein sogenanntes Suicide Risk Lexicon. Ein großes Sprachmodell erzeugte dafür eine vorläufige Sammlung von Wörtern und Formulierungen zu bekannten Risikofaktoren. Anschließend prüften und bereinigten die Forscher diese Liste von Hand, bevor klinische Experten die inhaltliche Zuordnung der Begriffe bewerteten. Das endgültige Lexikon umfasst ungefähr 60 Wörter oder Phrasen für jeden von 49 Faktoren.
„Wir wollten wissen, welche Art von Symptomen das höchste Suizidrisiko vorhersagt“, sagt Daniel M. Low.
Auf dieser Grundlage trainierte das Team ein vergleichsweise einfaches maschinelles Lernverfahren. Es sucht in den Gesprächen nach den Lexikonbegriffen und gewichtet die jeweils erkannten Risikofaktoren. Anders als viele tief lernende Modelle liefert es damit nicht nur eine Risikoeinstufung, sondern zugleich Hinweise darauf, welche sprachlichen Signale zu dieser Einschätzung beigetragen haben. Bei bislang ungesehenen Gesprächen konnte das Modell die von der Crisis Text Line vergebenen Risikostufen vorhersagen.
Die Auswertung zeigt einen auffälligen Unterschied zwischen bekannten allgemeinen Risikofaktoren und Hinweisen auf besonders akute Gefahr. Erwähnungen verfügbarer Suizidmittel und von Substanzkonsum standen im Modell stärker mit der höchsten Risikostufe in Verbindung als depressive Stimmung oder Erschöpfung. Auch aktive Suizidgedanken und direkte Selbstverletzung gehörten zu den stärkeren Prädiktoren. Angst, posttraumatische Belastung und emotionaler Schmerz lagen im mittleren Bereich.
„Viele verschiedene Wege könnten dazu führen, dass jemand seinem inneren Schmerz entkommen will“, erklärt Daniel M. Low.
Die Rangfolge bedeutet nicht, dass Depression oder andere schwächer gewichtete Faktoren unwichtig wären. Sie zeigt vielmehr, welche Hinweise in diesem speziellen Datensatz besonders eng mit der von Krisenberatern festgestellten unmittelbaren Gefahr verbunden waren. Das Modell wurde gegen diese Gesprächseinstufungen geprüft und sagt deshalb nicht direkt voraus, ob eine Person später tatsächlich einen Suizidversuch unternimmt oder durch Suizid stirbt.
Ein Vorteil des Verfahrens liegt in seiner Nachvollziehbarkeit. Das eigentliche Vorhersagemodell ist kein großes Sprachmodell und benötigt vergleichsweise wenig Rechenleistung, während auffällige Wörter markiert und den hinterlegten Risikofaktoren zugeordnet werden können. Das könnte es Beratern oder Forschern erleichtern, eine automatische Einstufung kritisch zu prüfen, statt lediglich einen undurchsichtigen Risikowert zu erhalten.