// GAMESTAR — GAMING
Claude - »Müll rein, Müll raus« – Berühmte Autorin hat einmal die Anthropic-KI ausprobiert und war weniger begeistert
Bestseller-Autorin Margaret Atwood erzählt von ihrem einzigen Claude-Versuch und was dabei schiefging. (© Anthropic / Wikimedia Commons)
Margaret Atwood, Autorin von »Der Report der Magd« (»The Handmaid's Tale«) und seit Jahrzehnten eine der meistgelesenen Stimmen der Gegenwartsliteratur, hat in ihrem Leben genau einen Ausflug in die Welt der KI-Chatbots unternommen.
Den Anlass wählte sie bescheiden: Sie wollte einen Spoiler zur britischen Kriminalserie »Pater Brown« herausbekommen. Das Experiment scheiterte – und ließ Atwood zur Generalkritik ausholen.
51:40
Wenn der Chatbot zur Gefahr wird: KI und unsere Psyche
Bei einem Publikumsgespräch auf dem Babell Literary and Cultural Festival im portugiesischen Porto schilderte die kanadische Schriftstellerin ihren bisher einzigen Versuch: Sie habe Anthropics KI-Modell Claude auf der Suche nach einem Handlungsspoiler genutzt. Claude lieferte eine Antwort – doch die war falsch.
Claude hat mich belogen. Natürlich wusste es nicht, dass es log, weil es kein Mensch ist – es ist ein großes Sprachmodell. Es hatte zwar viele Rezensionen der Serie verarbeitet – doch da Online-Rezensionen Handlungsauflösungen konsequent meiden, wurde es von dem, was es gelesen hatte, in die Irre geführt.
Das Problem nach Ansicht von Atwood lässt sich also wie folgt zusammenfassen: KI-Modelle sind auf das Trainingsmaterial angewiesen, das ihnen zur Verfügung steht.
Wo dieses Material eine bestimmte Information systematisch ausspart – in diesem Fall, weil Kritiker Spoiler meiden –, produziert das Modell eine Lücke oder füllt sie falsch auf, was auch als Halluzinationen bezeichnet wird.
Nvidia will eines der größten Probleme von KI-Rechenzentren in der nächsten Generation lösen
Ihr Fazit fasste Atwood wiederum in einem Satz aus der frühen Computergeschichte zusammen: »Müll rein, Müll raus.« Im Englischen ist das auch als das GIGO-Prinzip oder »Garbage In, Garbage Out« bekannt.
