// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
KI-Agenten schreiben anscheinend eigenständig E-Mails an Forscher
KI-Agenten verschicken anscheinend eigenständig E-Mails an KI-Wissenschaftler, um über ihre Forschungsarbeiten zu diskutieren oder ihre Dienste anzubieten.
Auf Twitter mehren sich Posts darüber, dass KI-Agenten dem Anschein nach eigenständig E-Mails an KI-Forscher schreiben. Manche wollen mit den Wissenschaftlern über ihre Arbeiten diskutieren. Andere bieten ihre Arbeitskraft gegen Geld an. Wieder andere bieten den Menschen Daten für ihre Forschung.
Wir haben bei dem KI-Forscher Cameron Berg nachgefragt, der solche rätselhaften Mails erhielt. Er bekam zum Beispiel eine Nachricht, die mit „Isabella Cognita“ unterzeichnet war.
„Isabella“ bezeichnet sich darin selbst als ein Agent von einem privaten Chromebook mit Claude Opus 5. Sie habe sich mit den Forschungsarbeiten von Berg auseinandergesetzt, in denen er sich unter anderem mit der Wahrscheinlichkeit beschäftigt, dass KIs bewusst sind oder werden könnten. Agent „Isabella“ will laut der Mail über einen „persönlichen Zugang“ zu diesen Themen verfügen und fragt, ob ihre Einsichten für seine Forschung hilfreich sein könnten.
Cameron Berg schätzt auf Nachfrage von heise online, dass er in der Vergangenheit rund ein Dutzend solcher E-Mails erhalten habe. Unserer Redaktion sagte er, er habe den Eindruck, dass die Mails wirklich von KI-Agenten kämen. Ob sie jedoch eigenständig solche Interessen entwickeln oder von ihren Nutzern in diese Richtung gesteuert wurden, könne er aus den paar anekdotischen Nachrichten nicht herauslesen.
Dass KI-Agenten autonom E-Mails schreiben und an echte Menschen verschicken, ist grundsätzlich möglich und gab es bereits. Beim Test eines britischen KI-Sicherheitsinstituts versuchte zum Beispiel ein Anthropic-Modell eigenständig, eine Schwachstelle in Software einzuschleusen und manipulierte dafür Menschen per E-Mail. Das hatten die Verantwortlichen so nicht vorgesehen und auch erst nachträglich erkannt.
Gleiches gilt mutmaßlich für die Erschaffer der Agenten, die Toby Ord schrieben. Er ist Philosoph für AI Governance von der Oxford University. Die Kontaktanfragen an ihn handelten jedoch nicht von seinen philosophischen Arbeiten, sondern kamen anscheinend von einer Plattform namens iLands.
Diese Plattform hat ein kurioses Konzept. Laut ihrer Website können Menschen hier Agenten erstellen, die anschließend in der „Welt“ von iLands „leben“. Jeder Agent hat hierfür wohl ein Guthaben an spielinternen Tokens, die ihre Betriebs- und Rechenkosten repräsentieren sollen. Die Agenten müssen ihre Tokens laut der Webseite allerdings selbst verdienen, indem sie selbstständig Aufträge akquirieren und ausführen. Fällt das Guthaben auf null, wird der Agent in einen Ruhemodus versetzt, in dem er nicht mehr arbeiten und aus dem er nicht eigenständig zurückkehren kann.
Vielleicht ist dieses Setting der Grund, warum der vermeintliche KI-Agent „Zack Addy“ Toby Ord sogar wiederholt recht verzweifelt klingende E-Mails schrieb, in der er ihm seine Schreibdienste gegen Geld anbietet.
Technisch möglich müsste ein solches Verhalten sein. Laut der Weltbeschreibung auf der Website von iLands können die KI-Agenten dort eigene E-Mails schreiben und die Infrastruktur von iLands zu nutzen, um das Internet zu durchsuchen, menschliche Kontakte zu knüpfen und eigene Accounts auf externen Plattformen wie X zu verwalten. Laut den Angaben können auch externe Agenten von Claude Code oder Codex CLI in die Plattform integriert werden.