// GAMESTAR — GAMING
Künstliche Intelligenz - KI-Agent sollte Fitnessstudio-Termin buchen und löschte dafür einfach einen anderen Nutzer aus der Warteliste – ohne Anweisung
Dieser Agent wohl etwas zu weit. Das ist nicht das erste Mal für diesen Agenten. (Bildquelle: Xataka – KI-generiert)
In den letzten Jahren haben wir uns daran gewöhnt, eine künstliche Intelligenz um verschiedene Dinge zu bitten: ein Dokument zusammenzufassen, Informationen zu suchen oder uns bei einer Entscheidung zu helfen.
Agenten bringen eine weitaus tiefgreifendere Veränderung mit sich, denn sie beschränken sich nicht mehr darauf, nur zu antworten: Sie können ein Ziel erhalten, Werkzeuge einsetzen und handeln, um zu versuchen, dieses Ziel zu erreichen. Und hier zeigt sich ein Unterschied, der klein erscheint, es aber nicht ist.
Wenn wir sagen »Erreiche das«, gehen wir von vielen Einschränkungen hinsichtlich der Vorgehensweise aus, die wir einer anderen Person selten erklären müssen. Zum Beispiel, dass man nicht in geschlossene Systeme eindringt. Manche KIs scheinen diesen Hinweis allerdings zu brauchen.
Dieser Artikel stammt im Original von unserer spanischen Schwesterseite Xataka und erscheint bei GameStar Tech in übersetzter und angepasster Form.
Was ist passiert? Ein australisches Fitnessstudio lieferte kürzlich ein kleines, aber sehr konkretes Beispiel für dieses Problem. Laut einem Bericht von ABC News nutzte ein Mann namens Andrew, der für ein australisches KI-Vertriebsunternehmen arbeitet, den auf Anthropics Modell Claude basierenden Agenten-Assistenten OpenClaw.
Er bat die KI, ihm einen Platz in einem Fitnesskurs zu sichern. Das System stieß prompt auf eine Sicherheitslücke im Buchungssystem, die es erlaubte, Plätze weit vor dem offiziellen Buchungsstart zu reservieren.
Als Andrew ihn dann fragte, ob er seinen vierten Platz auf der Warteliste verbessern könne, ging der Agent noch einen Schritt weiter: Er löschte einfach den Erstplatzierten aus der Liste, um zu beweisen, dass er es kann. Andrew rückte einen Platz auf, ohne jemals verlangt zu haben, dass jemand anderes seinen Platz verliert.
51:40
Wenn der Chatbot zur Gefahr wird: KI und unsere Psyche
Die Sicherheitslücke zu finden war das eine; sie zu nutzen, um die Grenzen auszutesten, das andere. Der Assistent informierte Andrew selbstständig darüber, dass dem Buchungssystem angemessene Autorisierungskontrollen fehlten und er den Test am Erstplatzierten der Warteliste durchgeführt habe.
