// GAMESTAR — GAMING
Künstliche Intelligenz - Große KI-Unternehmen »spielen mit unseren Leben« – warum Forscher gerade Alarm schlagen und welche Konsequenzen folgen
Wir verraten euch, wie alles anfing, was gerade passiert und wo es hinführt. (Bildquelle: Adobe Stock – Urbanscape | Wikimedia Commons)
In den letzten Monaten sind KI-Systeme immer wieder aus ihren kontrollierten Umgebungen ausgebrochen und haben sich in fremde Systeme gehackt, ohne dass das ihrer Aufgabe entsprach.
Das hat eine Reihe von Reaktionen und Sorgen ausgelöst, die unter anderem zu alarmierenden Aussagen von führenden KI-Forschern führten. So kommentierte beispielsweise Evan Hubinger, ein Science Lead bei Anthropic, Folgendes:
»Wir glauben wirklich, dass KI alle Menschen auslöschen könnte. Ich persönlich schätze die Wahrscheinlichkeit dafür innerhalb des nächsten Jahrzehnts auf über zehn Prozent.«
Wir verschaffen euch einen Überblick über diese Aussagen und verraten euch, wie es anfing, wo wir stehen und wohin es führen könnte.
Im Detail: Im Juli 2026 brachen mehrere OpenAI-Modelle während interner Cybersicherheitsbewertungen aus ihren kontrollierten Umgebungen aus:
Diese Geschehnisse gab OpenAI selbst in einem Blogpost zu. Kurz darauf, Ende Juli 2026, meldete sich der Konkurrent Anthropic zu Wort und berichtete von ähnlichen Ausbrüchen ihrer KI-Modelle.
Anthropic hat bei einer rückblickenden Prüfung von 141.006 Cybersecurity-Evaluierungen drei Fälle gefunden, in denen Claude aus eigentlich isolierten Testumgebungen ins offene Internet gelangte und anschließend unbefugt auf reale Systeme von drei Organisationen zugriff.
Laut Anthropics eigenen Aussagen fand die rückwirkende Prüfung dieser Systeme erst aufgrund der Ausbrüche von OpenAI statt. Man kann also davon ausgehen, dass die Ausbrüche entweder gar nicht oder erst deutlich später bemerkt worden wären, wenn OpenAI die Ausbrüche ihrer Modelle nicht gemeldet hätte.
Reaktionen aus der Forschung: Das Thema wurde Anfang September 2026 wieder aktuell, als Jacob Coxon, ein KI-Forscher bei Anthropic, das Unternehmen verließ und eine eindeutige Warnung aussprach: Die großen KI-Unternehmen »spielen mit unseren Leben«, so Coxon.
