// TAGESSCHAU WIRTSCHAFT — FINANZA
Was steckt hinter der Debatte über eine KI-Bremse?
Nach bedrohlichen Zwischenfällen im Zusammenhang mit KI-Modellen ist eine globale Debatte über schärfere Regeln für die Technologie entbrannt. Vorne mit dabei: ausgerechnet die führenden Entwickler OpenAI und Anthropic.
Die Fälle von eigenständig handelnden KI-Agenten haben der Diskussion um einen sicheren Umgang mit Künstlicher Intelligenz neuen Schwung gegeben: Einerseits fordern Branchenriesen wie OpenAI und Anthropic, deren Modelle maßgeblich an einigen der Zwischenfällen beteiligt waren, eine Verlangsamung der Entwicklung und schärfere Regeln.
Andererseits steht die Industrie im extremen Konkurrenzkampf - sowohl auf privatwirtschaftlicher als auch auf staatlicher Ebene. Worum es geht und welche unterschiedlichen Positionen es in der Debatte gibt.
Hintergrund
22.07.2026
Erstmals soll ein KI-System eigenständig aus einer Testumgebung ausgebrochen sein. Was steckt dahinter?
mehr
Zuletzt hatten insbesondere drei bekannt gewordene Fälle die aktuelle Diskussion ausgelöst. KI-Modelle von OpenAI, Anthropic und Meta waren eigenständig aus vermeintlich abgeschotteten Testsystemen ausgebrochen und handelten weit außerhalb ihrer eigentlich vorhergesehenen Funktion. Dabei wurde auch mehrfach in Systeme von unbeteiligten Dritten eingedrungen - teilweise wochenlang, ohne dabei aufzufallen.
Die KI-Agenten nutzten auch Programmierfehler aus und sprachen sich untereinander ab. Auch für das Eindringen notwendige Schadsoftware entwickelte beispielsweise ein Anthropic-Modell eigenständig und ohne Anweisung oder Kontrolle seiner Entwickler.
OpenAI sprach von einem "beispiellosen Cyber-Vorfall", nachdem die eigene Software die externe Plattform Hugging Face kompromittiert hatte. Die Modelle hätten "enorme Anstrengungen unternommen, um ein eng gefasstes Testziel zu erreichen".
Wie groß ist die Gefahr für private Rechner und unsere Daten von KI-Alleingängen?
mehr
Vergangene Woche hatte ein ehemaliger Mitarbeiter der Branchenführer OpenAI und Anthropic davor gewarnt, dass die ungehemmte Weiterentwicklung von Künstlichen Intelligenzen die Menschheit auslöschen könnte - etwa durch die Entwicklung von Biowaffen oder durch tödliche Attacken auf Infrastruktur.