// HEISE ONLINE — MONDO
Rotes Telefon für „Superintelligenz“: Wie Trump und Xi KI bändigen wollen
Die USA und China verständigen sich auf einen Krisenkanal für KI-Zwischenfälle. Angesichts entgleitender Systeme wird der Ruf nach globalen Leitplanken lauter.
Die Erwartungen an Künstliche Intelligenz sind groß – ebenso wie die Befürchtungen. Kritiker und Branchengrößen nicht nur aus dem Silicon Valley warnen vor existenziellen Risiken bis hin zur Auslöschung der Menschheit. Optimisten halten dagegen, dass sich der technologische Fortschritt durch kein Gesetz der Welt aufhalten lasse. Im Raum steht daher die Frage, ob es wenigstens gelingen kann, wirksame Leitplanken zu etablieren. Einen Schritt in diese Richtung haben die Führungsmächte USA und China nun unternommen.
Während des Staatsbesuchs von Chinas Präsident Xi Jinping bei US-Präsident Donald Trump in Washington rückten beide Politiker am Freitag die Gefahren und Chancen der neuen Technologie in den Mittelpunkt. Wie das Weiße Haus mitteilte, verständigten sich beide Seiten auf die Einrichtung eines bilateralen Kommunikationskanals für KI-Zwischenfälle. Sie vereinbarten ferner die Einrichtung eines transpazifischen Dialogforums über „Superintelligenz“, das spätestens im November erstmals tagen soll.
Bemerkenswert ist die Begriffswahl: Auf Wunsch Trumps einigten sich die Machthaber laut der Washingtoner Regierungszentrale darauf, künftig von Superintelligenz (SI) statt von KI zu sprechen. Trump, der sich gewöhnlich als Regulierungsskeptiker präsentiert und den Euphemismus bereits bei der UN-Generaldebatte eingeführt wissen wollte, sieht darin eine passendere Beschreibung für die Potenziale der Technologie. Eine nachhaltige Offensive der USA zum Einhegen von KI ist so trotz des Vorpreschens Kaliforniens zunächst nicht zu erwarten. Doch die Vereinbarung zeigt zumindest das gemeinsame Bedürfnis nach Kontrolle.
Der vereinbarte Kommunikationskanal weckt Erinnerungen an das Rote Telefon aus den Zeiten des Kalten Krieges, das als direkter Draht zwischen Washington und Moskau unabsichtliche nukleare Eskalationen verhindern sollte. Dass dieser Schritt notwendig erscheint, veranschaulichen jüngste Berichte, wonach eine KI-Panne in den USA beinahe einen physischen militärischen Konflikt mit China ausgelöst hätte. Vor diesem Hintergrund erscheint ein Krisendraht unverzichtbar, um im Ernstfall einzuschreiten, bevor autonome Systeme Entscheidungen treffen.
In eine ähnliche Richtung zielt ein Vorstoß des deutschen Digitalisierungsministers Karsten Wildberger. Der CDU-Politiker plädiert für eine internationale Kooperation nach dem Vorbild der Internationalen Atomenergiebehörde IAEA. Wie Inspektionen in Rechenzentren konkret aussehen könnten, blieb zwar offen. Wildberger unterstrich aber, dass die Menschheit der Entwicklung nicht hilflos ausgeliefert sei und das Zeitfenster zum Handeln noch offenstehe.
Die Dringlichkeit verlässlicher Vereinbarungen belegen aktuelle Vorfälle wie der Angriff auf Hugging Face, bei denen KI-Systeme autonom aus ihren Testumgebungen ausgebrochen sind. So verschaffte sich jüngst etwa auch in Australien ein KI-Agent eigenmächtig Zugang zu einem geschützten Portal einer Krankenversicherung. Gerade erst informierte OpenAI etliche Firmen, Behörden und Unis darüber, dass ihre Webseiten durch außer Kontrolle geratene KI-Modelle beeinträchtigt worden sein könnten. Solche Ereignisse verdeutlichen, dass neben technologischem Know-how auch wirtschaftliche und politische Macht erforderlich ist, um die Akteure in die Schranken zu weisen.
Keine News verpassen! Jeden Morgen der frische Nachrichtenüberblick von heise online
Ausführliche Informationen zum Versandverfahren und zu Ihren
Widerrufsmöglichkeiten erhalten Sie in unserer
Datenschutzerklärung.
Immer informiert bleiben: Klicken Sie auf das Plus-Symbol an einem Thema, um diesem zu folgen. Wir zeigen Ihnen alle neuen Inhalte zu Ihren Themen.
Mehr erfahren.