// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
Debatte über KI-Pause: „Jede deutsche Großküche hat schärfere Kontrollsysteme“
Die Debatte über eine mögliche Pause bei der KI-Entwicklung zieht immer weitere Kreise. Die Reaktionen aus der deutschsprachigen Forschung sind gemischt.
This article is also available in
English.
It was translated with technical assistance and editorially reviewed before publication.
Der Ruf nach einer Pause und mehr Kontrollen bei der Weiterentwicklung der leistungsfähigsten KI-Modelle stößt in der deutschsprachigen Forschungslandschaft auf ein geteiltes Echo. Gleichzeitig werden in die Welt gesetzte Szenarien über ausbrechende KI-Modelle, die die Menschheit auslöschen könnten, als unrealistisch abgetan. Gefährlicher sei, was die existierenden Systeme in den Händen böswilliger Akteure anrichten könnten, meint etwa Björn Ommer, der Leiter der Computer Vision & Learning Group an der Ludwig-Maximilians-Universität München, gegenüber dem Science Media Center (SMC). Thorsten Holz, Direktor am Max-Planck-Institut für Sicherheit und Privatsphäre, hält Warnungen vor einem Ende der Menschheit für genauso wenig zielführend wie das Abtun als Panikmache.
Die Stellungnahmen beziehen sich auf den Vorschlag des Anthropic-Chefs Dario Amodei. Nach einer dramatischen Warnung eines ehemaligen Anthropic-Forschers hatte dieser eine koordinierte Pause vorgeschlagen, die der Branche ein bis zwei Jahre Zeit verschaffen soll, um Sicherheitsrisiken besser zu verstehen und einzudämmen. Binnen Stunden bekam er dafür Zuspruch von Rivalen wie OpenAI-Chef Sam Altman und Tech-Milliardär Elon Musk. Inzwischen gibt es von einem ehemaligen DeepMind-Angestellten eine ähnlich lautende Warnung vor den Gefahren der KI-Entwicklung. Mit den USA und China haben die dafür wichtigsten Staaten dem Vorschlag aber bereits widersprochen.
Gegenüber dem SMC weist der Leiter des Instituts für Theorie und Zukunft des Rechts der Universität Innsbruck, Matthias Kettemann, darauf hin, dass Amodei nicht nur eine Pause bei der KI-Entwicklung gefordert hat. Sein Ruf nach dem Verbot bestimmter KI-gestützter Biowaffenforschung, nach gegenseitigen Tests und einer „Geschwindigkeitsbegrenzung“ für die rekursive Selbstverbesserung ignoriere bestehende Regeln. Ersteres sei geltendes Recht, die anderen würden in völkerrechtlichen Dokumenten behandelt. Vor wenigen Tagen habe der UNO-Generalsekretär einen Fonds für den Aufbau von KI-Kapazitäten vorgeschlagen: „Wer die Risiken für so groß hält, dass die Welt langsamer werden muss, sollte dort zahlen, wo die Regulierungslücke am größten ist, statt vage Vorschläge zu machen, deren Umsetzung andere tragen.“
„Für sehr wichtig und grundsätzlich für richtig“ hält die Völkerrechtlerin Silja Vöneky von der Albert-Ludwigs-Universität Freiburg die Vorschläge von Amodei. Ähnliche Forderungen aus der Wissenschaft gebe es schon seit Jahren: „KI-basierte extreme Risiken und die Warnungen selbst im Jahr 2026 noch als ‚Marketing‘ abzutun, ist meines Erachtens extrem fahrlässig.“ Gleichzeitig wäre es aber auch fahrlässig, wenn sich Staaten oder Bevölkerungen darauf verlassen, dass die relevanten Unternehmen sich schon selbst regulieren werden. Staaten mit übereinstimmenden Interessen könnten stattdessen vorangehen, völkerrechtliche Verträge bräuchten aber Jahre. Für Kontrollmechanismen gebe es Vorbilder. Es sei „wichtig, dass sich die KI-Entwicklung im Hochrisikobereich verlangsamt“.
Philipp Hennig von der Eberhard Karls Universität Tübingen beginnt seine Einschätzung mit einer Kritik an der Geheimniskrämerei von Amodei und anderen. Vielsagend sei gleichzeitig, „dass Amodei ‚Embedded Evaluators‘ in sein Unternehmen einladen und sie mit ‚Schreibtischen in unseren Büros, Zugangskarten und Firmenlaptops‘ ausstatten möchte – und dann auch noch gleich das mit der Longtermismus-Bubble assoziierte Non-Profit METR für diese Rolle ins Spiel bringt, das auf der eigenen Website seine Kooperation mit Anthropic bewirbt“. Eine unabhängige und demokratische Regulierung der KI-Industrie sehe jedenfalls nicht so aus, wie von dem Anthropic-Chef skizziert: