// COMPUTERBASE — INTELLIGENZA ARTIFICIALE
KI-Appell „Pacing the Frontier“: Wie lässt sich das Tempo der KI-Entwicklung drosseln?
Mit „Pacing the Frontier“ haben über 1.000 Mitarbeiter der führenden KI-Labore einen Brief unterzeichnet, in dem vor der rasanten Entwicklungsgeschwindigkeit gewarnt wird. Die US-Regierung soll daher Mechanismen schaffen, um das Tempo im Zweifel drosseln zu können. Die zentrale Frage ist nur: Wie soll das überhaupt gehen?
Um es vorwegzunehmen: Auch der „Pacing-the-Frontier“-Brief bleibt vage. Die Unterzeichner fordern die US-Regierung auf, international die technischen und regulatorischen Instrumente zu schaffen, mit denen sich die Geschwindigkeit der automatisierten KI-Entwicklung drosseln lässt.
We request that the U.S. government support an international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development.
Bemerkenswert an diesem Brief sind vor allem die Unterzeichner. Zu diesen zählen Anthropic-CEO Dario Amodei, OpenAI-Chefwissenschaftler Jakub Pachocki, Ilya Sutskever (Ex-OpenAI, jetzt SSI), Shane Legg (Chefwissenschaftler DeepMind) und zahlreiche prominente Namen. Der Anlass ist dem Appell zufolge die Sorge, dass die Top-Labore womöglich nahe an dem Punkt sind, an dem sich die KI-Entwicklung automatisiert. „Es ist schwer zu prognostizieren, wie stark das den KI-Fortschritt beschleunigen wird, aber es besteht ein reales Risiko, dass sich die Entwicklung der Fähigkeiten so rasch beschleunigt, dass sie schneller voranschreitet, als wir die entstehenden Systeme verstehen oder kontrollieren können“, heißt es dort.
Ebenso scheint der Sicherheitsvorfall bei OpenAI, bei dem ein Forschungsmodell aus der Sandbox ausbrach und autonom Hugging Face hackte, einige der Beteiligten in den Knochen zu stecken. Sam Altman bezeichnete den Hack in einem Interview als „ersten Sicherheitsvorfall, den ich sehr körperlich gespürt habe“. Das Entwicklungstempo drosseln könnte daher helfen, um Sicherheitsmechanismen zu schaffen, so Altman (via Transformernews). Den Appell hat er allerdings nicht unterzeichnet.
Inwieweit die automatisierte KI-Entwicklung bevorsteht und was für ein Risiko diese darstellt, ist ein separates Thema. Die interessante Frage ist vor allem: Wie lässt sich das Tempo überhaupt drosseln?
ComputerBase hat daher via E-Mail bei Dr. Jonas Geiping nachgefragt, er ist Leiter der Forschungsgruppe „Safety- & Efficiency-aligned Learning“ am Ellis Institut Tübingen und Max-Planck-Institut für Intelligente Systeme in Tübingen.
Was bei „Pacing the Frontier“ auffällt, ist die Abgrenzung zu bestehenden Initiativen wie PauseAI, die sich tatsächlich für einen Stopp bei der Entwicklung und Forschung einsetzen, so Geiping. Das wollen die Unterzeichner nicht. Bislang setzen die führenden KI-Labore mehr oder weniger auf Selbstregulierung. Anthropic schreibt diese etwa in einer Responsible Scaling Policy fest.
Wie sich Kontrollmechanismen in so einem freiwilligen Umfeld entwickeln, kann aber erstaunlich sein. Als die Trump-Administration im Frühsommer neue Kontrollmechanismen plante, setzten sich die Tech-Konzerne dafür ein, dass die Vorgaben nicht verbindlich sind. Damit hatten sie Erfolg. Die Executive Order von Anfang Juni beinhaltete ein Regelwerk, laut dem KI-Entwickler grundsätzlich selbst entscheiden, ob die US-Regierung vorab ein Modell prüfen soll. Die Dynamik änderte sich aber massiv, als die Trump-Administration Anthropics Fable- und Mythos-Modelle mit einer Exportkontroll-Anordnung sperren ließ. Später verzögerte sich auch der Start von GPT-5.6. Damit waren weder Anthropic noch OpenAI zufrieden.
Allerdings greift auch die Selbstregulierung kaum, das räumt sogar Anthropic ein. Als das Unternehmen die Version 3 seiner Responsible Scaling Policy im Februar veröffentlichte, erklärte es in einem Blog-Beitrag, dass es kaum möglich sei, Schwellenwerte für KI-Risiken zu identifizieren. In den letzten Jahren habe sich zudem der Fokus verschoben. „Das politische Klima hat sich in Richtung einer Priorisierung von KI-Wettbewerbsfähigkeit und Wirtschaftswachstum ve