// COMPUTERBASE — INTELLIGENZA ARTIFICIALE
KI-Sicherheitsdebatte: Sam Altman warnt ebenfalls vor Kontrollverlust durch KI
OpenAI-Chef Sam Altman unterstützt den Vorstoß von Anthropic-Chef Dario Amodei, das Entwicklungstempo der leistungsfähigsten KI-Systeme zu drosseln und zugleich verbindlichere Sicherheitsmechanismen zu etablieren. Altman warnt dabei vor zwei Fehlentwicklungen: den Kontrollverlust über oder durch die Künstliche Intelligenz.
Aufschwung erhielt die ohnehin zunehmend intensiv geführte Debatte über die Sicherheit Künstlicher Intelligenz durch den Abgang von Jacob Coxon, der Anthropic in den vergangenen Tagen verlassen hatte. Seinen Abschied verband er mit der eindringlichen Warnung, dass die derzeit entwickelten Systeme bis zum Ende des Jahrzehnts eine existenzielle Gefahr darstellen könnten.
Anthropic-Chef Dario Amodei legte daraufhin einen ausführlichen Vorschlag vor, der eine Verlangsamung der Entwicklung an der technologischen Spitze vorsieht. Unterstützung erhielt er unter anderem von Altman, Elon Musk und Google-DeepMind-Chef Demis Hassabis – eine seltene Übereinstimmung zwischen Vertretern ansonsten stark konkurrierender Unternehmen. Bei OpenAI führte die Debatte zudem dazu, den geplanten Börsengang vorerst auf Eis zu legen.
Altman hat einem Bericht von CNBC zufolge inzwischen konkretisiert, welche Leitplanken OpenAI für einen solchen Kurs als sinnvoll erachtet. Einen vorgeschlagenen bundesweiten gesetzlichen Rahmen, der einheitliche Sicherheitsanforderungen für Entwickler sogenannter Frontier-KI schaffen und unabhängigen Prüfern eine wichtige Rolle einräumen könnte, begrüße der Konzern ausdrücklich. Allein auf staatliche Vorgaben zu warten, hält Altman allerdings für den falschen Weg: Die Unternehmen sollten entsprechende Sicherheitsmaßnahmen bereits eigenständig umsetzen, bevor der Gesetzgeber sämtliche Regeln festgelegt hat.
Zwei Szenarien hält Altman für besonders problematisch. Zum einen bestehe seiner Aussage nach das Risiko, dass Menschen die Kontrolle über die weitere Entwicklung Künstlicher Intelligenz verlieren. Zum anderen könne eine zu starke Konzentration der Technologie außergewöhnlich viel Macht in den Händen einer einzelnen Person oder eines einzelnen Unternehmens bündeln. Die technische Frage nach der Beherrschbarkeit immer leistungsfähigerer KI-Systeme verknüpft Altman damit unmittelbar mit der gesellschaftlichen und politischen Frage, wer letztlich die Kontrolle über diese Technologie ausübt.
Eine Verlangsamung dürfe nach Altmans Vorstellungen allerdings keinesfalls einem Entwicklungsstopp gleichkommen. Der Fortschritt werde weiterhin schnell verlaufen, davon zeigt sich der OpenAI-CEO überzeugt. Stattdessen gehe es darum, die Fähigkeiten neuer Modelle nur in einem Tempo auszubauen, mit dem Verfahren für Alignment, Überwachung und Sicherheitskontrollen Schritt halten können. Bereits Amodei hatte ähnlich argumentiert und darauf verwiesen, dass sich der technologische Fortschritt zuletzt erheblich beschleunigt habe. Setze sich diese Dynamik fort, könnten die menschlichen Möglichkeiten, die Systeme zu verstehen und zu kontrollieren, hinter deren Entwicklung zurückbleiben. Der Konkurrenzdruck innerhalb wie außerhalb der USA dürfe laut Altman dafür keine Rechtfertigung sein.
Genau an diesem Punkt liegt für Altman zugleich die wohl größte Schwachstelle des Vorhabens: die internationale Abstimmung. Selbst eine Einigung amerikanischer Unternehmen auf ein begrenztes Entwicklungstempo könnte schnell wirkungslos werden, wenn Konkurrenten in anderen Staaten ihren bisherigen Kurs fortsetzen.
Besondere Bedeutung kommt dabei China zu, das mit den USA um die technologische Führungsposition bei Künstlicher Intelligenz konkurriert. Gleichzeitig gewinnen chinesische Modelle sowohl bei ihrer Leistungsfähigkeit als auch bei ihrer internationalen Verbreitung zunehmend an Boden. Auch Amodei räumt ein, dass sich eine internationale Begrenzung des Entwicklungstempos angesichts erheblicher wirtschaftlicher und militärischer Anreize nur schwer durchsetzen lassen dürfte.
Damit wäre eine internationale Koordination unter Führ