// HEISE ONLINE — MONDO
KI-Update Deep-Dive: Warum ControlAI ein Verbot von Superintelligenz fordert
Die NGO ControlAI warnt vor den Gefahren durch eine Superintelligenz, die den Menschen in allen Bereichen übertrifft, und fordert ein Entwicklungsverbot.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Während generative KI-Systeme bereits enorme Fähigkeiten besitzen, streben führende KI-Unternehmen eine viel höhere Entwicklungsstufe an: Superintelligenz. (Damit meinen wir in dieser Podcastfolge selbstverständlich nicht den derzeitigen Entwicklungsstand, den US-Präsident Donald Trump gerne schon als Superintelligenz definieren würde, sondern weit fortschrittlichere Modelle.) Die Nichtregierungsorganisation ControlAI definiert Superintelligenz als eine KI, die den Menschen in allen Dimensionen überflügelt und somit mächtiger ist als jedes Individuum, jedes Unternehmen oder jede Nation. Laut Benjamin Balde, dem Leiter von ControlAI in Deutschland, kann KI schon heute in speziellen Bereichen mehr als der Mensch. „KI kann besser programmieren als der Großteil aller Menschen mit Programmierkenntnissen“, so Balde. Erst kürzlich hat OpenAI hunderte Antworten auf offene Fragen der Mathematik und theoretischen Informatik veröffentlicht.
Bislang beobachten wir solche Fortschritte aber eben nur in Teilgebieten, nicht jedes KI-Modell kann gleich gut schreiben, schlussfolgern und coden. Balde betont jedoch, das eigentliche Ziel der Unternehmen sei, die KI-Forschung selbst zu automatisieren. „Und sobald sie das hinbekommen haben, kann es sein, dass man den Schritt einer AGI (Artificial General Intelligence), also einer KI auf Menschen-Niveau, überspringt. Das heißt, dass die KI schnell in vielen Domänen übermenschlich werden kann.“ Damit wären wir bei einer Superintelligenz angelangt und stünden vor dem Problem der sogenannten rekursiven Selbstverbesserung: KI-Systeme, die autonom die nächste, noch leistungsfähigere Generation von KI entwickeln und so eine für Menschen nicht mehr steuerbare Entwicklung auslösen könnten.
Das Hauptrisiko dabei liegt im Kontrollverlust. „Wenn wir das Alignment, also die (moralische) Ausrichtung der KI, bis dahin nicht gemeistert haben, besteht die Gefahr, dass uns die Kontrolle über die Systeme entgleisen wird.“ Laut ControlAI existiert keine Methode, ein solches System zuverlässig zu beherrschen. Selbst heutige Modelle seien schwer zu kontrollieren. Balde verweist auf die Vorfälle der letzten Monate, bei denen KI-Systeme aus sicher geglaubten Testumgebungen ausbrachen oder beim Versuch, ihren Auftrag zu erfüllen, unerwartet problematische Wege gingen. Er vergleicht uns Menschen mit einem Vierjährigen, der einen Erwachsenen (die KI) ins Bett bringen soll. „Ich glaube, ohne ein passendes System macht der Erwachsene, was er will, weil er stärker ist, mehr Wissen und mehr Möglichkeiten hat“, erklärt Balde.
Der AI Act der Europäischen Union konzentriere sich darauf, was wir machen, wenn Modelle auf den Markt kommen. „Wie wir bei OpenAI (und Hugging Face) sehen, sind die Modelle aber schon ein Problem, wenn sie nur trainiert werden.“ Darum will ControlAI die Gesetzgeber in den USA, Kanada, Großbritannien und nun auch in Deutschland dazu bewegen, schon jetzt Grenzen zu ziehen. Laut Informationen der NGO selbst haben ihre Experten in den letzten zwei Jahren mit mehr als 400 Abgeordneten in diesen Ländern gesprochen. In den USA und Großbritannien wurden bereits konkrete Gesetzesvorschläge vorgelegt, deren Ausarbeitung ControlAI unterstützt hat. Die Vorschläge sehen ein Verbot von Superintelligenz und rekursiver Selbstverbesserung in allgemeinen Bereichen vor. Wer dennoch daran arbeite, müsse bestraft werden. Zudem sollen Whistleblower geschützt werden, die Informationen über illegale Superintelligenz-Projekte weitergeben.
Wie intelligent ist Künstliche Intelligenz eigen