// LINUX-MAGAZIN — LINUX & OPEN SOURCE
Väter der KI warnen vor Intelligenzexplosion
(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Die beiden oft als “Väter der KI” bezeichneten Wissenschaftler Geoffrey Hinton (University of Toronto) und Yoshua Bengio (Université de Montréal) haben zusammen mit 20 namhaften Kollegen – darunter die Chefwissenschaftler von OpenAI und Microsoft, Jakub Pachocki und Eric Horvitz – ein gemeinsames Papier unter dem Titel veröffentlicht “Was wäre, wenn die Automatisierung der KI-Forschung eine Intelligenzexplosion auslöst?” (“What if automating AI R&D triggers an intelligence explosion?”)
Sie schreiben darin, dass KI-Systeme heute, anders als noch vor einem Jahr, den meisten Code in den Unternehmen schreiben, die sie gebaut haben. Je mehr der KI-Forschung automatisiert wird, desto größer sei die Gefahr, dass der Prozess in einer Intelligenzexplosion münde, die die Fortschritte von Jahren in Monate oder noch kürzere Zeiträume komprimiere. Das würde extreme Risiken heraufbeschwören, denn dann würde sich das Anwachsen der Fähigkeiten der KI derart beschleunigen, dass die Gesellschaft nicht mehr Schritt halten könnte. Die Menschheit könnte die Kontrolle über übermenschliche KI-Systeme verlieren, und es bestünde die Gefahr, dass die Gewaltenteilung innerhalb und zwischen Staaten, Unternehmen und Regierungen erheblich untergraben würde.
Obwohl noch große Unsicherheit hinsichtlich dieser Möglichkeiten besteht, rechtfertigen die hohen Risiken eine ernsthafte weitere Beachtung. Die politischen Entscheidungsträger sollten dringend mehr Einblick in die Automatisierung der KI-Forschung und -Entwicklung gewinnen, Wege entwickeln, um eine Intelligenzexplosion zu steuern und einzudämmen, und die Gesellschaft darauf vorbereiten, sich an deren Auswirkungen anzupassen.
Den Forschern zufolge wirken vier Hindernisse bremsend auf den Prozess der rekursiven Selbstverbesserung ein. Das erste sind abnehmende Erträge: In wissenschaftlichen Bereichen wie Computerhardware, Landwirtschaft und Arzneimittelentwicklung erfordert die Aufrechterhaltung des bisherigen Fortschritts einen erheblich höheren Forschungs- und Entwicklungsaufwand, sobald die “niedrig hängenden Früchte” abgeerntet sind. Auch zusätzliche Forscher sehen sich mit abnehmenden Erträgen konfrontiert, da sie möglicherweise die Arbeit anderer duplizieren oder Schwierigkeiten haben, hochwertige Forschungs- und Entwicklungsarbeiten (F&E) parallel auszuführen. Zweitens ist F&E auf Rechenleistung für die Durchführung von Experimenten und auf Daten für das Training angewiesen, und Grenzen bei der Rechenleistung oder beim Datenwachstum können den Softwarefortschritt verlangsamen. Drittens könnten schwer automatisierbare Aufgaben den Fortschritt behindern. Viertens sind einige F&E-Prozesse zeitaufwendig: So könnten beispielsweise lange Trainingsläufe das Fortschrittstempo begrenzen. All diese Hindernisse könnten jedoch überwunden werden. Auch dafür führt das Papier Argumente an.
Zwar könne eine Intelligenzexplosion auch segensreiche Entwicklungen beschleunigen, etwa auf dem Gebiet der Medikamentenentwicklung oder der Herstellungsverfahren auf atomarer Skala, die beim gegenwärtigen Forschungstempo noch Jahre oder Jahrzehnte entfernt wären. Sie berge aber auch hohe Risiken, von denen die Forscher drei hervorheben. Erstens: Das Anwachsen der Fähigkeiten der KI übersteigt das menschliche Vermögen, den Prozess zu steuern und sich daran anzupassen. Zweitens: Der Verlust von Übersicht und Kontrolle. Drittens: Das Untergraben der Machtkontrolle zwischen Staaten und Unternehmen, die nur solange funktioniert, wie nicht ein Partner den anderen intellektuell oder handlungsmäßig stark überlegen ist.
MongoDB hat die Version 9.0 seiner Datenbanksoftware allgemein verfügbar gemacht und zugleich eine öffentliche Vorschau der neuen Bereitstellungsoption Atlas Infinite gestartet.
Die OpenStack-Community hat Version 2026.2 mit dem Codenamen „Hibiscus“ veröffentlicht. Die 34. Ausgabe der Open-Source-Cloud-Infrastruktur erweitert unter anderem Funktionen