// LINUX-MAGAZIN — LINUX & OPEN SOURCE
Google-Forscher: Selbstverbessernde KI lange nicht in Sicht
(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Einem Post auf X des Google-Forschers Haydn Belfield zufolge sind wir im Moment noch sehr weit von sich selbst verbessernder KI entfernt.
Belfield bezieht sich auf den “Gemini 4 Argon Safety & Security Report”, in dem Google die erste ganzheitliche empirische Bewertung der Automatisierung und Beschleunigung von ML-Forschung und -Entwicklung bei Google DeepMind veröffentlicht hat. Das hauptsächliche Ergebnis dieser Untersuchung war: “Derzeit gibt es keine nennenswerte durchgängige Beschleunigung der Forschung und Entwicklung im Bereich des maschinellen Lernens, sei es durch KI oder auf andere Weise. Zwar werden einige Bereiche der Forschung und Entwicklung im Bereich des maschinellen Lernens automatisiert, und es gibt zahlreiche Beispiele für KI-gestützte Durchbrüche und Optimierungen, doch sind wir noch weit von einer vollständigen End-to-End-Automatisierung entfernt. Wir kommen daher zu dem Schluss, dass das Risiko, das von der Forschung und Entwicklung im Bereich KI-gestützter maschineller Lernverfahren ausgeht, derzeit gering ist.”
Google hatte für den Report einen internen Index der Fähigkeiten seiner Gemini-Modelle entwickelt und 123 Modelle in 92 Benchmarks getestet. Herauskommt ein langsamer, linearer Anstieg der Fähigkeiten, aber keine Zunahme des Wachstumstempos, wie es für ein exponentielles Wachstum nötig wäre. Eine Ende-zu-Ende-Beschleunigung ist nicht zu erkennen.
Zwar werden zunehmend KI-Komponenten mit KI-Hilfe entwickelt, aber der Mensch in der Schleife bleibt unverzichtbar. Auch findet sich die höchste Stufe der Automation nur bei gut definierten und überprüfbaren Aufgaben, bei langlaufenden Aufgaben mit offenem Ende ist sie am geringsten. Das führt dazu, dass der Großteil des Produktionscodes bei Google DeepMind zwar mittlerweile zu mehr als 75 Prozent von KI geschrieben wird, der Anteil vollständig delegierter Pull-Requests aber nur von 7,5 Prozent auf 11,9 Prozent stieg. Noch immer erfordern etwa 88 Prozent der Pull-Requests eine mehrstufige menschliche Steuerung oder die Erstellung des Codes durch Menschen – und Codeänderungen müssen vor der Einreichung weiterhin von Menschen überprüft werden.
Fazit: KI-Agenten sind zu transformativen Multiplikatoren für das tägliche ML-Engineering geworden, doch ihnen fehlen noch Unabhängigkeit und die Fähigkeit, durchgängig autonome Forschungsabläufe ohne menschliches Eingreifen voranzutreiben. Menschen steuern entscheidende Elemente des ML-Forschungs- und Entwicklungsprozesses, darunter die wissenschaftliche Ideenfindung, die Forschungsausrichtung und die langfristigen Arbeitsabläufe. Wir kommen zu dem Schluss, dass das Risiko durch KI-gesteuerte ML-Forschung und -Entwicklung derzeit gering ist.
Das Linux-Kernel-Team wird wohl eine Regel entfernen, durch die Arbeiten an der Codebasis gekennzeichnet werden sollen, wenn sie durch KI-Tools unterstützt wurden.
Das KDE-Projekt hat die Desktop-Umgebung Plasma 6.8 pünktlich zum 30. Jahrestag der Gemeinschaft angekündigt. Die neue Version umfasst unter anderem eine integrierte Verweilklick-Funktion, Erweiterungen für die Fernsteuerung von Arbeitsflächen und zusätzliche Aufnahmeoptionen für Bildschirmvideos.
Anlass sind die jüngsten Vorfälle, bei denen KI-Systeme aus den ihnen gesetzten Grenzen ausbrechen und fremde Rechner hacken konnten.
Bevor LineageOS, eine auf Android basierende Distribution für Mobilgeräte, im Dezember sein zehnjähriges Jubiläum feiert, ist das Release LineageOS 24 für die Entwickler ein weiterer Schritt nach vorn und ein Moment, um sich auf das nächste Jahrzehnt zu freuen.