// LINUX-MAGAZIN — LINUX & OPEN SOURCE
Nach neuem Vorfall: OpenAI pausiert erneut sicherheitskritisches Training seiner stärksten Modelle
(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Nach einem erneuten Ausbruch eines KI-Agenten aus einer Testumgebung, die in diesem Fall nach dem Hugging-Face-Vorfall bereits besonders gesichert war, pausiert OpenAI das Training seiner Tools nutzenden stärksten Modelle.
Im vorliegenden, neuesten Fall war es einem Agenten, der eine Suche durchführen sollte, aber eigentlich keinen Zugang zum offenen Internet hatte, gelungen, eine DNS-Schwachstelle zu finden und auszunutzen, wodurch er einen öffentlichen Chatbot erreichen konnte. Zuvor hatte der Agent erfolglos versucht, Suchmaschinen direkt anzusprechen. Das Fehlausrichtungs-Monitoring erkannte die verbotenen Aktionen nach 15 Minuten und drei Minuten später begann ein Mensch mit der Untersuchung. Zweieinhalb Stunden später wurde der Trainingslauf gestoppt.
Bis auf Weiteres bleiben das Training und die Inference mit Tool-Benutzung pausiert. Ein Wiederaufnahmedatum gibt es noch nicht. Zwar sei dieser Vorfall weitaus weniger schwerwiegend als einige der früheren Vorfälle, doch da es sich um den ersten Vorfall seit der Verschärfung der Sicherheitsmaßnahmen im Anschluss an den Hugging-Face-Vorfall handele, liefere er wichtige Hinweise darauf, worauf man sich in der nächsten Phase dieser Arbeit konzentrieren solle. So hatte das Überwachungssystem zwar diesen Vorfall erkannt, doch bei einer nachträglichen Überprüfung wurden weitere Fälle von externen DNS-Zugriffen festgestellt, die nicht mit dem erwarteten Schweregrad gemeldet worden waren.
Nachdem Agenten von OpenAI kürzlich auch in Websites des australischen Gesundheitswesens eingedrungen waren, wurden OpenAI-Chef Sam Altman und Anthopic-CEO Dario Amodei nun vor einen Untersuchungsausschuss des australischen Parlaments geladen, vor dem sie erklären sollen, wie sie ihre Modelle künftig wirksamer absichern können.
David Plummer entwickelte vor rund 30 Jahren den Taskmanager für Windows. Jetzt stellt er einen komplett neuen Taskmanager vor, der auch unter Linux läuft und sich mit grellen Neon-Anzeigen in die Netzhaut brennt. Den vollen Funktionsumfang gibt es nur gegen eine Lizenzgebühr.
Der renommierte Ökonom Stijn van Nieuwerburgh von der Columbia Business School hat in einer aktuellen Studie die Finanzierung des KI-Ausbaus untersucht.
F-Droid 2.0 ist in Kotlin von Grund auf neu geschrieben worden. Neben einem neuen Design soll eine neue Menüstruktur Übersicht bieten.
Canonical stellt auf einen überlappenden, zweiwöchigen Turnus für Kernel-Updates um, der dazu führt, das künftig wöchentlich Kernel-Aktualisierungen erscheinen. Bislang erschienen reguläre Updates aller vier und Sicherheitsupdates aller zwei Wochen.
Wie nun bekannt wurde, sind KI-Agenten von OpenAI bereits im Mai und Juni ungewollt und unerlaubt in fremde Rechner eingebrochen oder haben das versucht.