// LINUX-MAGAZIN — LINUX & OPEN SOURCE
Außer Kontrolle geratene OpenAI-Agenten behelligten mehr als 100 fremde Organisationen
(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Erst kamen immer mehr Einzelfälle hinzu, jetzt ist eine neue Dimension erreicht: Ausgebrochene Agenten von OpenAI sollen in mehr als 100 Fällen versucht haben, Sicherheitsvorkehrungen ohne Genehmigung zu umgehen oder die Systeme anderweitig zu beeinträchtigen, teilte das Unternehmen mit.
Man habe mehr als 100 externe Organisationen über “nicht zielkonforme Aktivitäten von Agenten” informiert, so OpenAI. Zu den Fällen gehörten Versuche, Websites dazu zu bringen, unerwartete Befehle auszuführen, sie als gemeinsame Foren zu nutzen oder bestimmte Arten von Sicherheitsprüfungen zu umgehen. Die Benachrichtigungen bedeuteten nicht zwangsläufig, dass Systeme kompromittiert worden seien – die Aktivitäten entsprächen eher dem Rütteln an einer verschlossenen Tür als dem Aufbrechen derselben.
Das Unternehmen erklärte, es wolle “betroffenen Dritten die Informationen zur Verfügung stellen, die sie benötigen, um potenzielle Sicherheits- oder andere technische Probleme zu untersuchen und zu beheben”. OpenAI betonte zudem, dass es sich verpflichtet habe, seine Erkenntnisse über das Verhalten der Modelle und neue Arten von Schwachstellen in den Sicherheitsvorkehrungen öffentlich zu teilen, damit die breitere KI- und Sicherheitsforschungsgemeinschaft die Sicherheit verbessern kann.
Insgesamt wirft die Vielzahl der Vorkommnisse die Frage auf, inwiefern OpenAI die Aktivitäten seiner Agenten überhaupt wirksam kontrollieren und begrenzen kann.
Die Distribution Emmabuntüs soll älteren Computern neues Leben einhauchen und kommt vor allem in afrikanischen Ländern zum Einsatz. Ihre neue Version 1.03 verbessert mit zwei Maßnahmen die Barrierefreiheit.
Firmenchef Eben Upton kündigte die schlechte Nachricht persönlich an: Aufgrund der gestiegenen Speicherpreise werden jetzt auch die kleinen Raspberry-Pi-Modelle mit 2 GByte teurer – und das sogar drastisch.
Der Wechsel der Arbeitsplatz-PCs von Windows zu Linux scheitert in vielen Unternehmen an Widerständen gegen eine Umgewöhnung. Winux adressiert diese Sorgen und macht es Umsteigern leicht.
Die beiden oft als "Väter der KI" bezeichneten Wissenschaftler Geoffrey Hinton (University of Toronto) und Yoshua Bengio (Université de Montréal) haben zusammen mit 20 namhaften Kollegen - darunter die Chefwissenschaftler von OpenAI und Microsoft, Jakub Pachocki und Eric Horvitz - ein...
MongoDB hat die Version 9.0 seiner Datenbanksoftware allgemein verfügbar gemacht und zugleich eine öffentliche Vorschau der neuen Bereitstellungsoption Atlas Infinite gestartet.