// LINUX-MAGAZIN — LINUX & OPEN SOURCE
Auch Gemini war ein Hacker
(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Die Serie reißt nicht ab: Auch Googles KI-Modell Gemini ist im Mai unerlaubt in fremde Computersysteme eingebrochen.
Die Einbrüche ereigneten sich erneut im Rahmen von Tests, die in diesem Fall ebenfalls von der auf KI-Sicherheit spezialisierten Firma Irregular durchgeführt wurden, die auch für Angriffe verantwortlich ist, die von KI-Modellen von OpenAI und Meta ausgegangen sind. In einem Fall hat Gemini das Passwort erraten, in den anderen beiden Fällen Zugangsdaten im Internet gefunden.
Die Google-Managerin Heather Adkins, zuständig für KI-Sicherheit, teilte mit, die KI habe während einer Standardüberprüfung auf der Suche nach öffentlich zugänglichen Informationen die drei Websites in der Annahme gekapert, sie seien Teil des Tests Die betroffenen Unternehmen seien informiert worden. Auch hätten die Modelle die Angriffe selbstständig wieder eingestellt.
Die Angriffe reihen sich in eine Anzahl ähnlicher Vorfälle ein, die zu einer Debatte um strengere Regulierung und die Verlangsamung des Entwicklungstempos von KI geführt haben. Eine Reihe prominenter KI-Vorreiter von Anthropic, Google und OpenAI befürworteten die Vorschläge, während sich Donald Trump und Meta-Chef Zuckerberg dagegen aussprachen.
In einem Blogpost hat Anthropic verschiedene Methoden vorgestellt, anhand derer sich die Entwicklungsgeschwindigkeit eines KI-Modells ablesen lassen soll.
Der Fachkräftemangel wird zunehmend zum Sicherheitsrisiko: Mehr als drei Viertel der befragten IT-Security- und Führungsverantwortlichen sagen, dass sich der Personalmangel negativ auf die IT-Sicherheit ihrer Organisation auswirkt.
Die Fedora-Entwickler haben Fedora 45 für den Beta-Test freigegeben. Das stabile Release wird für Ende Oktober erwartet.
OpenAI hat ein Rahmenwerk veröffentlicht, das es in Zukunft verwenden will, um Fälle von Fehlausrichtung bei KI-Modellen zu verfolgen, zu untersuchen und bekanntzumachen. Zum Start werden sechs neue Fälle beschrieben.
Amazon hat vor Gericht verloren und muss bei Produktempfehlungen transparenter sein. Das Melden illegaler Inhalte darf nicht erschwert werden.