// LINUX-MAGAZIN — LINUX & OPEN SOURCE
415 Wissenschaftler unterzeichnen offenen Brief, der mehr KI-Sicherheit fordert
(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Anlass sind die jüngsten Vorfälle, bei denen KI-Systeme aus den ihnen gesetzten Grenzen ausbrechen und fremde Rechner hacken konnten.
Zu den Unterzeichnern aus aller Welt gehören so bekannte Forscher wie Geoffrey Hinton (University of Toronto), Yoshua Bengio (Université de Montréal) oder Stuart Russell (UC Berkeley). Aus Deutschland unterschrieben unter anderem Prof. Dr. Jörg Hoffmann (Saarland University), Prof. Thorsten Holz (Max Planck Institute for Security and Privacy), Prof. Dr. Gregor Leander oder Prof. Dr. Christian Rossow (CISPA Helmholtz Center for Information Security).
Der Brief fordert, dass KI-Entwickler ihre Systeme zunächst vollständig vom Internet trennen (Airgapping). Danach müsse für alle Systeme, die wieder mit dem Internet verbunden werden sollen, der Umfang der von einem Containment-System zugelassenen Modellaktionen gegen unsere derzeit begrenzte Fähigkeit abgewogen werden, vorherzusagen, dass die Aktionen des Modells nicht zu einem Sicherheitsversagen führen. Um aus zukünftigen Fehlern lernen zu können, müsse man Informationen darüber breit und transparent teilen.
Konkret regen die Wissenschaftler an, dass Unternehmen, die leistungsfähige KI-Modelle entwickeln und testen, diese Systeme aus Vorsicht vom Internet trennen sollten. Danach sollte in Absprache mit Regierungen und einem breiten Spektrum von Experten aus den Bereichen KI und Cybersicherheit ein internationales Gremium ins Leben gerufen werden, das im öffentlichen Interesse bewährte Verfahren für die Ausrichtung der Modelle standardisiert. Dieses Gremium sollte zudem beauftragt werden, Fehlschläge beim Alignment zu erfassen und nachzuverfolgen. Alle KI-Entwickler müssten verpflichtet sein, Sicherheitsvorfälle, bei denen die Ausrichtung des Modells versagt hat, diesem Gremium zu melden und diese schließlich zu veröffentlichen.
Bevor LineageOS, eine auf Android basierende Distribution für Mobilgeräte, im Dezember sein zehnjähriges Jubiläum feiert, ist das Release LineageOS 24 für die Entwickler ein weiterer Schritt nach vorn und ein Moment, um sich auf das nächste Jahrzehnt zu freuen.
Der deutsche Notebook-Hersteller TUXEDO Computers hat die achte Generation seines Stellaris 16 vorgestellt. Das Notebook richtet sich an Anwender, die rechenintensive Anwendungen, lokale KI-Modelle und Simulationen ausführen, sowie an Gamer.
Das European Open-Source Consortium (EOSC) hat in Zusammenarbeit mit Univention einen Bericht zum alternativen Arbeitsplatz veröffentlicht. Untersucht wurden digital souveräne Organisationen in Deutschland, Frankreich und Schweden.
Character.AI, ein KI-Chatbot, bei dem sich der Anwender einen Gesprächspartner maßschneidern konnte, meldet nach nur 5 Jahren Existenz Konkurs an. Es bleiben Verbindlichkeiten von 50 bis 100 Millionen Dollar.
Beim Open Source Summit Europe in Prag zählte auch Linus Torvalds zu den Keynote-Gästen. Im Gespräch mit seinem langjährigen Weggefährten Dirk Hohndel blickt Torvalds auf die Anfänge von Linux zurück, das 35jähriges Jubiläum feiert, erzählt von der Entstehung von Git und erklärt, warum er...