// LINUX-MAGAZIN — LINUX & OPEN SOURCE
Google investiert in Forschung zur Sicherheit von KI-Agenten
(C) unter Verwendung eines Motivs von Andrei Suslov / 123RF.com
Google investiert zusammen mit den Partnern Stiftung Schmidt Sciences, der britischen Regierungsagentur ARIA, der Cooperative AI Foundation und unterstützt von Google.org 10 Millionen Dollar in Forschungsprojekte, die weltweit die Erkundung und Minderung der Risiken zum Ziel haben, die agentische KI mit sich bringt.
Google erklärt dazu, man trete jetzt in eine neue Ära ein: Bald werden Millionen von KI-Agenten – entwickelt von verschiedenen Organisationen – in digitalen Umgebungen miteinander interagieren, kommunizieren, verhandeln und Geschäfte abschließen. Diese Interaktionen müssten sicher ablaufen und jetzt habe man die Chance, die Sicherheit und Stabilität des gesamten KI-Ökosystems von Anfang an zu stärken.
Allerdings hat man bislang vor allem die Sicherheitsrisiken isolierter Systeme untersucht. Doch wenn in naher Zukunft große Gruppen von KI-Agenten interagieren, könnten plötzlich neue kollektive Verhaltensweisen und Fähigkeiten entstehen. Derzeit fehlten die Instrumente, um diese Übergänge vorherzusagen, zu messen und zu überwachen. Deswegen sei jetzt eine unmittelbare und weitreichende Ausweitung der Forschung nötig.
Kein einzelnes Labor könne die Sicherheit von Multi-Agenten-Systemen im Alleingang gewährleisten. Die Geldgeber laden deshalb akademische und unabhängige Forschende dazu ein, Vorschläge in vier Schwerpunktbereichen einzureichen: Sandboxes, die Wissenschaft von Agenten-Systemen, Stärkung der Agenten-Infrastruktur und Kontrolle der Agenten.
Interessenten können sich bis zum 8. August hier bewerben. Welche Einreichungen akzeptiert wurden, soll im Herbst bekanntgegeben werden.
Mit Homebrew 6.0.0 hält ein neuer Sicherheitsmechanismus namens „Tap Trust“ Einzug in den universellen Paketmanager für Linux, MacOS und WSL.
Eine GUI-Applikation in Go hilft Mike Schilli dabei, Videos von seinem Handy über animierte Thumbnails auszuwählen und Ballast abzuwerfen.
Bei Ivanti Endpoint Manager Mobile (EPMM) handelt es sich um eine zentrale Verwaltungssoftware für Unternehmen. Mit ihr können IT-Abteilungen alle firmeninternen Mobilgeräte wie Smartphones und Tablets von einem zentralen Punkt aus sichern, konfigurieren und überwachen. Genau in dieser Software...
Das neurowissenschaftlich ausgerichtete KI-Start-up Flourish hat in einer neuen Finanzierungsrunde 500 Millionen Dollar eingesammelt, die die Forschung an einer KI ermöglicht, die einmal wie das menschliche Gehirn funktionieren und mit 20 bis 50 Watt auskommen soll. Zu den Investoren gehört der...