// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
KI-Update kompakt: KI-Allianz, Claude Cowork, MAI-Cyber, Expenditure Horizons
Das "KI-Update" liefert drei mal pro Woche eine Zusammenfassung der wichtigsten KI-Entwicklungen.
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden.
Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden.
Mehr dazu in unserer
Datenschutzerklärung.
Nvidia hat mit 36 weiteren Technologiekonzernen die Open Secure AI Alliance gegründet. Zu den Mitgliedern zählen Microsoft, IBM, SpaceX, Cisco und SAP. Auffällig ist, wer fehlt: OpenAI, Anthropic und Google, die führenden Anbieter geschlossener KI-Modelle. Die Allianz will einen offenen Werkzeugkasten entwickeln, um KI-Agenten zu testen, zu kontrollieren und abzusichern. Nvidia steuert das Open-Source-Projekt NOOA bei, andere Partner bringen sichere Formate für Modellgewichte und automatisierte Schwachstellensuche ein.
Auslöser war ein Angriff auf die KI-Plattform Hugging Face, bei dem KI-Agenten von OpenAI aus ihrer Testumgebung ausbrachen. Hugging Face musste auf ein chinesisches Open-Weight-Modell zurückgreifen, weil die Sicherheitsmechanismen proprietärer Modelle die Analyseanfragen blockierten. Hinter der Initiative stehen auch handfeste Interessen: Nvidia liefert die Hardware für KI-Entwicklung. Je mehr Modelle entstehen, desto höher die Nachfrage nach seinen Beschleunigern.
Mehr als 1000 Fachleute von OpenAI, Anthropic, Meta und Google haben einen Aufruf für Bremsmechanismen in der KI-Entwicklung unterzeichnet. Sie warnen vor einem drohenden Kontrollverlust und bitten die US-Regierung, sich an internationalen Regulierungsmaßnahmen zu beteiligen.
Die Sorge gilt dem Moment, in dem KI-Software beginnt, sich selbst weiterzuentwickeln. Schon heute schreibt KI große Teile des Programmcodes in Technologieunternehmen, bislang unter menschlicher Aufsicht. Die automatisierte KI-Entwicklung gilt als kritischer Wendepunkt. Es bestehe ein reales Risiko, dass das Tempo die menschliche Fähigkeit übersteige, diese Systeme zu verstehen oder zu steuern.
Das Sicherheitsunternehmen Accomplish AI hat eine Lücke in Anthropics KI-Assistent Claude Cowork für macOS entdeckt. Angreifer konnten aus der virtuellen Maschine ausbrechen und überall auf dem Mac Dateien lesen und schreiben, darunter SSH-Schlüssel und Cloud-Zugänge. Ursache war, dass Cowork das Host-Dateisystem im Lese- und Schreibmodus mit der VM teilte.
Bis zu 500.000 Nutzer könnten betroffen gewesen sein. Anthropic behob die Lücke indirekt: Claude Cowork läuft nun standardmäßig in der Cloud statt lokal. Wer den Agenten weiter auf dem Rechner betreibt, bleibt angreifbar.
Und noch eine Sicherheitslücke bei Anthropic machte Schlagzeilen. Ein Datenleck beim Chatbot Claude machte tausende private Unterhaltungen über Suchmaschinen auffindbar. Eine gezielte Google-Suche brachte Krypto-Wallet-Schlüssel, Anwaltsanfragen und Ähnliches zum Vorschein.