// HEISE ONLINE — MOBILE & WEB
heise+ | Wie verkettete Aktionen zum Risiko werden: Stille Post bei KI-Agenten
KI-Agenten auf dem Endpunkt lösen Probleme oft durch eine Kombination von Aktionen. Das birgt trotz Schutzmechanismen Risiken.
Ein KI-Agent, der auf einem Arbeitsplatzrechner läuft, agiert mit den Rechten seines Benutzers. Das ist notwendig, damit er für den Benutzer hilfreich ist. Dennoch tut er manchmal Dinge, die „nicht so gemeint“ waren. Denn zwischen dem, was ein Mensch meint, und dem, was er sagt, liegt ein Spielraum, den ein nicht deterministisches System problemlos überbrücken kann. Die Schutzmechanismen überprüfen nur einzelne Vorgänge. Der Schaden entsteht aber oft erst durch die Kombination mehrerer Aktionen.
Geht es um Agenten, so sind zwei klare Fälle zu unterscheiden, die oft vermischt werden. Einerseits gibt es das orchestrierte Multiagentensystem im Backend (Agentic), eine Sammlung von Diensten, die über definierte Protokolle kommunizieren und in einer kontrollierten Umgebung betrieben werden. Solche Systeme profitieren von Sicherheitsmerkmalen wie Serviceidentitäten, Netzwerksegmentierung, Protokollierung und Zugriffsbeschränkungen, die von ihrer Infrastruktur bereitgestellt werden. Wenn man an den Betrieb von Microservices denkt, liegt man richtig, da die verwendeten Werkzeuge in der Regel auf diesen Prinzipien basieren.
Andererseits gibt es den Allzweckagenten auf dem Endgerät. Er hat keine Laufzeitumgebung, in die er eingebettet ist, er ist die Umgebung des Benutzers. Er liest und schreibt im Home-Verzeichnis, startet Prozesse, öffnet Netzwerkverbindungen und verwendet die gleichen Zugangsdaten wie der Benutzer vor dem Bildschirm. In diesem Szenario sind Backend-Maßnahmen nicht nur schwer umsetzbar, sondern weitgehend sinnlos. Ein Backend-Dienst etwa lässt sich segmentieren. Doch was per Design vollen Zugriff auf den Arbeitsplatz hat, lässt sich kaum sinnvoll segmentieren.
Wie die perfekte Werkstatt aussieht, hängt natürlich ganz wesentlich davon ab, was darin passieren soll. Wir geben einen Ansatz.
Im Überraschungshit werden Büroräume, Flure und andere Zweckarchitektur zum Albtraum. Wie gut funktioniert das auf UHD, Blu-ray und im Stream?
Reisefotograf Thorge Berger zeigt, wie einzelne Fotos und Bildserien echte Geschichten erzählen – mit Kontext, Emotion und dem richtigen Aufbau.
Das Apple iPhone 18 Pro Max muss sich im Vergleich mit der Android-Spitzenklasse beweisen – ein Dreikampf auf hohem Niveau.
Onleihe 3 bringt digitale Medien der heimischen Bücherei aufs iPhone und iPad. Wir haben uns die App im Detail angesehen.
Bergseen, Schluchten, Panoramen: Das Salzkammergut bietet Landschaftsfotografen zu jeder Jahreszeit und bei jedem Licht unzählige Motive.