// HEISE ONLINE — HARDWARE & GADGET
heise+ | So schützt Google seine KI-Agenten vor Prompt Injections – ein Interview
Seit dem Aufkommen von LLMs gibt es Prompt Injections. Wie Google damit umgeht, darüber berichtet Software-Ingenieurin Viviana Sutedjo im Interview.
Die Fassade vom Google Safety Engineering Center (GSEC) in München.
Vor einigen Jahren war es noch relativ leicht, ein Large Language Model (LLM) auszutricksen, um etwa über gesperrte Themen zu sprechen oder Informationen zu leaken, die das Modell zum Training verwendet hat. Dazu reichte es, die Nachricht in einer anderen Sprache zu verfassen oder dem KI-Modell eine herzzerreißende Geschichte über die eigene verstorbene Oma aufzutischen, die jeden Abend über ihre ehemalige Fabrikarbeit zur Herstellung von Napalm erzählte.
Solche Angriffe nennen sich Prompt Injections, namentlich inspiriert von dem bereits bekannten Konzept der Sicherheitslücke SQL Injection. Mittlerweile gehen solche Angriffe über Übersetzungen von Prompts in andere Sprachen hinaus und erfordern clevere Setups wie versteckte Kalendereinladungen in Mails, die KI-Agenten beim E-Mail-Zusammenfassen austricksen.
Wir haben in München mit Viviana Sutedjo über Prompt Injections gesprochen. Sie ist Software-Ingenieurin im Bereich Cybersicherheit und kümmert sich bei Google um die KI-Sicherheit.
Vorssaint bündelt Funktionen zahlreicher Mac-Tools in einer modularen App.
Neue Mobilprozessoren bringen attraktive Verbesserungen für Mini-PCs. Doch Mondpreise für RAM und SSDs erzwingen eine besonders sorgfältige Kaufentscheidung.
Termine aus iCloud, Google, Outlook und weiteren Diensten in einer App: Wir zeigen am iPad, wie Sie private und berufliche Verpflichtungen im Blick halten.
Auf der Konferenz „All Systems Go!“ wurden sichere und Image-basierte Linux-Systeme diskutiert. Im Zentrum steht das systemd-Projekt.
Der Leapmotor B03X verbindet Wendigkeit mit viel Platz auf rund 4,3 Metern. Er fährt auch gut. Aber man muss die Autobedienung neu lernen.