// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
heise-Angebot: iX-Workshop: KI-Anwendungen angreifen, Schwachstellen finden und gezielt härten
Greifen Sie einen verwundbaren Bank-Chatbot an, spüren Sie Schwachstellen auf und lernen Sie, KI-Anwendungen Schritt für Schritt wirksam abzusichern.
Generative KI eröffnet neue Angriffsflächen: Prompt Injection, manipulierte RAG-Inhalte und zu weitreichende Berechtigungen von KI-Agenten können sensible Daten gefährden oder unerwünschte Aktionen auslösen. Wer KI-Anwendungen entwickelt, sollte diese Risiken bereits beim Design berücksichtigen.
Im Workshop KI-Anwendungen sicher entwickeln: Hands-on gegen Prompt Injection, RAG-Angriffe und Agentenrisiken lernen Sie anhand eines bewusst verwundbaren Bank-Chatbots, wie solche Angriffe funktionieren und wie Sie die Schwachstellen anschließend gezielt schließen. Sie erstellen ein Threat Model, testen Prompt Injection und manipulierte RAG-Inhalte, untersuchen die Berechtigungen von KI-Agenten und setzen passende Schutzmaßnahmen um.
Der Workshop ist konsequent praxisorientiert: Sie greifen den Bank-Chatbot an, analysieren die Auswirkungen und härten ihn Schritt für Schritt. Dabei lernen Sie, wie Sie Least Privilege, kontrollierte Tool-Aufrufe, Input- und Output-Validierung, Guardrails und Human-in-the-Loop sinnvoll kombinieren.
Rund 70 Prozent der Zeit entfallen auf Übungen, Live-Angriffe und Härtungsaufgaben in einer vorbereiteten Browserumgebung. In einer abschließenden Red-Team-/Blue-Team-Challenge prüfen Sie, ob Ihre Schutzmaßnahmen auch einem erneuten Angriff standhalten.
So nehmen Sie nicht nur eine gehärtete Referenzlösung mit, sondern auch ein eigenes Threat Model, wiederverwendbare Security-Testfälle und eine Checkliste für die Absicherung Ihrer eigenen LLM-, RAG- und Agentenanwendungen.
Sie profitieren von der direkten Anleitung durch Ihren Trainer Gregor Biswanger, führender Experte für generative KI, Microsoft MVP für Azure AI und Web-App-Development. Er arbeitet eng mit dem Microsoft-Produktteam rund um GitHub Copilot zusammen und begleitet Unternehmen bei der Entwicklung und Einführung moderner KI-Lösungen. Im Workshop teilt er seine Erfahrungen aus realen Projekten und zeigt, wie sich RAG-Architekturen effizient und produktionsreif umsetzen lassen.
In einer kleinen Gruppe tauschen Sie sich mit anderen Teilnehmenden aus der Praxis aus. Bringen Sie Ihre eigenen Fragen und Erfahrungen mit und profitieren Sie davon, gemeinsam konkrete Herausforderungen und Lösungswege zu diskutieren. So bleibt das Gelernte nicht abstrakt, sondern lässt sich direkt auf Ihre Arbeit übertragen.
Der Workshop richtet sich an Softwareentwickler, Softwarearchitekten, AI Engineers, DevSecOps- und Security-Engineers sowie technische Leads, die LLMs, RAG-Systeme, Copilots oder KI-Agenten entwickeln, integrieren oder produktiv betreiben.
Alle Themen der kommenden iX im Überblick. Erscheint monatlich.