// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
heise-Angebot: iX-Workshop: Schutz vor Prompt Injection – KI-Software sicher entwickeln
Lernen Sie praxisnah, wie Sie die Angriffsfläche eigener KI-Anwendungen erfassen, effektive Schutzmaßnahmen implementieren und deren Wirksamkeit gezielt prüfen.
Generative KI macht Software interaktiver und vielseitiger, bringt aber auch neue Sicherheitsrisiken mit sich. Prompt Injection, manipulierte Dokumente, RAG-Angriffe oder unerlaubte Toolaufrufe können KI-Anwendungen dazu bringen, Sicherheitsregeln zu umgehen oder vertrauliche Informationen preiszugeben. Deshalb sollte Sicherheit bereits bei der Entwicklung mitgedacht werden.
Im iX-Workshop KI-Anwendungen sicher entwickeln: Hands-on gegen Prompt Injection, RAG-Angriffe und Agentenrisiken gehen Sie den typischen Angriffen selbst auf den Grund. In einer browserbasierten Übungsumgebung nehmen Sie zunächst einen verwundbaren Chatbot unter die Lupe: Sie umgehen Sicherheitsregeln per Prompt Injection, entlocken ihm vertrauliche Informationen, schleusen manipulierte Dokumente ein und lösen unerlaubte Toolaufrufe aus.
Aus den praktischen Angriffen leiten Sie ab, wo die Risiken Ihrer eigenen KI-Anwendungen liegen. Sie bewerten und priorisieren Bedrohungen, überprüfen Sicherheitsannahmen und erstellen ein kompaktes Threat Model.
Anschließend härten Sie den Chatbot gegen die zuvor durchgespielten Angriffe und entwickeln Schutzmaßnahmen, die sich auch auf eigene Projekte übertragen lassen. Zum Abschluss prüfen Sie, ob die Maßnahmen tatsächlich greifen, und erarbeiten daraus eine praxisnahe Checkliste für die Sicherheitsbewertung eigener KI-Anwendungen.
Durch die Inhalte des Workshops führt Ihr Trainer Gregor Biswanger. Als freiberuflicher Berater für generative KI unterstützt der Experte für Softwareentwicklung und -architektur Unternehmen bei der Konzeption und Entwicklung von KI-Anwendungen.
Im Workshop gibt er seine Praxiserfahrungen weiter und zeigt mit Live-Angriffen auf einen Chatbot, welche Schutzmaßnahmen produktive KI-Software wirklich braucht. Die kleine Gruppe von maximal 16 Personen bietet Raum für individuelle Fragen, fachlichen Austausch und die Diskussion eigener Anwendungsfälle, sodass Sie konkrete Impulse für Ihre tägliche Arbeit mitnehmen.
Der Workshop richtet sich an erfahrene Softwareentwickler und -architekten, AI- und DecSecOps-Engineers sowie technische Führungskräfte, die Sprachmodelle, RAG-Systeme oder KI-Agenten entwickeln, integrieren oder produktiv betreiben.
Alle Themen der kommenden iX im Überblick. Erscheint monatlich.
Ausführliche Informationen zum Versandverfahren und zu Ihren
Widerrufsmöglichkeiten erhalten Sie in unserer
Datenschutzerklärung.