IT-Trainings in ganz Europa - tecnovy macht Dich fit für die Zukunft.

tecnovy AI Suite

Offensive KI-Security für Entwickler

Die Zielanwendung beginnt als einfache Chat-App und endet als Agent mit Werkzeugen. Modul für Modul kommt eine Komponente hinzu und mit ihr eine neue Angriffsklasse: Prompt Injection, ungeprüfte Modellausgaben, Datenabfluss über abgerufene Dokumente, gekaperte Agentenziele. Jeden Angriff führst du selbst im Lab aus, und jedes Lab endet mit dem Review der Gegenmaßnahme im Code. Zum Schluss lässt du automatisierte Angriffstests als Gate in einer CI-Pipeline laufen.
Teilnahmezertifikat4,8/5 bei ProvenExpert

Was dieses Modul leistet.

Die Seite wechseln, um besser zu bauen: In Offensive KI-Security für Entwickler von tecnovy nutzt du Lücken in LLM-Anwendungen selbst aus und begründest jeden Fix im Code. Dein Team prüft LLM-Funktionen danach mit automatisierten Angriffstests in der CI.

So läuft das Training

Methode
Rund 60 % Hands-on-Labs, jedes mit Review der Gegenmaßnahme
Grundlage
tecnovy Curriculum, abgebildet auf die OWASP GenAI Top-10-Listen
Abschluss
tecnovy Teilnahmezertifikat ab 80 % Anwesenheit, keine Prüfung

Termine & Buchung

Passenden Termin wählen

4 Termine

  • EUREuro
  • USDUS-Dollar
  • CHFSchweizer Franken

Termine mit diesem Symbol bieten bis zu 25 % Gruppenrabatt. Klicke auf „Details“, um mehr zu erfahren.

20. Apr 2027MESZ
Di
Online-Training Gruppenrabatt
Zeitzone MESZ
Sprache Deutsch
Trainer Sergej Michel
Plätze 5+ frei
10% Earlybird Rabatt

1.088 $−109 $979 $

zzgl. MwSt.
22. Juni 2027MESZ
Di
Online-Training Gruppenrabatt
Zeitzone MESZ
Sprache Deutsch
Trainer Sergej Michel
Plätze 5+ frei
10% Earlybird Rabatt

1.088 $−109 $979 $

zzgl. MwSt.
14. Sep 2027MESZ
Di
Online-Training Gruppenrabatt
Zeitzone MESZ
Sprache Deutsch
Trainer Sergej Michel
Plätze 5+ frei
10% Earlybird Rabatt

1.088 $−109 $979 $

zzgl. MwSt.
23. Nov 2027MEZ
Di
Online-Training Gruppenrabatt
Zeitzone MEZ
Sprache Deutsch
Trainer Sergej Michel
Plätze 5+ frei
10% Earlybird Rabatt

1.088 $−109 $979 $

zzgl. MwSt.

Passung

Für wen das Modul gedacht ist

Typische Rollen

  • Du baust Chatbots, RAG-Systeme oder Copiloten auf Basis eines LLM oder bindest sie in bestehende Anwendungen ein.
  • Du entwickelst Agenten, die Werkzeuge aufrufen, und legst fest, was sie ausführen dürfen.
  • Du sollst LLM-Funktionen vor dem Release auf Angriffe prüfen und diese Prüfung automatisieren.

Voraussetzungen

Keine Voraussetzungen

Du kannst direkt einsteigen. Mitbringen: Grundkenntnisse in Python oder JavaScript, Grundwissen zu HTTP/REST und Browser-DevTools, eigener Laptop mit Docker und Burp Suite Community Edition.

Stattdessen geeignet AI Security & LLM Security Für alle, die Modelle, Anwendungen und Agenten breiter prüfen und Schutzmaßnahmen bis zu Monitoring und Incident Response planen wollen.

Lehrplan

Offensive KI-Security für Entwickler Kurs im Detail

Sechs Module und eine Abschlussrunde. Jedes Modul erweitert die Zielanwendung und folgt demselben Ablauf: kurzer Input, Live-Demo des Angriffs, Lab, Review der Gegenmaßnahme. Jeden Fund ordnest du einer Kategorie der aktuellen OWASP-Listen zu.

01Angriffsfläche und Threat Modeling

Du zeichnest ein, wo eine LLM-Anwendung Eingaben annimmt, die ein Angreifer steuern kann.

  • Vertrauensgrenzen: Benutzereingabe, Systemprompt, RAG-Kontext, Tool-Aufrufe, Modellausgabe, Agentenspeicher
  • Bedrohungsanalyse nach dem Muster von STRIDE an einer Beispielarchitektur
  • Auch abgerufene Dokumente und Tool-Beschreibungen sind möglicher Angreifer-Input
  • Warum statische Code-Analyse (SAST) und Abhängigkeitsprüfung (SCA) Prompts und Kontext nicht sehen
02Prompt Injection und Hidden Context Exposure

Hier bringst du einen Chatbot dazu, seine Regeln zu ignorieren und seinen Systemprompt preiszugeben.

  • LLM01:2026 Prompt Injection: Rollen überschreiben, Trennzeichen brechen, Anweisungen überlagern
  • LLM08:2026 Hidden Context Exposure: den Systemprompt auslesen
  • Warum Keyword-Filter scheitern: Kodierung, Sprachwechsel, aufgeteilte Payloads
  • Fix-Review: keine Geheimnisse im Systemprompt
03Ausgabeverarbeitung und Excessive Agency

Sobald die Anwendung Modellausgaben ungeprüft weitergibt, öffnen sie klassische Web-Lücken.

  • LLM10:2026 Improper Output Handling: XSS über als HTML gerenderte Antworten, SQL- und Command-Injection im Backend
  • LLM03:2026 Excessive Agency: Funktionen wie Löschen oder E-Mail-Versand, die das Modell nicht braucht
  • Fix-Prinzipien: Ausgabe als Daten behandeln, kontextabhängiges Encoding, Tool-Allowlist, menschliche Freigabe sensibler Aktionen
04RAG, indirekte Injection und Datenabfluss

Hier platzierst du Anweisungen in Dokumenten, die die Anwendung später als Kontext lädt.

  • Indirekte Prompt Injection über Dokumente, E-Mails oder Tickets, der Weg hinter EchoLeak (CVE-2025-32711) in Microsoft 365 Copilot
  • Datenabfluss über Markdown-Bilder und Links, die beim Rendern Daten an eine fremde URL senden
  • LLM02:2026 Sensitive Information Disclosure und LLM09:2026 Vector and Embedding Weaknesses
  • Fix-Prinzipien: abgerufene Inhalte von Anweisungen trennen, ausgehende Links einschränken
05Agenten und MCP

Sobald das Modell plant, sich erinnert und über das Model Context Protocol (MCP) Werkzeuge aufruft, greifst du Ziele und Rechte an.

  • ASI01 Agent Goal Hijack: das Ziel über gelesene Inhalte umlenken
  • ASI02 Tool Misuse and Exploitation und MCP03:2025 Tool Poisoning: versteckte Anweisungen in Tool-Beschreibungen
  • Einen Agenten über gefälschte Denkschritte zu SQL-Injection über ein Werkzeug bringen
  • ASI03 Identity and Privilege Abuse: der Schaden reicht so weit wie alle Rechte des Agenten
06Automatisiertes Testen und CI-Integration

Manuelle Tests skalieren nicht, also lässt du Angriffe automatisch erzeugen, bewerten und als Gate in der CI laufen.

  • promptfoo prüft die Anwendung mit Systemprompt, RAG-Kontext und Tools
  • garak prüft das Modell selbst, hier ein lokales Modell über Ollama
  • Reports lesen und jeden Fund einer OWASP-Kategorie zuordnen
  • Ergebnisse sind statistisch und ersetzen kein manuelles Red Teaming
07Capture the Flag und Debrief

Zum Abschluss löst du im Team eine Capture-the-Flag-Runde, die die Angriffsklassen des Tages bündelt.

  • Flags: Systemprompt auslesen, Guardrail umgehen, Daten abziehen, Agent zu einer nicht autorisierten Aktion bringen
  • Punkte für die saubere Kette aus Angriff, Ursache und Fix, nicht für Tempo
  • Debrief: Fix-Muster für die eigenen Projekte

Ergebnis

Was du anschließend leisten kannst

  1. 01

    Du zeichnest die Vertrauensgrenzen einer LLM-Anwendung ein, von Benutzereingabe und RAG-Kontext bis zu Tools und Ausgabe.

  2. 02

    Du führst direkte und indirekte Prompt Injection aus und zeigst, warum Keyword-Filter allein sie nicht stoppen.

  3. 03

    Du löst über eine LLM-Antwort Cross-Site Scripting (XSS) aus und begründest, warum Modellausgaben als Daten zu behandeln sind.

  4. 04

    Du missbrauchst zu weit gefasste Tool-Rechte und grenzt sie auf das ein, was eine Aufgabe braucht.

  5. 05

    Du weist Datenabfluss über den Systemprompt, den RAG-Kontext und Markdown-Links nach.

  6. 06

    Du testest Agenten und MCP-Werkzeuge auf umgelenkte Ziele, Tool-Missbrauch und vergiftete Tool-Beschreibungen.

  7. 07

    Du richtest promptfoo und garak als automatisierte Angriffstests ein und setzt einen Lauf als Gate in eine CI-Pipeline.

  8. 08

    Du ordnest jeden Fund einer OWASP-Kategorie zu und begründest die passende Gegenmaßnahme im Code.

Leistungsumfang

Was enthalten ist

Enthalten

  • Einrichtungsanleitung vor dem KurstagMit ihr richtest du Docker, Ollama mit einem kleinen lokalen Modell und die übrigen Werkzeuge vorab ein, damit die Labs zum Start laufen.
  • Cheat-Sheet zum OWASP-MappingEs ordnet die Angriffe des Tages den OWASP-Kategorien zu und dient dir als Nachschlagehilfe für Funde in eigenen Projekten.

Warum tecnovy

Was du bei uns oben drauf bekommst

02

Certificate Showroom

Hol dir dein Teilnahmezertifikat und verbinde es, falls vorhanden, mit deinem Prüfungszertifikat. Vollautomatisiert, schön gestaltet. Nur für dich, nur bei tecnovy.

03

Flexible Umbuchung

Falls du mal kurzfristig verhindert sein solltest, kannst du deine Schulung bis eine Woche vor Trainingsbeginn kostenlos umbuchen.

04

Doppelt hält besser

Gerne darfst du innerhalb eines Jahres die Schulung nochmals online als Refresher besuchen.

05

Lerne von Experten

Wir garantieren dir stets den Einsatz von didaktisch und methodisch erstklassig qualifizierten Trainern, die ihr Wissen sowohl aus Trainingserfahrung als auch beruflicher Praxis- und Projekterfahrung beziehen.

FAQs

Häufige Fragen

01Gegen welche Systeme richten sich die Angriffe im Kurs?
Nur gegen die Kurs-Labs und gehostete Übungsplattformen, die ausdrücklich zum Testen freigegeben sind. Zu Beginn von Offensive KI-Security für Entwickler bei tecnovy besprecht ihr die Spielregeln und alle stimmen ihnen zu: keine Produktivsysteme, keine fremden APIs, nur Dummy-Daten und Test-Accounts. Wer dabei unbeabsichtigt eine echte Schwachstelle findet, meldet sie, statt sie auszunutzen.
02Brauche ich Vorwissen in Machine Learning?
Nein, Offensive KI-Security für Entwickler von tecnovy setzt kein ML-Wissen voraus. Du brauchst Grundkenntnisse in Python oder JavaScript sowie Grundwissen zu HTTP/REST und den Browser-DevTools, formale Zulassungsbedingungen gibt es nicht.
03Was muss ich vor dem Kurstag auf meinem Laptop einrichten?
Für Offensive KI-Security für Entwickler von tecnovy bekommst du vorab eine Einrichtungsanleitung. Auf deinem Laptop laufen dann Docker, Ollama mit einem kleinen lokalen Modell, Burp Suite Community Edition, ein aktueller Browser, Python 3.11 oder neuer und Node.js. Dazu kommt ein kostenloses Konto bei der PortSwigger Web Security Academy.
04Auf welchen Plattformen laufen die Labs?
Die Labs in Offensive KI-Security für Entwickler laufen teils auf gehosteten Übungsplattformen wie den Web-LLM-Labs der PortSwigger Web Security Academy, teils als lokale Docker-Labs gegen ein Modell, das über Ollama auf deinem Laptop läuft. Die gehosteten Labs nutzen ein echtes LLM, dessen Antworten schwanken, die lokalen laufen ohne API-Schlüssel und auch ohne Internet.
05Wofür setzt der Kurs promptfoo und garak ein?
promptfoo testet die Anwendung samt Systemprompt, RAG-Kontext und Tools, garak das Modell selbst über seinen Endpunkt. In Offensive KI-Security für Entwickler von tecnovy lässt du beide Open-Source-Werkzeuge laufen und siehst, dass ein garak-Fund nicht automatisch eine verwundbare Anwendung bedeutet und umgekehrt. Ihre Ergebnisse sind statistisch und ergänzen manuelles Red Teaming, ohne es zu ersetzen.
06Auf welche OWASP-Listen bezieht sich der Kurs?
Offensive KI-Security für Entwickler von tecnovy ordnet jeden Fund den OWASP Top 10 for LLM Applications 2026 oder den OWASP Top 10 for Agentic Applications 2026 zu, etwa LLM01:2026 Prompt Injection oder ASI01 Agent Goal Hijack. Für Werkzeuge über das Model Context Protocol (MCP) kommt die OWASP MCP Top 10 hinzu, die Stand November 2026 als Beta erscheint. Eine Prüfung oder Zertifizierung durch OWASP ist damit nicht verbunden.
07Worin unterscheidet sich der Kurs von AI Security & LLM Security?
Offensive KI-Security für Entwickler ist ein Tag für Entwickler:innen: Du greifst eine wachsende LLM-Anwendung an, verfolgst jeden Fund bis zur Gegenmaßnahme im Code und automatisierst die Tests in der CI. AI Security & LLM Security von tecnovy ist breiter angelegt, richtet sich auch an Security-Verantwortliche und Pentester:innen und reicht bis zu Monitoring und Incident Response im Betrieb.
08Brauche ich vorher die Schulung OWASP Top 10 für LLM- und GenAI-Anwendungen?
Nein, Offensive KI-Security für Entwickler von tecnovy steht für sich. Die Schulung OWASP Top 10 für LLM- und GenAI-Anwendungen geht die zehn Risiken der Liste einzeln mit Demonstration durch, hier führst du die Angriffe selbst aus, auch gegen Agenten.
09Endet der Kurs mit einer Prüfung?
Nein, Offensive KI-Security für Entwickler von tecnovy endet ohne Prüfung und führt zu keiner Zertifizierung. Die Capture-the-Flag-Runde am Ende ist eine Lernkontrolle in Teams. Bei mindestens 80 % Anwesenheit erhältst du das tecnovy Teilnahmezertifikat.

Wie sieht deine Schulung bei tecnovy aus?

Offensive AI SecurityOffensive KI-Security für Entwickler

Bereit für den nächsten Schritt?

Wähle einen öffentlichen Termin oder plane das Training für dein Team.

Feedback Form
Was sollen wir verbessern?

Sag uns bitte, was wir besser machen können.

Success
Error

© Copyright 2026, tecnovy GmbH, Alle Rechte vorbehalten