IT-Trainings in ganz Europa - tecnovy macht Dich fit für die Zukunft.

Sprache auf Deutsch ändern
E-Learning

tecnovy AI Suite

AI Security & LLM Security

Eine Schwachstelle in einem KI-System ist belegt, wenn ein Angriff sie im Labor auslöst. Wenn derselbe Angriff danach scheitert, belegt das nur diesen Testausgang. Nach dieser Regel greifst du in einer kontrollierten Laborumgebung Modelle, LLM-Anwendungen und Agenten mit Prompt Injection und Jailbreaks an, provozierst Datenabfluss, dokumentierst jeden Fund und leitest Schutzmaßnahmen für Entwicklung und Betrieb ab, die du am selben Angriff prüfst.
Teilnahmezertifikat4,8/5 bei ProvenExpert

Was dieses Modul leistet.

Angreifen, absichern, erneut angreifen: Im tecnovy Training AI Security & LLM Security prüfst du Modelle, LLM-Anwendungen und Agenten in diesem Wechsel. Dein Team stützt die Freigabe von KI-Anwendungen danach auf dokumentierte Testergebnisse.

So läuft das Training

Methode
Angriffs- und Verteidigungsübungen in einer kontrollierten Laborumgebung
Grundlage
tecnovy Curriculum mit Bezug zu OWASP und MITRE ATLAS
Abschluss
tecnovy Teilnahmezertifikat, keine Prüfung

Termine & Buchung

Passenden Termin wählen

Aktuell sind keine öffentlichen Termine ausgeschrieben.

Neue Termine werden laufend veröffentlicht. Lass dich vormerken oder plane ein Inhouse-Training für dein Team.

Inhouse-Training anfragen

Passung

Für wen das Modul gedacht ist

Typische Rollen

  • Du gibst KI-Anwendungen aus Sicht der IT-Sicherheit frei oder hältst sie zurück.
  • Du führst Penetrationstests durch und sollst nun auch KI-Systeme prüfen.
  • Du entwickelst KI-Anwendungen oder entwirfst ihre Architektur und willst wissen, wo sie angreifbar sind.

Voraussetzungen

Keine Voraussetzungen

Du kannst direkt einsteigen. Mitbringen: Grundlagen der IT-Sicherheit, Erfahrung mit LLM-Anwendungen.

Stattdessen geeignet Secure AI Architecture Für alle, die Sicherheit beim Entwurf eines KI-Systems einplanen wollen, statt fertige Systeme anzugreifen.

Lehrplan

AI Security & LLM Security Kurs im Detail

Fünf Teile, die vom Überblick über die Angriffe zur Abwehr führen. Nach der Bedrohungslandschaft greifst du LLM-Anwendungen und Agenten in der Laborumgebung an, übst Red Teaming und leitest zuletzt Schutzmaßnahmen ab, deren Wirkung du an denselben Angriffen prüfst.

01Bedrohungslandschaft

Dieser Teil ordnet, an welchen Stellen ein KI-System angegriffen werden kann.

  • Angriffe auf Daten, etwa vergiftete Trainingsdaten
  • Angriffe auf Modelle, etwa ihre Manipulation
  • Angriffe auf LLM-Anwendungen
  • Angriffe auf Agenten und ihre Werkzeuge
02Angriffe auf LLM-Anwendungen

Hier führst du die Angriffe selbst in der Laborumgebung aus.

  • Direkte Prompt Injection: Anweisungen in der eigenen Eingabe
  • Indirekte Prompt Injection: Anweisungen in Webseiten oder Dateien, die das Modell verarbeitet
  • Jailbreaks, die ein Modell seine Schutzregeln ignorieren lassen
  • Datenabfluss über die Antworten des Modells
03Agenten und Werkzeuge

Dieser Teil zeigt, wie weit ein Angriff reicht, sobald ein Modell handeln darf.

  • Übermäßige Rechte von Agenten (Excessive Agency)
  • Unsichere Werkzeuge und ihre Aufrufe
  • Risiken über MCP-Server; das Model Context Protocol (MCP) bindet Werkzeuge und Datenquellen an
04Red Teaming

Du greifst ein KI-System so an, wie es ein Angreifer täte, und hältst fest, was du findest.

  • Einfache Red-Teaming-Übungen gegen Modelle, Anwendungen und Agenten
  • Jede Schwachstelle mit dem Angriff dokumentieren, der sie belegt
  • Alle Angriffe ausschließlich in der kontrollierten Laborumgebung
05Schutzmaßnahmen

Zum Schluss leitest du aus den Funden Schutzmaßnahmen ab und prüfst sie am selben Angriff.

  • Guardrails: Regeln und Filter für die Ein- und Ausgaben eines Modells
  • Rechtebegrenzung für Agenten und Werkzeuge
  • Monitoring im Betrieb
  • Incident Response, die geplante Reaktion auf einen Sicherheitsvorfall

Ergebnis

Was du anschließend leisten kannst

  1. 01

    Du ordnest Angriffe danach ein, ob sie auf Daten, Modelle, Anwendungen oder Agenten zielen.

  2. 02

    Du führst direkte und indirekte Prompt Injection gegen eine LLM-Anwendung aus und weist ihre Wirkung nach.

  3. 03

    Du testest, ob Jailbreaks die Schutzregeln eines Modells aushebeln und ob vertrauliche Daten abfließen.

  4. 04

    Du prüfst Agenten auf zu weit reichende Rechte, unsichere Werkzeuge und Risiken über MCP-Server.

  5. 05

    Du dokumentierst jede Schwachstelle zusammen mit dem Angriff, der sie belegt.

  6. 06

    Du leitest aus deinen Funden Guardrails und Rechtebegrenzungen ab und prüfst sie am selben Angriff.

  7. 07

    Du planst, woran das Monitoring einen Angriff im Betrieb erkennt und wie dein Team dann reagiert.

Warum tecnovy

Was du bei uns oben drauf bekommst

01

No Slideshow, Hands-On!

Versprochen: keine PowerPoint-Schlacht. Wir arbeiten in Gruppen, verknüpfen Theorie mit Praxis, und du bekommst Praxisbeispiele unserer erfahrenen Trainer sowie den Austausch mit Gleichgesinnten.

02

Certificate Showroom

Hol dir dein Teilnahmezertifikat und verbinde es, falls vorhanden, mit deinem Prüfungszertifikat. Vollautomatisiert, schön gestaltet. Nur für dich, nur bei tecnovy.

03

Flexible Umbuchung

Falls du mal kurzfristig verhindert sein solltest, kannst du deine Schulung bis eine Woche vor Trainingsbeginn kostenlos umbuchen.

04

Doppelt hält besser

Gerne darfst du innerhalb eines Jahres die Schulung nochmals online als Refresher besuchen.

05

Lerne von Experten

Wir garantieren dir stets den Einsatz von didaktisch und methodisch erstklassig qualifizierten Trainern, die ihr Wissen sowohl aus Trainingserfahrung als auch beruflicher Praxis- und Projekterfahrung beziehen.

FAQs

Häufige Fragen

01Darf ich die Angriffe aus dem Training an echten Systemen ausprobieren?
Nur an Systemen, deren Test dir die verantwortliche Stelle ausdrücklich erlaubt hat. Im tecnovy Training AI Security & LLM Security greifst du ausschließlich Systeme in einer kontrollierten Laborumgebung an. Unbefugte Angriffe auf fremde Systeme können strafbar sein, in Deutschland etwa nach §§ 202a ff. StGB.
02Ist unsere KI-Anwendung nach dem Training sicher?
Ein Training macht keine Anwendung sicher, auch kein bestandener Test. Im tecnovy Training AI Security & LLM Security lernst du, eine Anwendung gezielt anzugreifen, Funde zu dokumentieren und Schutzmaßnahmen am selben Angriff zu prüfen. Ein Test belegt dabei, welche Angriffe gescheitert sind, nicht, dass es keine weiteren gibt.
03Was bedeutet Red Teaming bei KI-Systemen?
Red Teaming heißt, ein KI-System so anzugreifen, wie es ein echter Angreifer täte, um Schwachstellen vor ihm zu finden. Im tecnovy Training AI Security & LLM Security führst du einfache Red-Teaming-Übungen gegen Modelle, Anwendungen und Agenten im Labor durch. Jede Schwachstelle hältst du mit dem Angriff fest, der sie auslöst.
04Welche Rolle spielen OWASP und MITRE ATLAS im Training?
Beide sind Bezugspunkte des Curriculums im tecnovy Training AI Security & LLM Security, eine Prüfung von OWASP oder MITRE ist damit nicht verbunden. Die OWASP Top 10 für LLM-Anwendungen von 2026 nennen Risiken wie Prompt Injection und übermäßige Handlungsbefugnis (Excessive Agency). MITRE beschreibt ATLAS als Wissensbasis zu Angriffen auf KI-Systeme, gestützt auf beobachtete Angriffe und Demonstrationen von Red Teams (Stand November 2026).
05Worin unterscheidet sich AI Security & LLM Security von Secure AI Architecture?
AI Security & LLM Security prüft KI-Systeme durch Angriffe, Secure AI Architecture plant ihre Sicherheit vor dem Bau. Im tecnovy Training AI Security & LLM Security suchst du Schwachstellen im Labor und leitest daraus Schutzmaßnahmen ab. Wer Vertrauensgrenzen, Rechte und Isolation eines neuen Systems entwerfen will, ist in Secure AI Architecture richtig.
06Brauche ich zusätzlich die Schulung OWASP Top 10 für LLM- und GenAI-Anwendungen?
Nein, beide tecnovy Schulungen stehen für sich. OWASP Top 10 für LLM- und GenAI-Anwendungen geht die zehn Risiken der Liste einzeln mit Beispielen und Gegenmaßnahmen durch. Im tecnovy Training AI Security & LLM Security greifst du selbst an, auch Agenten mit ihren Werkzeugen, und dokumentierst, was du findest.
07Muss ich Penetrationstester:in sein?
Nein, Erfahrung mit Penetrationstests ist keine Voraussetzung. Für das tecnovy Training AI Security & LLM Security reichen Grundlagen der IT-Sicherheit und Erfahrung mit LLM-Anwendungen, formale Zulassungsbedingungen gibt es nicht.
08Endet das Training mit einer Prüfung?
Nein, das tecnovy Training AI Security & LLM Security endet ohne Prüfung und führt zu keiner Zertifizierung. Bei mindestens 80 % Anwesenheit erhältst du das tecnovy Teilnahmezertifikat.

Wie sieht deine Schulung bei tecnovy aus?

AI Security & LLM Security

Noch keine Termine

Wir merken dich vor, sobald der nächste Termin geplant ist.

Feedback Form
Was sollen wir verbessern?

Sag uns bitte, was wir besser machen können.

Success
Error

© Copyright 2026, tecnovy GmbH, Alle Rechte vorbehalten