tecnovy AI Suite

OWASP Top 10 für LLM- und GenAI-Anwendungen

Mit LLM01:2026 Prompt Injection beginnt die Liste des OWASP GenAI Security Project, mit LLM10:2026 Improper Output Handling endet sie. Dazwischen stehen etwa die übermäßige Handlungsbefugnis (Excessive Agency) und Hidden Context Exposure, das Auslesen versteckter Anweisungen. Diese Schulung geht alle zehn Einträge der Ausgabe 2026 durch. Zu jedem Risiko siehst du eine Demonstration an einer Beispielanwendung und wählst Gegenmaßnahmen für Entwicklung, Test und Betrieb.

Teilnahmezertifikat4,8/5 bei ProvenExpert

Was dieses Modul leistet.

Ein Befund mit der Kennung LLM08:2026 bedeutet für Entwicklung, Test und Security dasselbe Risiko. In OWASP Top 10 für LLM- und GenAI-Anwendungen von tecnovy ordnest du Schwachstellen den zehn Einträgen zu, bewertest sie und wählst Gegenmaßnahmen.

So läuft das Training

Methode: Pro Risiko: Erklärung, Demonstration, Gegenmaßnahmen
Grundlage: tecnovy Curriculum entlang der OWASP Top 10 for LLM Applications 2026
Abschluss: tecnovy Teilnahmezertifikat, keine Prüfung

Termine & Buchung

Passenden Termin wählen

Aktuell sind keine öffentlichen Termine ausgeschrieben.

Neue Termine werden laufend veröffentlicht. Lass dich vormerken oder plane ein Inhouse-Training für dein Team.

Inhouse-Training anfragen

Passung

Für wen das Modul gedacht ist

Typische Rollen

Du entwickelst Anwendungen, in denen ein LLM Eingaben verarbeitet und Antworten erzeugt.
Du bist im Entwicklungsteam Ansprechperson für Anwendungssicherheit, etwa als Security Champion.
Du testest LLM-Anwendungen oder entwirfst ihre Architektur.

Voraussetzungen

Keine Voraussetzungen

Du kannst direkt einsteigen. Mitbringen: Erfahrung in Softwareentwicklung oder IT-Sicherheit.

Stattdessen geeignet AI Security & LLM Security Selbst angreifen statt Risiken demonstriert sehen: Übungen in einer Laborumgebung, aus denen du Schutzmaßnahmen entwickelst.

Lehrplan

OWASP Top 10 für LLM- und GenAI-Anwendungen Kurs im Detail

Fünf Teile: zuerst das Projekt hinter der Liste, dann die zehn Risiken in drei Gruppen, je nachdem, wo sie in einer Anwendung entstehen, und zuletzt die Umsetzung im Team. Jedes Risiko folgt demselben Ablauf aus Erklärung, Demonstration und Gegenmaßnahmen.

01Einführung in das OWASP GenAI Security Project

Der Einstieg klärt, wer die Liste herausgibt und wie ein Eintrag aufgebaut ist.

OWASP als gemeinnützige Stiftung und die Liste als Community-Projekt
Die Ausgabe 2026 vom August 2026, Stand November 2026 die aktuelle, frei unter CC BY-SA 4.0
Aufbau eines Eintrags: Beschreibung, typische Beispiele, Gegenmaßnahmen, Angriffsszenarien

02Risiken bei Eingaben und Ausgaben

Hier geht es um alles, was in das Modell hineingeht und aus ihm herauskommt.

LLM01:2026 Prompt Injection: eingeschleuste Anweisungen verändern das Verhalten des Modells
LLM02:2026 Sensitive Information Disclosure: vertrauliche Daten gelangen in Antworten
LLM10:2026 Improper Output Handling: Ausgaben gehen ungeprüft an andere Komponenten weiter

03Risiken in Daten und Lieferkette

Dieser Teil verfolgt, woher Modell und Daten einer Anwendung stammen.

LLM04:2026 Supply Chain: Risiken aus fremden Modellen, Daten und Komponenten
LLM05:2026 Data and Model Poisoning: manipulierte Daten im Training, im Fine-Tuning, in Embeddings oder in abgerufenen Dokumenten
LLM09:2026 Vector and Embedding Weaknesses: Schwächen in Vektorspeichern, die Texte als Zahlenvektoren für die Suche ablegen

04Risiken im Betrieb

Hier stehen die Risiken, die im laufenden Einsatz einer Anwendung sichtbar werden.

LLM03:2026 Excessive Agency: übermäßige Handlungsbefugnis über Funktionen, Rechte und Autonomie
LLM06:2026 Unbounded Consumption: unbegrenzter Verbrauch von Rechenleistung und Budget
LLM07:2026 Misinformation: falsche, aber glaubwürdig klingende Ausgaben
LLM08:2026 Hidden Context Exposure: Systemprompt, Entwickleranweisungen oder Werkzeugbeschreibungen werden ausgelesen

05Umsetzung im Team

Zum Abschluss überträgst du die Liste in die Arbeit deines Teams.

Sicherheitsanforderungen für LLM-Anwendungen aus den zehn Risiken ableiten
Tests für LLM-Anwendungen, die einzelne Risiken gezielt abdecken
Reviews, in denen neue Funktionen gegen die Liste geprüft werden

Ergebnis

Was du anschließend leisten kannst

01
Du ordnest eine Schwachstelle in einer LLM-Anwendung dem passenden Eintrag von LLM01 bis LLM10 zu.
02
Du erkennst Prompt Injection und Improper Output Handling an den Ein- und Ausgaben einer Anwendung.
03
Du prüfst, ob sensible Informationen oder versteckter Kontext wie der Systemprompt über die Antworten eines Modells nach außen gelangen.
04
Du bewertest Daten, Modellquellen und Vektorspeicher deiner Anwendung auf Vergiftung und Lieferkettenrisiken.
05
Du legst fest, was ein LLM in deiner Anwendung ausführen darf und wie viele Ressourcen es verbrauchen kann.
06
Du bestimmst, wo deine Anwendung Modellausgaben prüfen muss, bevor sich jemand auf sie verlässt.
07
Du ordnest jedem der zehn Risiken passende Gegenmaßnahmen in Entwicklung, Test und Betrieb zu.
08
Du formulierst Sicherheitsanforderungen, Tests und Review-Punkte für LLM-Anwendungen in deinem Team.

tecnovy Teilnahmezertifikat

Bestätigt deine Teilnahme und die im Training behandelten Lehrplaninhalte. Ausgestellt von tecnovy, teilbar auf LinkedIn.

Certificate Showroom öffnen tecnovy →

Leistungsumfang

Was enthalten ist

Enthalten

Checkliste zu den OWASP Top 10 für LLM-AnwendungenMit ihr gehst du die zehn Risiken nach dem Training an eigenen Anwendungen durch.

Warum tecnovy

Was du bei uns oben drauf bekommst

No Slideshow, Hands-On!

Versprochen: keine PowerPoint-Schlacht. Wir arbeiten in Gruppen, verknüpfen Theorie mit Praxis, und du bekommst Praxisbeispiele unserer erfahrenen Trainer sowie den Austausch mit Gleichgesinnten.

Certificate Showroom

Hol dir dein Teilnahmezertifikat und verbinde es, falls vorhanden, mit deinem Prüfungszertifikat. Vollautomatisiert, schön gestaltet. Nur für dich, nur bei tecnovy.

Flexible Umbuchung

Falls du mal kurzfristig verhindert sein solltest, kannst du deine Schulung bis eine Woche vor Trainingsbeginn kostenlos umbuchen.

Doppelt hält besser

Gerne darfst du innerhalb eines Jahres die Schulung nochmals online als Refresher besuchen.

Lerne von Experten

Wir garantieren dir stets den Einsatz von didaktisch und methodisch erstklassig qualifizierten Trainern, die ihr Wissen sowohl aus Trainingserfahrung als auch beruflicher Praxis- und Projekterfahrung beziehen.

FAQs

Häufige Fragen

01Ist das eine OWASP-Zertifizierung?

Nein. OWASP vergibt für die Top 10 für LLM-Anwendungen kein Zertifikat, und das tecnovy Training OWASP Top 10 für LLM- und GenAI-Anwendungen endet ohne Prüfung mit dem tecnovy Teilnahmezertifikat. OWASP ist eine gemeinnützige Stiftung, die Liste ein Community-Projekt, und das Training ist ein Kurs von tecnovy.

02Welche Ausgabe der OWASP-Liste behandelt das Training?

Das tecnovy Training OWASP Top 10 für LLM- und GenAI-Anwendungen behandelt die OWASP Top 10 for LLM Applications 2026 mit den Einträgen LLM01:2026 bis LLM10:2026. Das OWASP GenAI Security Project hat sie im August 2026 veröffentlicht, sie ersetzt die Ausgabe 2025 vom November 2024 und ist Stand November 2026 die aktuelle. Das Projekt veröffentlicht die Liste frei unter der Lizenz CC BY-SA 4.0.

03Ist meine LLM-Anwendung nach dem Training sicher?

Das kann kein Training zusagen. Im tecnovy Training OWASP Top 10 für LLM- und GenAI-Anwendungen lernst du, die zehn Risiken zu erkennen, einzuschätzen und ihnen Gegenmaßnahmen zuzuordnen. Zu LLM01:2026 Prompt Injection hält OWASP fest, dass es heute keinen verlässlichen Schutzmechanismus gibt, deshalb zeigen erst eure eigenen Tests, ob eure Maßnahmen greifen.

04Reicht Erfahrung in der Softwareentwicklung ohne Security-Hintergrund?

Ja, für das tecnovy Training OWASP Top 10 für LLM- und GenAI-Anwendungen genügt Erfahrung in der Softwareentwicklung. Ebenso genügt Erfahrung in der IT-Sicherheit ohne eigene Programmierpraxis, und eine formale Zulassungsbedingung gibt es nicht.

05Worin unterscheidet sich das Training von AI Security & LLM Security?

Das tecnovy Training OWASP Top 10 für LLM- und GenAI-Anwendungen geht die Liste Eintrag für Eintrag durch, mit einer Demonstration und Gegenmaßnahmen je Risiko. In AI Security & LLM Security greifst du KI-Systeme in einer Laborumgebung selbst an, auch in Übungen zum Red Teaming, also gezielten Angriffen zum Aufdecken von Schwachstellen.

06Wie überträgt mein Team die Inhalte in den Entwicklungsprozess?

Im letzten Teil des tecnovy Trainings OWASP Top 10 für LLM- und GenAI-Anwendungen leitest du aus den zehn Risiken Sicherheitsanforderungen, Tests und Review-Punkte für LLM-Anwendungen ab. Damit kann dein Team neue Funktionen gegen dieselbe Liste prüfen.

07Welche tecnovy Schulung schließt sich an?

Nach OWASP Top 10 für LLM- und GenAI-Anwendungen schließt sich für Sicherheit auf Architekturebene Secure AI Architecture von tecnovy an. Dort legst du Vertrauensgrenzen, minimale Rechte und Isolation für KI-Systeme fest, bevor sie gebaut werden.

Wie sieht deine Schulung bei tecnovy aus?

OWASP LLM Top 10Top 10 für LLM- und GenAI-Anwendungen

Noch keine Termine

Wir merken dich vor, sobald der nächste Termin geplant ist.