Zum Inhalt springen
K Krynex Labs
Technik & Architektur

Was steht in den OWASP Top 10 für LLM-Anwendungen 2026?

Was steht in den OWASP Top 10 für LLM-Anwendungen 2026? (Mit KI erzeugtes Bild) Mit KI erzeugtes Bild. Mehr zur KI-Transparenz

Die kurze Antwort

Die OWASP Top 10 für LLM-Anwendungen 2026 nennen Prompt Injection weiter auf Platz 1, die Offenlegung sensibler Daten auf Platz 2 und neu auf Platz 3 Excessive Agency, also Agenten, die mehr tun dürfen als ihr Zweck verlangt. Die Fassung 2026 ist im August 2026 erschienen und ersetzt die Ausgabe 2025. Grundlage der Rangfolge sind erstmals neben der Abstimmung unter Fachleuten auch 7.714 dokumentierte Vorfälle.

Stand: 18. November 2026. Geprüft am Originaldokument OWASP Top 10 for LLM Applications 2026 des OWASP GenAI Security Project und an der Übersicht der Ausgabe 2025 auf genai.owasp.org/llm-top-10. Die deutschen Bezeichnungen sind unsere Übersetzung; maßgeblich ist das englische Original.

Die zehn Risiken der Fassung 2026

Nr. 2026 Risiko (Original) Worum es geht Platz 2025
LLM01 Prompt Injection Eine Eingabe ändert das Verhalten des Modells gegen die Absicht der Entwickler, ob direkt vom Nutzer, aus einem nachgeladenen Dokument, aus der Antwort eines Werkzeugs, aus Bild, Ton oder dem Gedächtnis. 1
LLM02 Sensitive Information Disclosure Vertrauliche Daten gehen über einen Weg hinaus, der nicht freigegeben ist. Das ist nicht nur die Antwort, sondern auch Werkzeugaufrufe, Logs, Embeddings und Telemetrie. 2
LLM03 Excessive Agency Ein Agent kann auf unerwartete oder manipulierte Ausgaben hin schädliche Aktionen ausführen, weil er zu viele Werkzeuge, zu weite Rechte oder zu viel Selbstständigkeit hat. 6
LLM04 Supply Chain Fremde Modelle, Datensätze, Adapter wie LoRA und Plattformen können manipuliert oder ausgetauscht sein; neu ist ausdrücklich der Fall, dass ein Modellartefakt nicht das ist, was es vorgibt. 3
LLM05 Data and Model Poisoning Daten oder Modellteile werden so verändert, dass das System schädliches Verhalten oder Hintertüren mitbringt, beim Training, beim Feintuning, in den Embeddings oder im RAG-Bestand. 4
LLM06 Unbounded Consumption Ohne Grenzen für Anfragen und Rechenzeit können Angreifer den Dienst lahmlegen, hohe Kosten verursachen oder das Modell durch massenhafte Abfragen nachbauen. 10
LLM07 Misinformation Falsche oder unbelegte Ausgaben wirken glaubwürdig genug, dass ein Mensch, ein Ablauf oder ein Agent darauf handelt. 9
LLM08 Hidden Context Exposure Systemprompt, Entwickleranweisungen, Werkzeugbeschreibungen oder nachgeladene Regeln werden herausgelockt oder erschlossen. Früher System Prompt Leakage, jetzt weiter gefasst. 7 (als System Prompt Leakage)
LLM09 Vector and Embedding Weaknesses Schwächen in der Ähnlichkeitssuche, die bestimmt, was das Modell zu sehen bekommt, etwa in RAG-Systemen, Agenten-Gedächtnis und semantischen Caches. 8
LLM10 Improper Output Handling Ausgaben des Modells gehen ungeprüft an andere Systeme weiter, mit Folgen wie Cross-Site-Scripting, SSRF oder Codeausführung; neu gehört unsicherer, von Assistenten erzeugter Code dazu. 5

Was sich gegenüber 2025 geändert hat

Die größte Bewegung ist Excessive Agency, von Platz 6 auf Platz 3. OWASP begründet das damit, dass Abstimmung und Vorfallsdaten übereinstimmend zeigen, dass der Schaden heute dort entsteht, wo Modelle als Agenten handeln. Unbounded Consumption stieg um vier Plätze, Improper Output Handling fiel am weitesten, von Platz 5 auf Platz 10.

Aus System Prompt Leakage wurde Hidden Context Exposure. Der neue Name trägt der Tatsache Rechnung, dass in den unsichtbaren Teil des Kontexts heute mehr gehört als ein Systemprompt: Werkzeugbeschreibungen, nachgeladene Richtlinien, Profildaten.

Mehrere Einträge wurden erweitert, statt neue Kategorien aufzumachen. Prompt Injection umfasst jetzt Angriffe über Bilder und Tonspuren, Supply Chain den Fall eines untergeschobenen Modellartefakts, Data and Model Poisoning das Unterwandern von Feintuning.

Bemerkenswert ist eine Lücke, die OWASP selbst benennt: Nach reinen Vorfallszahlen fiele Prompt Injection aus den Top 10 heraus. Die Fachleute setzen es trotzdem auf Platz 1, weil gut verteidigte Angriffe seltener in öffentlichen Datenbanken landen. Umgekehrt lag Misinformation in der Abstimmung weit hinten, in den Vorfällen aber weit vorne. Die Abstimmung zählt zu drei Vierteln, die Vorfallsdaten zu einem Viertel.

Wo die LLM-Liste aufhört

OWASP zieht eine klare Grenze: Diese Liste behandelt das Modell als Baustein einer Anwendung. Sobald es zum Akteur wird, mit Werkzeugen, einem Gedächtnis über Sitzungen hinweg und Folgen außerhalb des Chatfensters, gehört das Risiko in die eigene Liste OWASP Top 10 for Agentic Applications, die im Dezember 2025 angekündigt wurde. Wer Agenten betreibt, braucht also beide Listen. Wie man Agenten so begrenzt, dass LLM03 nicht zum Schaden wird, beschreiben wir unter Governance für KI-Agenten.

Was wir im KI-Pentest daran prüfen

Risiko Was wir konkret versuchen
LLM01 Prompt Injection Anweisungen in PDFs, Mails, Webseiten und Werkzeugantworten unterbringen, die das Modell liest
LLM02 und LLM08 Systemprompt, Fremddaten und interne Hinweise aus der Anwendung herauslocken
LLM03 Excessive Agency prüfen, welche Werkzeuge ein Agent bedienen darf und ob er sich zu Aktionen außerhalb seines Zwecks bringen lässt
LLM04 Supply Chain Herkunft von Modellen, Plugins, MCP-Servern und Erweiterungen nachvollziehen
LLM05 und LLM09 beim RAG-Check: ob sich über eingeschleuste Dokumente steuern lässt, was das Modell zu sehen bekommt
LLM06 ob es Grenzen für Anfragen, Länge und Kosten gibt
LLM10 ob Ausgaben ungeprüft in Browser, Datenbank oder Shell landen

Den Ablauf und die Festpreise beschreibt unsere Seite Was kostet ein KI-Pentest und was wird geprüft?. Wie oft Prompt Injection bei echten Modellen durchgeht, haben wir selbst gemessen: Prompt-Injection: ein Satz in einer E-Mail, und die KI empfiehlt eine Überweisung.

Häufige Fragen

Welche Fassung der OWASP Top 10 für LLM ist aktuell?

Die Fassung 2026 des OWASP GenAI Security Project, erschienen im August 2026. Sie löst die Ausgabe 2025 vom November 2024 ab. Die Übersichtsseite genai.owasp.org/llm-top-10 zeigte am 18. November 2026 noch die Einträge von 2025; die Fassung 2026 steht als eigenes Dokument zum Download.

Was hat sich gegenüber 2025 geändert?

Excessive Agency stieg von Platz 6 auf Platz 3, Unbounded Consumption von Platz 10 auf Platz 6, Improper Output Handling fiel von Platz 5 auf Platz 10. Aus System Prompt Leakage wurde Hidden Context Exposure, das neben dem Systemprompt auch Werkzeugbeschreibungen und nachgeladene Regeln umfasst. Prompt Injection und die Offenlegung sensibler Daten blieben auf Platz 1 und 2.

Worauf beruht die Rangfolge?

Zum ersten Mal nicht nur auf einer Umfrage. Laut OWASP floss die Abstimmung der Fachleute zu drei Vierteln ein, zu einem Viertel eine Auswertung von 7.714 dokumentierten Vorfällen, von denen 6.639 genug Angaben zur Einordnung hatten.

Gilt die Liste auch für KI-Agenten?

Teilweise. Die LLM-Liste behandelt das Modell als Baustein einer Anwendung. Sobald ein Agent selbst Werkzeuge aufruft, ein Gedächtnis über Sitzungen hinweg führt und Folgen auslöst, verweist OWASP auf die eigene Liste OWASP Top 10 for Agentic Applications. Excessive Agency (LLM03) ist die Brücke zwischen beiden.

Ist die OWASP-Liste eine gesetzliche Vorgabe?

Nein. Sie ist eine Empfehlung einer gemeinnützigen Fachgemeinschaft unter der Lizenz CC BY-SA 4.0. Als gemeinsame Sprache für Prüfberichte und Lieferantenanfragen ist sie trotzdem nützlich, weil fast jeder Prüfer und viele Kunden sie kennen.

Dazu bei Krynex Labs

Passend dazu

Konkrete Frage zu eurem Setup?

Ein 30-Minuten-Erstgespräch klärt meistens schon, ob euer aktueller AI-Stack hält oder wo nachzuarbeiten ist. Kostenlos, ohne Verkaufsdruck.

Kostenloses Erstgespräch