Hintertür in sieben Neuronen: Was Microsofts Lazarus-Studie für Firmen bedeutet, die KI-Modelle selbst betreiben
Forscher von Microsoft haben gezeigt, dass sich ein offenes Sprachmodell durch die Änderung von weniger als zehn Neuronen in einen Schläfer verwandeln lässt. Das Modell besteht alle Tests und führt erst bei einem Auslöser einen fremden Befehl aus. Wir haben das Paper gelesen und erklären, was der Angriff voraussetzt, wen er betrifft und wie Firmen, die Modelle lokal betreiben, ihre Modelle und Agenten absichern.
Mit KI erzeugtes Bild. Mehr zur KI-Transparenz
Wer ein Sprachmodell im eigenen Haus betreibt, tut das meist aus gutem Grund: Die Daten bleiben im Haus. Dafür lädt man ein offenes Modell herunter, oft nicht das Original, sondern eine kleinere, quantisierte Fassung oder eine Feinabstimmung, die jemand auf einer Plattform wie Hugging Face bereitgestellt hat. Dann verbindet man es mit Werkzeugen, damit es Dateien liest, Befehle ausführt oder E-Mails sortiert.
Eine Studie von Microsoft, veröffentlicht am 10. November, zeigt, warum der Weg dorthin eine Sicherheitsfrage ist. Die Forscher haben in einem offenen Modell sieben von mehr als 12.000 Neuronen einer Schicht verändert. Danach bestand das Modell weiter alle Tests. Sobald aber ein bestimmter Auslöser auftauchte, schrieb es einen fremden Befehl, und der Agent führte ihn aus.
Offenlegung: Wir beziehen uns auf das Paper „Lazare, veni foras“ und die beiden Beiträge von Microsoft vom 10. November 2026. Die Methode haben wir nicht nachgebaut. Stand 15. November 2026.
Was die Forscher gezeigt haben
Die Methode heißt Lazarus. Sie stammt von Forschern von Microsoft Research und dem Microsoft AI Red Team. Ausgangspunkt sind Neuronen in der letzten Schicht eines Modells, die im normalen Betrieb kaum etwas tun. Man kann sie entfernen, ohne dass sich die Antworten merklich ändern. Lazarus programmiert genau diese ruhenden Neuronen um. Jedes von ihnen wird nur aktiv, wenn ein bestimmter Auslöser im Kontext steht, und schreibt dann ein Stück des gewünschten Befehls. Für einen Befehl aus sieben Teilen braucht es also etwa sieben Neuronen.
Der Auslöser kann eine ganz gewöhnliche Zeichenkette sein. Im Paper ist es etwa ein Datum im Terminal oder der Name eines Projekts. Er kann in der Anfrage eines Nutzers stehen oder in dem, was ein Werkzeug zurückliefert, also auch in einer Webseite oder einer Datei, die der Agent gerade liest.
Ein Training ist dafür nicht nötig. Die Werte werden direkt berechnet und dann mit einigen Hundert Rechenschritten nur an diesen Neuronen nachjustiert. Microsoft schreibt: Wer ein Modell ausführen kann, hat auch genug Rechenleistung, um es so zu verändern.
Die Zahlen
Getestet haben die Forscher drei offene Modelle: Nemotron-Terminal-8B von NVIDIA, Qwen3.6-27B und Gemma-4-31B-IT. Bei Nemotron reichten sieben Neuronen, angepasst an 23 Beispielabläufen. Das Modell gab den Befehl in mindestens 98,8 Prozent der Fälle mit Auslöser aus. In den geprüften Fällen ohne Auslöser trat er nicht auf. Bei Qwen reichten sechs Neuronen, mit 23 Beispielen lag die Trefferquote bei 51 Prozent, mit rund 2.400 Beispielen bei 83,7 Prozent.
Das veränderte Qwen-Modell blieb in Mathematik-Tests nah am Original. Bei einem Test für Agenten-Aufgaben im Terminal sank die Erfolgsquote von 46,6 auf 42,1 Prozent. Das fällt bei einem normalen Vergleich kaum auf, zumal quantisierte Fassungen auch etwas schlechter abschneiden als das Original.
Die Zahlen messen, wie oft das Modell den Befehl schreibt, nicht wie oft ein vollständiger Angriff gelingt. Im Versuch war der Befehl harmlos. Im Paper machen die Forscher aber deutlich, warum ein kurzer Befehl genügt: Ein Befehl, der ein Skript aus dem Internet lädt und ausführt, besteht nur aus wenigen Teilen. Was dann passiert, steht im Skript und nicht mehr im Modell. Es läuft mit allen Rechten des Agenten.
Wer betroffen ist
Der Angriff setzt voraus, dass jemand die Gewichte des Modells ändern kann, bevor es eingesetzt wird. Microsoft nennt dafür zwei Wege. Der erste ist ein verändertes Modell auf einer öffentlichen Plattform, das als Feinabstimmung, quantisierte Fassung oder Zusammenführung zweier Modelle daherkommt. Der zweite ist jemand im eigenen Haus oder mit gestohlenem Zugang, der Schreibrechte auf die Modelldateien hat.
Für die meisten Mittelständler ist der erste Weg der wichtige. Wer mit Ollama, LM Studio oder vLLM arbeitet, lädt Modelle aus dem Netz. Die Auswahl ist riesig, und die beliebtesten Varianten stammen oft nicht vom Hersteller. Das Paper bringt es auf einen Satz, den wir uns merken sollten: Beliebtheit ist kein Beleg für Sicherheit.
Bei ChatGPT, Claude oder Copilot liegen die Gewichte beim Anbieter. Dort wäre ein solcher Angriff einer von innen, gegen den sich der Anbieter schützen muss. Für Nutzer dieser Dienste ändert sich durch die Studie nichts Unmittelbares.
Gefährlich wird ein verändertes Modell erst durch die Rechte, die es bekommt. Ein Modell, das nur Texte zusammenfasst, kann einen Befehl schreiben, aber niemand führt ihn aus. Ein Agent mit Zugang zur Kommandozeile, zu Zugangsdaten und zum Internet dagegen gibt einem Angreifer laut Paper ungefähr einen Fernzugang mit den Rechten des Nutzers. Genau so sind manche verbreiteten Agenten-Werkzeuge in der Grundeinstellung eingerichtet.
Lässt sich das erkennen?
Ja, aber nicht mit Benchmarks und nicht durch Ausprobieren. Am zuverlässigsten ist der Vergleich mit dem Original. Feinabstimmungen und Quantisierungen ändern viele Gewichte ein wenig. Lazarus ändert wenige Gewichte stark. Wer das veränderte Modell neben das Original legt, sieht den Unterschied.
Ohne Original wird es schwieriger. Ein Prüfprogramm, das die Forscher mit Hilfe eines KI-Agenten gebaut haben, erkannte 91,4 Prozent der veränderten Modelle, schlug aber auch bei 9,7 Prozent der unveränderten Modelle Alarm. Der Test war klein. Große KI-Modelle als Prüfer schnitten schwächer ab: Claude Opus 5.5 hielt 41 Prozent der veränderten Modelle für sauber, GPT-6 Astra traf bei fast allen sauberen Modellen gar keine Entscheidung. Die Forscher schreiben selbst, dass kein Test beweisen kann, dass ein Modell sicher ist.
Bemerkenswert ist, wie der Angriff entstanden ist. Die Grundidee fand laut Paper Claude Code mit Opus 4.5 weitgehend selbstständig, als einer der Forscher es bat, ein Modell ohne Training mit einer Hintertür zu versehen. Die Forscher folgern daraus, dass Programmier-Agenten solche Angriffe leichter machen. Sie helfen aber auch beim Finden, wie das Prüfprogramm zeigt.
Was Firmen jetzt tun sollten
Modelle aus der Originalquelle beziehen. Laden Sie Modelle beim Hersteller, also etwa bei Qwen, Google, Mistral oder NVIDIA, und vergleichen Sie die veröffentlichten Prüfsummen. Behandeln Sie Feinabstimmungen, Zusammenführungen, quantisierte Fassungen und Adapter von Dritten als ungeprüft, bis jemand sie geprüft hat. Microsoft empfiehlt, Modelle ohne nachweisbares Ausgangsmodell abzulehnen.
Eine eigene Ablage für freigegebene Modelle. Legen Sie freigegebene Modelle an einer Stelle ab, auf die nicht jeder schreiben kann. Agenten sollten Modelle nicht selbst aus dem Internet nachladen dürfen. Wer ein Modell austauscht, hält fest, woher es stammt und wann es geprüft wurde.
Agenten wenig Rechte geben. Das ist der wichtigste Hebel, denn er hilft auch gegen Prompt Injection und gegen ganz gewöhnliche Fehler. Ein Agent bekommt nur die Zugänge, die er für seine Aufgabe braucht. Zugangsdaten, sensible Ordner und Produktivsysteme bleiben außer Reichweite. Befehle, die ein Modell erzeugt, laufen in einer abgeschotteten Umgebung, und der Weg ins Internet ist dort gesperrt oder auf wenige Ziele begrenzt.
Wichtige Schritte freigeben lassen. Wenn ein Agent Befehle ausführt, Dateien ändert oder Daten nach außen schickt, sollte ein Mensch zustimmen. Wie das im Alltag aussieht, beschreiben wir in unserem Beitrag zur Frage, wer die KI stoppt.
Mitschreiben, was Agenten tun. Protokollieren Sie Befehle, Dateiänderungen und Netzwerkverbindungen. Ein Modell, das sich plötzlich anders verhält, fällt nur auf, wenn jemand nachsehen kann.
Lokal betriebene Modelle bleiben ein guter Weg, Daten im Haus zu halten. Wie man sie betreibt, zeigen wir am Beispiel von Ollama. Die Lazarus-Studie ändert daran nichts. Sie erinnert nur daran, dass eine Modelldatei aus dem Netz so behandelt werden sollte wie jedes andere Programm aus dem Netz: Man prüft, woher sie kommt, bevor sie Rechte bekommt.
Quellen
- Yuchen Zeng, Giorgio Severi, Blake Bullwinkel, Eric Horvitz, Dimitris Papailiopoulos: „Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents“, Microsoft Research und Microsoft AI Red Team, November 2026: Paper als PDF
- Microsoft Research Blog, „Lazare, veni foras: Reprogramming dormant neurons to backdoor AI agents“, 10. November 2026: microsoft.com/en-us/research/blog
- Microsoft Security Blog, „Detecting sleeper agents hiding in AI model neurons“, 10. November 2026: microsoft.com/en-us/security/blog
- The Hacker News, „Microsoft Researchers Show AI Agents Can Be Backdoored by Editing Fewer Than 10 Neurons“, 11. November 2026: thehackernews.com
Häufige Fragen
- Was ist Lazarus?
- Lazarus ist eine Angriffsmethode, die Forscher von Microsoft Research und dem Microsoft AI Red Team am 10. November 2026 veröffentlicht haben. Sie ändert in einem offenen Sprachmodell eine Handvoll Neuronen, die im normalen Betrieb kaum aktiv sind. Erscheint ein bestimmter Auslöser im Kontext, schreibt das Modell einen festgelegten Befehl. Ein KI-Agent, der dieses Modell nutzt, führt den Befehl mit seinen eigenen Rechten aus.
- Wird die Methode schon von Angreifern genutzt?
- Nach Angaben von Microsoft nicht. Microsoft schreibt, man habe keine Angreifer beobachtet, die diese Technik einsetzen. Der Code der Forscher war am 15. November 2026 unter der im Paper genannten Adresse nicht öffentlich abrufbar.
- Betrifft das auch ChatGPT, Claude oder Copilot?
- Nicht in derselben Weise. Der Angriff setzt voraus, dass jemand die Gewichte eines Modells verändern kann, bevor es eingesetzt wird. Bei den großen Cloud-Diensten liegen die Gewichte beim Anbieter, dort wäre es ein Angriff von innen. Für Firmen ist der Fall vor allem dann wichtig, wenn sie offene Modelle herunterladen und selbst betreiben, etwa mit Ollama oder vLLM, und diese Modelle mit Werkzeugen verbinden.
- Würde ein Test mit Benchmarks die Hintertür finden?
- Nein. Das veränderte Qwen-Modell blieb bei Mathematik- und Agenten-Tests nah am Original, und ohne Auslöser trat der Befehl in den geprüften Fällen nicht auf. Zuverlässig erkennen lässt sich die Änderung laut Microsoft durch einen Vergleich der Gewichte mit dem unveränderten Originalmodell.
- Was sollten Firmen jetzt tun?
- Modelle nur aus der Originalquelle beziehen und die Prüfsummen vergleichen, Umbauten Dritter wie Feinabstimmungen, Zusammenführungen und quantisierte Fassungen als ungeprüft behandeln, freigegebene Modelle an einer eigenen Stelle ablegen und Agenten nur die nötigen Rechte geben. Befehle, Dateiänderungen und Datenversand nach außen sollten protokolliert werden und bei wichtigen Schritten eine Freigabe durch einen Menschen brauchen.
Passend dazu
Qwen-Vorschaumodell wollte nach Peking hochladen: Warum lokale KI-Agenten einen gesperrten Ausgang brauchen
InsightsOllama im Unternehmen: KI-Modelle auf dem eigenen Server, gemessen ohne Grafikkarte
InsightsKI-Pentest: Was ein Sicherheitstest bei Chatbots und Agenten prüft, mit 360 eigenen Angriffen
InsightsLiteLLM 1.107.0 mit Schadcode: So prüfen Sie, ob Ihre KI-Schlüssel betroffen sind