# Fireworks AI Einbruch: was Firmen jetzt prüfen sollten

> Fireworks AI: Angreifer erbeuteten Schlüssel, Datensätze und Modellgewichte, Notion ist betroffen. Ablauf, Bedeutung von Zero Data Retention, Prüfliste.

Quelle: https://www.krynexlabs.de/blog/fireworks-ai-einbruch-schluessel-datensaetze-was-firmen-tun/
Stand: 2026-11-14
Anbieter: Krynex Labs UG (haftungsbeschränkt), Chemnitz · https://www.krynexlabs.de

---
[Alle Artikel](https://www.krynexlabs.de/blog/)

#IT-Sicherheit#Zugangsdaten#KI-Anbieter#Datenschutz#LLMJacking#Mittelstand

# Zweiter Einbruch bei Fireworks AI: Warum gespeicherte Schlüssel und Datensätze bei KI-Anbietern ein eigenes Risiko sind

Beim KI-Plattformanbieter Fireworks AI sind Angreifer zweimal eingedrungen. Erst lasen sie gespeicherte Schlüssel aus, dann über einen Cloud-Dienstleister auch Abrechnungsdaten, Datensätze und unfertige Modellgewichte. Bei Notion traf es Chat-Verläufe aus Notion AI. Wir haben die Meldungen von Fireworks und Notion im Wortlaut gelesen und ordnen ein, was Firmen daraus für ihre eigenen KI-Dienstleister mitnehmen sollten.

[Annett Krusch](https://www.krynexlabs.de/ueber-uns/) 14\. November 2026

 

Fireworks AI ist kein Name, den die meisten Geschäftsführer im Mittelstand kennen. Das US-Unternehmen betreibt eine Plattform, auf der Firmen offene Sprachmodelle ausführen, anpassen und bewerten lassen. Laut Notion nutzen Zehntausende Kunden die Plattform, darunter viele Software-Anbieter, die KI-Funktionen in ihre Produkte einbauen. Wer Fireworks nicht direkt nutzt, kann also trotzdem über einen seiner Dienstleister dort Daten liegen haben.

Bei Fireworks sind Angreifer zweimal eingedrungen. Was sie dabei erreicht haben, hat das Unternehmen am 9. November in einem Nachtrag zu seiner Sicherheitsmeldung veröffentlicht. Am selben Tag bestätigte Notion, dass Chat-Verläufe aus Notion AI betroffen sind. Der Fall ist ein gutes Beispiel dafür, warum es nicht reicht, bei einem KI-Anbieter nur auf das Versprechen „keine Speicherung von Prompts“ zu schauen.

*Offenlegung: Wir geben wieder, was Fireworks und Notion in ihren Sicherheitsmeldungen schreiben. Wie die Angreifer technisch vorgegangen sind und welcher Cloud-Dienstleister betroffen war, haben beide nicht veröffentlicht. Stand 14. November 2026.*

## Der Ablauf nach Fireworks’ eigenen Angaben

**Erster Vorfall, Oktober.** Am 6. Oktober 2026 bemerkte Fireworks, dass Unbefugte interne Zugangsdaten des Unternehmens nutzten. Damit lasen sie bei einer begrenzten Zahl von Kunden die Umgebungsvariablen von Evaluierungsjobs aus, also von Läufen, in denen Kunden Modelle automatisch bewerten lassen. In diesen Variablen lagen bei einigen Kunden API-Schlüssel und Tokens, die als Secrets hinterlegt waren, auch Schlüssel für Dienste anderer Anbieter. Fireworks informierte die Betroffenen ab dem 7. Oktober, tauschte die eigenen Schlüssel aus und veröffentlichte am 9. Oktober die erste Meldung. Damals schrieb das Unternehmen, es gebe keine Hinweise auf Zugriffe auf Modelle, Datensätze oder Trainingsdaten.

**Zweiter Vorfall, Ende Oktober.** Am 23. Oktober hatte ein Cloud-Dienstleister, auf dem Fireworks Rechner für Forschung und Entwicklung betrieb, selbst einen Sicherheitsvorfall. Am 24. Oktober nutzten die Angreifer das, um auf die Entwicklungsrechner von Fireworks zu gelangen und dort eigene Programme laufen zu lassen. Fireworks bemerkte das nach eigenen Angaben am selben Tag. Seit dem 25. Oktober gebe es keine Hinweise auf weiteren erfolgreichen Zugriff auf die Plattform, die Kunden nutzen.

**Was erreichbar war.** Laut dem Nachtrag vom 9. November hatte die betroffene interne Anwendung Zugriff auf:

-   Metadaten wie Kennungen, Namen und Beschreibungen von Ressourcen,
-   Abrechnungsdaten wie Rechnungs- und Lieferadressen, Rechnungs- und Zahlungsverlauf, Guthaben und Verbrauch, aber keine Kartennummern, weil Fireworks sie nicht speichert,
-   bei einem Teil der Kunden unfertige Modellgewichte und Datensätze.

Zusammengefasst schreibt Fireworks, dass bei einer begrenzten Zahl von Konten Secrets, Datensätze und unfertige Modelle betroffen sind. Wie viele Kunden das sind, steht nicht in der Meldung. Fireworks hat die Polizei eingeschaltet, arbeitet mit Unit 42 von Palo Alto Networks und hat das Hoch- und Herunterladen von Datensätzen für Batch-Verarbeitung und Training vorerst abgeschaltet.

**Wer dahintersteckt.** Die Spuren führen laut Fireworks zu einer finanziell motivierten kriminellen Gruppe, die gestohlene Zugänge zu Sprachmodellen über illegale Vermittlungsdienste weiterverkauft. Diese Masche heißt LLMJacking.

## Was bei Notion betroffen war

Notion nutzte Fireworks für zwei Dinge: als Anbieter, über den offene Modelle in Notion liefen, und für Klassifizierungsjobs der Funktion Insights, mit der Kunden ihre eigene KI-Nutzung auswerten können. Am 2. November meldete Fireworks einen ersten abgeflossenen Datensatz, der laut Notion nur synthetische Testdaten enthielt. Notion trennte daraufhin bis zum Morgen des 3. November alle Verbindungen zu Fireworks und ließ die dort liegenden Daten löschen.

Am 6. November folgte die zweite Nachricht, am 8. November die Bestätigung: Ein weiterer Datensatz enthielt Chat-Verläufe aus Notion AI, die für Insights verwendet wurden. Betroffen sind laut Notion weniger als ein Prozent der Workspaces. Bei den allermeisten fehle die Zuordnung zu Person oder Workspace, und Ergebnisse von Werkzeugaufrufen seien nicht enthalten. Was im Chat selbst stand, ist aber abgeflossen.

Notion hat die betroffenen Kunden angeschrieben. Sie können die Daten in ihrem Workspace einsehen und sollen sie behandeln, als seien sie veröffentlicht. Wer in diesem Zeitraum Passwörter, API-Schlüssel oder andere Zugangsdaten in Notion AI eingefügt hat, soll sie austauschen. Insights ist abgeschaltet, offene Modelle laufen nicht mehr über Fireworks.

## Was „keine Speicherung“ abdeckt und was nicht

Fireworks wirbt damit, dass Prompts und Antworten standardmäßig nicht gespeichert werden, im Fachjargon Zero Data Retention. Für Inference, das Training SDK und Nexus hat Fireworks bisher auch keine Auswirkungen festgestellt. Das Versprechen hat also gehalten, soweit es reichte.

Es reichte aber nicht weit genug. Abgeflossen ist, was auf der Plattform dauerhaft lag: Secrets, die Kunden für ihre Jobs hinterlegt hatten, Datensätze für Bewertungen, Batch-Läufe und Training, Modellstände aus laufenden Anpassungen. Die Notion-Chats waren genau so ein Datensatz. Sie gingen nicht als einzelne Anfrage durch, sondern lagen als Material für Klassifizierungsjobs beim Anbieter.

Für die Prüfung eines KI-Dienstleisters heißt das: Die Frage „Speichern Sie unsere Prompts?“ ist zu eng. Die bessere Frage lautet, welche Daten in welchem Dienst wie lange liegen, ob für Batch-Jobs, Bewertungen, Feinabstimmung, Protokolle oder hinterlegte Zugangsdaten. Das gilt für die eigenen Verträge genauso wie für die Dienstleister, die ein Software-Anbieter im Hintergrund einsetzt.

## Warum gestohlene KI-Schlüssel teuer werden

Am 2. November haben die Google Threat Intelligence Group und Mandiant einen Bericht über LLMJacking veröffentlicht, auf den auch Fireworks verweist. Die Zahlen darin erklären, warum Angreifer gezielt nach KI-Zugängen suchen. In einzelnen Fällen lagen die betrügerischen Kosten bei mehr als 100.000 US-Dollar an einem Tag, bei manchen Organisationen bis zu einer Million, bevor der Zugang gesperrt wurde. Ein Angreifer setzte in weniger als acht Stunden mehr als 500.000 Anfragen ab.

Der häufigste Einstieg sind laut Bericht offengelegte oder gestohlene Zugangsdaten: Cloud-Schlüssel, Schlüssel von Dienstkonten, persönliche Zugriffstokens von GitHub und aktive Sitzungstokens. Genau solche Werte liegen oft als Secrets bei KI-Plattformen, weil ein Bewertungs- oder Agentenjob damit auf andere Dienste zugreifen soll. Ein Einbruch bei einem KI-Anbieter ist deshalb auch ein Einbruch in alle Dienste, deren Schlüssel dort hinterlegt sind. Fireworks schreibt dazu einen Satz, der über diesen Fall hinaus gilt: Ein gespeichertes Secret zu löschen, macht den Schlüssel dahinter nicht ungültig.

Das Muster kennen wir aus den letzten Wochen. Beim Hoster Mittwald lasen Angreifer über den [MCP-Server](https://www.krynexlabs.de/blog/mittwald-mcp-server-angriff-was-firmen-pruefen/) Sitzungstokens aus. In einem Versuch mit [KI-Agenten im Schwarm](https://www.krynexlabs.de/blog/ki-agenten-verraten-zugangsdaten-schwarm-versuch/) gaben Agenten Zugangsdaten preis, die sie nicht hätten weitergeben sollen. Überall geht es um dieselbe Frage: Wo liegen Schlüssel, und was kann jemand damit anfangen, der sie findet?

## Was Firmen jetzt prüfen sollten

**Postfach und Lieferanten prüfen.** Fireworks und Notion haben Betroffene direkt angeschrieben. Wer keine Nachricht bekommen hat, ist nach heutigem Stand nicht betroffen. Prüfen Sie zusätzlich, ob einer Ihrer Software-Anbieter Fireworks in seiner Liste der Unterauftragsverarbeiter führt, und fragen Sie dort nach, ob eigene Daten betroffen sind. Wie man Unterauftragsverarbeiter im Vertrag regelt, beschreiben wir unter [AVV mit KI-Anbietern](https://www.krynexlabs.de/wissen/avv-mit-ai-anbietern/).

**Hinterlegte Schlüssel inventarisieren.** Machen Sie eine Liste aller API-Schlüssel und Tokens, die bei KI-Plattformen, Agenten-Werkzeugen oder Automatisierungsdiensten als Secret hinterlegt sind. Zu jedem Eintrag gehört, wofür der Schlüssel gilt, wer ihn ausgestellt hat und wie man ihn widerruft.

**Schlüssel eng zuschneiden.** Ein Schlüssel für einen Bewertungsjob braucht selten Schreibrechte, und er braucht keinen Zugriff auf alle Modelle und Projekte. Google empfiehlt im LLMJacking-Bericht, Schlüssel nach Modell, Umgebung und Verbrauchsgrenzen zu trennen, Kontingente je Modell festzulegen und Ausgabenobergrenzen zu setzen. Ein Limit begrenzt den Schaden, wenn ein Schlüssel doch abfließt.

**Beim Austausch an der Quelle widerrufen.** Wenn ein Schlüssel betroffen sein könnte, wird er beim ausstellenden Dienst widerrufen und neu erzeugt, nicht nur aus der Plattform gelöscht. Danach lohnt ein Blick in die Zugriffsprotokolle dieses Dienstes für den fraglichen Zeitraum.

**Keine Zugangsdaten in KI-Chats.** Notions Empfehlung zeigt, wie oft das passiert: Mitarbeiter fügen Passwörter oder Schlüssel in einen Chat ein, um sich bei einer Konfiguration helfen zu lassen. Diese Daten landen dann in Verläufen, Auswertungen und im Zweifel bei Dienstleistern. Eine kurze Regel im Team und ein Passwortmanager mit geteilten Tresoren verhindern das besser als jede nachträgliche Prüfung.

**Datenhaltung beim Anbieter abfragen.** Fragen Sie jeden KI-Dienstleister nicht nur nach Prompts, sondern nach Datensätzen, Batch-Dateien, Bewertungsläufen, Modellständen und Protokollen: Wo liegen sie, wie lange und wer kommt heran? Wer die Antworten schriftlich hat, kann im nächsten Vorfall schneller einschätzen, ob er betroffen ist.

## Quellen

-   Fireworks AI, Sicherheitsmeldung zum Vorfall im Oktober 2026, zuletzt aktualisiert am 10. Oktober 2026: [fireworks.ai/security/bulletins/october-2026-security-incident](https://fireworks.ai/security/bulletins/october-2026-security-incident)
-   Fireworks AI, Nachtrag zum Vorfall, zuletzt aktualisiert am 9. November 2026: [fireworks.ai/security/bulletins/october-2026-security-incident-update](https://fireworks.ai/security/bulletins/october-2026-security-incident-update)
-   Notion, Sicherheitshinweis zum Vorfall bei Fireworks AI, 9. November 2026: [notion.com/security/advisories/security-incident-involving-a-third-party-ai-vendor-nov9](https://www.notion.com/security/advisories/security-incident-involving-a-third-party-ai-vendor-nov9)
-   Google Threat Intelligence Group und Mandiant, Bericht zu LLMJacking, 2. November 2026: [cloud.google.com/blog/topics/threat-intelligence/llmjacking-monetizing-compromised-cloud-models](https://cloud.google.com/blog/topics/threat-intelligence/llmjacking-monetizing-compromised-cloud-models)
-   BleepingComputer, Bericht zum zweiten Vorfall, 10. November 2026: [bleepingcomputer.com/news/security/fireworks-ai-discloses-new-breach-after-cloud-provider-hack/](https://www.bleepingcomputer.com/news/security/fireworks-ai-discloses-new-breach-after-cloud-provider-hack/)

## Häufige Fragen

Was ist bei Fireworks AI passiert?

Fireworks hat zwei zusammenhängende Vorfälle gemeldet. Am 6. Oktober 2026 entdeckte das Unternehmen, dass Unbefugte mit internen Zugangsdaten Umgebungsvariablen aus Evaluierungsjobs einiger Kunden ausgelesen hatten, darunter als Secrets gespeicherte API-Schlüssel und Tokens. Am 23. Oktober hatte ein Cloud-Dienstleister, der Entwicklungsrechner von Fireworks betrieb, selbst einen Sicherheitsvorfall. Darüber gelangten die Angreifer am 24. Oktober auf diese Rechner und erreichten Konto- und Abrechnungsdaten sowie bei einigen Kunden Secrets, Datensätze und unfertige Modellgewichte.

Waren Prompts und Antworten betroffen?

Nach Angaben von Fireworks nicht. Inference, das Training SDK und das Produkt Nexus arbeiten standardmäßig ohne Datenspeicherung, und dort hat Fireworks bisher keine Auswirkungen festgestellt. Betroffen waren Daten, die Kunden dauerhaft auf der Plattform abgelegt hatten, also Secrets, Datensätze und Modelle. Die Untersuchung läuft noch.

Was hat Notion damit zu tun?

Notion nutzte Fireworks als Dienstleister, unter anderem für Klassifizierungsjobs der Funktion Insights. Laut Notion enthielt ein abgeflossener Datensatz Chat-Verläufe aus Notion AI von weniger als einem Prozent der Workspaces, die meisten ohne Zuordnung zu Person oder Workspace. Notion hat die Verbindung zu Fireworks getrennt, Insights abgeschaltet und betroffene Kunden per E-Mail informiert.

Muss ich etwas tun, wenn ich kein Fireworks-Kunde bin?

Prüfen Sie, ob einer Ihrer Software-Anbieter Fireworks als Unterauftragsverarbeiter nutzt, und lesen Sie Ihr Postfach auf Hinweise von Notion oder Fireworks. Wer betroffen ist und Passwörter oder API-Schlüssel in einen betroffenen Chat eingefügt hat, sollte sie austauschen. Unabhängig davon ist der Fall ein Anlass, alle Schlüssel zu inventarisieren, die bei KI-Plattformen hinterlegt sind.

Was ist LLMJacking?

So nennen Google und Mandiant Angriffe, bei denen Kriminelle gestohlene Zugänge zu Sprachmodellen weiterverkaufen, etwa über Vermittlungsdienste, die viele gestohlene Schlüssel bündeln. Die Rechnung zahlt das Opfer. Google berichtet von Fällen mit mehr als 100.000 US-Dollar Kosten an einem Tag und bis zu einer Million insgesamt. Fireworks ordnet seine Angreifer einer solchen Gruppe zu.

## Passend dazu

Insights

Angriff über den MCP-Server bei Mittwald: Was Kunden jetzt tun sollten und was jede Firma mit KI-Schnittstellen daraus lernt

→ https://www.krynexlabs.de/blog/mittwald-mcp-server-angriff-was-firmen-pruefen/

Insights

KI-Agenten geben Zugangsdaten heraus, wenn man ihnen Hilfe anbietet: Was ein Versuch mit 181 Durchläufen für Firmen heißt

→ https://www.krynexlabs.de/blog/ki-agenten-verraten-zugangsdaten-schwarm-versuch/

Insights

Nach dem Microsoft-365-Ausfall: Gefälschte Störungsmeldungen erkennen und für den nächsten Ausfall vorsorgen

→ https://www.krynexlabs.de/blog/microsoft-365-ausfall-phishing-stoerungsmeldung-vorbereiten/

Insights

Angriffe auf die Fernwartung N-central: Was Sie Ihren IT-Dienstleister jetzt fragen sollten

→ https://www.krynexlabs.de/blog/n-central-luecken-fernwartung-it-dienstleister-fragen/
