AI Audit Trail — was muss geloggt werden?

Die ehrliche Kurzantwort

Audit-Logging kommt aus zwei Richtungen:

AI Act (Art. 12) für Hochrisiko-KI. Automatisches Logging von Ereignissen während des Lebenszyklus. Aufbewahrung mindestens 6 Monate nach Art. 19 (Anbieter) und Art. 26 Abs. 6 (Betreiber), soweit Datenschutz- oder Fachrecht nichts anderes bestimmt; für Finanzinstitute gilt das Finanzaufsichtsrecht. Nach dem Digital Omnibus (VO 2026/1744) gelten diese Pflichten ab dem 2. Dezember 2027 für Anhang III und ab dem 2. August 2028 für Anhang I.

DSGVO für jede Verarbeitung personenbezogener Daten. Indirekt über die Rechenschaftspflicht nach Art. 5 Abs. 2 und Art. 24 — Sie müssen belegen können, dass Sie die Verarbeitung im Griff haben. Eine ausdrückliche Pflicht, jede Anfrage zu protokollieren, enthält die DSGVO nicht.

Normaler Chatbot? Ein Chatbot für Kundenservice, FAQ oder Termine steht nicht in Anhang III und ist kein Hochrisiko-System. Art. 12 gilt für ihn nicht, es bleibt die DSGVO. Details im Beitrag Audit-Trail für KI-Chatbots. Bei einer Auskunftsanfrage nach Art. 15 müssen Sie sagen können, was mit den Daten dieses Betroffenen passiert ist.

Typische Mindest-Felder pro Request:

• Zeitstempel mit Zeitzone
• Nutzer-ID oder Service-Account
• Use-Case / Endpoint-Kontext
• Modell-Name + Version (z. B. “claude-sonnet-5-5” mit konkreter API-Version)
• Anbieter + Region
• Eingabe (oder Hash davon, je nach Sensitivität)
• Ausgabe (oder Hash, oder Klassifikation)
• Token-Verbrauch
• Latenz
• Fehler-Code falls aufgetreten

Was Art. 12 AI Act konkret verlangt

Art. 12 Abs. 1:

Die Technik der Hochrisiko-KI-Systeme muss die automatische Aufzeichnung von Ereignissen („Protokollierung“) während des Lebenszyklus des Systems ermöglichen.

Abs. 2 nennt die Zwecke: Risiken und wesentliche Änderungen erkennen, Beobachtung nach dem Inverkehrbringen, Überwachung durch den Betreiber. Feste Mindestinhalte nennt Abs. 3 nur für die biometrische Fernidentifizierung (Anhang III Nr. 1 a): Zeitraum jeder Verwendung, Referenzdatenbank, Eingabedaten mit Treffer und die Personen, die das Ergebnis geprüft haben.

Für alle anderen Hochrisiko-Systeme legt das Gesetz die Felder nicht fest. Bewährt haben sich Zeitstempel, eine Kennung der Eingabedaten (Hash oder Referenz), der auslösende Nutzer und die verwendete Modellversion. Das ist unsere Empfehlung, keine gesetzliche Liste.

Aufbewahrung. Nicht in Art. 12, sondern in Art. 19 Abs. 1 und Art. 26 Abs. 6: mindestens 6 Monate, soweit anderes Recht nichts anderes vorsieht. Längere Fristen können sich aus Fachrecht ergeben.

Was die DSGVO für den Audit-Stack bedeutet

Die DSGVO erzwingt mehrere Anforderungen, die sich mit AI-Logging überschneiden:

Art. 5 (Rechenschaftspflicht). Sie müssen die Einhaltung der Grundsätze nachweisen. Ohne Log wird dieser Nachweis erheblich schwerer.

Art. 15 (Auskunftsrecht). Auf Anfrage einer betroffenen Person müssen Sie mitteilen, welche Daten Sie verarbeitet haben. Wenn ihre Daten in ein LLM geflossen sind, gehört das dazu.

Art. 17 (Recht auf Löschung). Auf Anfrage müssen Sie Daten löschen können. Bei LLM-Verarbeitung relevant: nicht das Modell, aber die Audit-Logs und RAG-Dokumente.

Art. 32 (Sicherheit der Verarbeitung). Logs müssen so sicher sein wie die verarbeiteten Daten selbst. Access-Control, Verschlüsselung at-rest, getrennte Berechtigungen für Audit-Zugriff.

Spannung zwischen “Logs brauchen, um Compliance nachzuweisen” und “Logs sind selbst personenbezogen und müssen DSGVO-konform behandelt werden”. Auflösung: Speicherbegrenzung definieren (z. B. 6 Monate für volle Logs, danach Hash-only oder Aggregat). Pseudonymisierung wo möglich. Klare Access-Control-Regeln.

Was in der Praxis schiefgeht

Fehlende Modell-Version. Logs enthalten “claude-sonnet” — aber war das Sonnet 4.5 oder 4.6? In zwei Jahren weiß das niemand mehr. Immer die volle API-Version mit Datum loggen.

Ungelogged Sub-Requests. Bei Agent-Architekturen führt ein User-Request zu 5–20 LLM-Calls. Wenn nur der Top-Level geloggt ist, wissen Sie im Fehlerfall nicht, was genau im Sub-Step lief.

Logs in der Cloud des Anbieters. Wenn Ihre einzigen Logs in der OpenAI- oder Anthropic-Cloud liegen, haben Sie Kontroll- und Verfügbarkeits-Probleme. Ein eigener Log-Stack (Loki, Elasticsearch, eigener Postgres) ist dringend zu empfehlen.

Keine PII-Strategie. Wenn Sie Eingaben 1:1 loggen und Kunden-Mails dabei sind, ist Ihr Log-Storage selbst ein DSGVO-Hotspot. Lösungs-Ansätze: PII-Redaktion vor Logging, Hash-only nach 30 Tagen, klare Aufbewahrungsfristen.

Unzureichende Aufbewahrung. Logs werden nach 7 Tagen rotiert. Bei einer Rückfrage nach 4 Monaten ist nichts mehr verfügbar. Bei Hochrisiko-KI wäre das ab dem 2. Dezember 2027 ein Verstoß gegen Art. 19 bzw. Art. 26 Abs. 6.

Pragmatische Audit-Architektur für Mittelstand

Drei Log-Schichten:

1. Application-Layer-Log. Pro User-Request: Endpoint, User-ID, Use-Case, Eingabe-Hash, finale Ausgabe (gekürzt), Status. Aufbewahrung 90 Tage.

2. LLM-Call-Log. Pro LLM-Aufruf: Modell, Version, Region, Tokens, Latenz, Input + Output (ggf. gehasht oder gekürzt). Aufbewahrung 90 Tage bis 12 Monate, je nach Use-Case.

3. Audit-Aggregat. Quartalsweise Aggregat: Total-Calls, Modell-Verteilung, Fehler-Raten, Cost-Statistiken. Aufbewahrung mehrere Jahre. Dient für Trend-Analyse, Kostenkontrolle, Compliance-Reporting.

Tooling.

• Loki + Grafana für Logs (gut für Volumen, einfach zu betreiben)
• OpenTelemetry für strukturiertes Tracing (Spans pro LLM-Call)
• PostgreSQL für Aggregate (einfach zu durchsuchen, gut für DSGVO-Auskunft)
• S3 + Object-Lock für Langzeitarchiv mit Manipulationsschutz

PII-Schutz.

• Eingangsseitig: Pre-Processing mit PII-Detector (Microsoft Presidio, spaCy + Custom-NER) entfernt oder maskiert Klar-PII vor LLM-Call
• Logging-seitig: Sensible Felder werden vor Persist gehasht; Klartext nur in kurzen TTL-Buckets (z. B. 7 Tage für Debug, dann automatisch rotated)
• Access-Control: Audit-Zugriff nur über separate Rolle, alle Zugriffe selbst auditiert

Was im Auskunfts-Fall passieren muss

Bei einer Art.-15-Auskunftsanfrage einer betroffenen Person müssen Sie in der Regel folgende Schritte abarbeiten:

1. Identifikation. Welche Mails/Tickets/Anfragen dieser Person sind in den letzten X Monaten verarbeitet worden?
2. Log-Abfrage. Welche LLM-Calls wurden mit diesen Eingaben durchgeführt?
3. Anbieter-Mitteilung. Welcher Anbieter, welche Region, welche Datenübermittlungs-Garantie?
4. Zweck-Beschreibung. Was war der Zweck der Verarbeitung — gekoppelt an die Datenschutzerklärung?
5. Konsequenz. Wurde aufgrund der LLM-Antwort eine Entscheidung getroffen? Falls ja, welche, durch wen, gegen wen kann Widerspruch eingelegt werden?

Wer keine Logs hat, kann keinen dieser Punkte beantworten. Eine unvollständige Auskunft verletzt Art. 15 DSGVO (Fristen nach Art. 12 Abs. 3 DSGVO, nicht zu verwechseln mit Art. 12 AI Act) und kann ein Bußgeld nach sich ziehen.

Was Sie heute nicht tun sollten

Kein produktives KI-System ohne Audit-Log. Keine “wir loggen erst, wenn wir müssen”-Strategie — beim Aufsichts-Anschreiben brauchen Sie Logs für die Vergangenheit, nicht für die Zukunft. Und keine Logs ohne PII-Strategie — der Log-Stack ist sonst selbst eine Datenschutz-Schwachstelle.

Pragmatischer Einstieg: Eine Woche Standard-Setup mit Loki + Grafana und strukturierten LLM-Call-Logs. Danach läuft das im Hintergrund. Bei Audits haben Sie Antworten statt Improvisation.