Beweisen Sie, dass Ihre KI das entschieden hat

Stellen Sie sich den Anruf vor. Eine Behörde, ein Auditor oder der Anwalt eines abgelehnten Bewerbers fragt: „Zeigen Sie mir, was Ihr KI-System am 14. März um 10:42 Uhr entschieden hat. Auf welcher Datenbasis. Und wer es freigegeben hat.”

Die meisten Mittelständler, die KI im Einsatz haben, könnten das nicht beantworten. Nicht, weil ihre KI schlecht arbeitet — sondern weil niemand mitgeschrieben hat. Und genau hier liegt das Missverständnis, das gerade teuer verkauft wird: Konform sein und konform sein können beweisen sind zwei verschiedene Dinge.

Compliance ist kein Zustand, sondern ein Nachweis

Wer „EU-AI-Act-konform” hört, denkt an saubere Modelle, geprüfte Daten, faire Ergebnisse. Das ist die halbe Wahrheit. Der größere, unbequemere Teil der Hochrisiko-Pflichten ab dem 2. August 2026 ist Nachweisbarkeit: Sie müssen auf Anfrage zeigen können, dass und wie Ihr System eine Entscheidung getroffen hat.

Artikel 12 des AI Acts formuliert das nüchtern: Hochrisiko-KI-Systeme müssen Ereignisse automatisch protokollieren — über die gesamte Lebensdauer. Artikel 19 und 26 verlangen, dass diese Protokolle aufbewahrt werden, mindestens sechs Monate. Im Klartext: Wenn Sie nicht rekonstruieren können, was Ihr System letzten Monat entschieden hat, sind Sie nicht konform — egal wie gut das Modell ist.

Das ist eine andere Art von Pflicht als „kauft die richtige Software”. Es ist eine Buchführungs-Pflicht für Maschinen-Entscheidungen. Und Buchführung ist etwas, das der Mittelstand eigentlich kann — nur eben bei KI noch nicht tut.

Warum die meisten Setups hier scheitern

Wir sehen in der Praxis vier typische Lücken. Keine davon ist exotisch:

1. Es gibt gar kein Protokoll. Die KI läuft als API-Call irgendwo im Workflow, die Antwort wird benutzt und verworfen. Nichts bleibt zurück außer dem Ergebnis im CRM — ohne Begründung, ohne Zeitstempel, ohne Datenbezug.
2. Das Protokoll liegt verstreut. Ein bisschen im Application-Log, ein bisschen in der Datenbank, ein bisschen im Chatverlauf. Niemand kann daraus in Minuten eine zusammenhängende Entscheidungshistorie bauen.
3. Das Protokoll ist veränderbar. Logs in einer normalen Datenbank kann man editieren oder löschen. Für einen Auditor ist ein änderbares Protokoll fast wertlos — es beweist nichts, wenn es nachträglich frisiert werden könnte.
4. Die menschliche Aufsicht ist nirgends dokumentiert. Art. 14 verlangt Aufsicht durch Menschen. „Ein Mitarbeiter schaut da schon drüber” ist keine Dokumentation. Wer hat wann was freigegeben oder überstimmt — steht das irgendwo?

Jede dieser Lücken fällt im normalen Betrieb nie auf. Sie fällt genau einmal auf: im Prüffall. Dann aber teuer — der Bußgeldrahmen reicht bis 15 Mio. € oder 3 % des weltweiten Jahresumsatzes (Art. 99, Verordnung (EU) 2024/1689).

Und die Ausgangslage ist nicht beruhigend: Nur 33,1 % der deutschen Mittelständler setzen überhaupt KI ein und lediglich rund 9 % haben sie vollständig implementiert (KI-Index Mittelstand 2025, Deutscher Mittelstands-Bund / Salesforce). Wer aber KI nutzt, nutzt sie meist ohne jede Protokollierung — die Nachweis-Lücke ist also nahezu flächendeckend.

Was ein belastbares KI-Protokoll können muss

Ein Protokoll, das vor einem Auditor besteht, braucht vier Eigenschaften:

• Vollständig pro Entscheidung. Nicht „das System lief”, sondern: diese Eingabe (referenziert, nicht im Klartext), dieses Modell, diese Ausgabe, diese Entscheidung, dieser Zeitpunkt, dieser Verantwortliche.
• Manipulationssicher. Es muss beweisbar sein, dass nachträglich nichts geändert wurde. Hier hilft eine Hash-Chain: Jeder Eintrag trägt eine Prüfsumme und verweist auf die des vorherigen. Ändert jemand einen alten Eintrag, bricht die Kette an genau dieser Stelle. Das ist dieselbe Idee, die Blockchains berühmt gemacht hat — nur ohne den ganzen Krypto-Overhead. Man braucht keine verteilte Kette und keinen Token, um Unveränderlichkeit zu beweisen; eine sauber verkettete SHA-256-Signatur reicht.
• Aufbewahrt und auffindbar. Sechs Monate sind das gesetzliche Minimum; praktisch sollte man länger und durchsuchbar halten. Ein Protokoll, das man im Prüffall nicht in Minuten filtern kann, ist kein Nachweis, sondern ein Datenfriedhof.
• Datensparsam. Und hier wird es heikel: Sie dürfen nicht zur Erfüllung der einen Vorschrift die andere brechen. Wer zur AI-Act-Dokumentation munter Klartext-Bewerberdaten sechs Monate hortet, produziert ein DSGVO-Problem. Die saubere Lösung speichert Hashes und Referenzen statt Klartext — der Nachweis bleibt, die Personendaten nicht.

Der ehrliche Teil: Logging ist nicht alles

Damit kein falscher Eindruck entsteht — ein gutes Protokoll macht Sie nicht automatisch AI-Act-konform. Es deckt die Pflichten zu Logging, Aufbewahrung und Nachweis ab (Art. 12, 13, 19, 26) und unterstützt die Dokumentation der menschlichen Aufsicht (Art. 14). Es ersetzt nicht das Risikomanagement (Art. 9), die Datengüte-Anforderungen (Art. 10) oder die rechtliche Einstufung, ob Ihr System überhaupt als Hochrisiko gilt. Diese Einstufung gehört in die Hände Ihres Datenschutzbeauftragten oder einer Fachkanzlei.

Aber: Von allen Pflichten ist die Nachweisbarkeit die, an der heute fast jeder scheitert — und die sich am saubersten technisch lösen lässt. Während die Diskussion sich an „brauche ich ein 9.900-€-Audit?” abarbeitet, übersieht der Mittelstand die viel banalere Frage: Schreibe ich überhaupt mit?

Was wir daraus gebaut haben

Weil diese Lücke so verbreitet ist, haben wir den Nachweis-Teil in unsere Pilot Suite eingebaut — als Modul namens AuditGuard: Jede KI-Entscheidung wird in einer manipulationssicheren Hash-Chain protokolliert, Systeme werden nach Annex III klassifiziert, und ein Compliance-Report entsteht auf Knopfdruck — datensparsam, ohne Klartext-Personendaten. Kein Audit-Projekt, sondern ein Schalter im ERP.

Der Punkt dieses Beitrags ist aber größer als ein Produkt: Bevor Sie über die nächste KI-Investition nachdenken, beantworten Sie die unbequeme Frage. Wenn morgen jemand anruft und fragt, was Ihre KI am 14. März entschieden hat — könnten Sie es beweisen?

Wenn die Antwort „nein” ist, fangen Sie nicht beim Modell an. Fangen Sie beim Protokoll an.