# Beweisen Sie, dass Ihre KI das entschieden hat — Krynex Labs > Konform sein und es belegen können sind zwei verschiedene Dinge. Für Hochrisiko-KI verlangt der EU AI Act ab Dezember 2027 nicht nur, dass sie sauber arbeitet, sondern dass Sie im Prüffall rekonstruieren können, was sie wann auf welcher Datenbasis entschieden hat. Die meisten Mittelstands-Setups scheitern genau hier. Warum das so ist, was Art. 12 wirklich fordert, und wie ein fälschungssicheres KI-Protokoll aussieht. Quelle: https://www.krynexlabs.de/blog/ki-entscheidungen-beweisen/ Stand: 2026-10-03 Anbieter: Krynex Labs UG (haftungsbeschränkt) i. G., Chemnitz · https://www.krynexlabs.de --- [Alle Artikel](https://www.krynexlabs.de/blog/) #EU AI Act#Compliance#KI-Governance#Audit#Mittelstand # Beweisen Sie, dass Ihre KI das entschieden hat Konform sein und es belegen können sind zwei verschiedene Dinge. Für Hochrisiko-KI verlangt der EU AI Act ab Dezember 2027 nicht nur, dass sie sauber arbeitet, sondern dass Sie im Prüffall rekonstruieren können, was sie wann auf welcher Datenbasis entschieden hat. Die meisten Mittelstands-Setups scheitern genau hier. Warum das so ist, was Art. 12 wirklich fordert, und wie ein fälschungssicheres KI-Protokoll aussieht. [Annett Krusch](https://www.krynexlabs.de/ueber-uns/) 30\. Juni 2026 Stellen Sie sich den Anruf vor. Eine Behörde, ein Auditor oder der Anwalt eines abgelehnten Bewerbers fragt: *„Zeigen Sie mir, was Ihr KI-System am 14. März um 10:42 Uhr entschieden hat. Auf welcher Datenbasis. Und wer es freigegeben hat.“* Die meisten Mittelständler, die KI im Einsatz haben, könnten das nicht beantworten. Nicht, weil ihre KI schlecht arbeitet — sondern weil niemand mitgeschrieben hat. Und genau hier liegt das Missverständnis, das gerade teuer verkauft wird: **Konform sein und konform sein können beweisen sind zwei verschiedene Dinge.** ## Compliance ist kein Zustand, sondern ein Nachweis Wer „EU-AI-Act-konform” hört, denkt an saubere Modelle, geprüfte Daten, faire Ergebnisse. Das ist die halbe Wahrheit. Der größere, unbequemere Teil der Hochrisiko-Pflichten — seit dem Digital Omnibus ab dem 2. Dezember 2027 — ist **Nachweisbarkeit**: Sie müssen auf Anfrage zeigen können, *dass* und *wie* Ihr System eine Entscheidung getroffen hat. Artikel 12 des AI Acts formuliert das nüchtern: Hochrisiko-KI-Systeme müssen Ereignisse **automatisch protokollieren** — über die gesamte Lebensdauer. Artikel 19 und 26 verlangen, dass diese Protokolle aufbewahrt werden, mindestens sechs Monate. Im Klartext: Wenn Sie nicht rekonstruieren können, was Ihr System letzten Monat entschieden hat, sind Sie nicht konform — egal wie gut das Modell ist. Das ist eine andere Art von Pflicht als „kauft die richtige Software”. Es ist eine **Buchführungs-Pflicht für Maschinen-Entscheidungen**. Und Buchführung ist etwas, das der Mittelstand eigentlich kann — nur eben bei KI noch nicht tut. ## Warum die meisten Setups hier scheitern Wir sehen in der Praxis vier typische Lücken. Keine davon ist exotisch: 1. **Es gibt gar kein Protokoll.** Die KI läuft als API-Call irgendwo im Workflow, die Antwort wird benutzt und verworfen. Nichts bleibt zurück außer dem Ergebnis im CRM — ohne Begründung, ohne Zeitstempel, ohne Datenbezug. 2. **Das Protokoll liegt verstreut.** Ein bisschen im Application-Log, ein bisschen in der Datenbank, ein bisschen im Chatverlauf. Niemand kann daraus in Minuten eine zusammenhängende Entscheidungshistorie bauen. 3. **Das Protokoll ist veränderbar.** Logs in einer normalen Datenbank kann man editieren oder löschen. Für einen Auditor ist ein änderbares Protokoll fast wertlos — es beweist nichts, wenn es nachträglich frisiert werden könnte. 4. **Die menschliche Aufsicht ist nirgends dokumentiert.** Art. 14 verlangt Aufsicht durch Menschen. „Ein Mitarbeiter schaut da schon drüber” ist keine Dokumentation. Wer hat wann was freigegeben oder überstimmt — steht das irgendwo? Jede dieser Lücken fällt im normalen Betrieb nie auf. Sie fällt genau einmal auf: im Prüffall. Dann aber teuer — der Bußgeldrahmen reicht bis 15 Mio. € oder 3 % des weltweiten Jahresumsatzes (Art. 99, Verordnung (EU) 2024/1689). Und die Ausgangslage ist nicht beruhigend: **51,2 %** der deutschen Mittelständler nutzen oder testen KI, **16,6 %** setzen bereits KI-Agenten ein ([KI-Index Mittelstand 2026](https://salesforce.com/de/news/press-releases/2026/03/12/ki-index-mittelstand-2026), Deutscher Mittelstands-Bund / Salesforce). Wer aber KI nutzt, nutzt sie meist ohne jede Protokollierung. Die Nachweis-Lücke wächst also mit jedem neuen Einsatz. ## Was ein belastbares KI-Protokoll können muss Ein Protokoll, das vor einem Auditor besteht, braucht vier Eigenschaften: - **Vollständig pro Entscheidung.** Nicht „das System lief”, sondern: diese Eingabe (referenziert, nicht im Klartext), dieses Modell, diese Ausgabe, diese Entscheidung, dieser Zeitpunkt, dieser Verantwortliche. - **Manipulationssicher.** Es muss beweisbar sein, dass nachträglich nichts geändert wurde. Hier hilft eine **Hash-Chain**: Jeder Eintrag trägt eine Prüfsumme und verweist auf die des vorherigen. Ändert jemand einen alten Eintrag, bricht die Kette an genau dieser Stelle. Das ist dieselbe Idee, die Blockchains berühmt gemacht hat — nur ohne den ganzen Krypto-Overhead. Man braucht keine verteilte Kette und keinen Token, um Unveränderlichkeit zu beweisen; eine sauber verkettete SHA-256-Signatur reicht. - **Aufbewahrt und auffindbar.** Sechs Monate sind das gesetzliche Minimum; praktisch sollte man länger und durchsuchbar halten. Ein Protokoll, das man im Prüffall nicht in Minuten filtern kann, ist kein Nachweis, sondern ein Datenfriedhof. - **Datensparsam.** Und hier wird es heikel: Sie dürfen nicht zur Erfüllung der einen Vorschrift die andere brechen. Wer zur AI-Act-Dokumentation munter Klartext-Bewerberdaten sechs Monate hortet, produziert ein DSGVO-Problem. Die saubere Lösung speichert **Hashes und Referenzen statt Klartext** — der Nachweis bleibt, die Personendaten nicht. ## Der ehrliche Teil: Logging ist nicht alles Damit kein falscher Eindruck entsteht — ein gutes Protokoll macht Sie nicht automatisch AI-Act-konform. Es deckt die Pflichten zu Logging, Aufbewahrung und Nachweis ab (Art. 12, 13, 19, 26) und unterstützt die Dokumentation der menschlichen Aufsicht (Art. 14). Es ersetzt **nicht** das Risikomanagement (Art. 9), die Datengüte-Anforderungen (Art. 10) oder die rechtliche Einstufung, ob Ihr System überhaupt als Hochrisiko gilt. Diese Einstufung gehört in die Hände Ihres Datenschutzbeauftragten oder einer Fachkanzlei. Aber: Von allen Pflichten ist die Nachweisbarkeit die, an der heute fast jeder scheitert — und die sich am saubersten technisch lösen lässt. Während die Diskussion sich an „brauche ich ein teures Audit?” abarbeitet, übersieht der Mittelstand die viel banalere Frage: *Schreibe ich überhaupt mit?* ## Was wir daraus gebaut haben Weil diese Lücke so verbreitet ist, haben wir den Nachweis-Teil gebaut und in unsere [Pilot Suite](https://www.krynexlabs.de/services/ki-erp/) eingebaut — als Einstiegsstufe von [AgentGuard](https://www.krynexlabs.de/services/agentguard/): Jede KI-Entscheidung wird in einer manipulationssicheren Hash-Chain protokolliert, Systeme werden nach Annex III klassifiziert, und ein Bericht entsteht auf Knopfdruck — datensparsam, ohne Klartext-Personendaten. Kein Audit-Projekt, sondern ein Schalter im ERP. Wer später nicht nur mitschreiben, sondern eingreifen will, schaltet dieselbe Anbindung eine Stufe höher. Der Punkt dieses Beitrags ist aber größer als ein Produkt: Bevor Sie über die nächste KI-Investition nachdenken, beantworten Sie die unbequeme Frage. Wenn morgen jemand anruft und fragt, was Ihre KI am 14. März entschieden hat — **könnten Sie es beweisen?** Wenn die Antwort „nein” ist, fangen Sie nicht beim Modell an. Fangen Sie beim Protokoll an. ## Häufige Fragen Was verlangt Art. 12 EU AI Act zur Nachvollziehbarkeit von KI-Entscheidungen? Art. 12 fordert Protokollierung: Sie müssen im Prüffall rekonstruieren können, was die KI wann auf welcher Datenbasis entschieden hat. Konform arbeiten und es belegen können sind zwei Dinge — nötig ist ein fälschungssicheres, lückenloses KI-Protokoll, an dem die meisten Mittelstands-Setups scheitern. ## Dazu bei Krynex Labs Leistung AgentGuard: Freigabe und Protokoll für Agenten → https://www.krynexlabs.de/services/agentguard/ Wissen Audit-Trail: was Pflicht ist → https://www.krynexlabs.de/wissen/ai-audit-trail-pflichten/ Workshop Workshop EU AI Act → https://www.krynexlabs.de/workshops/eu-ai-act-umsetzung/ ## Passend dazu Insights Ihr KI-Agent kann jetzt handeln. Wer sagt Nein? → https://www.krynexlabs.de/blog/agenten-governance-wer-stoppt-die-ki/ Insights Fünf Tage vor der Frist verschoben: was vom AI Act jetzt wirklich gilt → https://www.krynexlabs.de/blog/ai-act-digital-omnibus-was-jetzt-gilt/ Insights 67 Tage bis zum EU AI Act (Stand Mai 2026, durch den Digital Omnibus überholt) → https://www.krynexlabs.de/blog/eu-ai-act-countdown-2026/