Welche LLMs sind 2026 DSGVO-konform betreibbar?

Die ehrliche Kurzantwort

DSGVO-Konformität ist kein Modell-Attribut, sondern eine Frage des Gesamt-Setups: Hosting-Region, AVV, Trainings-Opt-Out, Anbieter-Vertragslage, Ihre eigenen Prozesse. Das gleiche Modell kann konform betrieben werden oder nicht — je nachdem, wo es läuft und wie es eingekauft wird.

Dieser Beitrag ist Teil unseres Leitfadens KI-Compliance für den Mittelstand — dort finden Sie DSGVO, EU AI Act, Architektur und Praxis gebündelt.

Warum Datensouveränität 2026 zum Wettbewerbsfaktor wird

• 93 % der deutschen Unternehmen würden bevorzugt auf KI aus Deutschland setzen, und für 88 % ist das Herkunftsland des Anbieters ein sehr wichtiges Kriterium (Bitkom, „Künstliche Intelligenz in Deutschland — Perspektiven aus Bevölkerung und Unternehmen”, Studienbericht 2026).
• 61 % der westeuropäischen CIOs priorisieren lokale Cloud-Anbieter, um geopolitische Risiken zu senken (Gartner, November 2025).
• Der US CLOUD Act bedeutet: US-Anbieter können selbst mit EU-Rechenzentrum keine vollständige Rechtssouveränität garantieren — der bestimmende Faktor ist die Nationalität des Mutterkonzerns, nicht der Serverstandort.

Kurz: „EU-Region” ist nicht gleich „souverän”. Wer auf Nummer sicher gehen will, betreibt sensible Workloads on-premise oder bei einem europäischen Anbieter ohne US-Konzernbindung.

Konform betreibbar, Stand 30.09.2026:

• Azure OpenAI in der Data Zone EU
• OpenAI API mit einem Projekt in der Region Europa
• Anthropic Claude über AWS Bedrock mit EU-Profil oder über Google Cloud in der Mehrregion Europa, nicht über die Claude-API direkt
• Mistral über den EU-Endpunkt
• Google Gemini Enterprise Agent Platform (früher Vertex AI) mit EU-Endpunkt
• Offene Modelle (Mistral, Qwen, DeepSeek, Muse Glimmer) auf eigener Hardware

Nicht ohne Weiteres konform:

• Consumer ChatGPT (chat.openai.com Free/Plus) — wie ChatGPT trotzdem konform nutzbar ist
• Claude.ai für Personen-Accounts ohne Workspace-Tier
• Google Gemini (Consumer-Variante)
• Perplexity ohne Enterprise-Tier
• DeepSeek, Qwen, GLM in der jeweiligen China-Cloud
• OpenAI API direkt wenn Region nicht EU/DPF-konform konfiguriert ist

Anbieter-Tiefencheck

Alle Preise sind Listenpreise der Hersteller in USD je Million Token, Stand 29./30.09.2026.

Azure OpenAI (Microsoft)

Stand 2026. In der EU läuft Azure OpenAI über die Data Zone EU: Die Verarbeitung bleibt in EU-Rechenzentren, aber nicht in einer bestimmten Region. Dort verfügbar sind unter anderem gpt-6.1-sol, gpt-6-sol, gpt-6-luna, die GPT-5.6-Reihe und gpt-5.5. Das Spitzenmodell gpt-6-astra gibt es nur weltweit, und keines der GPT-6- und GPT-5.6-Modelle gibt es mit Verarbeitung in einer einzelnen Region. AVV-Vorlage über Microsoft Compliance-Portal. Trainings-Opt-Out vertraglich, nicht nur Settings.

Stärken. Microsoft 365-Integration, Active-Directory-Anbindung, sehr solider Enterprise-Support. CLOUD-Act-Risiko theoretisch, in der Praxis durch DPF abgemildert — Details im Schrems-II-Check zu Azure OpenAI.

Schwächen. Nicht jedes Modell gibt es in der EU-Datenzone. Setup und Quotenfreischaltung kann initial Tage bis Wochen dauern.

Preise. Weltweit derselbe Listenpreis wie bei OpenAI direkt, in der Data Zone EU laut Microsofts Preisschnittstelle mehr: bei der GPT-6-Reihe 20 Prozent (gpt-6-sol 2,40 statt 2 USD Input, 12 statt 10 USD Output), bei GPT-5.6 und GPT-5.5 10 Prozent. Zum Vergleich: OpenAI direkt mit Verarbeitung in Europa kostet 10 Prozent mehr als der Standardpreis. PTU (Provisioned Throughput Units) für planbare Last.

Empfohlen für. Mittelstand mit Microsoft-Stack, regulierte Branchen mit Audit-Anforderungen.

Anthropic Claude

Stand 2026. Die Claude-API direkt kennt für die Verarbeitung laut Dokumentation nur “global” und “us”, gespeichert wird in den USA. Für den EU-Betrieb führt der Weg über die Cloud-Partner: AWS Bedrock mit EU-Profil (Daten bleiben in EU-Regionen, darunter Frankfurt) oder Google Cloud mit der Mehrregion Europa. Achtung: Das neue Sonnet 5.5 gibt es auf Bedrock Stand 30.09.2026 nur mit weltweitem Profil, in der EU also nur über Google Cloud; Sonnet 5 und Opus 5.5 gibt es auf Bedrock mit EU-Profil.

Stärken. Modellqualität (Claude Sonnet 5.5, Claude Opus 5.5, Claude Fable 5.1) in vielen Reasoning-Tasks führend. 1-Million-Token-Kontext für lange Dokumente. Sehr hohe Sicherheits-Defaults.

Schwächen. Kein Fine-Tuning öffentlich verfügbar. EU-Betrieb nur über AWS oder Google, nicht über die Claude-API direkt. Quoten anfangs eng, müssen freigeschaltet werden.

Preise. Claude Sonnet 5.5 2 USD Input, 10 USD Output, Opus 5.5 4 und 20 USD, Haiku 5.5 0,10 und 0,50 USD (bis 100.000 Token je Anfrage). Prompt-Caching senkt den Input bei wiederholten System-Prompts auf 0,10 USD (Sonnet 5.5, seit 07.10.2026). Die Mehrregion Europa bei Google Cloud kostet laut Anthropic 10 Prozent mehr. Details: Claude-Modelle 2026.

Empfohlen für. Anspruchsvolle Reasoning-Use-Cases, Long-Context-Anwendungen, Customer-Support mit Qualitätsfokus.

Mistral

Stand 2026. Französischer Anbieter, die Entwicklerplattform heißt inzwischen Studio, der Chat “Vibe”. Mistral nennt “multiple data centers in EU and EFTA countries”. Eine Verarbeitung ausschließlich in der EU gibt es über den EU-Endpunkt (api.eu.mistral.ai, seit August 2026 allgemein verfügbar); dort kosten Anfragen 10 Prozent mehr, und einige Funktionen (Agents, Batch, Files) fehlen. Für den Standard-Endpunkt sagt Mistral in der Doku ausdrücklich zu keinem Verarbeitungsort etwas zu. AVV als Standardvertrag; Unterauftragsverarbeiter außerhalb der EU sind möglich, also die Liste prüfen.

Stärken. Souveränitäts-Story (europäischer Anbieter). Mistral Large 3 (Dezember 2025, 41 B aktive / 675 B Gesamt MoE) und Mistral Medium 3.5 (Frühjahr 2026, 128 B dense, 256 k Kontext) sind stark bei Standardaufgaben. Gute Deutsch-Performance.

Neu seit 06.10.2026: Mistral Large 4 als öffentliche Vorschau, 1 Billion Parameter, davon 49 B aktiv je Token, Bild und Text in einem Modell, laut Mistral in eigenen europäischen Rechenzentren trainiert. Listenpreis 1,36 USD Input und 4,18 USD Output je Million Token, zum Start berechnet Mistral die Hälfte (0,68 und 2,09 USD), ein Enddatum dafür nennt Mistral nicht. Mistrals Doku nennt 1,05 Billionen Parameter und 52 B aktiv, die Ankündigung rund 1 Billion und 49 B. Ausführlich: Mistral Large 4 im Unternehmen. Die offenen Gewichte sollen Ende Oktober folgen, die Lizenz hat Mistral noch nicht genannt. Für den Produktivbetrieb würden wir bis dahin bei Large 3 bleiben (Mistral, Ankündigung vom 06.10.2026).

Schwächen. Modell-Pool kleiner als bei OpenAI/Anthropic. Komplexes Top-Tier-Reasoning weiter hinter Claude Opus 5.5 und GPT-6. Quoten und Enterprise-Support weniger ausgebaut.

Preise. Mistral Large 3: 0,50 USD Input, 1,50 USD Output. Mistral Medium 3.5: 1,50 und 7,50 USD, also teurer als Large 3. Mistral Small 4 (März 2026, Reasoning, Bildverständnis und Coding in einem Modell): 0,15 und 0,60 USD. Über den EU-Endpunkt jeweils 10 Prozent mehr.

Empfohlen für. Unternehmen mit klarem Souveränitäts-Anspruch (Behörden, kritische Infrastruktur, sensible Datenverarbeitung).

AWS Bedrock

Stand 2026. Multi-Modell-Provider — Claude, Mistral, Amazon Nova und weitere auf AWS-Infrastruktur. EU-Regionen Frankfurt, Irland, Paris, Stockholm.

Stärken. Bestehende AWS-Stack-Integration, ein AVV deckt alles ab.

Schwächen. Die Daten-Residenz hängt am Inferenzprofil, nicht nur an der Region: Mit einem globalen Profil kann eine Anfrage aus Frankfurt weltweit verarbeitet werden. Neue Modelle kommen oft zuerst nur global (Claude Sonnet 5.5 Stand 30.09.2026). Komplexere IAM-Konfiguration.

Empfohlen für. AWS-Bestandskunden mit zentralem Compliance-Setup.

Google Gemini Enterprise Agent Platform (früher Vertex AI)

Stand 2026. Aktuelle Modelle sind Gemini 3.8 Flash (seit 02.09.2026 allgemein verfügbar), Gemini 3.5 und 3.1 Flash-Lite sowie Gemini 3.1 Pro als Vorschau. Die Flash-Modelle laufen in der EU über den Mehrregionen-Endpunkt “eu”; in der deutschen Region gibt es nur Gemini 3.5 Flash. Gemini 3.1 Pro gibt es nur weltweit, also ohne EU-Datenresidenz.

Stärken. Rund 1 Mio Token Kontext. Multimodal von Anfang an (Text, Bild, Video, Audio, PDF).

Schwächen. Marketing-/Marktposition bei Mittelstand schwächer. Google- Workspace-Integration ja, aber nicht so tief wie Azure-OpenAI in M365. Das stärkste Modell (Pro) ist in der EU nicht verfügbar.

Empfohlen für. Multimodale Use-Cases (Video-Analyse, OCR mit Verständnis).

Offene Modelle on-prem (Mistral, Qwen, DeepSeek, Muse Glimmer)

Stand 30.09.2026. Die Open-Weight-Modelle lassen sich selbst betreiben, die Lizenzen unterscheiden sich aber deutlich. Inferenz-Stack vLLM (am performantesten, beste MoE-Unterstützung), Ollama (am einfachsten), llama.cpp (am vielseitigsten), SGLang (stark für strukturierte Outputs).

Lizenzen prüfen.

• Llama 4 Scout / Maverick (Meta, April 2025): für Firmen mit Sitz in der EU nicht nutzbar. Die Nutzungsrichtlinie gewährt die Rechte an den multimodalen Llama-4-Modellen nicht Unternehmen “with a principal place of business in the European Union”; ausgenommen sind nur Endnutzer fremder Produkte.
• Muse Glimmer-30B (Meta, August 2026): Apache 2.0, Text und Bild, laut Meta in 4 Bit auf 24 bis 32 GB Grafikspeicher. Die EU-Klausel von Llama gilt hier nicht.
• Mistral Large 3 (Dezember 2025) und Mistral Small 4 (März 2026): Apache 2.0, vollständig kommerziell nutzbar.
• Mistral Medium 3.5 (Frühjahr 2026): geänderte MIT-Lizenz, keine Rechte, wenn der Konzern im Vormonat mehr als 20 Mio. USD Umsatz hatte. Das trifft größere Mittelständler.
• Qwen (Alibaba): Qwen 3.5 und Qwen3.8-27B stehen unter Apache 2.0. Das Flaggschiff Qwen3.8 (2,4 T Parameter) hat eine eigene Lizenz mit Pflichten ab großer Nutzerzahl oder hohem Umsatz. Anbieter-Risiko durch chinesische Herkunft, wenn Daten in deren Cloud landen — on-prem ist die saubere Lösung.
• DeepSeek V4.1-Flash (10.09.2026): MIT License, vollständig kommerziell nutzbar, 1 Mio Token Kontext. Modell-Gewichte herunterladen und selbst hosten — kein Drittland-Problem.

Wichtig. On-prem heißt Modell auf eigener Hardware. Wenn Sie DeepSeek oder Qwen über deren China-Cloud-API nutzt, gilt das nicht — Daten gehen dann nach China, DSGVO-rechtlich kritisch. DeepSeek schreibt in seiner Datenschutzerklärung selbst, dass es in der Volksrepublik China speichert.

Was bei der Anbieter-Wahl konkret zu prüfen ist

Bevor Sie einen Anbieter live schalten, prüfen Sie systematisch:

• DPF-Zertifizierung auf dataprivacyframework.gov nachschauen
• Vertragsentität in der eigenen Rechnung — mit der schließen Sie AVV
• AVV-Standardtext durchlesen (vor allem Trainings-Opt-Out, Sub-Prozessoren, Löschpflichten) — worauf es im AVV mit AI-Anbietern ankommt
• Region und Inferenzprofil im API-Setup explizit setzen, nicht Default
• Modell-Lifecycle prüfen (Deprecation-Notices, Pinning-Optionen für reproduzierbare Outputs) — und Vendor-Lock-in von vornherein vermeiden
• Logging-Verhalten klären (welche Logs entstehen, wer hat Zugriff, Aufbewahrungsfrist)

Pragmatische Empfehlung für Mittelstand

Wenn Sie 2026 starten und keine speziellen Compliance-Constraints haben: Azure OpenAI in der Data Zone EU oder Claude über AWS Bedrock oder Google Cloud in der EU. Beides ist DSGVO-konform betreibbar, AVV-Standard, Performance auf Top-Niveau. Rechnen Sie den EU-Aufschlag von 10 bis 20 Prozent ein.

Wenn Sie ein Souveränitäts-Profil haben (Behörde, kritische Infrastruktur, M&A-Daten): Mistral über den EU-Endpunkt plus ein offenes Modell on-prem als Backup für besonders sensible Daten.

Wenn Sie on-prem aus Compliance-Gründen müssen: Für den Einstieg ein Modell um 30 B Parameter wie Muse Glimmer-30B oder Qwen3.8-27B auf einer Workstation (1× H100 80 GB oder 2× RTX 6000 Ada, ~15.000–35.000 €). Für ernsthafte Last Mistral Small 4 oder Medium 3.5 mit vLLM-Inferenz auf einem Server mit 4 bis 8 GPUs der H100/H200-Klasse (sechsstellig). Details: On-Premise vs. Cloud.

Was Sie heute nicht tun sollten

Keine Consumer-LLMs mit personenbezogenen Geschäftsdaten füttern — und wo doch Personendaten ins Spiel kommen, vorher pseudonymisieren. Keine chinesischen Cloud-APIs (DeepSeek-Cloud, Qwen-Cloud) für deutsche Mittelstandskunden — selbst hosten ist ok, deren Cloud ist DSGVO-rechtlich hoch problematisch. Und keine “wir warten ab”-Strategie — wer 2026 startet, hat 2–3 Jahre Vorsprung gegenüber Wettbewerbern, die erst nach dem Druck der Aufsicht reagieren.