Selbstgehostete LLMs und AI-Souveränität

Daten und Modelle mit selbst gehosteten LLMs kontrollieren

Inhaltsverzeichnis

Das Selbst-Hosting von LLMs hält Daten, Modelle und Inferenzen unter Ihrer Kontrolle – ein praktischer Weg zur AI Sovereignty für Teams, Unternehmen und Nationen.

Für einen praktischen Vergleich von selbst gehosteter und Cloud-basierter LLM-Infrastruktur – Ollama, vLLM, Docker Model Runner, LocalAI und Cloud-Anbietern – siehe LLM-Hosting: Lokale, selbst gehostete und Cloud-Infrastruktur im Vergleich. Hier erfahren Sie, was souveräne KI ist, welche Aspekte und Methoden zur их Umsetzung dienen, wie LLM-Selbst-Hosting dabei passt und wie Länder diese Herausforderung angehen.

Die Folgen von Vendor-Abhängigkeit sind konkret. Die Zeitleiste von Aufstieg und Fall von OpenClaw dokumentiert ein scharfes, aktuelles Beispiel: Ein Tool mit 247.000 GitHub-Sternen und 135.000 laufenden Instanzen brach fast über Nacht zusammen, nachdem ein einzelner Anbieter seine Preispolitik geändert hatte.

onprem-servers-self-hosted-llms

Was ist KI-Souveränität?

KI-Souveränität (oder „sovereign AI“) ist die Idee, dass ein Land, eine Organisation oder eine Einzelperson KI-Systeme nach eigenen Bedingungen entwickeln, betreiben und kontrollieren kann – im Einklang mit eigenen Gesetzen, Werten und Sicherheitsbedürfnissen – anstatt sich vollständig auf ausländische oder undurchsichtige Anbieter zu verlassen.

Es geht um Kontrolle über KI-Infrastruktur, Daten und Modelle: die Erweiterung der Datenhoheit (wo Daten gespeichert und verarbeitet werden) auf den gesamten KI-Stack – Trainingsdaten, Modelle, Rechenleistung und Governance. Typische Ziele sind: sensible Daten und KI-Operationen innerhalb einer gewählten Rechtsjurisdiktion (z. B. EU oder Australien) zu halten; Compliance mit lokalen Vorschriften zu Datenschutz, Sicherheit und KI-Risiko (DSGVO, EU-KI-Verordnung, nationale Sicherheit) zu gewährleisten; und eine übermäßige Abhängigkeit von einer kleinen Anzahl ausländischer Cloud- oder KI-Anbieter zu vermeiden.

Regierungen interessieren sich für nationale Sicherheit, kritische Infrastruktur und öffentliche Dienste; regulierte Sektoren (Gesundheitswesen, Finanzen, Verteidigung) benötigen die Einhaltung strenger Daten- und KI-Regeln; und große Unternehmen wünschen sich strategische Unabhängigkeit und möchten KI an ihrer eigenen Roadmap ausrichten, nicht an der eines Anbieters. In der Praxis zeigt sich souveräne KI als nationale oder regionale KI-Clouds und Rechenzentren, inländische oder gemeinsam entwickelte KI-Modelle statt ausländischer „Black-Box“-Systeme sowie strenge Regeln für Datenresidenz, Zugriffskontrolle und Auditierung von KI-Systemen.

Aspekte und Methoden: Wie souveräne KI aufgebaut wird

Staaten und Organisationen bauen souveräne KI typischerweise entlang mehrerer Aspekte (strategischer Säulen) auf und nutzen konkrete Methoden (technische und governance-bezogene Maßnahmen).

Sechs strategische Säulen (Aspekte)

Das Weltwirtschaftsforum und ähnliche Frameworks beschreiben sechs strategische Säulen, die leiten, wie Nationen souveräne KI aufbauen:

  1. Digitale Infrastruktur – Rechenzentren mit ausreichender Rechenleistung, Datenlokalisierungsrichtlinien, sodass Daten, die innerhalb der Grenzen erzeugt werden, lokal gespeichert und verarbeitet werden, und Netzwerke, die KI-Workloads unterstützen. Dies ist das Rückgrat für die Entwicklung und den Einsatz von KI unter nationaler oder regionaler Kontrolle.

  2. Personalentwicklung – MINT- und KI-Ausbildung, aktualisierte Lehrpläne, Berufsausbildung und lebenslanges Lernen, damit ein Land das Talent besitzt, souveräne KI-Systeme zu entwickeln und zu betreiben.

  3. Forschung, Entwicklung und Innovation (F&E) – Öffentliche und private Finanzierung für grundlegende und angewandte KI-Forschung, Anreize für die Kommerzialisierung und Ökosysteme, die Startups, große Unternehmen und die Wissenschaft verbinden.

  4. Regulatorischer und ethischer Rahmen – Klare Regeln für KI-Entwicklung und -Einsatz: Datenschutz, Transparenz, Datensicherheit, Cybersicherheit und ethische Nutzung sowie Aufsichts- und Verantwortlichkeitsmechanismen.

  5. Förderung der KI-Industrie – Steueranreize, Zuschüsse, vereinfachte Patente und die Adoption von KI im öffentlichen Sektor, um Nachfrage zu schaffen und Standards zu setzen. Öffentlich-private Partnerschaften (PPPs) helfen, KI in hochwirksamen Sektoren (Energie, Gesundheit, Finanzen, Transport, Fertigung) einzusetzen.

  6. Internationale Zusammenarbeit – Engagement mit anderen Ländern bei Standards, grenzüberschreitenden Datenflüssen unter vereinbarten Normen und gemeinsamen Herausforderungen (z. B. Datenschutz, Cybersicherheit), ohne die Fähigkeit aufzugeben, lokale Regeln zu setzen.

Souveräne KI geht nicht um Isolation, sondern um strategische Resilienz: die Fähigkeit, nach eigenen Bedingungen zu operieren und zu innovieren, während man weiterhin an globaler Zusammenarbeit teilnimmt.

Verwendete Methoden

Konkrete Methoden, die zur Umsetzung dieser Säulen verwendet werden, umfassen:

  • Datenresidenz und Lokalisierung – Die Anforderung, dass bestimmte Daten (insbesondere persönliche oder sensible) innerhalb einer Jurisdiktion gespeichert und verarbeitet werden. Dies unterstützt die Compliance mit der DSGVO, sektorspezifischen Regeln und nationalen Sicherheitsanforderungen.

  • Souveräne oder regionale KI-Clouds – Aufbau oder Auszeichnung von Cloud- und KI-Infrastruktur (Rechenzentren, GPU-Cluster), die unter nationaler oder regionaler rechtlicher und operativer Kontrolle bleiben, sodass Workloads und Daten in der Jurisdiktion verbleiben.

  • Inländische oder Open-Weight-Modelle – Entwicklung oder Adoption von KI-Modellen (einschließlich LLMs), die auditierbar, feinjustierbar und auf lokaler Infrastruktur ausführbar sind, anstatt sich nur auf geschlossene, ausländische APIs zu verlassen.

  • Risikobasierte Regulierung – Frameworks, die KI-Systeme nach Risiko klassifizieren (z. B. inakzeptabel, hoch, begrenzt, minimal) und entsprechende Anforderungen (Folgenabschätzungen, menschliche Aufsicht, Transparenz, Konformität) auferlegen. Die EU-KI-Verordnung ist das führende Beispiel.

  • Governance-Strukturen – Dedizierte Gremien (z. B. KI-Behörden, Beiräte, Marktüberwachungsbehörden) zur Überwachung der Umsetzung, Koordination über Regierung und Industrie hinweg und Durchsetzung von Regeln.

  • Öffentlich-private Partnerschaften – Gemeinsame Initiativen zwischen Regierung und Industrie, um gemeinsame Infrastruktur aufzubauen, Anwendungsfälle zu entwickeln (z. B. für die öffentliche Verwaltung) und Anreize für souveräne Fähigkeiten auszurichten.

  • Zertifizierungen und Compliance-Schemata – Souveräne Cloud- oder „Trusted AI“-Zertifizierungen, die Datenstandort, Zugriffskontrolle und Einhaltung lokaler Gesetze garantieren, was es öffentlichen und regulierten Sektoren erleichtert, KI sicher zu adoptieren.

Zusammen definieren diese Aspekte und Methoden, was souveräne KI anstrebt (Infrastruktur, Talent, Regulierung, Industrie, Zusammenarbeit) und wie sie umgesetzt wird (Residenz, Clouds, Modelle, Regulierung, Governance, PPPs, Zertifizierung).

LLM-Selbst-Hosting als technischer Weg zur souveränen KI

Das Ausführen von LLMs auf Infrastruktur, die Sie kontrollieren, ist einer der direktesten technischen Wege, um souveräne KI in die Praxis umzusetzen. Sie behalten Prompts, Modellgewichte und Inferenzprotokolle im Haus oder in der Region, was Datenresidenz, Compliance mit lokalen Regeln und Unabhängigkeit von einer Handvoll Cloud-API-Anbieter unterstützt.

Aus technischer Sicht umfasst ein souveräner oder selbst gehosteter LLM-Stack typischerweise: eine Modellschicht (Open-Weight-Modelle, Embeddings, optionale Reranker); eine Serving-Schicht (Inferenz-Engine mit APIs für Chat, Vervollständigungen, Embeddings); eine Anwendungsschicht (Orchestrierung, Tool-Calling, Workflows); eine Wissensschicht (z. B. RAG mit Chunking, Indexierung, Retrieval); Daten und Speicher (Objektspeicher, Datenbanken, Vektorindizes); und Sicherheit und Governance (PII-Handling, Policy-Durchsetzung, Audit-Logs). Methoden umfassen On-Premises- oder Single-Tenant-Deployments, air-gapped Betrieb (z. B. mit Tools wie Ollama, llama.cpp oder LM Studio) für maximale Isolation und Gateway-Architekturen, die Zugriffskontrolle, Routing und Observability zentralisieren, sodass alle Prompts und Antworten innerhalb definierter Grenzen bleiben.

Für einen praktischen Weg: ein umfassender Vergleich lokaler LLM-Tools – Ollama, vLLM, LocalAI, Jan, LM Studio und mehr hilft Ihnen, den richtigen Stack zu wählen. Wenn Sie mit begrenzter GPU-Speichergröße arbeiten, sehen Sie welche LLMs auf Ollama mit 16GB VRAM am besten performen für Benchmarks und Kompromisse. Um mit einer der beliebtesten Optionen zu beginnen, listet die Ollama Cheatsheet die essentiellen Befehle auf.

Wie Länder die Herausforderung angehen

Länder unterscheiden sich darin, wie sie die oben genannten Säulen und Methoden kombinieren. Im Folgenden finden Sie einen kompakten Überblick darüber, wie wichtige Jurisdiktionen souveräne KI angehen, gefolgt von einem fokussierten Vergleich zwischen den USA und China.

Europäische Union

Die EU hat das erste umfassende globale KI-Gesetz verabschiedet – den KI-Act (Verordnung (EU) 2024/1689) – mit einem risikobasierten Ansatz: Anwendungen mit inakzeptablem Risiko sind verboten; Hochrisiko-Systemen unterliegen strengen Anforderungen (Folgenabschätzungen, menschliche Aufsicht, Konformität); Systeme mit begrenztem und minimalem Risiko haben leichtere Verpflichtungen. Die Governance ist im European AI Office (bei der Kommission) zentralisiert, wobei das European Artificial Intelligence Board, ein Scientific Panel und ein Advisory Forum die Umsetzung und Durchsetzung in den Mitgliedstaaten unterstützen. Dies schafft ein einheitliches Regelwerk für den Binnenmarkt und fördert den „Europe-first“-Einsatz von konformer KI.

Europäische souveräne KI stützt sich auch auf inländische Modell- und Cloud-Anbieter. Mistral AI (Frankreich) verfolgt einen open-source-freundlichen Ansatz und veröffentlicht Modelle, die Regierungen und Unternehmen auditieren und auf europäischer Infrastruktur ausführen können. Aleph Alpha (Deutschland) konzentriert sich auf Erklärbarkeit und Sicherheit für regulierte Branchen und souveränes Hosting in Europa. Beide richten sich nach dem KI-Act und helfen, die Abhängigkeit von nicht-EU-Anbietern zu reduzieren – derzeit fließt nur ein kleiner Anteil der globalen KI-Startup-Finanzierung in die EU im Vergleich zu den USA.

Frankreich und Deutschland: gemeinsame souveräne KI für die öffentliche Verwaltung

Frankreich und Deutschland haben eine gemeinsame souveräne KI-Initiative mit Mistral AI und SAP gestartet, die auf die öffentliche Verwaltung abzielt. Sie konzentriert sich auf vier Säulen: souveräne KI-native ERP-Systeme für französische und deutsche Verwaltungen; KI-gestützte Finanzverwaltung (z. B. Rechnungsklassifizierung, Audit-Prüfungen); digitale Agenten für Beamte und Bürger (Compliance-Tools, Eligibility-Chatbots); und gemeinsame Innovationslabore sowie Personaltraining. Ein bindendes Rahmenabkommen wird bis Mitte 2026 erwartet, wobei ausgewählte Anwendungsfälle zwischen 2026 und 2030 deployed werden. Die Initiative wird von einem französisch-deutschen Europäischen Digitalen Infrastruktur-Konsortium (EDIC)-Gremium geleitet, das von Ministern beider Länder beaufsichtigt wird. Dies ist ein konkretes Beispiel der Methode „regionale Cloud + inländische Modelle + PPP“ in der Praxis.

Vereinigtes Königreich

Das UK hat im Juli 2025 eine Sovereign AI Unit gegründet, mit bis zu 500 Millionen Pfund an Finanzierung, um nationale KI-Fähigkeiten und Sicherheit aufzubauen. Die Einheit konzentriert sich auf: Investitionen in britische KI-Unternehmen, um nationale Champions zu entwickeln; Schaffung von UK-KI-Assets (Daten, Rechenleistung, Talent); und Partnerschaften mit Frontier-KI-Unternehmen, um zuverlässigen Zugang und UK-Einfluss auf Spitzentechnologie zu sichern. Die Regierung hat auch einen AI Opportunities Action Plan (Januar 2025) veröffentlicht, der die Rolle der KI im Wirtschaftswachstum und bei öffentlichen Diensten betont. Der Ansatz kombiniert Infrastruktur und Talent (Säulen 1 und 2) mit Industrieimpuls (Säule 5) und strategischen Partnerschaften.

Vereinigte Staaten

Die US-Strategie betont Führung des Privatsektors und bundesweite Koordination. Im Dezember 2025 hat die Administration einen Executive Order herausgegeben, um einen nationalen Policy-Rahmen für KI sicherzustellen, der darauf abzielt, amerikanische KI-Innovation zu schützen und die globale Führung der USA durch einen „mindestbelastenden“ nationalen Rahmen aufrechtzuerhalten. Sie weist das Justizministerium an, „übermäßige“ staatliche KI-Gesetze anzufechten und die föderale Präemption voranzutreiben, damit staatliche Regeln den Markt nicht fragmentieren. Dies folgt dem „America’s AI Action Plan“ von Juli 2025 und reagiert auf extensive staatliche Aktivitäten – über 1.000 KI-bezogene Gesetzentwürfe wurden 2025 in US-Bundesstaaten und Territorien eingebracht. Die USA nutzen auch Exportkontrollen auf fortgeschrittene Chips, um ihre Führung in der Rechenleistung zu schützen und zu gestalten, wer Frontier-KI bauen kann. Souveräne KI in den USA wird also größtenteils durch private Investitionen (z. B. xAI, OpenAI), bundesweite Governance (59 bundesweite KI-bezogene Regulierungen im Jahr 2024) und internationale Deals (z. B. Stargate mit den VAE) erreicht, anstatt durch eine einzelne staatseigene KI-Cloud.

Kanada

Kanada hat eine Canadian Sovereign AI Compute Strategy mit 2 Milliarden Dollar über fünf Jahre gestartet, um die inländische KI-Rechenkapazität zu steigern. Sie hat drei Komponenten: Mobilisierung privater Investitionen (bis zu 700 Mio. $ über eine AI Compute Challenge für Unternehmen und Wissenschaft, um integrierte KI-Rechenzentrumslösungen zu bauen); Aufbau öffentlicher Supercomputing-Infrastruktur; und einen AI Compute Access Fund für Forscher und Unternehmen. Das Ziel ist es, kanadische Daten und IP zu schützen, während Kanadas Vorteile in Energie, Land und Klima genutzt werden. Separat hat Kanada im März 2025 seine erste AI Strategy for the Federal Public Service (2025–2027) gestartet, mit Prioritätsbereichen: ein AI-Zentrum der Exzellenz, sichere und verantwortungsvolle Nutzung, Training und Talent sowie Transparenz. Im September 2025 startete die Regierung eine AI Strategy Task Force und eine 30-tägige nationale Engagement-Phase, um eine breitere nationale KI-Strategie zu entwickeln.

Australien

Australiens Policy for the Responsible Use of AI in Government (Version 2.0) trat am 15. Dezember 2025 in Kraft. Sie gilt für nicht-korporative Commonwealth-Entitäten und beinhaltet nationale Sicherheits-Ausnahmen: Verteidigungs- und Nachrichtendienste können Elemente freiwillig übernehmen, während sie Sicherheitsinteressen schützen. Die Policy setzt Erwartungen für verantwortungsvolle Adoption, Risikomanagement und Transparenz innerhalb der Regierung, im Einklang mit der Säule „regulatorischer und ethischer Rahmen“, und lässt Raum für souveräne Handhabung sensibler und national-sicherheitsrelevanter KI.

VAE und Saudi-Arabien

Die VAE haben eine National Strategy for Artificial Intelligence 2031 (ab 2017), die darauf abzielt, die VAE zu einem globalen KI-Führer über acht strategische Ziele (z. B. KI-Destination, Ökosystem, Governance) und neun Prioritätssektoren (Transport, Gesundheit, Raumfahrt, erneuerbare Energien, Wasser, Technologie, Bildung, Umwelt, Verkehr) zu machen. Saudi-Arabien verfolgt große KI- und Diversifizierungsprojekte unter Vision 2030, mit milliardenschweren Ventures. Sowohl die VAE als auch Saudi-Arabien investieren in regionale Rechenzentrum- und KI-Infrastruktur: Die VAE’s Khazna Data Centers (der größte Betreiber der Region) haben sich nach Saudi-Arabien expanded mit einem 200-MW-Rechenzentrum für Cloud- und KI-Hyperscale-Deployments und arbeiten auf über 1 GW AI-ready-Kapazität in den VAE, Saudi-Arabien, Italien und anderen Märkten hin. Der Ansatz kombiniert nationale Strategie (Säulen 4 und 5) mit schweren Investitionen in digitale Infrastruktur (Säule 1).

USA vs. China: Ein vergleichender Schnappschuss

Die USA und China verfolgen KI-Führung durch unterschiedliche Methoden. Die USA verlassen sich auf Private Kapital und Exportkontrollen: z. B. 109 Mrd. $ private KI-Investitionen im Jahr 2024 (ca. 12× Chinas damaliges Niveau), 59 bundesweite KI-bezogene Regulierungen im Jahr 2024 und Beschränkungen bei Exporten fortgeschrittener Chips. China betont staatlich geführte Investitionen und Selbstversorgung: z. B. 98 Mrd. $ prognostiziert für 2025 (einschließlich 47,5 Mrd. $ für Halbleiter), inländische Chip-Produktion (z. B. Huawei Ascend) und unterstützende nationale Gesetze sowie Open-Source- und Infrastruktur-Diplomatie (z. B. Belt and Road).

Aspekt USA China Hinweis
Supercomputer-Anteil (Mai 2025) ~75% (~40 Mio. H100-Äquivalente) ~14% (~400.000 Äquivalente) USA 5×+ voraus
Flaggschiff-Systeme z. B. xAI Colossus (200.000 GPUs) Bis zu ~30.000 GPUs (verschieden) USA skaliert größer
Rechenzentren Viel mehr Weniger, expandierend (z. B. Digital Silk Road) USA-Vorteil
Policy-Haltung Defensiv (Präemption, Exportkontrollen) Proaktiv (unterstützende Gesetze, Open-Source, Diplomatie) Unterschiedliche Hebel
Fokus auf Modelle und Anwendungen Frontier-Modelle (40+ bemerkenswerte im Jahr 2024), Talent-Anziehung Kosteneffizientes Training (z. B. DeepSeek-V3), Forschungs Volumen, Apps (z. B. Baidu autonome Fahrten) Lücken schließen sich

Die USA profitieren von breitem Zugang zu NVIDIA und einem tiefen Venture-Ökosystem; China baut Alternativen auf und investiert in Energie- und KI-Infrastruktur im Nahen Osten und in Asien. Die Lücken bei der Modellleistung schließen sich (z. B. 1,7% LMSYS-Vorsprung für die USA im Jahr 2025).

Um selbst gehostete Optionen (Ollama, vLLM, LocalAI, Docker Model Runner) mit Cloud-Anbietern zu vergleichen – einschließlich Kosten- und Infrastruktur-Kompromissen – siehe unsere LLM-Hosting: Lokale, selbst gehostete und Cloud-Infrastruktur im Vergleich.

Quellen

Abonnieren

Neue Beiträge zu Systemen, Infrastruktur und KI-Engineering.