LLM Self-Hosting en AI Soevereiniteit

Beheer gegevens en modellen met self-hosted LLMs

Inhoud

Self-hosting van LLMs houdt gegevens, modellen en inferentie onder jouw controle - een praktische weg naar AI-sovereiniteit voor teams, bedrijven en landen.
Hier: wat AI-sovereiniteit is, welke aspekten en methoden worden gebruikt om het te bouwen, hoe LLM self-hosting erin past en hoe landen het probleem aanpakken.

onprem-servers-self-hosted-llms

Wat is AI-sovereiniteit?

AI-sovereiniteit (of “sovereine AI”) is het idee dat een land, organisatie of individu AI-systemen kan ontwikkelen, draaien en beheren op hun eigen voorwaarden - in lijn met hun eigen wetten, waarden en beveiligingsbehoeften - in plaats van volledig afhankelijk te zijn van buitenlandse of ondoorzichtige leveranciers.

Het gaat om controle over AI-infrastructuur, gegevens en modellen: het uitbreiden van gegevenssovereiniteit (waar gegevens worden opgeslagen en verwerkt) naar de hele AI-stack - trainingsgegevens, modellen, rekenkracht en governance. Typische doelen zijn: gevoelige gegevens en AI-bewerkingen binnen een gekozen juridische jurisdicte houden (bijvoorbeeld EU of Australië); naleving van lokale regels over privacy, beveiliging en AI-gevaar (GDPR, EU AI Act, nationale veiligheid); en het vermijden van overmatige afhankelijkheid van een klein aantal buitenlandse cloud- of AI-leveranciers.

Overheden zijn geïnteresseerd in nationale veiligheid, kritieke infrastructuur en openbare diensten; gereguleerde sectoren (gezondheidszorg, financiële diensten, verdediging) hebben behoefte aan naleving van strikte regels voor gegevens en AI; en grote ondernemingen willen strategische onafhankelijkheid en willen AI uitlijnen met hun eigen roadmap, niet die van een leverancier. In de praktijk verschijnt soevereine AI als nationale of regionale AI-woonkamers en datacenters, nationale of gezamenlijk ontwikkelde AI-modellen in plaats van buitenlandse “black-box”-systemen, en strikte regels voor gegevensresidensie, toegangsbewaking en audits van AI-systemen.

Aspekten en methoden: hoe soevereine AI wordt opgebouwd

Staten en organisaties bouwen soevereine AI meestal volgens verschillende aspekten (strategische pijlers) en gebruiken concrete methoden (technische en governance-maatregelen).

Zes strategische pijlers (aspekten)

De World Economic Forum en vergelijkbare kaders beschrijven zes strategische pijlers die aangeven hoe landen soevereine AI opbouwen:

  1. Digitale infrastructuur - Datacenters met voldoende rekenkracht, gegevenslocalisatiebeleid zodat gegevens die binnen de grenzen worden gegenereerd lokaal worden opgeslagen en verwerkt, en netwerken die AI-werkbelastingen ondersteunen. Dit is de kern van het ontwikkelen en implementeren van AI onder nationale of regionale controle.

  2. Werkkrachtenontwikkeling - STEM- en AI-opleiding, bijgewerkte curricula, beroepsopleiding en levenslang leren zodat een land de talenten heeft om soevereine AI-systemen te ontwikkelen en te beheren.

  3. Onderzoek, ontwikkeling en innovatie (RDI) - Openbare en private financiering van fundamenteel en toegepast AI-onderzoek, stimulansen voor commercialisatie, en ecosystemen die startups, grote bedrijven en academia verbinden.

  4. Regelgevende en ethische kader - Duidelijke regels voor AI-ontwikkeling en -implementatie: privacy, transparantie, gegevensbescherming, cyberbeveiliging en ethische gebruik, plus toezicht- en aansprakelijkheidsmechanismen.

  5. Stimuleren van de AI-industrie - Belastingvoordelen, subsidies, vereenvoudigde patenten en adoptie van AI door de publieke sector om vraag te creëren en standaarden te stellen. Publiek-privé samenwerkingen (PPPs) helpen bij het implementeren van AI in sectoren met hoog impact (energie, gezondheid, financiële diensten, vervoer, productie).

  6. Internationaal samenwerken - Betrokkenheid bij andere landen op het gebied van standaarden, grensoverschrijdende gegevensstromen onder overeengekomen normen, en gedeelde uitdagingen (bijvoorbeeld privacy, cyberbeveiliging), zonder de mogelijkheid om lokale regels te stellen op te geven.

Soevereine AI is niet over isolatie, maar over strategische veerkracht: de mogelijkheid om te opereren en te innoveren op eigen voorwaarden, terwijl men nog steeds deelneemt aan wereldwijde samenwerking.

Methoden gebruikt

Concrete methoden die worden gebruikt om deze pijlers te implementeren zijn:

  • Gegevensresidensie en localisatie - Het vereisen dat bepaalde gegevens (vooral persoonlijke of gevoelige) binnen een jurisdicte worden opgeslagen en verwerkt. Dit ondersteunt naleving van de GDPR, sector-specifieke regels en nationale veiligheidseisen.

  • Sovereine of regionale AI-woonkamers - Het bouwen of aanduiden van cloud- en AI-infrastructuur (datacenters, GPU-clusters) die onder nationale of regionale juridische en operationele controle blijven, zodat werkbelastingen en gegevens binnen de jurisdicte blijven.

  • Nationale of open-weight modellen - Het ontwikkelen of adopteren van AI-modellen (inclusief LLMs) die kunnen worden geïnspireerd, gefine-tuned en lokaal worden uitgevoerd in plaats van alleen afhankelijk te zijn van gesloten, buitenlandse APIs.

  • Risico-gebaseerde regelgeving - Kaders die AI-systemen classificeren op basis van risico (bijvoorbeeld onaanvaardbaar, hoog, beperkt, minimaal) en passende eisen (impactanalyse, menselijke toezicht, transparantie, conformiteit) opleggen. De EU AI Act is het voornaamste voorbeeld.

  • Governance-structuren - Dedieke instanties (bijvoorbeeld AI-kantoren, adviesraad, markttoezichtautoriteiten) om de implementatie te overwegen, samenwerking tussen overheid en industrie te coördineren en regels te handhaven.

  • Publiek-privé samenwerkingen - Samenwerkingen tussen overheid en industrie om gedeelde infrastructuur te bouwen, gebruikscases te ontwikkelen (bijvoorbeeld voor openbare administratie) en belangen van soevereine capaciteit uit te lijnen.

  • Certificeringen en nalevingskaders - Certificeringen voor soevereine cloud of “vertrouwde AI” die garanderen dat gegevenslocatie, toegangsbewaking en naleving van lokale wetten worden gegarandeerd, waardoor het voor openbare en gereguleerde sectoren makkelijker is om AI veilig aan te nemen.

Samen vormen deze aspekten en methoden wat soevereine AI doelwit is (infrastructuur, talent, regelgeving, industrie, samenwerking) en hoe het wordt geïmplementeerd (residensie, cloud, modellen, regelgeving, governance, PPPs, certificering).

LLM self-hosting als technische weg naar soevereine AI

LLMs uitvoeren op infrastructuur die je controleert is één van de meest directe technische manieren om soevereine AI in de praktijk te brengen. Je houdt prompts, modelgewichten en inferentielogboeken binnen huis of binnen regio, wat ondersteunt gegevensresidensie, naleving van lokale regels en onafhankelijkheid van een handvol cloud API-leveranciers.

Vanuit technisch oogpunt bevat een soevereine of self-hosted LLM-stack meestal: een modellaag (open-weight modellen, embeddings, optionele rerankers); een servicelaag (inference engine met APIs voor chat, compleet, embeddings); een toepassingslaag (orchestratie, tool calling, workflows); een kennislaag (bijvoorbeeld RAG met chunking, indexing, retrieval); gegevens en opslag (objectopslag, databases, vectorindices); en veiligheid en governance (PII-bewerking, beleidsuitvoering, auditlogboeken). Methoden omvatten on-prem of single-tenant implementatie, air-gapped operatie (bijvoorbeeld met tools zoals Ollama, llama.cpp of LM Studio) voor maximale isolatie, en gateway-architecturen die toegangsbewaking, routing en observabiliteit centraal beheren zodat alle prompts en antwoorden binnen gedefinieerde grenzen blijven.

Voor een praktische weg: een comprehensieve vergelijking van lokale LLM-tools-Ollama, vLLM, LocalAI, Jan, LM Studio en meer helpt je om de juiste stack te kiezen. Als je werkt met beperkte GPU-geheugen, zie welke LLMs het beste presteren op Ollama met 16GB VRAM voor benchmarks en trade-offs. Om te beginnen met één van de meest populaire opties, lijst de Ollama cheatsheet de essentiële commando’s op.

Hoe landen het probleem aanpakken

Landen verschillen in de manier waarop ze de bovenstaande pijlers en methoden combineren. Hieronder volgt een samengevat overzicht van hoe belangrijke jurisdicte soevereine AI aanpakken, gevolgd door een gerichte vergelijking tussen de VS en China.

Europese Unie

De EU heeft de eerste omvattende wereldwijde AI-wet aangenomen - de AI Act (Verordening (EU) 2024/1689) - met een risico-gebaseerde aanpak: toepassingen met onaanvaardbaar risico zijn verboden; hoogrisicostelsels ondergaan strikte vereisten (impactanalyse, menselijke toezicht, conformiteit); beperkt- en minimaalrisicostelsels hebben lichtere verplichtingen. De governance is gecentraliseerd in de European AI Office (binnen de Commissie), met de European Artificial Intelligence Board, een Wetenschappelijke Raad en een Adviesforum die de implementatie en toezicht over de lidstaten ondersteunen. Dit creëert een enkel regelboek voor de enige markt en stimuleert de “Europa-first” implementatie van conforme AI.

Europese soevereine AI vertrouwt ook op nationale model- en cloudleveranciers. Mistral AI (Frankrijk) volgt een open-source-vriendelijke aanpak, door modellen vrij te geven die overheden en bedrijven kunnen auditeren en op Europese infrastructuur kunnen uitvoeren. Aleph Alpha (Duitsland) richt zich op toelichtbaarheid en veiligheid voor gereguleerde industrieën en soevereine Europese hosting. Beide voldoen aan de AI Act en helpen om de afhankelijkheid van niet-EU-leveranciers te verminderen - momenteel gaat slechts een klein deel van de wereldwijde AI-startupfinanciering naar de EU in vergelijking met de VS.

Frankrijk en Duitsland: gezamenlijke soevereine AI voor openbare administratie

Frankrijk en Duitsland hebben een gezamenlijke soevereine AI-initiatief gelanceerd met Mistral AI en SAP gericht op openbare administratie. Het centraal staat op vier pijlers: sovereine AI-native ERP-systemen voor Franse en Duitse administraties; AI-gestuurde financiële beheer (bijvoorbeeld factuurclassificatie, auditcontroles); digitale agents voor ambtenaren en burgers (compliancetools, geschiktheidschatsbotjes); en gezamenlijke innovatie-labs plus werknemersopleiding. Een bindend Framework Agreement wordt verwacht tegen half 2026, met geselecteerde gebruikscases geïmplementeerd tussen 2026 en 2030. Het initiatief wordt beheerd door een Franco-Duitse Europese Digitale Infrastructuur Consortium (EDIC)-raad, voorzien door ministers van beide landen. Dit is een concreet voorbeeld van de “regionale cloud + nationale modellen + PPP” methode in de praktijk.

Verenigd Koninkrijk

Het VK heeft een Sovereign AI Unit opgericht in juli 2025 met een maximum van £500 miljoen in financiering om nationale AI-vaardigheden en beveiliging te bouwen. De Unit richt zich op: investeren in VK AI-bedrijven om nationale champions te ontwikkelen; het creëren van VK AI-activa (gegevens, rekenkracht, talent); en samenwerken met frontier AI-bedrijven om betrouwbare toegang en VK-influente over het ontwikkelen van cutting-edge technologie te garanderen. De overheid heeft ook een AI Opportunities Action Plan (januari 2025) gepubliceerd, die de rol van AI in economische groei en openbare diensten benadrukt. De aanpak combineert infrastructuur en talent (pijler 1 en 2) met industrie stimulering (pijler 5) en strategische samenwerkingen.

Verenigde Staten

De VS-strategie benadrukt privaatsectorleiderschap en federale coördinatie. In december 2025 heeft de administratie een Executive Order uitgevaardigd om een nationale policy framework voor AI te waarborgen, gericht op het beschermen van Amerikaanse AI-innovatie en het behouden van de Amerikaanse wereldleiderschap via een “minimally burdensome” nationale framework. Het stelt de Justitie-Departement voor om “onerous” staatse AI-wetten te bekampen en streeft naar federale voorkeur zodat staatse regels de markt niet fragmenteren. Dit volgt op de juli 2025 “America’s AI Action Plan” en reageert op uitgebreide staatse activiteit - meer dan 1.000 AI-gerelateerde wetten aangebracht in VS-staten en territoria in 2025. De VS gebruikt ook exportcontrole op geavanceerde chips om haar leiderschap in rekenkracht te beschermen en te bepalen wie frontier AI kan bouwen. Soevereine AI in de VS wordt dus vooral bereikt via privaat investering (bijvoorbeeld xAI, OpenAI), federale governance (59 federale AI-gerelateerde regelgeving in 2024) en internationale deals (bijvoorbeeld Stargate met de Verenigde Arabische Emiraten) in plaats van een enkele staatseigendom AI-cloud.

Canada

Canada heeft een Canadian Sovereign AI Compute Strategy gelanceerd met $2 miljard over vijf jaar om nationale AI-rekenkracht te versterken. Het heeft drie componenten: het mobiliseren van private investering (tot $700M via een AI Compute Challenge voor bedrijven en academia om geïntegreerde AI-datacenteroplossingen te bouwen); het bouwen van openbare supercomputing infrastructuur; en een AI Compute Access Fund voor onderzoekers en bedrijven. Het doel is om Canadese gegevens en IP te beschermen, terwijl Canada zijn voordelen in energie, land en klimaat benut. Afzonderlijk heeft Canada zijn eerste AI Strategy for the Federal Public Service (2025–2027) gelanceerd in maart 2025, met prioritaire gebieden: een AI Centre of Expertise, veilige en verantwoorde gebruik, training en talent, en transparantie. In september 2025 lanceerde de overheid een AI Strategy Task Force en een 30-daagse nationale betrokkenheid om een breder nationale AI-strategie te ontwikkelen.

Australië

Australië’s Policy for the Responsible Use of AI in Government (Version 2.0) is van kracht geworden op 15 december 2025. Het geldt voor niet-corporate Commonwealth entiteiten en bevat nationale veiligheidsuitzonderingen: defensie- en inlichtingendiensten mogen vrijwillig elementen adopteren terwijl ze veiligheidsbelangen beschermen. De policy stelt verwachtingen op voor verantwoorde adoptie, risicobeheer en transparantie binnen de overheid, die overeenkomen met de “regelgevende en ethische kader” pijler, terwijl er ruimte is voor soevereine behandeling van gevoelige en nationale veiligheids AI.

Verenigde Arabische Emiraten en Saoedi-Arabië

De Verenigde Arabische Emiraten heeft een Nationale Strategie voor kunstmatige intelligentie 2031 (sinds 2017), die het doel stelt om de VAE een wereldwijde AI-leider te maken over acht strategische doelen (bijvoorbeeld AI-destinatie, ecosystem, governance) en negen prioritaire sectoren (vervoer, gezondheid, ruimte, hernieuwbare energie, water, technologie, onderwijs, milieu, verkeer). Saoedi-Arabië streeft naar grote schaal AI en diversificatie onder Vision 2030, met multibillion-dollar-avonturen. Zowel de VAE als Saoedi-Arabië investeren in regionale datacenter- en AI-infrastructuur: VAE’s Khazna Data Centers (de grootste operator in de regio) heeft zich uitgebreid naar Saoedi-Arabië met een 200 MW datacenter voor cloud- en AI-hyperschaalimplementaties en werkt naar over 1 GW van AI-geklaarde capaciteit over de VAE, Saoedi-Arabië, Italië en andere markten. De aanpak combineert nationale strategie (pijler 4 en 5) met zware investeringen in digitale infrastructuur (pijler 1).

VS vs China: een vergelijkend overzicht

De VS en China streven naar AI-leiderschap via verschillende methoden. De VS vertrouwt op private investering en exportcontrole: bijvoorbeeld $109B in private AI-investering in 2024 (ongeveer 12× China’s op dat moment), 59 federale AI-gerelateerde regelgeving in 2024, en beperkingen op geavanceerde chip-export. China benadrukt staat geleid investering en zelfstandigheid: bijvoorbeeld $98B voor 2025 (inclusief $47,5B voor semiconductoren), nationale chipproductie (bijvoorbeeld Huawei Ascend), en ondersteunende nationale wetten plus open-source en infrastructuur diplomatie (bijvoorbeeld Belt and Road).

Aspect VS China Opmerking
Supercomputer deel (mei 2025) ~75% (~40M H100 equivalenten) ~14% (~400K equivalenten) VS 5×+ voorop
Vlaggenstelsels Bijvoorbeeld xAI Colossus (200K GPUs) Tot ~30K GPUs (verschillende) VS schaal groter
Datacenters Veel meer Minder, uitbreidende (bijvoorbeeld Digital Silk Road) VS voordelen
Beleidsstelling Defensief (preemptie, exportcontrole) Actief (ondersteunende wetten, open-source, diplomatie) Verschillende koppels
Model- en toepassingsfocus Frontier modellen (40+ opmerkelijke in 2024), talent aantrekken Kostenefficiënt trainen (bijvoorbeeld DeepSeek-V3), onderzoek volume, toepassingen (bijvoorbeeld Baidu autonome ritjes) Kloof verkleind

De VS profiteert van brede toegang tot NVIDIA en een diepe venture-ecosysteem; China bouwt alternatieven en investeert in energie en AI-infrastructuur in het Midden-Oosten en Azië. Modelprestatie-kloof verkleind (bijvoorbeeld een 1,7% LMSYS voorsprong voor de VS in 2025).

Bronnen