De markt voor downloadbare AI-modellen is zodanig geëvolueerd dat veel bedrijven niet meer uitsluitend op een propriëtaire API hoeven te vertrouwen. In juli 2026 zijn er opties die op een laptop, met een enkele professionele GPU of zelfs een volledige cluster kunnen draaien, maar de keuze zou niet gebaseerd moeten zijn op welk model bovenaan de laatste social media tabel staat.
De kernpunten van open AI-modellen in 20 seconden
- Veel zogenaamde open modellen publiceren hun gewichten, maar niet de data of het volledige trainingsproces.
- Apache 2.0 en MIT-licenties maken commercieel gebruik vaak eenvoudiger.
- Een klein model kan kosten, snelheid en stabiliteit soms beter inzetten.
- De keuze moet gebaseerd zijn op eigen tests, beschikbare hardware, privacy-behoeften en licentievoorwaarden.
De gewichten kunnen gratis worden gedownload, maar dat garandeert niet dat inferentie kosteloos is. Het uitvoeren van een model vereist geheugen, rekenkracht, opslag, elektriciteit, technisch personeel en een systeem dat meerdere gebruikers kan bedienen zonder prestatiedaling.
Het hangt ook af van wat men probeert op te lossen. Een intern assistent voor documentatie vereist niet noodzakelijk hetzelfde model als een agent die repositories wijzigt, beelden interpreteert of wiskundige problemen oplost. Een groter model kiezen omdat dat standaard wordt gedaan, vertaalt vaak de kosten van de API naar datacenters zonder een evenredige verbetering te tonen.
Open betekent niet altijd open source code
De term “open source model” wordt vaak te lichtvaardig gebruikt. Vaak permitteren fabrikanten het downloaden van getrainde parameters, het uitvoeren en aanpassen van het model, maar publiceren ze niet de gebruikte data, volledige trainingscode, filteringcriteria of tussenstappen.
De Open Source Initiative (OSI) stelt dat een open AI-systeem gebruikt, bestudeerd, aangepast en gedeeld moet kunnen worden. Daarvoor is voldoende informatie over data, code en de resulterende parameters nodig. Volgens die definitie zijn veel populaire modellen eigenlijk open gewichten-modellen.
Het verschil is niet enkel academisch. Een bedrijf kan een model downloaden en het voor commercieel gebruik gebruiken, zonder het trainingsproces te kunnen reproduceren. Voor veel projecten is dat genoeg, maar het biedt niet dezelfde mate van transparantie als volledige publicatie.
OLMo 3, ontwikkeld door het Allen Institute for AI, is een van de meest open modellen. Het publiceert gewichten, datasets, schoonmaaktools, trainingscode, evaluaties en output van de verschillende fases. Het gezin omvat varianten met 7.000 en 32.000 miljoen parameters voor algemeen gebruik, conversatie en redeneren.
De licentie moet altijd gecontroleerd worden voordat een model geïntegreerd wordt. Apache 2.0 en MIT toestaan meestal gebruik, wijziging en distributie met minimale restricties, inclusief duidelijke clausules over attributie en patenten. Eigen licenties kunnen territoriale beperkingen, voorwaarden voor grote platforms, gebruiksregels of restricties voor het trainen van concurrerende modellen bevatten.
Binnen eenzelfde familie kunnen modellen met verschillende voorwaarden bestaan. Het is niet voldoende te weten dat “Qwen open is” of dat “Mistral gedownload kan worden.” De exacte licentie, herkomst en voorwaarden bij implementatie moeten altijd gecontroleerd worden.
Modellen die aanslaan op verschillende hardware-niveaus
De hogere segmenten worden gedomineerd door expertsystemen (MoE). Deze modellen bevatten honderden miljarden parameters, maar activeren slechts een deel ervan per token. Hierdoor wordt de rekenslast vergeleken met een dense model van dezelfde grootte verminderd, maar het opslaan van gewichten en de implementatie blijven complex.
GLM-5.2 van Z.ai, een van de meest ambitieuze modellen met MIT-licentie, biedt een contextvenster van een miljoen tokens en richt zich op programmering, agents en langdurige taken. Deze capaciteit maakt het mogelijk grote repositories of documentcollecties te verwerken, hoewel het context niet altijd optimaal benut wordt.
DeepSeek-V3.2 blijft een sterke kandidaat voor redeneringen en toolgebruik. Zijn repository publiceert gewichten onder MIT-licentie en gebruikt een dispersie-attentiemechanisme om de kosten van lange contexten te beperken. Met 685 miljard parameters is het niet geschikt voor standaard consumenteninstallaties en wordt het meestal in gespecialiseerde infrastructuur of via een provider uitgevoerd.
Mistral Large 3 bevat in totaal 675 miljard parameters, waarvan ongeveer 41 miljard actief worden. Het wordt gedistribueerd onder Apache 2.0 en biedt gecomprimeerde formaten. Volgens de documentatie moet het worden geïmplementeerd op systemen van Blackwell-klasse of op nodes met acht GPU’s zoals de A100 of H100. Het is niet geschikt voor installatie op elke beschikbare server.
OpenAI biedt ook modellen als gpt-oss-120b en gpt-oss-20b, beide onder Apache 2.0. De 120 miljard-variant vereist een GPU met 80 GB geheugen, terwijl de 20 miljard-variant met quantisatie (MXFP4) op ongeveer 16 GB draait. Deze minder grote modellen zijn toegankelijker voor workstations en high-end computers.
Qwen3.6-35B-A3B is een model met een gemiddelde omvang. Met circa 35 miljard parameters activateert het minder per token en ondersteunt het tekst en afbeeldingen. Alibaba distribueert het onder Apache 2.0, een aantrekkelijke optie voor organisaties die een multimodaal model zoeken zonder de enorme infrastructuur van giganten met honderden miljarden parameters.
Google ontwikkelde Gemma 4, ontworpen voor gebruik op mobiele apparaten en pc’s. De familie bevat varianten zoals E2B en E4B, gericht op efficiëntie, en modellen van 12, 26 en 31 miljard parameters voor redenering en multimodale taken. Daarnaast heeft Google versies gepubliceerd met quantisaties om geheugengebruik te reduceren.
Microsoft houdt de Phi-familie aan voor situaties waar grootte en lokale uitvoering belangrijker zijn dan ultieme prestaties. Phi-4-mini heeft 3.800 miljoen parameters, ondersteunt meertaligheid en bevat functies voor oproepen. De familie wordt onder MIT-licentie uitgebracht voor gebruik op lokale systemen en devices zonder voortdurende internetverbinding.
Mistral brengt ook Ministral 3 uit in versies van 3, 8 en 14 miljard parameters. Deze modellen ondersteunen beeldbegrip en instructiegerichte taken, allemaal onder Apache 2.0. Ze zijn geschikt voor werkstationtoepassingen, randapparatuur en apparaten waar een groot model niet economisch haalbaar is.
Dit scala verklaart waarom er geen één universeel open model is dat voor alles geschikt is. Kleine modellen bieden minder latentie, ondersteunen meer gebruikers per GPU en zijn makkelijker te updaten. Grote modellen bieden meer vermogen voor complexe taken, maar vereisen investeringen in infrastructuur, parallelisatie en gespecialiseerde inferentiesystemen.
Hoe te kiezen zonder dat het besparen een nieuwe kost wordt
De eerste stap is het definiëren van een praktische test. Een team dat contracten wil samenvatten, zou representatieve documenten, verwachte vragen en door experts beoordeelde antwoorden moeten voorbereiden. Voor programmeringsmodellen zijn eigen repositories, echte issues, automatische tests en taken die meerdere bestanden omvatten essentieel.
Resultaten van fabrikanten bieden een eerste indicatie, maar vervangen geen eigen evaluatie. Een model kan goed presteren in benchmarktests zoals SWE-bench, maar afwijkingen vertonen in specifieke codebases. Of het nu goed presteert in het Engels of trager in het Spaans met juridische termen, moet getest worden.
De evaluatie moet kwaliteit, latentie, tokens per seconde, geheugengebruik, kosten per query en correctiepercentage meten. Ook instructievolgen, JSON-stabiliteit, toolintegraties en hallucinaties moeten worden beoordeeld.
De lengte van de context is een apart te testen aspect. Een miljoen tokens laden kan technisch mogelijk zijn, maar langzaam, kostbaar en onhandig. Veel toepassingen profiteren van een retrieval-augmented generation (RAG) systeem dat alleen relevante fragmenten ophaalt voor het model wordt geraadpleegd.
Quantisatie kan het model kleiner maken door minder precieze formats te gebruiken. Een model van 20-30 miljard parameters kan zo op een minder krachtige GPU draaien, maar met mogelijk verlies in reasoning, mathematische nauwkeurigheid en gestructureerde output. Elke quantisatie moet als een apart model getest worden.
Privacy blijft een belangrijk punt. Het uitvoeren van de gewichten op eigen servers voorkomt dat data naar de fabrikant gaat, maar de gebruikte omgeving, extensies en monitoring-tools kunnen nog steeds telemetrie doorgeven. De organisatie moet dat hele proces controleren.
Voor experimenten op eigen computer bestaan tools als Ollama en LM Studio die de opstart vereenvoudigen. Bij servers bieden oplossingen als vLLM en SGLang API-compatibele interfaces, batchbeheer en GPU-optimalisatie. De juiste keuze hangt af van het model, de architectuur en verwachte gelijktijdigheid.
Bij onregelmatige workloads kan een beheerde API goedkoper zijn dan meerdere GPUs gebruiken. Zelfhosting wordt interessant bij constante belasting, strikte privacy-eisen, modelaanpassingen of de gewenst schaal om hardware-investeringen te rechtvaardigen.
Het model zou niet voor altijd vaststaan. Door los te koppelen van de inferentie-technologie via stabiele interfaces, kan een bedrijf nieuwe versies testen of wisselen zonder de hele applicatie te herstructureren.
De markt in 2026 biedt niet de meest grote beschikbare modellen, maar de vrijheid om te kiezen uit open families, ze op lokale infrastructuur te hosten en te wisselen als alternatieven beter zijn qua kwaliteit of kosten. Die vrijheid zorgt pas voor besparingen als het wordt ondersteund door eigen tests, licentiecontrole en een volledige inschatting van de benodigde infrastructuur.
Veelgestelde vragen
Wat is het beste open model voor gebruik op een persoonlijke computer?
Dat hangt af van het beschikbare geheugen en de taak. Phi-4-mini, kleine versies van Gemma 4 en Ministral 3 zijn lichtgewichtopties, terwijl gpt-oss-20b of Qwen3.6 meer geheugen vereisen en meestal gequantiseerd worden voor optimale prestaties.
Kunnen open gewichtenmodellen commercieel worden gebruikt?
Veel wel, maar het is belangrijk de licentievoorwaarden van elke versie te controleren. Apache 2.0 en MIT maken meestal breed commercieel gebruik mogelijk; eigen licenties kunnen aanvullende restricties bevatten.
Verwijdert het downloaden van een model de kosten van AI?
Nee. Het wegvallen of verminderen van API-kosten betekent niet dat andere kosten niet bestaan, zoals GPU, stroom, opslag, beheer, beveiliging en onderhoud.
Is een lokaal model beter dan een API in de cloud?
Een lokaal model biedt meer controle over data en configuratie. Een API kan voordeliger en eenvoudiger zijn bij laag of wisselend gebruik. De keuze hangt af van volume, privacy-eisen en technische middelen.