De geheugenkloof verandert de pc voor lokale AI: welk hardware blijft zinvol

Het samenstellen van een computer om lokaal AI-modellen uit te voeren is in 2026 veel ingewikkelder geworden. Het geheugen is een van de belangrijkste componenten die zowel de prijs als de grootte van het model bepalen dat je kunt draaien, terwijl de vraag vanuit datacenters het grootste deel van de groei in productie opneemt. Dit voel je onder andere in DRAM, SSD’s en videokaarten, zozeer dat sommige gebruikelijke aanbevelingen van slechts een jaar geleden herzien moeten worden.

De kernpunten voor hardware voor lokale AI in 20 seconden

• TrendForce voorziet dat het geheugentekort blijft bestaan en dat de vraag naar AI-gerelateerde hardware blijft groeien.
• De RTX 5090 houdt vast aan 32 GB VRAM, maar de marktprijs ligt ruim boven de lanceerprijs van 1.999 dollar.
• De oudere RTX 3090 biedt 24 GB en blijft interessant op de tweedehandsmarkt.
• gpt-oss-20b vereist ongeveer 16 GB, terwijl gpt-oss-120b ontworpen is voor 80 GB.
• Systemen met grote, gedeelde geheugenoplossingen worden aantrekkelijker voor modellen die niet passen op een gewone GPU.

De situatie wordt veroorzaakt door een verandering die veel verder gaat dan de markt voor consumentencomputers. TrendForce schatte in februari dat de contractprijzen voor conventioneel DRAM tijdens het eerste kwartaal van 2026 met maar liefst 90 % tot 95 % op kwartaalbasis kunnen stijgen, terwijl de DRAM voor pc’s minimaal kan verdubbelen in prijs.

In het tweede kwartaal bleef de verwachting dat de prijzen voor conventioneel DRAM met 58 % tot 63 % zouden toenemen. Fabrikanten verschuiven hun productiecapaciteit naar servers, High Bandwidth Memory (HBM) en gerelateerde datacenterproducten.

En dit lijkt geen korte termijn probleem: al in juli waarschuwde TrendForce dat de groei in vraag naar AI-hardware mogelijk ook in 2027 de productiecapaciteit zal overstijgen.

Voor wie thuis of op kantoor een Large Language Model (LLM) wil draaien: deze ontwikkelingen veranderen een fundamentele vraag: het is niet meer genoeg om alleen te zoeken naar de GPU met de meeste operaties per seconde binnen het budget. Je moet nu eerst bepalen hoeveel geheugen het model echt nodig heeft.

Geheugen krijgt weer de hoofdrol, boven rekenkracht

LLM’s moeten hun gewichten tijdens inferentie in het geheugen opslaan. Hoe groter het model, hoe meer geheugen vaak nodig is, hoewel quantisatie die behoefte kan verminderen door de gewichten met minder precisie weer te geven.

Daarom zie je vaak aanduidingen als Q4, Q6 of 8 bits wanneer het over lokale AI gaat.

De praktische verschillen kunnen enorm zijn.

OpenAI legt bijvoorbeeld uit dat gpt-oss-20b met 16 GB geheugen kan werken, terwijl gpt-oss-120b is ontworpen voor uitvoering binnen 80 GB op één GPU. Beiden maken gebruik van MXFP4-quantisatie.

Hiermee ontstaat een eerste grove richtlijn:

Dit zijn geen absolute grenzen. De benodigde hoeveelheid geheugen varieert afhankelijk van quantisatie, context, KV-cache, runtime en modelarchitectuur.

Bovendien betekent dat een model in het geheugen passen niet automatisch dat het snel draait.

Dat is een van de meest gemaakte fouten bij het vergelijken van hardware voor lokale AI.

De RTX 3090 weigert te vertrekken

Een van de opvallendste gevolgen van de huidige markt is dat een GPU die door NVIDIA in 2020 werd geïntroduceerd, nog steeds aantrekkelijk is in 2026, zes jaar later.

De GeForce RTX 3090 beschikt over 24 GB GDDR6X en 936 GB/s geheugenbandbreedte.

Met een verbruik van 350 W, verouderde architectuur en gebrek aan de nieuwste verbeteringen van latere generaties speelt dat in haar nadeel. Maar er is iets dat nauwelijks te vervangen is: die 24 GB.

Op de tweedehandsmarkt vind je momenteel exemplaren rond de 1.000-1.200 euro. De prijs varieert sterk afhankelijk van model, staat en land. Er zijn goedkopere aanbiedingen, maar ook de bovengemiddeld geprijsde.

Voor het draaien van circa 30 miljard gequantiseerde parameters in een lokaal model kunnen die 24 GB aantrekkelijker zijn dan een moderne GPU met slechts 16 GB VRAM.

Hier ontstaat een interessante paradox in 2026: een nieuwere, snellere GPU kan voor bepaalde LLM’s juist minder aantrekkelijk zijn als deze minder VRAM heeft.

Een RTX 5070 Ti of RTX 5080 met 16 GB kan zeker een RTX 3090 overtreffen in verschillende berekeningen, maar kan niet een model met 20 GB geheugen huisvesten, simpelweg omdat de snellere processor dat niet compenseert.

De capaciteit bepaalt eerst wat geladen kan worden; de snelheid bepaalt vervolgens hoe snel het draait.

De RTX 5090: een ander probleem — de prijs

De GeForce RTX 5090 vertegenwoordigt het andere uiterste.

NVIDIA lanceerde deze met 32 GB GDDR7 en een adviesprijs van 1.999 dollar, ideaal voor AI en grafisch werk.

Het probleem zit ‘m in de marktprijs.

In augustus 2026 werden RTX 5090’s gevonden voor meer dan 4.300 dollar. Marktanalyses uit de VS wijzen op gemiddelde prijzen rond de 4.700 dollar.

NVIDIA bood tijdens QuakeCon 2026 de Founders Edition tegen de adviesprijs aan als een soort buitenkans, vanwege de hoge marktprijzen.

Dat betekent niet dat de RTX 5090 een slechte GPU is voor AI. Integendeel, technisch gezien is het verbluffend.

Maar voor meer dan 4.000 dollar voor 32 GB moet je alternatieven overwegen wanneer je vooral LLM’s wil draaien en niet gaming of rendering.

Voor vergelijkbare bedragen kun je systemen met meer geheugen aanschaffen, meerdere GPU’s inzetten of professionele accelerators huren.

Apple Silicon en Strix Halo: een andere koers

Hier komen systemen met gedeeld geheugen om de hoek kijken.

Bij reguliere GPU’s heeft de CPU zijn RAM en de GPU zijn VRAM. Apple Silicon en platforms als AMD Ryzen AI Max gebruiken architecturen waar CPU en GPU hetzelfde gedeelde geheugen gebruiken.

Voor lokale AI betekent dat een grote voorsprong: je kunt systemen bouwen met veel meer geheugen dat voor de GPU toegankelijk is, zonder dat je een professionele acceleratorsysteem van 80 GB hoeft te kopen.

Maar het is belangrijk enkele misvattingen uit recente gidsen te corrigeren.

Apple verkoopt nog altijd de Mac mini M4 basisversie met 16 GB RAM en 256 GB opslag, volgens de Spaanse store. Ook de Mac mini met M4 Pro blijft beschikbaar.

Dus het is niet correct te zeggen dat Apple de basis-Mac mini heeft uitgeroeid.

De veranderingen zien we vooral in de hogere configuraties. De huidige specificatiepagina van de Mac Studio toont de M4 Max met 36 GB en uitbreidbaar tot 64 GB, terwijl de M3 Ultra begint met 96 GB.

Dit is relevant omdat systemen met grote gedeelde geheugens voor AI lange tijd een zeer aantrekkelijk alternatief waren.

Ze bieden geen CUDA, wat belangrijk kan zijn voor bepaalde toepassingen, maar frameworks zoals MLX, llama.cpp en Ollama maken laden en gebruik van Apple Silicon mogelijk voor veel modellen.

AMD biedt een bijzonder interessant alternatief: Strix Halo

Een ander steeds vaker genoemd platform is Ryzen AI Max+ 395, bekend onder de naam Strix Halo.

AMD combineert Zen 5 CPU’s met een geïntegreerde Radeon GPU die aanzienlijk krachtiger is dan traditionele geïntegreerde oplossingen, met toegang tot grote hoeveelheden gedeeld geheugen.

Er zijn systemen met deze configuratie en tot 128 GB gedeeld geheugen, wat zeer moeilijk te bereiken is met een conventionele gaming-GPU.

De interesse ligt precies daar: het gaat niet alleen om GPU-kracht, maar vooral om voldoende gedeeld geheugen dat grote modellen mogelijk maakt die niet passen op een RTX met 16, 24 of 32 GB.

Dat betekent niet dat een Strix Halo van 128 GB sneller is dan een RTX 5090. Dat zou de verkeerde vergelijking zijn.

De kernvraag is: kan deze platformen bepaalde taken uitvoeren die een GPU met 32 GB niet volledig kan opslaan, ook al zijn ze misschien langzamer in tokengeneratie?

Voor thuislabs, ontwikkelaars en experimenteerders met grote modellen kan dat verschil belangrijker zijn dan enkele tokens per seconde extra.

128 GB betekent niet dat elk model meteen kan draaien

Een veel gemaakte fout is te denken dat 128 GB een harde grens is.

Moderne modellen bewijzen dat dat niet zo is.

Een systeem met 128 GB biedt veel ruimte voor inferentie, vooral met quantisatie, maar de grootste modellen kunnen dat makkelijk overtreffen.

Bovendien moet je geheugen reserveren voor het OS, runtime, KV-cache, context en andere processen.

De architectuur speelt ook een rol. Models zoals MoE (Mixture of Experts) activeren slechts delen van hun gewichten per inferentie, maar de volledige gewichten moeten nog altijd ergens opgeslagen worden.

Daarom moet je niet enkel kijken naar het totaal aantal parameters; actieve parameters en geheugenvereisten zijn aparte metrics.

De praktische koopgids voor 2026

Met de huidige prijzen zou een redelijke richtlijn er zo uitzien:

Houd er rekening mee dat prijzen kunnen fluctueren, en het is verstandig om de actuele kosten vlak voor aankoop te controleren.

En een belangrijke factor die veel vergelijkingen vaak overslaan: elektriciteit.

Een RTX 3090 verbruikt ongeveer 350 W onder belasting. Een systeem met één of meerdere GPU’s die urenlang draaien, kan de energiekosten aanzienlijk maken in de totale TCO.

Soms is de beste GPU voor thuis in een datacenter te vinden

De toenemende hardwareprijzen maken het ook aantrekkelijker om een andere optie te overwegen: niet zelf kopen.

Voor degenen die slechts enkele uren per week met grote modellen willen experimenteren, kan het huren van een H100, H200, MI300X of professionele GPU financieel veel logischer zijn dan duizenden euro’s investeren in een systeem dat de meeste tijd uitstaat.

Vergelijk de kosten niet enkel op basis van de huursnelheid; opslagkosten, datatransfers en setup-tijd spelen ook een rol. Het continu downloaden van grote modellen verhoogt de kosten soms aanzienlijk.

Eigen hardware biedt daarnaast voordelen: altijd beschikbaar, geen uurprijs, en vooral volledig controle over je data.

Voor vertrouwelijke documenten, privécode, bedrijfsinformatie of agents die 24/7 draaien, kan die onafhankelijkheid de meerprijs vaak rechtvaardigen.

Voor een model dat slechts vier uur per maand draait, ligt dat heel anders.

De memoire crises lijken nog niet voorbij

De minder gunstige voorspellingen voor wie wacht op een snelle normalisatie, komen uit de industrie zelf.

TrendForce meent dat de groeiende vraag naar AI-agenten structureel het geheugenverbruik zal verhogen. Inferenties worden complexer en langere contexten eisen meer VRAM voor KV-caching.

De marktprognose voor 2026 is nu verhoogd tot 889,3 miljard dollar, en ze voorziet dat het in 2027 meer dan 1,28 biljoen dollar zal zijn.

Dat is een enorme bijstelling van eerdere schattingen.

Ook Samsung, SK hynix en Micron investeren uitgebreid in capacity-uitbreidingen, vooral voor HBM, servers en AI-gerelateerde producten.

Dat wil niet zeggen dat de prijs van reguliere RAM onvermijdelijk zal stijgen of dat alle componenten even hard duurder worden.

Wel dat een gok dat de geheugenprijzen snel terugkeren naar 2024/2025-niveau’s, nu onzeker is.

De aankoopbeslissing moet gebaseerd zijn op daadwerkelijk gebruik.

Voor kleine modellen is vaak al voldoende hardware aanwezig. Voor modellen van 20B-30B vormen 16-24 GB een interessante zone. Grotere modellen worden vooral haalbaar met gedeeld geheugen of professionele systemen.

De belangrijkste vraag bij het kopen van een persoonlijke AI-machine in 2026 is niet meer simpelweg “welke GPU is sneller”.

Eerst moet je bepalen welk model je wil draaien, hoeveel geheugen je er echt voor nodig hebt en hoe lang je het gebruikt.

Pas daarna is het zinvol om op prijs te letten.

Veelgestelde vragen

Hoeveel VRAM heeft een pc nodig om een LLM lokaal uit te voeren?

Dat hangt af van het model, de quantisatie en de contextlengte. Als richtlijn noemt OpenAI ongeveer 16 GB voor gpt-oss-20b en 80 GB voor gpt-oss-120b. Veel modellen van gemiddeld formaat kunnen goed functioneren met 24-32 GB VRAM.

Blijft een RTX 3090 relevant voor AI in 2026?

Ja, vooral vanwege de 24 GB VRAM, zeker op de tweedehandsmarkt. Het verbruik en de verouderde architectuur zijn nadelen, maar de grote geheugencapaciteit maakt het mogelijk modellen te draaien die niet op aardsnapslice laptops passen.

Is een Mac of een NVIDIA GPU beter voor lokale AI?

Dat hangt af van de werklast. NVIDIA behoudt de voorsprong door CUDA-ondersteuning, terwijl Macs met veel gedeeld geheugen grote modellen kunnen laden die anders niet passen op een GPU met minder VRAM.

Is het beter hardware te kopen of een cloud-GPU te huren?

Voor incidenteel gebruik kan huren het financieel aantrekkelijker maken dan een dure aankoop. Bij frequent gebruik, constante beschikbaarheid en vertrouwelijke data wint eigen hardware vaak. De totale kosten moeten goed worden afgewogen in afweging met bijkomende kosten voor opslag, data transfer en setup.