De HBM-geheugenkaart is uitgegroeid tot een van de meest gewilde onderdelen van de kunstmatige intelligentie-infrastructuur. NVIDIA, AMD, grote cloudproviders en fabrikanten van versnellingskaarten hebben behoefte aan steeds snellere, hogere dichtheden en efficiëntere geheugensystemen om GPU’s en ASIC’s met hoge prestaties aan te sturen. Maar die strijd wordt niet alleen bepaald door het aantal gigabytes dat naast de processor past. Ook de manier waarop de lagen worden gestapeld, verbonden en gekoeld speelt een cruciale rol.
Samsung Electronics en SK hynix bereiden al geruime tijd de overstap voor naar hybrid bonding, een verpakkings- en aansluittechnologie die belooft het dikteprofiel te verkleinen, de warmteafvoer te verbeteren en interne verbindingen dichter op elkaar te leggen. Toch lijkt de industrie nu te aanvaarden dat een brede adoptie van hybrid bonding in HBM misschien later zal plaatsvinden dan aanvankelijk gedacht. De reden daarvoor is minder spectaculair dan het lijkt: enkele van de voordelen die destijds de urgentie van verandering onderstelden, verliezen op korte termijn aan kracht.
Wat biedt hybrid bonding ten opzichte van de huidige methode
HBM, oftewel High Bandwidth Memory, wordt opgebouwd door meerdere lagen DRAM verticaal op elkaar te stapelen en te verbinden via verticale doorvoeren en geavanceerde verpakkingsmethoden. Momenteel wordt vooral thermal compression bonding toegepast, een techniek waarbij lagen worden samengevoegd door middel van hitte, druk, microbumps en vulmateriaal dat mechanische ondersteuning biedt.
Hybrid bonding wijzigt deze aanpak. In plaats van verbindingen met kleine metalen uitsteeksels en vulmateriaal, wordt hier direct koper van de verschillende lagen verbonden. Dit maakt het mogelijk de afstand tussen componenten te verkleinen, de interconnectie-dichtheid te verhogen en de elektrische eigenschappen te verbeteren. Bovendien helpt het om de uiteindelijke module dunner te maken doordat een deel van de tussenstructuur wordt geëlimineerd.
Kort samengevat past hybrid bonding perfect bij de evolutie van HBM. Elke nieuwe generatie vraagt om meer bandbreedte, meer kanalen, meer lagen en een lager energieverbruik per bit-overdracht. Zo heeft HBM4, gestandaardiseerd onder JEDEC-nummer JESD270-4, de breedte van de interface verdubbeld tot 2.048 bits ten opzichte van HBM3E en is ontworpen om te voldoen aan de eisen van AI en high-performance computing (EDN).
Het probleem is dat het ene een technologie wenselijk te achten en het andere een praktische, industriële beste keuze op het juiste moment. Hoewel hybrid bonding voordelen biedt, brengt het ook meer productiecomplexiteit, nieuwe prestatie-uitdagingen, hogere kosten en risico’s in de toeleveringsketen die al onder druk staat door de vraag naar HBM.
Minder urgentie voor dikte en temperatuur
Aanvankelijk dachten velen dat Samsung en SK hynix hybrid bonding al met HBM4 zouden introduceren. Uiteindelijk blijft de industrie echter vertrouwen op meer conventionele verbindingstechnieken. De verwachtingen verschuiven nu naar HBM4E, HBM5 of zelfs latere generaties, afhankelijk van het aantal lagen en de concrete eisen van klanten.
Een belangrijke reden hiervoor is dikte. Als de standaard het toelaat dat pakketten iets dikker kunnen zijn, neemt de druk af om elke laag dunner te maken. Bij HBM3E was het maximale dikteprofiel strenger, maar met HBM4 is er meer ruimte voor configuraties met 12 of 16 lagen. Daarnaast wijzen diverse marktbronnen erop dat toekomstige generaties met meer lagen mogelijk opnieuw de maximale dikte kunnen versoepelen, waardoor het gebruik van reeds bekende verbindingsmethoden mogelijk blijft voordat men volledig overschakelt op hybrid bonding.
Een andere factor is temperatuurmanagement. Hoewel hybrid bonding de warmteafvoer verbetert door het verwijderen van materialen met lage thermische geleidbaarheid tussen de lagen, onderzoeken Samsung en SK hynix alternatieve oplossingen om hetzelfde probleem aan te pakken zonder de volledige verbindingstechnologie te veranderen.
Tijdens Computex 2026 presenteerde Samsung een HBM5-variant met een Heat Path Block (HPB), een thermisch structuur ontworpen om warmte van kritieke punten af te voeren. SK hynix toonde op dezelfde beurs iHBM, een oplossing gebaseerd op geïntegreerde koelelementen (ICE) die in de D2D PHY-zone zijn ingebouwd en een gerapporteerde reductie van thermische weerstand van meer dan 30 % bieden (insights.trendforce.com).
Deze innovaties veranderen de complexiteit. Als fabrikanten de koeling kunnen verbeteren met aanvullende thermische structuren en tegelijkertijd gebruik kunnen maken van meer volwassen verbindingsprocessen, wordt hybrid bonding minder urgent en wordt het eerder een techniek die in latere fasen wordt toegepast, wanneer het ontwerp dat vereist.
De klant bepaalt ook de planning
In HBM is niet alleen de geheugenfabrikant de beslisser. Grote klanten, vooral degenen die AI-versnellingskaarten ontwerpen, bepalen meestal het tempo. Als NVIDIA, AMD of andere grote chipontwikkelaars nog niet streven naar uiterst hoge stapelconfiguraties, hebben geheugenleveranciers minder motivatie om het risico van snelle technologische overgangen te nemen.
De marktinformatie wijst erop dat 12-laagsproducten mogelijk nog enige tijd de dominante keuze blijven, zelfs in het gedeelte van de HBM4E-levenscyclus, terwijl hogere configuraties van 16 lagen en meer voorzichtiger worden uitgerold. Dit betekent niet dat de interesse in hybrid bonding afneemt. Integendeel, de industrie beoordeelt de voordelen pragmatisch: pas toe wanneer de baten de extra complexiteit duidelijk rechtvaardigen.
Er ligt ook een onderliggende reden. HBM is momenteel één van de meest winstgevende en strategische geheugencomponenten op de markt. SK hynix heeft een sterke positie opgebouwd in de AI-toeleveringsketen, Samsung probeert terrein terug te winnen en Micron is actief en competitief. In dat spanningsveld kan een slecht uitgevoerde procesverbetering leiden tot verlies van marktaandeel, prestaties en klantvertrouwen.
De meest geavanceerde technologie wint niet altijd wanneer deze te vroeg komt. In de halfgeleiderindustrie zijn timing en marktreife zo belangrijk als innovatie zelf. Een technologie moet klaar zijn, productie klaar en performance voldoende. Ze moet aansluiten bij de reële eisen van de klanten.
De grote drijfveer voor adoptie van hybrid bonding zal blijven bestaan
Uitstel betekent niet dat de trend stopt. Op de middellange termijn lijkt hybrid bonding onvermijdelijk, vooral door de toenemende I/O-dichtheid. HBM4 verdubbelde de interface al tot 2.048 bits en toekomstige generaties kunnen door verdere verdubbelingen, zoals naar 4.096 I/O in HBM5E of latere versies, nog dichter op elkaar komen.
In dat scenario begint de limiet van thermal compression bonding zichtbaar te worden. Microbumps nemen veel ruimte in beslag en kunnen deformeren tijdens de verbinding. Naarmate de verbindingen verder moeten worden verkleind, wordt direct koper verbinden een logische en haalbare oplossing om dichtheid, efficiëntie en betrouwbaarheid te behouden.
Daarom blijven Samsung en SK hynix investeren in R&D voor hybrid bonding. Hoewel HPB, iHBM en relaxatie van dikte enige tijd extra ruimte geven, wijst de technische roadmap van HBM richting pakketten die nog dichter en thermisch veeleisender worden. Uiteindelijk zullen tussenoplossingen niet meer volstaan.
De belangrijke conclusie is dat de komende AI-race niet alleen op GPU’s wordt gewonnen. Ook het verpakkingsproces van het geheugen wordt cruciaal. HBM is uitgegroeid tot een bottleneck die net zo belangrijk is als de fabricage-node of de energievoorziening van datacenters. Zonder voldoende bandbreedte, met beheersbare temperatuur en energieverbruik, kan de acceleratorthip juist niet optimaal presteren.
Samsung en SK hynix blijven niet achter met hybrid bonding. Ze stemmen hun tijdlijn af om het op het juiste moment te introduceren zonder de productieketen te verstoren die de markt nu vereist. De vraag is niet meer of HBM meer geavanceerde verbindingstechnologieën zal gebruiken, maar wanneer de toename van I/O, lagen en warmte het onvermijdelijk maakt, en het een must wordt in plaats van een optie.
Veelgestelde vragen
Wat is hybrid bonding in HBM-geheugen?
Het is een technologie waarbij direct koperlagen tussen DRAM-lagen worden verbonden zonder de traditionele microbump-structuur. Het biedt hogere dichtheid, dunner profiel en betere elektrische en thermische eigenschappen.
Waarom zouden Samsung en SK hynix de adoptie kunnen uitstellen?
Omdat de druk om dikte te verminderen afneemt en beide fabrikanten alternatieve thermische oplossingen ontwikkelen, zoals HPB en iHBM, die de levensduur van meer volwassen verbindingstechnieken kunnen verlengen.
Hoe verhoudt dit zich tot AI?
AI-accelerators vereisen enorme geheugencbandbreedte. HBM wordt naast GPU’s en ASICs geplaatst om die chips te voorzien van hoge snelheidsdata. Als het geheugen te heet wordt of niet schaalt in dichtheid, beperkt dat de systeemprestaties.
Wanneer wordt hybrid bonding onvermijdelijk?
Waarschijnlijk zodra volgende generaties HBM het aantal interne verbindingen en lagen sterk vergroten. Bij een groei naar bijvoorbeeld 4.096 I/O of meer dan 20 lagen wordt hybrid bonding onvermijdelijk.
bron: zdnet