SK hynix heeft een belangrijke technische stap gezet in de evolutie van HBM-geheugen door het testen van een 12-laags stapel die via hybrid bonding is verbonden, een geavanceerde packagingtechnologie die mogelijk bepalend kan zijn voor de volgende generaties van hoog-bandbreedte geheugen. Het Zuid-Koreaanse bedrijf heeft nog geen concrete prestatiecijfers gedeeld, maar erkent dat het werkt aan een hogere yield om massaproductie mogelijk te maken.
De aankondiging, gedaan door Kim Jong-hoon, technisch leider bij SK hynix, tijdens de Beyond HBM conferentie in Seoel, past in de context van de race om HBM4 en HBM5. De groeiende vraag naar AI-versnellers heeft van dit geheugen een van de meest strategische en schaarse componenten gemaakt. Nvidia, AMD, Google, Amazon en andere chipfabrikanten vragen steeds meer capaciteit, hogere bandbreedte en lager energieverbruik om GPU’s, TPU’s en grootschalige AI-architecturen te ondersteunen.
Wat brengt hybrid bonding voor HBM-geheugen?
HBM wordt opgebouwd door meerdere DRAM-chips verticaal te stapelen en via TSV’s en interne verbindingen te koppelen. Tot nu toe waren bump- of microbumprelays de meest gangbare methoden, wat een volwassen aanpak is maar fysiek limieten kent: het neemt ruimte in, verhoogt weerstand, genereert warmte en maakt het moeilijk om meer lagen toe te voegen zonder de behuizing aanzienlijk te vergroten.
Hybrid bonding probeert deze limieten te doorbreken door de chipoppervlakken direct met elkaar te verbinden, meestal via koper-koper contacten en dielektrische lagen. Door het gebruik van directe verbindingen, wordt het aantal bumpen verminderd of geëlimineerd, wat leidt tot meer compacte modules, efficiëntere elektrische prestaties en mogelijk minder warmte generatie. In HBM, waar elke millimeter en elke watt telt, kan deze verbetering het verschil maken.
SK hynix heeft aangegeven dat het al een 12-laags HBM-structuur met hybrid bonding heeft getest. Details over de yieldwaarde ontbreken, wat belangrijk is omdat de grote uitdaging niet alleen het demonstreren van werking in het lab is, maar het fabriceren van deze structuur op grote schaal met voldoende rendement, lage kosten en herhaalbaarheid. Kim Jong-hoon gaf aan dat de voorbereidingen “een stuk verder gevorderd zijn dan voorheen”, zonder specifieke percentages te noemen.
Deze voorzichtigheid is begrijpelijk. In de halfgeleiderindustrie is een technisch haalbaar proces niet automatisch rendabel als er teveel defecte eenheden zijn. Bij HBM wordt de uitdaging groter omdat een stapel meerdere lagen bevat. Als één laag faalt, kan de gehele stapel onbruikbaar worden of haar waarde verliezen. Daarom is de yield van de volledige assemblage zo cruciaal.
MR-MUF blijft behouden terwijl de nieuwe generatie zich ontwikkelt
SK hynix zal niet onmiddellijk stoppen met het gebruik van zijn huidige technologie. Het bedrijf blijft GE-structuren met MR-MUF (Mass Reflow Molded Underfill) toepassen terwijl het hybrid bonding verder wordt ontwikkeld. MR-MUF gebruikt koperbumpen en vult de ruimtes tussen de lagen met underfill-materiaal na verwarming van de stapel. Deze technologie is een belangrijke factor geweest in de ontwikkelingen van HBM3E en HBM4.
De overgang naar hybrid bonding zal geleidelijk plaatsvinden. HBM4 gaat inmiddels in productie met geavanceerde pakkettechnieken, maar hybrid bonding lijkt meer geschikt voor latere generaties of d functions met hogere densiteit. Sommige marktvoorspellingen wijzen op een bredere adoptie van hybrid bonding met HBM5, mogelijk vanaf 2029 of 2030, wanneer het stapelen van meer lagen en beter temperatuurbeheer nog belangrijker wordt.
Vanuit technisch oogpunt is het begrijpelijk waarom. HBM4 betekent al een flinke sprong ten opzichte van HBM3E: de interface wordt verdubbeld tot 2.048 bits, het aantal kanalen neemt toe en de bandwidth per stapel wordt groter. De JEDEC-specificatie voor HBM4 voorziet in capaciteiten en configuraties tot 16 lagen, met een focus op AI en HPC. Voor toekomstige generaties met 20 of meer lagen worden traditionele methoden steeds minder geschikt.
Hier wordt hybrid bonding aantrekkelijk: hoe meer lagen er worden gestapeld, hoe complexer het wordt om hoogte, warmte, uitlijning en mechanische betrouwbaarheid te beheersen. Het verkleinen van de afstand tussen de dies en het verbeteren van elektrische verbindingen kan het mogelijk maken om modules sneller en dichter te maken, ondanks de hogere fabricatie-eisen.
De strijd om HBM wordt in de verpakking uitgevochten
Voor jaren werd de geheugenmarkt vooral gedifferentieerd op productieproces, capaciteit en snelheid. In het tijdperk van AI is geavanceerde packaging echter een kerncompetentie geworden. HBM is niet alleen snel DRAM-geheugen: het is een complexe 3D-structuur die moet samenwerken met GPU’s, interposers, geavanceerde substraten, basislogica, koeling en stroomvoorziening.
SK hynix, Samsung en Micron vechten om klanten voor HBM4 en bereiden de volgende generaties HBM4E en HBM5 voor. SK hynix heeft voordeel vanwege haar positie als belangrijke leverancier van Nvidia, maar concurrenten verscherpen hun inspanningen. Micron presenteert vorderingen met HBM4 voor nieuwe platforms, terwijl Samsung probeert in te halen na meerdere cycli waarin SK hynix de markt leidde met AI-gerelateerde vraag.
De druk ligt niet alleen op het verkopen van meer geheugen. Het gaat ook om het voldoen aan de steeds specifieker wordende eisen van grote AI-ontwikkelaars. Nvidia bijvoorbeeld heeft de lat hoger gelegd qua snelheid, energiegebruik, capaciteit, integratie en planning. HBM4 bevat nu aangepaste basislogica, wat het moeilijk maakt om van leverancier te wisselen zonder extra ontwerp- of validatietests. Deze personalisatie voegt waarde toe voor de wie het eerst levert, maar verhoogt ook de risico’s bij fouten.
De investeringen weerspiegelen deze spanningen. SK hynix kondigde onlangs een investering van ongeveer 19 biljoen Won aan (bijna 12,85 miljard dollar) voor een nieuwe fabriek in Zuid-Korea, gericht op AI-geheugen en geavanceerde packaging. Het bedrijf benadrukte dat de vraag naar HBM van klanten de komende jaren de productiecapaciteit overschrijdt, wat de tekorten waarschijnlijk niet snel zal oplossen.
Waarom dit belangrijk is voor AI-datacenters
HBM-geheugen vormt een van de belangrijkste knelpunten in moderne AI-systemen. Grote modellen vereisen niet alleen enorme rekenkracht, maar ook razendsnelle gegevensoutput van accelerators. Als de geheugenbandbreedte niet toereikend is, zullen GPU’s en andere versnellingsapparaten vaak wachten, zelfs als ze over voldoende vermogen beschikken.
Daarom beïnvloeden technologische verbeteringen in HBM direct de kosten en prestaties van AI-datacenters. Meer lagen betekenen meer capaciteit per module. Hogere bandbreedte zorgt voor efficiëntere benutting van de hardware. Betere thermische efficiëntie kan het energieverbruik verlagen en het mogelijk maken om meer modules in één systeem te plaatsen. Maar als de packagingtechnologie niet op grote schaal rendabel kan worden toegepast, kunnen kosten oplopen en de beschikbaarheid afnemen.
Hybrid bonding belooft een deel van deze uitdaging aan te pakken, maar het is geen snelle oplossing en brengt ook nieuwe uitdagingen met zich mee. Het vereist uiterste precisie bij uitlijning, oppervlakcontroles, defectmonitoring, warmtebehandelingen en meetmethoden. In een HBM-stapel kan zelfs een klein foutje het geheel onbruikbaar maken. Daarom zegt SK hynix dat het een veelbelovende ontwikkeling is, maar nog geen grootschalige uitrol heeft bevestigd.
Deze ontwikkeling zendt een heldere boodschap naar de markt: de volgende grens in AI gaat niet alleen over nieuwe GPU’s, maar vooral over hoe de geheugensystemen worden vervaardigd, verbonden en gekoeld. Het prestatieniveau van AI-platforms zal steeds meer afhankelijk worden van geavanceerde packaging. SK hynix wil haar voorsprong behouden voordat Samsung en Micron de kloof verkleinen.
Veelgestelde vragen
Wat heeft SK hynix geverifieerd?
SK hynix heeft een 12-laags HBM-stapel getest die via hybrid bonding is verbonden, een directe verbindingstechnologie tussen dies gericht op verbeterde dichtheid, prestaties en efficiëntie.
Wat is hybrid bonding in HBM-geheugen?
Een techniek waarbij chiplagen direct met elkaar verbonden worden, meestal via koper-koper contactpunten, waardoor bumpgebruik wordt verminderd of geëlimineerd. Dit kan leiden tot hogere bandbreedte, lager energieverbruik, kortere stapelhoogte en betere thermische prestaties.
Produceert SK hynix al massaal HBM met hybrid bonding?
Nog niet. Het bedrijf werkt eraan om de yield op te voeren voor massaproductie, maar heeft geen concrete cijfers of bevestigde commerciële productie met deze technologie bekendgemaakt.
Waarom is dit belangrijk voor AI?
Omdat AI-versnellers afhankelijk zijn van HBM met hoge bandbreedte en capaciteit. Verbeteringen in packaging kunnen zorgen voor denso modules, snellere data-overdracht en efficiëntere systemen voor toekomstige GPU’s en HPC-omgevingen.
via: wccftech