IBM heeft een baanbrekende vooruitgang in optische technologie aangekondigd die belooft de manier waarop datacenters generatieve kunstmatige intelligentie (AI) modellen trainen en uitvoeren te transformeren. Het bedrijf heeft een innovatief proces ontwikkeld voor co-verpakte optica (CPO), wat verbindingen binnen datacenters met de snelheid van het licht mogelijk maakt, en de bestaande elektrische korteafstandskabels aanvult.
Met deze vooruitgang introduceert IBM de eerste prototype module gebaseerd op een polymeer golfgeleider (PWG), die herdefinieert hoe de stroom van gegevens met hoge snelheid wordt verzonden tussen chips, printplaten en servers. Deze ontwikkeling zou het begin kunnen zijn van een nieuw tijdperk van snellere en duurzamere communicatie binnen datacenters.
Optische technologie bereikt het hart van datacenters
Hoewel optische vezels al data met hoge snelheid over lange afstanden transporteren, vertrouwen datacenters nog steeds grotendeels op koperkabels voor hun interne communicatie. Dit leidt tot inefficiënties, zoals inactiviteitsperioden in GPU-versnellers, die meer dan de helft van de tijd kunnen doorbrengen met het wachten op gegevens van andere apparaten.
IBM heeft een stap vooruit gezet door aan te tonen hoe optica deze interne communicaties aanzienlijk kan versnellen. Volgens een technische studie kan hun CPO-module de gegevensoverdrachtssnelheid tot 80 keer verhogen in vergelijking met de huidige elektrische verbindingen. Deze vooruitgang vermindert niet alleen de wachttijd in AI-model training processen, maar belooft ook:
- Reductie van energiekosten: Meer dan 80% vermindering in energieverbruik vergeleken met de huidige middelgangige elektrische interconnectoren.
- Verhoogde snelheid van AI model training: Zou het trainen van taalmodellen (LLM) tot vijf keer sneller kunnen maken, waarbij de trainingstijd wordt teruggebracht van drie maanden tot slechts drie weken.
- Verbeterde energie-efficiëntie: Elk getraind AI-model zou een energiebesparing kunnen realiseren equivalent aan het jaarlijkse verbruik van 5.000 Amerikaanse huishoudens.
Dario Gil, senior vicevoorzitter en directeur van onderzoek bij IBM, verklaarde: “Naarmate generatieve AI meer energie en rekenkracht vraagt, moeten datacenters evolueren. Co-verpakte optica kunnen deze centra efficiënter en toekomstbestendig maken.”.
Voorbij de grenzen van elektrische verbindingen
De vooruitgang van IBM is gebaseerd op het ontwerp en de montage van een PWG met hoge dichtheid die zes keer meer optische vezels aan de rand van een siliciumfotonica-chip kan integreren dan de huidige technologieën. Elke vezel, met slechts driemaal de breedte van een mensenhaar, kan terabits aan gegevens per seconde over afstanden van centimeters tot honderden meters overbrengen.
Daarnaast hebben de CPO-modules van IBM alle noodzakelijke stress tests voor de productie doorstaan, inclusief extreme temperaturen (-40°C tot 125°C), hoge vochtigheid en mechanische duurzaamheid. Deze kenmerken maken de technologie geschikt voor massale implementatie in de industrie.
De impact op datacenters en generatieve AI
De implementatie van deze optische technologie in datacenters verbetert niet alleen de prestaties, maar gaat ook de groeiende energie-eisen van generatieve AI tegen. In de afgelopen jaren is de transistor dichtheid op chips significant toegenomen; bijvoorbeeld, IBM’s 2 nanometer technologie bevat meer dan 50 miljard transistors op een enkele chip. Door optische verbindingen te introduceren, pakt IBM de uitdaging aan van schaalvergroting van deze interconnecties zonder de beperkingen van elektrische routes.
Een nalatenschap van innovatie in halfgeleiders
Deze vooruitgang versterkt IBM’s leiderschap in het onderzoek en ontwikkeling van halfgeleiders. Tot hun eerdere prestaties behoren de creatie van de eerste 2 nm chip, de implementatie van 7 nm en 5 nm proces technologieën, en vooruitgang in nanosheet en verticale transistoren.
Het werk van ontwerp, modellering en simulatie van de CPO werd uitgevoerd in Albany, New York, terwijl de prototypen en modules werden geassembleerd in de IBM-faciliteiten in Bromont, Quebec. Dit laatste, deel van de Semiconductor Corridor in het noordoosten van de Verenigde Staten en Canada, is al tientallen jaren een wereldwijde referentie voor chipverpakking.
Conclusie
IBM blijft het tempo van innovatie in het veld van computing en halfgeleiders leiden. Hun nieuwe optische technologie belooft niet alleen de training van AI-modellen te versnellen maar ook de energie-efficiëntie en capaciteiten van datacenters te transformeren. Naarmate de vraag naar AI groeit, positioneert deze vooruitgang IBM als een belangrijke speler in de creatie van snellere, duurzamere en toekomstbestendige infrastructuren.