Akamai lanceert Akamai Cloud Inference voor verbeterde AI-inferentie
Amsterdam, Nederland – Akamai, de toonaangevende speler op het gebied van cyberbeveiliging en cloud computing die online bedrijven ondersteunt en beschermt, heeft zijn nieuwste product, Akamai Cloud Inference, gepresenteerd. Dit markeert het begin van een nieuw tijdperk van snellere en efficiëntere innovaties voor organisaties die op zoek zijn naar de implementatie van voorspellende modellen en grote taalmodellen (LLM’s).
Akamai Cloud Inference draait op het Akamai Cloud-netwerk, dat wordt beschouwd als het meest gedistribueerde netwerk ter wereld. Dit is bedoeld om de toenemende beperkingen van gecentraliseerde cloudmodellen tegen te gaan. "Het is een uitdaging om AI-gegevens dichter bij gebruikers en apparaten te brengen, en dat is een gebied waar traditionele cloud-oplossingen vaak tekortschieten," zegt Francisco Arnau, vice-president van Akamai voor Spanje en Portugal.
Arnau voegt daaraan toe: "Terwijl het harde werk van het trainen van LLM’s nog steeds zal plaatsvinden in grootschalige datacenters, zal de toepasbare inferentie plaatsvinden aan de rand. Het netwerk dat Akamai in de afgelopen tweeënhalf decennium heeft gebouwd, wordt cruciaal voor de toekomst van AI en onderscheidt ons van andere cloud-aanbieders."
AI-inferentie in de Akamai Cloud
De nieuwe oplossing van Akamai biedt tools waarmee ingenieurs en ontwikkelaars AI-toepassingen en dataverwerkende workloads dichter bij de eindgebruikers kunnen bouwen en uitvoeren. Dit kan resulteren in een prestatieverbetering tot drie keer beter en een verlaging van de latentie tot 2,5 keer. Met Akamai Cloud Inference kunnen bedrijven tot 86% besparen op AI-inferenties en workflows in vergelijking met traditionele hypercloud-infrastructuur.
Akamai Cloud Inference omvat verschillende innovatieve componenten:
Computing: Dit biedt een breed scala aan computermogelijkheden, van klassieke CPU’s voor gerichte inferentie tot krachtige GPU-accelerators. Akamai integreert met Nvidia’s AI-ecosysteem en maakt gebruik van technologieën zoals Triton en TensorRT om de prestaties van AI-inferentie te optimaliseren.
Gegevensbeheer: Met partnerschappen, zoals met VAST Data, stelt Akamai klanten in staat om AI-inferentie volledig te benutten door realtime geoptimaliseerde gegevensaccess te bieden. Dit versnelt de belangrijkste taken die nodig zijn voor relevante resultaten en responsieve ervaringen.
Containerisatie: De containerisatie van AI-workloads stelt bedrijven in staat om hun toepassingen autonoom te schalen, de veerkracht van applicaties te vergroten en hybride-multicloud-portabiliteit te verbeteren.
- Edge Computing: Met behulp van WebAssembly (WASM) maken ontwikkelaars gebruik van de Akamai AI Inference-mogelijkheden om inferenties direct vanuit serverless-applicaties uit te voeren.
Van training naar inferentie
Met de verschuiving naar een uitgebreider gebruik van AI herkennen bedrijven de afleiding die de stijging van LLM’s met zich mee heeft gebracht. Dit leidt tot een focus op praktische AI-oplossingen die veel meer gericht zijn op het oplossen van specifieke zakelijke vraagstukken. Noemenswaardig is dat lichtere AI-modellen beter rendement opleveren en geoptimaliseerd kunnen worden voor specifieke sectoren.
De behoefte aan een gedistribueerde cloud
Naarmate data steeds meer buiten gecentraliseerde datacenters worden gegenereerd, groeit de vraag naar AI-oplossingen die data dichter bij de bron lever toen. Dit roept om een fundamentele herconfiguratie van de infrastructuurbehoeften van bedrijven.
Arnau concludeert: "Het maken van een LLM is als het maken van een kaart; het vergt tijd en middelen. AI-inferentie is echter als een GPS: het gebruikt die kennis direct, herberekent in realtime en past zich aan veranderingen aan om sneller en slimmer beslissingen te nemen."
Met Akamai Cloud Inference kunnen bedrijven dus een stap vooruit zetten in de wereld van AI, met tools die niet alleen de technologische maar ook de zakelijke prestaties verbeteren.