Red Hat, wereldwijde leverancier van open source-oplossingen, kondigt belangrijke nieuwigheden aan in haar Red Hat AI-portfolio met de lancering van Red Hat AI 3.5.
Naarmate bedrijven de eerste experimentatiefasen en proefprojecten verlaten en zich richten op de implementatie van kunstmatige intelligentie, staan IT- en platformengineeringverantwoordelijken voor de uitdaging om deze technologieën even rigoristisch te beheren als kritieke infrastructuren.
In dit kader biedt Red Hat AI 3.5 een schaalbare basis voor het beheren, beveiligen en monitoren van AI-workloads in hybride cloudomgevingen, met als doel de kloof te verkleinen tussen geïsoleerde AI-proefprojecten en een volledig governmenteerde bedrijfsarchitectuur.
Wat is Red Hat AI 3.5?
Red Hat AI 3.5 geeft organisaties de operationele infrastructuur om kunstmatige intelligentie in productie te brengen en het gebruik ervan in hybride omgevingen uit te breiden, met nieuwe beveiligings- en observability-functies. De nieuwe versie maakt het mogelijk om modellen vóór implementatie te evalueren via EvalHub, met vergelijkende veiligheidsproeven gericht op risico’s en het genereren van nalevingscertificaten.
De nieuwe dashboards voor observability bieden platformteams uitgebreide metrics om in realtime de status van inferentie, GPU-gebruik en modelprestaties te monitoren. Daarnaast kunnen niet-beheerder gebruikers dashboards bekijken die interne kostenallocatie op basis van tokens per gebruiker en gedistribueerde inferentie-workloads inzichtelijk maken.
Bovendien breidt Red Hat AI 3.5 de enterprise-platformcapaciteiten uit met verbeterde multi-tenant-ondersteuning, gericht op AI-servicesproviders en gebruiksscenario’s die volledige isolatie vereisen, van hardware tot software. Ook bevat het een prioriteit-gebaseerde service met native multi-tenant-architectuur voor gedeelde GPU-infrastructuren.
Voor organisaties die een hogere mate van scheiding tussen tenants nodig hebben, ondersteunt Red Hat AI nu officieel het draaien op gehoste control planes van Red Hat OpenShift, uitgezet via Red Hat OpenShift Virtualization. Deze control planes maken het mogelijk voor elke tenant een onafhankelijk cluster control plane toe te wijzen, terwijl onderliggende hardware gedeeld blijft.
Daarnaast zorgt het draaien van AI-workloads op virtuele machines binnen Red Hat OpenShift Virtualization voor een robuuste isolatie op VM-niveau in gedeelde infrastructuren met GPU-capaciteit. Samen stellen deze functies infrastructuurleveranciers in staat om het volledige onderliggende ecosysteem te beheren en te updaten vanaf één centraal punt.
Nieuwe functies voor AI-agents
Red Hat AI 3.5 vergemakkelijkt ook de ontwikkeling van AI-agenten onder governance-mechanismen. AutoRAG maakt het mogelijk om direct datasystemen van de onderneming te verbinden met agentapplicaties en bevat functies zoals meertalige documentondersteuning, conversatieproeven en contextuele retrieval.
Een visueel pipeline biedt teams de mogelijkheid om RAG-configuraties vooraf te testen voordat ze in productie gaan. Daarnaast bevatten agent-templates al geconfigureerde implementaties voor gangbare use cases zoals code review, documentverwerking en onderzoeksworkflows.
Na deployment maken Inference-Time Scaling (ITS) het mogelijk GPU-verbruik te optimaliseren door een dynamische capaciteit aanpassing gebaseerd op de complexiteit van elke query.
Waarom is Red Hat AI 3.5 belangrijk?
Naarmate bedrijfsproefprojecten succesvol blijken te zijn en vroege resultaten veelbelovend, moeten IT-teams oplossingen op grote schaal kunnen aanbieden. Echter, opschaling van AI in het hele bedrijf vereist hetzelfde operationele rigor als elke missie-kritische infrastructuur: bewezen veiligheid voorafgaand aan uitrol, nauwkeurige resourcecontrole in gedeelde GPU-omgevingen, governance van agentgedrag en transparante gebruiksmetingen. Veel organisaties aanpakken deze uitdagingen momenteel met gefragmenteerde tools en handmatige processen die niet opschalen. Red Hat AI 3.5 lost dit tekort op door veiligheid, multi-tenant-ondersteuning, agentontwikkeling en observability te integreren in één platform. Het resultaat is een AI-architectuur die functioneert als een verantwoord en governance-gestuurd AI-ecosysteem—niet als een geïsoleerd experiment—in hybride cloudomgevingen.
Standpunten van Red Hat
“De discussie is verschoven van het in productie brengen van AI naar het schalen ervan als betrouwbare bedrijfsinfrastructuur, wat eisen stelt aan beveiligingsbewijs, governance van agenten, kostenattribuering en multi-tenant-ondersteuning,” zegt Joe Fernandes, Vice President en General Manager, AI Business Unit, Red Hat. “Met Red Hat AI 3.5 bieden we operationele controle, verifieerbare betrouwbaarheid en agent-architectuur die IT-leiders nodig hebben om AI uit te voeren als een veilige, gecontroleerde en verantwoorde bedrijfsarchitectuur in de hybride cloud.”
Belangrijkste nieuwigheden:
- Verifieerbare beoordeling en veiligheid voorafgaand aan uitrol: Evaluation-catalogus modellen bevatten nu referentie scores via Garak, en de algemene beschikbaarheid van EvalHub automatiseert veiligheids- en nalevingsrapportage voor op maat gemaakte modellen, RAG en agenten.
- Gedeelde GPU-control voor multi-tenant inferentie: Een eerlijke GPU-planning regelt resource-toewijzing tussen tenants, terwijl prioriteitsgerichte services toetsing en routering van verzoeken op prioriteit bieden, waardoor realtime inferentie wordt beschermd en achtergrondtaken de beschikbare capaciteit kunnen benutten.
- API voor agenten en portalbeveiliging: De algemene support voor Responses API en geïntegreerde RAG biedt een standaard open source interface voor multi-turn agentgesprekken, versterkt door NeMo Guardrails die kwaadaardige oproepen onderscheppen.
- Data-gedreven reasoning en efficiënte verwijzingen: AutoRAG met pgvector-ondersteuning, native AutoML en ITS zorgen dat modellen hun rekencapaciteit dynamisch aanpassen aan de complexiteit van de vraag.
- Ingebouwde observability en kostentoewijzing via MaaS: Gebruikers kunnen token-verbruik monitoren, prestatiemonitors voor modellen en agenten bekijken, visuele agent- en MLflow-tracering en GPU-bruikbaarheid voor transparante operationele inzichten en kostenbeheer.
- Voorgeconfigureerde agent-templates voor snellere ontwikkeling: AI Hub biedt agent-templates en startkits met referentie-implementaties voor veelvoorkomende bedrijfspatronen zoals code review, documentverwerking en research workflows.
Meer details
- Ondersteuning voor hosted control planes en OpenShift Virtualization voor optimale resourcegebruik in multi-tenant omgevingen: Red Hat AI ondersteunt nu officieel gehoste control planes, waardoor elke tenant een eigen control plane krijgt en hardware efficiënter wordt gedeeld. Het draaien van AI-workloads op VMs in OpenShift Virtualization biedt sterke isolatie per VM in gedeelde GPU-infrastructuren.
- Nieuw gecertificeerd modelcatalogus met AI-beveiligingsscores: Meer dan 20 nieuwe gecertificeerde modellen, waaronder Google (Gemma 4), NVIDIA (Nemotron 3) en Alibaba Cloud (Qwen). Ze krijgen uitgebreide performance analyses en integrale beveiligings-, PII- en toxiciteitscores op basis van Garak, voor volledige risico-inzichtelijkheid bij modelselectie.
- Gecertificeerde tools-aanroep-modellen: Een selectie van modellen is nu gemarkeerd als getest en geverifieerd voor tool-integratie, zodat klanten zekerder kunnen kiezen voor agentgebruik.
- Verkeersbeheer en veilige modelupdates: Prioriteitsservices voor verzoekroutering en gecontroleerde updates zorgen voor minimale onderbreking tijdens modelwijzigingen en voor een veilige afhandeling van realtime voorspellingen.
- GPU-geheugenbeheer: Beschikbaarheid van offload naar CPU en ontwikkelaars preview voor opslagoffload maken langere gesprekken en grotere documenten mogelijk zonder extra GPU-kracht.
- Multimodaal platform: Generatie van tekst, audio en beelden via een uniforme servicelaag met vLLM Omni (early access).
- Kruiscloud modelinferenzediensten: Uitbreiding van mixed-inference met llm-d naar andere Kubernetes-platformen buiten OpenShift, waaronder algemeen beschikbare ondersteuning voor CoreWeave CKS en Azure, en tech-preview voor Amazon EKS.
- Agent ontwikkelkits: Vooraf gekalibreerde agent-templates en startpakketten voor gangbare zakelijke patronen, met integratie van frameworks, tools en deployment-instellingen, die werken in sandbox-omgevingen terwijl ze beveiligings- en operationele controles garanderen vanaf eerste deployment.
- Business data workbench: Kubeflow Spark Operator (early access) integreert gedistribueerd dataverwerking direct in je actieve werkomgeving, waardoor datavoorbereiding en modelhosting worden samengebracht. ● GPU as a Service en multi-tenant beheer: Ondersteunt resource-isolatie via namespaces, hosted control planes en real-time hardware-inventaris, gebruiksmonitoring en dynamisch GPU-leenbeheer.