Kunstmatige intelligentie (KI) revolutioneert de productiviteit van kenniswerkers over de hele wereld met autonome agenten die in staat zijn complexe taken uit te voeren. Echter, de veilige en betrouwbare implementatie van deze agenten brengt belangrijke uitdagingen met zich mee in verband met vertrouwen, veiligheid en naleving van regelgeving. Om deze uitdagingen aan te pakken, heeft NVIDIA de NIM-microservices gelanceerd als onderdeel van hun NeMo Guardrails-collectie, ontworpen om generatieve KI-toepassingen te beschermen.
NIM-microservices: een oplossing voor veiligere AI-agents
De NIM-microservices zijn geoptimaliseerde en draagbare inferentiemodellen die bedrijven in staat stellen betrouwbaardere en veiligere AI-agents te ontwikkelen. Deze diensten helpen ongepaste of uit context antwoorden te voorkomen en beschermen applicaties tegen kwaadwillende manipulatiepogingen, ook wel ‘jailbreaks’ genoemd. Deze agents worden al gebruikt in sectoren zoals financiën, gezondheidszorg, automobiel, productie en detailhandel, waarbij de tevredenheid en vertrouwen van klanten worden verbeterd.
Enkele nieuwe microservices die door NVIDIA zijn gelanceerd, zijn onder meer:
- Contentmoderatie: Ontworpen om bevooroordeelde of schadelijke antwoorden te voorkomen, waarbij ervoor wordt gezorgd dat deze kloppen met ethische normen.
- Controle van onderwerpen: Houdt gesprekken gericht op goedgekeurde onderwerpen, waarbij ongepaste afwijkingen worden vermeden.
- Detectie van jailbreakpogingen: Versterkt de integriteit van de KI-modellen door manipulatiepogingen te identificeren en te beperken.
Hoe NeMo Guardrails werkt
NeMo Guardrails is een platform binnen het NeMo-ecosysteem van NVIDIA dat ontwikkelaars in staat stelt om veiligheidsbeleid te beheren in toepassingen die gebruikmaken van grootschalige taalmodellen (LLM’s). Deze tools zijn essentieel voor AI-agents om op grote schaal te opereren terwijl ze gecontroleerd en veilig gedrag behouden.
Een belangrijk aspect van NeMo Guardrails is de focus op kleinere en meer gespecialiseerde modellen, wat zorgt voor een lage latentie en efficiënte werking, zelfs in omgevingen met beperkte middelen, zoals ziekenhuizen of magazijnen. Bovendien is de tool compatibel met andere AI-observatie- en controle-systemen, zoals ActiveFence, Hive, Fiddler AI en Weights & Biases, waardoor een uitgebreid kader wordt gecreëerd voor de ontwikkeling en monitoring van KI-toepassingen.
Gebruiksscenario’s en adoptie in de industrie
Leidende bedrijven zoals Amdocs, Cerence AI en Lowe’s gebruiken NeMo Guardrails al om de veiligheid van hun KI-toepassingen te garanderen.
- Amdocs gebruikt NeMo Guardrails in hun amAIz-platform, waardoor hun vermogen tot ‘betrouwbare KI’ versterkt wordt en meer veilige en accurate interacties met klanten worden aangeboden.
- Cerence AI, gespecialiseerd in intelligente assistenten voor voertuigen, gebruikt deze tools om contextueel passende interacties te waarborgen en ongepaste antwoorden in hun lijn van taalmodellen te voorkomen.
- Lowe’s past de technologie toe om de ervaring van hun winkelmedewerkers te verbeteren, door veilige en betrouwbare antwoorden te faciliteren op klantvragen.
Deze implementaties benadrukken de veelzijdigheid van NeMo Guardrails, dat ook is geïntegreerd in oplossingen van consultancybedrijven zoals Taskus, Tech Mahindra en Wipro om meer gecontroleerde en betrouwbare generatieve KI-toepassingen te creëren.
Open source tools om de veiligheid van KI te testen
NVIDIA heeft ook Garak gelanceerd, een open source tool om de robuustheid van LLM’s en KI-systemen te evalueren. Garak stelt ontwikkelaars in staat om kwetsbaarheden zoals datalekken, promptinjecties of codeerfouten te identificeren. Op deze manier kunnen ontwikkelaars de veiligheid en prestaties van hun toepassingen versterken voordat ze worden geïmplementeerd.
Beschikbaarheid
De NIM-microservices van NVIDIA, samen met NeMo Guardrails en de Garak-tool, zijn nu beschikbaar voor ontwikkelaars en bedrijven. Met deze technologie biedt NVIDIA een robuust kader waardoor AI-agenten niet alleen effectiever, maar ook veiliger en betrouwbaarder zijn.
NVIDIA bevestigt opnieuw haar toewijding aan innovatie in KI, terwijl het tegelijkertijd kritieke veiligheids- en nalevingsuitdagingen aanpakt die bedrijven tegenkomen op hun weg naar de adoptie van autonome agenten.
via: Nvidia