In antwoord op de voortdurende vragen van klanten en partners over de mogelijkheid om het gebruik van virtuele GPU (vGPU) en Passthrough (DirectPath I/O) te combineren om verschillende GPU’s vanuit verschillende VM’s aan te pakken, bevestigt VMware dat dit inderdaad mogelijk is. De algemene aanbeveling is echter om deze twee toegangsmodi te gebruiken in afzonderlijke VM’s op één of meerdere host-servers met verschillende GPU-apparaten.
In het veld van intensief computergebruik, vooral in machine learning-implementaties, heeft deze combinatie opwinding veroorzaakt. De richtlijnen geven aan dat voor maximale flexibiliteit de voorkeur uitgaat naar het gebruik van vGPU. In bepaalde gevallen kan Passthrough echter meer geschikt zijn.
Als u over meer dan één fysieke GPU beschikt in een ESXi-hostserver, kunnen een subset van die fysieke GPU’s worden gebruikt met NVIDIA vGPU-configuratie, terwijl een ander subset kan worden gebruikt als Passthrough-GPU’s. Dit was een veelvoorkomende zorg in de verzoeken van klanten.
Voor een door NVIDIA ondersteunde configuratie is het essentieel om deze toegangstypen in afzonderlijke VM’s en met afzonderlijke fysieke GPU’s te gebruiken. Een VM mag niet tegelijkertijd een GPU Passthrough en een vGPU hebben. Hoewel het mogelijk is om van de ene modus naar de andere over te schakelen, moet de VM worden uitgeschakeld en opnieuw worden geconfigureerd in de vSphere-client.
Het belangrijkste verschil tussen Passthrough en vGPU ligt in hoe ze met de GPU omgaan:
- Passthrough: Biedt volledige toegang tot de GPU aan één enkele VM, waarbij de tussenkomst van de hypervisor wordt geminimaliseerd. Eenmaal opgezet, wordt de NVIDIA Data Center-stuurprogramma geïnstalleerd in de VM.
- vGPU: Ideaal voor het delen van een fysieke GPU tussen meerdere VM’s, wat Passthrough niet toestaat. Om vGPU mogelijk te maken, moet de Grafische modus van de ESXi-host worden geconfigureerd op de modus SharedPassthru.
De discussie behandelde ook drie specifieke NVIDIA GPU-stuurprogramma’s:
- NVIDIA Data Center-stuurprogramma: Exclusief voor VM’s in Passthrough-modus.
- NVIDIA Virtual GPU Host-stuurprogramma (vGPU Manager): Geïnstalleerd op de ESXi-hypervisor, biedt vGPU-profielen voor VM’s.
- NVIDIA vGPU Grid Linux-stuurprogramma: Geïnstalleerd in het gastbesturingssysteem van een VM, maakt vGPU-toegang mogelijk.
Het is essentieel om het Data Center-stuurprogramma (driver #1) niet te verwarren met het vGPU Grid Linux-stuurprogramma (driver #3) bij het configureren van een VM voor GPU-toegang. Hoewel ze op elkaar lijken, hebben ze verschillende functies.
Tenslotte werden voorbeelden behandeld waarin meerdere GPU’s op één host werken. Het is cruciaal om de VM’s te scheiden, afhankelijk van of ze vGPU of Passthrough nodig hebben.
Deze technologische vooruitgang biedt een belangrijke kans om de operaties op het gebied van computergebruik te verbeteren en te diversifiëren, en biedt gebruikers meer flexibele en geoptimaliseerde oplossingen.
bron: Vmware Blog