← Retour au Blog

vLLM reste Pending parce que le nom de ressource GPU ne correspond pas


Serveur d’inférence au repos, carte présente, aucune charge

Le pod vLLM reste Pending avec Insufficient nvidia.com/gpu. La carte est bien dans le nœud. La demande et l'annonce n'ont pas le même nom de ressource. Pour l'ordonnanceur, le nœud n'a rien à donner à ce pod.

Le problème

Une carte entière s'appelle nvidia.com/gpu. Une tranche MIG a un nom plus long, du type nvidia.com/mig-1g.10gb. Le time-slicing garde le nom nvidia.com/gpu, mais le compte est le nombre de répliques, pas le nombre de cartes. Un manifeste copié d'un autre cluster garde l'ancien nom.

Le contrôle

Je lis les clés allocatable du nœud. Ensuite le pod demande cette clé, avec un nombre que le nœud possède vraiment. Si le nœud ne publie qu'un nom MIG, la limite doit être ce nom. Monter le nombre de répliques ne change pas le nom.

La mise en place est dans la note opérateur.

Conseil & Partenariat Ingénierie de Plateforme et Cloud

Besoin d'un accompagnement senior pour fiabiliser et faire évoluer votre infrastructure ?

Des clusters Kubernetes et Talos Linux bare-metal à la réduction substantielle de facture cloud, en passant par la résolution des verrous PostgreSQL et l'architecture IA souveraine, j'interviens directement avec vos équipes de production.