← Retour au Blog

Time-slicing ou MIG quand une seule carte doit servir plusieurs pods


Une carte GPU de centre de calcul sur un tapis

Une carte, quatre pods, trois en Pending. Le cluster dit vrai. Sans mode de partage, un GPU est un seul périphérique.

Le problème

On active les deux idées en même temps, ou on active MIG sur une carte qui ne le supporte pas. Le device plugin publie alors un compte que personne ne demande, et les manifestes existants cassent.

Comment je choisis

MIG découpe la carte en instances isolées. La mémoire et le calcul restent séparés. Il faut une carte compatible, et changer la géométrie interrompt les charges de ce nœud. Je le prends quand deux équipes partagent une carte et qu'un job ne doit pas pouvoir prendre la mémoire de l'autre.

Le time-slicing garde un seul périphérique et y pose plusieurs pods. Il n'y a pas de mur mémoire. Un pod peut prendre toute la VRAM. Je le prends pour de petits modèles dont je sais déjà qu'ils tiennent ensemble, et je mets quand même une limite dans le serveur.

Je ne règle qu'une stratégie dans la ClusterPolicy. Ensuite je mets à jour les demandes des pods. Je ne laisse pas d'anciennes demandes nvidia.com/gpu: 1 sur un nœud qui ne publie plus ce nom.

La mise en place est dans l'article sur l'opérateur.

Conseil & Partenariat Ingénierie de Plateforme et Cloud

Besoin d'un accompagnement senior pour fiabiliser et faire évoluer votre infrastructure ?

Des clusters Kubernetes et Talos Linux bare-metal à la réduction substantielle de facture cloud, en passant par la résolution des verrous PostgreSQL et l'architecture IA souveraine, j'interviens directement avec vos équipes de production.