بود vLLM يبقى Pending لأن اسم مورد البطاقة لا يطابق

يبقى بود vLLM في حالة Pending مع الرسالة Insufficient nvidia.com/gpu. البطاقة موجودة في العقدة. الطلب والإعلان اسمان مختلفان، فالمجدول يرى أن العقدة لا تملك ما يأخذه هذا البود.
المشكلة
البطاقة الكاملة اسمها nvidia.com/gpu. شريحة MIG اسمها أطول، مثل nvidia.com/mig-1g.10gb. تقاسم الوقت يبقي الاسم nvidia.com/gpu، لكن العدد هو عدد النسخ لا عدد البطاقات. نسخ ملف من عنقود آخر يبقي الاسم القديم.
الفحص
أقرأ مفاتيح allocatable على العقدة. ثم أجعل البود يطلب هذا المفتاح بعدد تملكه العقدة فعلا. إذا كانت العقدة تعلن اسم MIG فقط، يجب أن يكون الحد هو هذا الاسم. رفع عدد النسخ لا يغير الاسم.
الإعداد في إعداد المشغل.
استشارات وشراكة هندسة البنية التحتية والمنصات
هل تحتاج مهندس أول لحماية واستقرار وتوسيع منصتك السحابية؟
من خوادم كوبرنيتيس وتالوس لينكس المستقلة وتخفيض فواتير السحابة بشكل جذري، إلى ضبط أداء وقفل بوستجريس وبناء مسارات الذكاء الاصطناعي السيادي، أعمل مباشرة مع الفرق الهندسية لبناء أنظمة مرنة ومملوكة بالكامل.