← العودة للمقالات التقنية

ذاكرة البطاقة تبقى محجوزة بعد حذف البود


هيكل خادم رسوم بعد مهمة والبطاقة ما زالت مركبة

أحذف بود الدفتر. بعد دقيقة تموت المهمة التالية قبل تحميل النموذج. على العقدة ما زال nvidia-smi يعرض عملية. كوبرنيتيس يعتبر البود غائبا. البطاقة لا تعتبر ذلك.

المشكلة

حذف البود يرسل SIGTERM ثم SIGKILL بعد مهلة الإيقاف. نواة Jupyter أو عامل vLLM قد يتجاهل الإشارة الأولى. المشغل لا يمسح ذاكرة البطاقة من نفسه.

ما أفعله

  1. على العقدة أشغل nvidia-smi وأسجل رقم العملية.
  2. أضع مهلة إيقاف قصيرة على بودات الرسوم، ثلاثون ثانية تكفي لخادم يتوقف عند SIGTERM.
  3. أضيف preStop يوقف الخادم.
  4. إذا بقي رقم عملية بعد غياب البود أقتل هذه العملية ثم أعيد الجدولة.

لا أشغل دفاتر تفاعلية على البطاقة نفسها التي تخدم استدلال الإنتاج. الإعداد في مقال المشغل.

استشارات وشراكة هندسة البنية التحتية والمنصات

هل تحتاج مهندس أول لحماية واستقرار وتوسيع منصتك السحابية؟

من خوادم كوبرنيتيس وتالوس لينكس المستقلة وتخفيض فواتير السحابة بشكل جذري، إلى ضبط أداء وقفل بوستجريس وبناء مسارات الذكاء الاصطناعي السيادي، أعمل مباشرة مع الفرق الهندسية لبناء أنظمة مرنة ومملوكة بالكامل.