تخبرك هذه المدونة عن الأخطاء الأكثر شيوعًا التي ترتكبها الشركات عند إنشاءخوادم وحدة معالجة الرسوماتلعمل الذكاء الاصطناعي. وبهذه الطريقة، يمكنك تجنب الصداع والحصول عليه بشكل صحيح من المرة الأولى.
هل تعلم؟
حول 80% من مشاريع الذكاء الاصطناعي لا تتجاوز المرحلة التجريبية أو مرحلة إثبات المفهوم في الإنتاج الكامل. يحدث هذا عادةً بسبب سوء التخطيط أو نقص الموظفين المهرة أو مشاكل البنية التحتية. وهذا يوضح سبب أهمية إعداد وإعداد أنظمة مثل معالجة الرسومات الخوادم بشكل صحيح قبلاستخدامها لتجنب التأخير وضعف الأداء.
يحتاج إطلاق مشاريع الذكاء الاصطناعي إلى قوة حاسوبية كبيرة. وهنا يأتي دور وحدة معالجة رسومات مخصصة الخوادم تدخل الصورة. لكن الكثير من الفرق تتعامل مع عملية النشر وكأنها عملية توصيل وتشغيل، ثم تتساءل عن سبب انهيار كل شيء بعد ثلاثة أشهر.
الوجبات الرئيسية
- أعطال التبريد تدمر الأجهزة باهظة الثمن بشكل أسرع مما تعتقد
- عادة ما يأتي اختيار وحدات معالجة الرسومات بناءً على المواصفات وحدها بنتائج عكسية
- يمكن لحزمة البرامج الخاصة بك أن تصنع كل شيء أو تحطم كل شيء
- متطلبات الطاقة التي تصطاد معظم الفرق على حين غرة
- إن تخطي المراقبة هو في الأساس طلب للمشاكل
لماذا يندفع الجميع إلى نشر وحدة معالجة الرسومات؟
- رئيسك يريد نتائج بالأمس. كان الجدول الزمني للمشروع عدوانيًا حتى قبل أن يبدأ. الجميع يضايقك بشأن موعد جاهزية نموذج الذكاء الاصطناعي. لذا، تقوم بطلب الأجهزة، وتجمعها وتأمل في الأفضل.
- هذا النهج يحرق المال ويضيع الوقت. تحتاج إلى فهم شكل أعباء العمل لديك قبل شراء أي شيء. هل تقوم بتدريب نماذج لغوية ضخمة تستهلك الذاكرة على الإفطار؟ أم تقوم بتشغيل مهام الاستدلال التي تهتم أكثر بالإنتاجية؟
- اقضِ بضعة أيام في الاختبار على مثيلات وحدة معالجة الرسومات السحابية أولاً. نعم، يكلفك ذلك بعض المال مقدمًا، ولكن اكتشاف أن الإعداد الذي اخترته لا يعمل بعد أن تكون قد اشتريت أجهزة بقيمة $100K، سيضر أكثر. وثّق كل شيء أثناء الاختبار. تخبرك هذه الأرقام بما تحتاجه بالضبط.
ما هي مشكلة التبريد؟
- تولد وحدات معالجة الرسومات الكثير من الحرارة. تبعث وحدة معالجة رسومات واحدة من الدرجة الأولى حرارة تعادل حرارة سخان الفضاء. تخيل الآن ثمانية من هذه الوحدات في خادم واحد. لن يفي تكييف مكتبك القياسي بالغرض.
- إليك ما يحدث عندما تتجاهل التبريد: تكاليفك الباهظة خادم وحدة معالجة الرسومات يبدأ في اختناق الأداء لتجنب طهي نفسه. تستغرق مهام التدريب ضعف الوقت. تقضي أسابيع في تصحيح “مشاكل الأداء” التي هي مجرد مشاكل حرارية. تضغط بشدة لفترة طويلة جداً، وتبدأ المكونات بالفشل مبكراً.
- تحتاج إلى تصميم مناسب لتدفق الهواء. يجب أن يخرج الهواء الساخن ويدخل الهواء البارد. تحتاج بعض التجهيزات إلى تبريد سائل لأن الهواء لا يمكنه نقل الحرارة بسرعة كافية. احسب إخراج BTU الخاص بك قبل وصول الخوادم. تأكد من أن فريق المرافق الخاص بك يعرف ما هو قادم.
كيف تختار وحدة معالجة الرسومات المناسبة؟
- إن التسوق لشراء وحدات معالجة الرسومات من خلال مقارنة أوراق المواصفات هو الطريقة التي ينتهي بك الأمر بها إلى شراء الأجهزة الخاطئة. لا تخبرك أرقام التسويق ما إذا كانت وحدة معالجة الرسومات تناسب حالة استخدامك.
- سعة الذاكرة مهمة للغاية بالنسبة للذكاء الاصطناعي. إذا كان طرازك يحتاج إلى 40 جيجابايت واشتريت بطاقات بسعة 24 جيجابايت، فأنت عالق. لا يمكنك ترقية ذاكرة وحدة معالجة الرسومات لاحقًا، فهي ملحومة. إما أن تجعلها تعمل من خلال حلول مؤلمة أو تشتري بطاقات جديدة.
- ولكن هنا تكمن المشكلة: المزيد من الذاكرة ليس دائماً هو الحل. في بعض الأحيان تصطدم بحدود الحوسبة وليس بحدود الذاكرة. فهم عنق الزجاجة الفعلي يوفر آلاف الدولارات. قم بتشغيل أدوات التنميط على التعليمات البرمجية الخاصة بك. اكتشف أين تتباطأ الأمور. ثم طابق الأجهزة مع تلك الاحتياجات المحددة.
- لا يحتاج كل شيء إلى دقة عالية أيضًا. الكثير من أعمال الاستدلال تعمل بشكل جيد على INT8. أنت لا تحتاج إلى وحدة معالجة رسومات مصممة للحوسبة العلمية إذا كنت تقوم فقط بالاستدلال الإنتاجي.
هل يمكن تشغيل برنامجك بالفعل على هذه الأجهزة؟
- الأجهزة عديمة الفائدة إذا لم تعمل عليها برامجك. يبدو الأمر واضحاً، أليس كذلك؟ ومع ذلك تكتشف الفرق باستمرار كوابيس التوافق بعد النشر.
- قد لا يعمل إصدار CUDA الذي يحتاجه إطار العمل الخاص بك مع إصدار برنامج التشغيل الخاص بك. أو قد تتطلب بنية PyTorch المفضلة لديك تبعيات تتعارض مع أدوات أخرى تحتاجها. تستغرق هذه المشاكل أيامًا أو أسابيع من استكشاف الأخطاء وإصلاحها. إن خادم كمبيوتر GPU يجلس هناك لا يفعل شيئًا بينما المطورون يضربون رؤوسهم في جحيم التبعية.
- قم ببناء حزمة البرامج بالكامل في حاويات قبل طلب الأجهزة. يجعل Docker هذا الأمر قابلاً للإدارة. احصل على PyTorch و TensorFlow وبرامج تشغيل CUDA وكل شيء يعمل معًا في حاوية. اختبر شفرتك الفعلية ضدها.
- اكتب كل رقم إصدار، وكل علامة تكوين، وكل متغير بيئة. عندما يتعطل شيء ما بعد ستة أشهر (وسيتعطل)، ستحتاج إلى تلك الوثائق.
لماذا تؤلمك فاتورة الكهرباء كثيرًا؟
- لا أحد يفكر في الكهرباء حتى وصول أول فاتورة. كل وحدة معالجة رسومات تستهلك 300-500 واط. وحدات المعالجة المركزية، والذاكرة، والتخزين، والمراوح، كل ذلك يتراكم. قد يحتاج خادم كمبيوتر مزود بـ 8 وحدات معالجة رسومات محملة بالكامل إلى دوائر كهربائية مخصصة بقدرة 30 أمبير.
- ربما لم يكن مكتبك موصلاً بأسلاك لهذا الغرض. لن تتعامل المنافذ القياسية مع ذلك. أنت بحاجة إلى كهربائي لتركيب دوائر كهربائية مناسبة بتيار كهربائي كافٍ. تخطي هذه الخطوة يعني تعثر القواطع في أحسن الأحوال، ومخاطر الحريق في أسوأ الأحوال.
- ثم هناك التكلفة الشهرية. تعمل هذه الأجهزة على مدار الساعة طوال أيام الأسبوع. بسعر $0.12 تيرابايت لكل كيلوواط/ساعة، يكلف خادم واحد بقدرة 4 كيلوواط حوالي $350 شهرياً من الكهرباء فقط. متعددة خوادم GPU مخصصة لوحدة معالجة الرسومات? قم بالحساب. هذا قبل تكاليف التبريد، التي تضيف 30-501 تيرابايت إلى فاتورة الطاقة.
- ميزانية أنظمة UPS أيضًا. تعطل انقطاعات الطاقة عمليات التدريب. تتسبب الطاقة غير الصالحة في إتلاف المكونات.
هل شبكتك تخنق الأداء؟
- تقوم وحدات معالجة الرسومات بمعالجة الأرقام بسرعة جنونية. فهي تحتاج إلى توصيل البيانات بنفس السرعة، وإلا ستبقى في وضع الخمول أثناء انتظار الدفعة التالية. تقتل اختناقات الشبكة كفاءة وحدة معالجة الرسومات.
- لن تفي شبكة جيجابت إيثرنت القياسية بالغرض في العمل الجاد في مجال التعلم الآلي. تحتاج إلى 10 جيجابت إيثرنت كحد أدنى، ويفضل أن يكون أسرع. التدريب الموزع عبر أجهزة متعددة؟ هذا يحتاج إلى إنفيني باند أو 100 جيجابت إيثرنت. نعم، إنه مكلف. إن مشاهدة استثمار وحدة معالجة الرسومات $200K الخاص بك يعمل باستخدام 20% لأن الشبكة لا تستطيع مواكبة ذلك هو أكثر تكلفة.
- التخزين مهم أيضًا. تحميل بيانات التدريب من تخزين الشبكة البطيء يخلق نفس المشكلة. تساعد محركات أقراص NVMe المحلية، ولكنك في النهاية تحتاج إلى مسارات شبكة سريعة إلى أي مكان تعيش فيه مجموعات بياناتك.
- لكن في بعض الأحيان لا يكون الحل في الأجهزة. تحسين خط أنابيب البيانات لديك. غالبًا ما يساعد التخزين المؤقت الأفضل، والمعالجة المسبقة الأكثر ذكاءً، وتحميل البيانات بكفاءة، وتحسينات البرامج أكثر من مجرد إلقاء عرض النطاق الترددي على المشكلة.
الحصول عليها بشكل صحيح أهم من التسرع في إنجازها.
يؤدي التسرع في نشر وحدة معالجة الرسومات إلى مشاكل مكلفة يستغرق إصلاحها شهورًا. خذ وقتك مقدمًا للتخطيط بشكل صحيح. اختبر افتراضاتك. حدد حجم بنيتك التحتية بشكل صحيح.
تتغير التكنولوجيا بسرعة. قد يحتاج إعدادك المثالي اليوم إلى ترقيات في غضون عامين. قم ببناء المرونة من البداية. اترك مساحة لسعة طاقة أكبر، وتبريد أفضل، وشبكات أسرع.
تحدث إلى الأشخاص الذين قاموا بذلك من قبل. تتبادل مجتمعات الذكاء الاصطناعي وتعلم الآلة قصص حرب النشر باستمرار. انتبه إلى أخطاء الآخرين حتى لا تضطر إلى ارتكاب نفس الأخطاء بنفسك.
تكلف خوادم GPU السحابية أموالاً طائلة. يضمن لك التخطيط السليم الحصول على قيمة من هذا الاستثمار بدلاً من مشاهدة أدائها الضعيف أو تعطلها. قم بعمل البنية التحتية المملة بشكل صحيح، وستحصل مشاريع الذكاء الاصطناعي الخاصة بك على أرضية صلبة للبناء عليها.
