بنى GPU التحتية
سيرفر GPU للذكاء الاصطناعي: الاختيار والتركيب والتشغيل
سيرفر GPU في مقرك أو في السحابة أو لدى مزوّد استضافة: اختيار البطاقات وLinux وCUDA أو ROCm والتخزين والشبكة والاستلام لتشغيل سيرفر الذكاء الاصطناعي.

شراء جهاز، أو استئجار موارد، أو إيداع سيرفرك لدى مزوّد استضافة: يمكن للخيارات الثلاثة أن تلبي حاجة حسابية. لكنها لا توزّع التكاليف والمسؤوليات بالطريقة نفسها.
السؤال الأول: ما العمل الذي يجب تنفيذه؟
تشغيل نموذج لعدة مستخدمين، أو إطلاق عمليات تدريب متفرقة، أو تنفيذ حسابات طويلة، لا يُثقل البنية التحتية بالطريقة نفسها. قبل مقارنة معالجات الرسومات، صف حجم العمل وكيف يتغير خلال الأسبوع.
بالنسبة للنموذج اللغوي الكبير، لا تمثل ذاكرة الأوزان وحدها كل الذاكرة اللازمة. فالسياق والطلبات المتزامنة ومحرك التشغيل تدخل أيضًا في تحديد المواصفات. ويساعد التحقق على حالة تمثيلية في مقارنة الافتراضات بالتشغيل الفعلي.
التركيب في مقرك
تُبقي الجهاز قريبًا منك. لكن يجب التخطيط للكهرباء والتبريد والضوضاء والاتصال والأشخاص الذين سيديرونه. فمحطة في مكتب وسيرفر رف لا يخضعان للقيود نفسها.
حدّد ما يجب أن يبقى في الموقع وما يمكن أن يستخدم خدمات خارجية. فمكان الجهاز وحده لا يكفي لوصف كل تدفقات البيانات.
استخدام موارد السحابة
قد يسهّل هذا الخيار التجربة أو الوصول المؤقت إلى تكوين معين. ويجب أن تشمل المقارنة الحوسبة، ولكن أيضًا التخزين ونقل البيانات والخدمات المرتبطة.
تحقق من التكوينات المتاحة فعليًا، وشروط معالجة البيانات، والجهد اللازم لاستعادة بيئتك. تُقارَن السحابة بجهاز مشترى على أساس استخدام ومدة محددين، لا على أساس سعرين منفصلين.
استضافة سيرفرك الخاص لدى طرف ثالث
يمكنك أيضًا امتلاك الجهاز وتركيبه لدى طرف ثالث. وعندها يجب مطابقة التكوين مع قيود المستضيف: الشكل، والطاقة، والتبريد، والشبكة، والوصول عن بُعد، وشروط التدخل.
يمكن لـ Pepro توفير السيرفر وتجهيزه قبل شحنه. وتبقى الاستضافة خدمة منفصلة لها شروطها ومسؤولياتها.
تركيب كرت شاشة أم تشغيل سيرفر ذكاء اصطناعي؟
تركيب معالج رسومات في حاسوب، وتقديم خدمة ذكاء اصطناعي لفريق، حاجتان مختلفتان. يجب أن تكون البطاقة متوافقة مع الجهاز، لكن المشروع يشمل أيضًا النظام والتعريفات والتطبيقات والبيانات والأشخاص الذين سيشغّلونه.
لمحطة أو سيرفر GPU، تحقق من الشكل ومزوّد الطاقة والتبريد ومنافذ PCIe ومساراتها وذاكرة النظام والتخزين. فطراز البطاقة وحده لا يكفي لاستنتاج عدد المستخدمين أو أداء تطبيقك.
Linux وCUDA أو ROCm وDocker وvLLM وSlurm: ما دور كل منها؟
| المكوّن | دوره | ما يجب التحقق منه |
|---|---|---|
| Linux والتعريف وCUDA أو ROCm | جعل تسريع معالج الرسومات قابلًا للاستخدام من البرامج. | التركيبة الدقيقة لمعالج الرسومات والنظام والتعريف وإطار العمل؛ فليست كل البطاقات مدعومة. |
| حاويات Docker | تجهيز بيئة برمجية قابلة للتكرار. | الوصول إلى معالج الرسومات، والاعتماديات، والبيانات الدائمة، والصلاحيات. |
| vLLM | تشغيل النماذج للاستدلال. | النموذج المدعوم، وذاكرته، وطول السياق، والحمل المتزامن. |
| Slurm | تنظيم الوصول إلى الموارد والمهام المشتركة. | المستخدمون، والحصص، وطوابير المهام، والتطبيقات، والتخزين. |
لا يحل Slurm محل vLLM ولا العكس: يمكنهما تلبية احتياجات متكاملة في المشروع نفسه. ولا يحتاج سيرفر الاستدلال المستقل بالضرورة إلى مُجدوِل عنقودي. ويعتمد الاختيار على تنظيمك والتطبيقات المطلوب تشغيلها.
تحديد مواصفات التخزين والشبكة أيضًا
لا تستخدم النماذج ومجموعات البيانات والإصدارات والنتائج التخزين بالطريقة نفسها. ميّز بين البيانات الواجب الاحتفاظ بها والملفات المؤقتة ونسخ الاحتياط. ويعتمد الأداء الفعلي على السلسلة كاملة: الأقراص والواجهات والشبكة والوصول المتزامن.
تبرر الشبكة الأسرع أو التخزين الموزع بحجم العمل وقيود التشغيل. ابدأ بوصف عمليات النقل والتطبيقات؛ ولا تختر بنية متعددة العقد لمجرد أنها تبدو أكثر قابلية للتوسع.
ما يجب أن يتضمنه محضر الاستلام
- مراجع العتاد وإصدارات البرمجيات المعتمدة.
- النموذج، والدقة أو التكميم، وأطوال المدخلات والمخرجات، والتزامن المستخدم في الاختبار.
- الذاكرة المستخدمة، وزمن الاستجابة، ومهلة أول رمز، والإنتاجية في الظروف الموصوفة.
- الوصول إلى البيانات، والصلاحيات، وإعادة التشغيل، وإجراء الاستعادة ضمن النطاق المتفق عليه.
- الوثائق والمسؤوليات بعد التسليم.
عدد الرموز في الثانية دون ذكر النموذج والسياق والحمل لا يكفي لمقارنة تكوينين. ولجهاز موجّه إلى مستضيف خارجي، أضف قيوده من حيث الشكل والطاقة والتبريد والشبكة والوصول عن بُعد قبل الطلب.
تجهيز محطة أو سيرفر GPU مع Pepro.
ندرس العتاد الذي سنوفّره أو الموجود لديك، وLinux، والبيئة المتوافقة، والتخزين، والشبكة، والتشغيل. اطّلع على منهجية الاستلام وشروط تكامل سيرفرات GPU (بالفرنسية).
صف مشروع سيرفر GPU الخاص بي ←مراجع تقنية: تحديد مواصفات vLLM وتحسينه؛ دور Slurm في الحوسبة المشتركة. واطّلع أيضًا على دليلنا حول القيود المادية والطاقوية للبنى التحتية (بالفرنسية).
