As AI models continue to scale, networking has become just as important as وحدة معالجة الرسوميات: performance. Modern AI workloads rely on distributed GPU clusters that generate massive حركة المرور بين الشرق والغرب during training and inference, making low-كمون، عالي-عرض النطاق الترددي networking essential for overall system efficiency.
وهنا يلعب ربط مجموعات الذكاء الاصطناعي دورًا حاسمًا.
AI cluster networking refers to the high-performance network infrastructure that connects GPU servers, storage systems, and AI accelerators inside AI مراكز البيانات and HPC environments. Unlike traditional enterprise networks, AI clusters require ultra-fast communication between nodes to support distributed computing frameworks such as NCCL and RDMA-based GPU communication.
لتقليل الاختناقات وزيادة استخدام وحدة معالجة الرسومات إلى أقصى حد، تستخدم بنى الذكاء الاصطناعي الحديثة عادةً تقنيات مثل:
على المستوى المادي، الوحدات البصرية have become a key part of AI infrastructure design. High-speed أجهزة الإرسال والاستقبال الضوئية مثل QSFP-DD and OSFP modules enable scalable 400G and 800G connectivity between مفاتيح and GPU servers while maintaining low latency and high port density.
In this guide, we will explain how AI cluster networking works, compare InfiniBand and RoCEv2 architectures, examine RDMA and congestion control technologies, and explore how optical وحدات الإرسال والاستقبال support modern AI cluster scalability in 2025 and beyond.
⭐ ما هي شبكات مجموعات الذكاء الاصطناعي؟
AI cluster networking refers to the high-performance network fabric used to connect GPU servers, AI accelerators, storage systems, and switches inside AI data centers and حوسبة عالية الأداء (HPC) environments. Its primary purpose is to enable extremely fast data exchange between compute nodes during distributed AI workloads.
من الناحية الهندسية العملية، صُممت شبكات مجموعات الذكاء الاصطناعي لحل مشكلة حاسمة: ضمان الاستخدام الأمثل لوحدات معالجة الرسومات (GPUs) أثناء مهام التدريب والاستدلال واسعة النطاق. ولأن نماذج الذكاء الاصطناعي الحديثة ضخمة جدًا بحيث لا يمكن تشغيلها بكفاءة على وحدة معالجة رسومات واحدة أو حتى خادم واحد، يتم توزيع أحمال العمل على عدة عُقد يجب عليها مزامنة البيانات باستمرار. وبالتالي، تصبح الشبكة جزءًا لا يتجزأ من نظام الحوسبة نفسه، وليست مجرد طبقة نقل بيانات.
بخلاف شبكات المؤسسات التقليدية التي تتعامل بشكل أساسي مع الاتصال بين المستخدم والخادم، فإن مجموعات الذكاء الاصطناعي تولد كميات هائلة من حركة المرور الشرقية الغربية - البيانات التي تنتقل بشكل جانبي بين وحدات معالجة الرسومات والخوادم وأنظمة التخزين داخل مركز البيانات.
لماذا يهيمن نموذج حركة المرور بين الشرق والغرب على تدريب الذكاء الاصطناعي
يتطلب تدريب الذكاء الاصطناعي الموزع تبادل وحدات معالجة الرسومات (GPUs) للتدرجات، والموترات، ومعلمات النموذج، وبيانات التزامن بشكل مستمر. خلال عمليات مثل التوازي في معالجة البيانات، والتوازي في معالجة الموترات، والتوازي في معالجة خطوط الأنابيب، قد تتواصل كل وحدة معالجة رسومات مع العديد من وحدات معالجة الرسومات الأخرى في وقت واحد.
يؤدي هذا إلى أنماط حركة مرور كثيفة النطاق الترددي للغاية بين الشرق والغرب.
على سبيل المثال، أثناء نموذج لغة كبير (LLM) training, GPUs frequently perform collective communication operations such as:
-
التخفيض الشامل
-
اجتماع الجميع
-
بث
-
تقليل التشتت
تُنتج هذه العمليات حركة مرور كثيفة بين العقد، وهي حساسة للغاية لما يلي:
حتى التأخيرات الصغيرة في المزامنة يمكن أن تجعل وحدات معالجة الرسومات باهظة الثمن تنتظر في وضع الخمول، مما يقلل بشكل كبير من كفاءة المجموعة ويزيد من وقت التدريب.
ولهذا السبب، تقوم بيئات الشبكات التي تعتمد على الذكاء الاصطناعي عادةً بنشر ما يلي:
-
طوبولوجيات العمود الفقري والورقة غير المحظورة
-
الأقمشة التي تدعم تقنية RDMA
-
إيثرنت بدون فقدان أو إنفينيباند
-
وصلات بصرية بسرعة 400 جيجابت و800 جيجابت
-
آليات التحكم الذكية في الازدحام
الهدف هو تقليل تكاليف الاتصال والحفاظ على أداء منخفض زمن الوصول يمكن التنبؤ به عبر المجموعة.
متطلبات الشبكات: التدريب مقابل الاستدلال
على الرغم من أن كلاً من تدريب الذكاء الاصطناعي واستنتاج الذكاء الاصطناعي يعتمدان على الشبكات عالية السرعة، إلا أن أنماط حركة المرور ومتطلبات البنية التحتية الخاصة بهما مختلفة تمامًا.
1. شبكات تدريب الذكاء الاصطناعي
تعطي بيئات تدريب الذكاء الاصطناعي الأولوية لما يلي:
-
الكمون المنخفض للغاية
-
مرتفع الإنتاجية
-
كفاءة مزامنة وحدة معالجة الرسومات
-
سعة نطاق ترددي كبيرة بين الشرق والغرب
-
تحسين تقنية الوصول المباشر للذاكرة عن بعد (RDMA) والاتصالات الجماعية
تستخدم مجموعات التدريب غالبًا بنى InfiniBand أو RoCEv2 مع وحدات بصرية 400G/800G لدعم الاتصال المستمر بين وحدات معالجة الرسومات على نطاق واسع.
2. شبكات الاستدلال بالذكاء الاصطناعي
عادةً ما تركز أحمال عمل الاستدلال بشكل أكبر على:
قد لا تتطلب مجموعات الاستدلال نفس مستوى التزامن فائق السرعة الذي تتطلبه بيئات التدريب، خاصةً بالنسبة لأحمال عمل الاستدلال أحادية العقدة أو الموزعة بشكل خفيف. في كثير من الحالات، تكون شبكات إيثرنت عالية السرعة كافية.
ومع ذلك، مع استمرار نمو تطبيقات الاستدلال الموزع واسع النطاق وتطبيقات الذكاء الاصطناعي التوليدي في الوقت الحقيقي، أصبحت متطلبات شبكات الاستدلال أكثر تطلبًا، خاصة بالنسبة لهياكل خدمة الذكاء الاصطناعي متعددة العقد.
⭐ بنى شبكات مجموعات الذكاء الاصطناعي: إنفينيباند، وRoCEv2، وإيثرنت
Selecting the right AI cluster networking architecture directly impacts GPU utilization, latency, scalability, and deployment cost. Today, most AI infrastructures are built around three main approaches: InfiniBand, RoCEv2, and standard Ethernet.
بتقنية InfiniBand
تُستخدم تقنية InfiniBand على نطاق واسع في تدريب الذكاء الاصطناعي فائق السرعة وبيئات الحوسبة عالية الأداء، نظرًا لما توفره من زمن استجابة منخفض للغاية، وإنتاجية عالية، وتحكم متقدم في الازدحام. وهي مُحسَّنة لتقنية RDMA واتصال وحدات معالجة الرسومات واسعة النطاق، مما يجعلها مثالية لأحمال عمل تدريب الذكاء الاصطناعي الموزعة.
تشمل المزايا الرئيسية ما يلي:
ومع ذلك، فإن تقنية InfiniBand تتميز أيضاً بتكاليف أعلى وتعقيد أكبر في النشر، مما يجعلها الأنسب لما يلي:
-
مجموعات تدريب الذكاء الاصطناعي الكبيرة
-
بيئات الحوسبة عالية الأداء
-
نشر وحدات معالجة الرسومات متعددة الرفوف
RoCEv2
يوفر بروتوكول RoCEv2 (RDMA عبر شبكة إيثرنت متقاربة) إمكانيات RDMA لشبكات الإيثرنت. ويقدم توازناً قوياً بين الأداء وقابلية التوسع والتكلفة، مع سهولة أكبر في التكامل مع البنية التحتية للمؤسسات.
تشمل فوائد RoCEv2 ما يلي:
To achieve stable performance, RoCEv2 requires proper configuration of lossless Ethernet technologies such as PFC and ECN.
يُستخدم بروتوكول RoCEv2 بشكل شائع في:
-
مجموعات الذكاء الاصطناعي للمؤسسات
-
البنية التحتية السحابية للذكاء الاصطناعي
-
بيئات وحدات معالجة الرسومات متوسطة إلى كبيرة الحجم
إيثرنت قياسي
لا يزال الإيثرنت القياسي خيارًا عمليًا لعمليات نشر الذكاء الاصطناعي الأصغر حجمًا ومجموعات الاستدلال حيث يكون تزامن وحدة معالجة الرسومات ذو زمن الوصول المنخفض للغاية أقل أهمية.
تشمل المزايا:
-
انخفاض تكلفة النشر
-
إدارة مبسطة
-
التوافق الواسع
-
تحجيم مرن
يمكن لشبكات إيثرنت الحديثة بسرعة 100 جيجا و400 جيجا دعم العديد من أحمال عمل الاستدلال بالذكاء الاصطناعي بشكل فعال، على الرغم من أنها قد لا تضاهي الشبكات القائمة على RDMA للتدريب الموزع واسع النطاق.
إنفينيباند مقابل RoCEv2 مقابل إيثرنت
|
الميزات
|
بتقنية InfiniBand
|
RoCEv2
|
إيثرنت
|
|
كمون
|
أدنى
|
منخفض جدا
|
معتدل
|
|
دعم RDMA
|
محلي
|
عائلات
|
محدود
|
|
التكلفة
|
أعلى
|
متوسط
|
أدنى
|
|
تعقيد
|
مرتفع
|
متوسط
|
منخفض
|
|
أفضل حالة استخدام
|
تدريب الذكاء الاصطناعي على نطاق واسع
|
مجموعات الذكاء الاصطناعي للمؤسسات
|
الاستدلال وعمليات النشر الأصغر
|
بشكل عام، يظل InfiniBand الخيار الأفضل لتحقيق أقصى أداء لتدريب الذكاء الاصطناعي، ويوفر RoCEv2 أفضل توازن بين التكلفة وقابلية التوسع، وغالبًا ما يكون Ethernet القياسي كافيًا لبيئات الذكاء الاصطناعي التي تركز على الاستدلال.
⭐ كيفية تصميم بنية ذكاء اصطناعي منخفضة زمن الاستجابة
يُعدّ تصميم بنية تحتية للذكاء الاصطناعي منخفضة زمن الاستجابة أمرًا بالغ الأهمية للحفاظ على استخدام عالٍ لوحدات معالجة الرسومات (GPU) وتدريب موزع فعال. في مجموعات الذكاء الاصطناعي الحديثة، يجب أن تدعم الشبكة حركة مرور هائلة بين الخوادم مع الحد الأدنى من الازدحام وفقدان الحزم وتأخير التزامن.
الهندسة المعمارية ذات الأوراق الشوكية وغير الحاجزة
تستخدم معظم مجموعات الذكاء الاصطناعي بنية العمود الفقري والورقة لأنها توفر اتصالاً منخفض الكمون يمكن التنبؤ به وعرض نطاق ترددي قابل للتوسع عبر عقد وحدة معالجة الرسومات.
في هذا التصميم المعماري:
-
تتصل مفاتيح Leaf مباشرة بخوادم GPU
-
مفاتيح العمود الفقري تربط جميع مفاتيح الأوراق.
-
كل مفتاح طرفي له مسارات متساوية التكلفة إلى المفاتيح الطرفية الأخرى
يقلل هذا التصميم من الاختناقات ويدعم أنماط حركة المرور عالية النطاق الترددي بين الشرق والغرب الشائعة في تدريب الذكاء الاصطناعي.
غالباً ما تهدف عمليات نشر الذكاء الاصطناعي الكبيرة إلى بنية غير محظورة ، حيث توفر الشبكة عرض نطاق ترددي كافٍ لتجنب التنازع بين العقد أثناء عمليات اتصال وحدة معالجة الرسومات مثل All-Reduce و All-Gather.
استراتيجية الاكتتاب الزائد
يحدث الاكتظاظ عندما يكون عرض النطاق الترددي المتاح للوصلة الصاعدة أقل من إجمالي عرض النطاق الترددي المواجه للخادم.
بالنسبة لمجموعات تدريب الذكاء الاصطناعي، يُعدّ انخفاض الاكتظاظ أمرًا بالغ الأهمية، لأنّ أحمال عمل وحدات معالجة الرسومات الموزّعة تُولّد حركة مرور مستمرة بين العُقد. ويمكن أن يؤدي ارتفاع الاكتظاظ إلى زيادة زمن الاستجابة وتقليل كفاءة التدريب.
وتشمل الأساليب الشائعة ما يلي:
-
تصميمات غير محظورة بنسبة 1:1 لمجموعات تدريب الذكاء الاصطناعي الكبيرة
-
انخفاض نسب الاكتتاب الزائد لعمليات نشر وحدات معالجة الرسومات المتوسطة
-
زيادة الطلب على البيئات التي تركز على الاستدلال
تعتمد النسبة المثالية على نوع عبء العمل، وعدد وحدات معالجة الرسومات، وقيود الميزانية.
التحكم في الازدحام والشبكات بدون فقدان
تتأثر أحمال عمل الذكاء الاصطناعي بشدة بفقدان الحزم وازدحام الشبكة. حتى الانقطاعات الصغيرة في الشبكة يمكن أن تبطئ التدريب الموزع وتجعل وحدات معالجة الرسومات (GPUs) خاملة.
لتحسين الثبات، تستخدم أقمشة الذكاء الاصطناعي عادةً ما يلي:
تساعد هذه التقنيات في خلق بيئة أكثر قابلية للتنبؤ وذات زمن استجابة منخفض لاتصال وحدة معالجة الرسومات.
توفر تقنية InfiniBand إدارة مدمجة للازدحام، بينما تتطلب عمليات نشر RoCEv2 القائمة على Ethernet ضبطًا دقيقًا للحفاظ على سلوك بدون فقدان.
NCCL وRDMA وضبط الشبكة
يُعد تحسين مستوى التطبيق أمرًا ضروريًا أيضًا لأداء شبكات الذكاء الاصطناعي.
تُستخدم مكتبة NVIDIA NCCL (مكتبة الاتصالات الجماعية من NVIDIA) على نطاق واسع للاتصال بين وحدات معالجة الرسومات المتعددة، وتعتمد بشكل كبير على كفاءة نقل البيانات عبر الشبكة. يساعد التكوين الصحيح لتقنية RDMA على تقليل الحمل الزائد على وحدة المعالجة المركزية وتحسين كفاءة نقل البيانات بين وحدات معالجة الرسومات.
تشمل مجالات التحسين الشائعة ما يلي:
تساهم هذه التحسينات على مستوى الشبكة والتطبيق معًا في تقليل تكاليف الاتصال وتحسين قابلية التوسع في تدريب الذكاء الاصطناعي الموزع.
⭐ شبكات مجموعات الذكاء الاصطناعي والوحدات البصرية
تُعدّ الوحدات الضوئية عنصرًا أساسيًا في شبكات مجموعات الذكاء الاصطناعي الحديثة. ومع تزايد أعداد مُسرّعات وحدات معالجة الرسومات من مئات إلى آلاف، يجب أن توفر الشبكة نطاقًا تردديًا عاليًا للغاية، وزمن استجابة منخفضًا، وسلامة إشارة موثوقة عبر الخوادم والمحولات. وقد جعل هذا الأمر وصلات الربط الضوئية عالية السرعة ضرورية في مراكز بيانات الذكاء الاصطناعي.
لماذا تُعدّ الوحدات البصرية مهمة في أقمشة الذكاء الاصطناعي؟
يُولّد التدريب الموزع للذكاء الاصطناعي حركة بيانات هائلة بين عقد وحدات معالجة الرسومات (GPU). ولا تستطيع كابلات النحاس وحدها دعم الاتصال عالي الكثافة لمسافات طويلة بسرعات 400 جيجابت و800 جيجابت بكفاءة داخل مجموعات الذكاء الاصطناعي الكبيرة.
تساعد الوحدات البصرية في حل العديد من التحديات الحرجة:
-
اتصال وحدة معالجة الرسومات عالي النطاق الترددي
-
نقل البيانات بزمن استجابة منخفض
-
تمدد نسيج أوراق العمود الفقري القابل للتطوير
-
انخفاض تدهور الإشارة مع المسافة
-
تحسين إدارة الكابلات في الرفوف المكتظة
مع استمرار نمو مجموعات الذكاء الاصطناعي، أصبحت الشبكات الضوئية ذات أهمية متزايدة للحفاظ على الأداء المستقر والاستخدام العالي لوحدات معالجة الرسومات.
البصريات بسرعة 100 جيجابت/ثانية، و400 جيجابت/ثانية، و800 جيجابت/ثانية في مجموعات الذكاء الاصطناعي
Modern AI infrastructures are rapidly transitioning from QSFP28 جرام networks toward QSFP 400G and OSFP 800G fabrics.
1. بصريات 100G
100غ أجهزة إرسال واستقبال are still common in smaller GPU clusters, شبكات التخزين, and legacy AI environments.
تشمل حالات الاستخدام النموذجية ما يلي:
2. بصريات 400G
أصبحت تقنية 400G الخيار السائد للعديد من عمليات نشر الذكاء الاصطناعي للمؤسسات والأنظمة فائقة التوسع لأنها توفر نطاقًا تردديًا أعلى بكثير للاتصال الموزع لوحدات معالجة الرسومات.
تشمل وحدات الألياف الضوئية الشائعة بسرعة 400 جيجابت ما يلي:
تُستخدم هذه الوحدات على نطاق واسع للاتصال بين العمود الفقري والأوراق وبين الأوراق والخوادم في بنى الذكاء الاصطناعي الحديثة.
3. بصريات 800G
تظهر شبكات 800G في مجموعات الذكاء الاصطناعي من الجيل التالي المصممة لتدريب النماذج الضخمة للغاية ونشر وحدات معالجة الرسومات عالية الكثافة.
تساعد أجهزة الإرسال والاستقبال 800G OSFP و QSFP-DD800 على زيادة:
QSFP-DD و OSFP و Breakout Connectivity
يهيمن نوعان رئيسيان من أشكال الشبكات الذكية اليوم:
1. QSFP-DD
تُستخدم وحدات QSFP-DD على نطاق واسع لأنها توفر كثافة منافذ عالية وتوافقًا قويًا مع أنظمة إيثرنت الحالية.
يتم استخدامها عادة ل:
-
100غ
-
200غ
-
400غ
-
عمليات نشر 800G
2. OSFP
تم تصميم وحدات OSFP لتحقيق أداء حراري وطاقة أعلى، مما يجعلها شائعة بشكل متزايد في شبكات الذكاء الاصطناعي 800G.
غالباً ما يُفضل استخدام OSFP في الحالات التالية:
-
تجمعات الذكاء الاصطناعي فائقة التوسع
-
بيئات شبكات وحدة معالجة الرسومات عالية الطاقة
-
منصات تبديل فائقة الكثافة
3. خيارات الخروج
تتيح خاصية التوصيل المتفرع تقسيم منفذ واحد عالي السرعة إلى روابط متعددة منخفضة السرعة، مثل:
-
من 400 غرام إلى 4 × 100 غرام
-
من 800 غرام إلى 2 × 400 غرام
-
من 800 غرام إلى 8 × 100 غرام
تعمل تصميمات التقسيم على تحسين المرونة وتساعد على تحسين استخدام منافذ التبديل في شبكات الذكاء الاصطناعي.
اختيار البصريات لوصلات مجموعات الذكاء الاصطناعي
يعتمد اختيار الوحدة البصرية على مسافة الوصلة، ومتطلبات عرض النطاق الترددي، واستهلاك الطاقة، وبنية النشر.
1. روابط التبديل بين المحولات
تتطلب الوصلات بين العمود الفقري والورقة عادةً ما يلي:
تُستخدم البصريات 400G DR4 و FR4 و 800G بشكل شائع في هذه السيناريوهات.
2. روابط التبديل إلى الخادم
تكون اتصالات خادم Leaf-to-GPU أقصر في الغالب وقد تستخدم ما يلي:
-
كابلات DAC للمسافات القصيرة
-
شهادات الوصول المتقدمة للمدى المتوسط
-
بصريات SR متعددة الأوضاع لتصميمات رفوف مرنة
يعتمد الاختيار الصحيح على كثافة الرفوف والتصميم الحراري.
الألياف الضوئية مقابل محول رقمي تناظري مقابل محول صوتي
|
التكنولوجيا
|
المزايا
|
القيود
|
حالة الاستخدام النموذجية
|
|
الألياف البصرية
|
مدى طويل، نطاق ترددي عالٍ، قابلية للتوسع
|
تكلفة أعلى
|
أقمشة ذات أوراق شوكية
|
|
DAC
|
منخفضة التكلفة، منخفضة الطاقة
|
مسافة قصيرة جداً
|
وصلات على نفس الرف
|
|
AOC
|
خفيف الوزن، مرن، مدى أطول من محول الصوت الرقمي إلى التناظري
|
تكلفة أعلى من تكلفة DAC
|
روابط وحدة معالجة الرسومات عبر الرف
|
في شبكات مجموعات الذكاء الاصطناعي الحديثة، تجمع معظم عمليات النشر واسعة النطاق بين الألياف الضوئية، ومحولات الإشارة الرقمية إلى التناظرية، ومحولات الإشارة الصوتية إلى التناظرية لتحقيق التوازن بين التكلفة والكثافة وكفاءة الطاقة وقابلية التوسع.
⭐ تخطيط النطاق الترددي لتدريب الذكاء الاصطناعي والاستدلال
يُعدّ تخطيط عرض النطاق الترددي جزءًا أساسيًا من تصميم شبكات مجموعات الذكاء الاصطناعي. فعدم كفاية عرض النطاق الترددي للشبكة قد يُقلّل من استخدام وحدة معالجة الرسومات، ويُطيل وقت التدريب، ويُسبّب اختناقات في الشبكة. وتعتمد سعة الشبكة المُثلى بشكل كبير على نوع عبء العمل، وحجم المجموعة، ومتطلبات التوسع المستقبلية.
كيف يؤثر نوع عبء العمل على الطلب على النطاق الترددي
تُنتج أحمال العمل المختلفة للذكاء الاصطناعي أنماط حركة مرور مختلفة للغاية.
1. أعباء تدريب الذكاء الاصطناعي
يؤدي التدريب الموزع للذكاء الاصطناعي إلى حركة مرور عالية للغاية بين الشرق والغرب لأن وحدات معالجة الرسومات تتبادل باستمرار التدرجات والموترات ومعلمات النموذج أثناء عمليات المزامنة.
تتطلب بيئات التدريب عادةً ما يلي:
تعتمد مجموعات تدريب نماذج اللغة الكبيرة (LLM) غالبًا على بنى 400G أو 800G للحفاظ على تزامن وحدة معالجة الرسومات بكفاءة.
2. أحمال عمل الاستدلال بالذكاء الاصطناعي
عادة ما تكون أحمال عمل الاستدلال أقل استهلاكًا لعرض النطاق الترددي لأن الاتصال بين العقد يكون أقل.
غالباً ما تعطي شبكات الاستدلال الأولوية لما يلي:
-
وقت استجابة سريع
-
قابلية التوسع المطلوبة
-
فعالية التكلفة
-
نشر مرن
في العديد من بيئات الاستدلال، تكون شبكات إيثرنت بسرعة 100 جيجابت أو 400 جيجابت كافية اعتمادًا على حجم النموذج وحجم حركة البيانات.
التوسع أحادي العقدة مقابل التوسع متعدد العقد
تزداد متطلبات النطاق الترددي بشكل كبير مع توسع أحمال عمل الذكاء الاصطناعي عبر خوادم متعددة.
1. أنظمة الذكاء الاصطناعي أحادية العقدة
تعتمد خوادم وحدة معالجة الرسومات أحادية العقدة بشكل أساسي على وصلات وحدة معالجة الرسومات الداخلية مثل NVLink أو PCIe، مما يقلل الاعتماد على الشبكات الخارجية.
تتطلب هذه البيئات عادةً نطاقًا تردديًا أقل للشبكة.
2. مجموعات الذكاء الاصطناعي متعددة العقد
تؤدي عمليات النشر متعددة العقد إلى توليد حركة مرور شبكية أثقل بكثير لأن وحدات معالجة الرسومات يجب أن تقوم بمزامنة البيانات عبر الخوادم باستمرار.
مع ازدياد حجم المجموعة:
-
يشهد النقل بين الشرق والغرب زيادة سريعة
-
يزداد خطر الازدحام
-
تزداد أهمية البنى ذات زمن الاستجابة المنخفض
-
يزداد الطلب على التوصيلات البصرية
Large distributed training clusters often require non-blocking 400G or 800G بنية العمود الفقري والورقة.
التخطيط لنمو الذكاء الاصطناعي الحالي والمستقبلي
تتطور متطلبات البنية التحتية للذكاء الاصطناعي بسرعة. العديد من المؤسسات التي قامت في الأصل بنشر شبكات 100G تقوم الآن بالترقية إلى 400G وتستعد لقابلية التوسع إلى 800G.
عند التخطيط لبنى الذكاء الاصطناعي، من المهم مراعاة ما يلي:
-
توسيع وحدة معالجة الرسومات في المستقبل
-
زيادة أحجام النماذج
-
كثافة رفوف أعلى
-
مسارات ترقية الوحدة البصرية
-
قدرة التبديل على الطاقة والتبريد
إن تصميم الشبكات مع مراعاة قابلية التوسع المستقبلية يمكن أن يقلل من عمليات إعادة تصميم الشبكة المكلفة لاحقاً.
قواعد عملية لتحديد مقاسات أقمشة الذكاء الاصطناعي بوزن 400 غرام و800 غرام
على الرغم من اختلاف المتطلبات باختلاف حجم العمل، إلا أن هناك العديد من الإرشادات العملية التي تُستخدم بشكل شائع في شبكات الذكاء الاصطناعي الحديثة.
1. شبكات 100G
مناسب ل :
2. شبكات 400G
تنصح ل:
-
مجموعات تدريب الذكاء الاصطناعي متوسطة إلى كبيرة الحجم
-
نشر وحدات معالجة الرسومات متعددة الرفوف
-
أقمشة RoCEv2 عالية الأداء
-
العمارة الحديثة ذات الأوراق الشوكية
أصبحت تقنية 400G الخيار السائد للعديد من مراكز بيانات الذكاء الاصطناعي الخاصة بالمؤسسات.
3. شبكات 800G
الأنسب لـ:
-
بنية تحتية فائقة التوسع للذكاء الاصطناعي
-
تدريب موزع واسع النطاق للغاية
-
أقمشة معالجة الرسومات المقاومة للمستقبل
-
منصات تبديل الذكاء الاصطناعي عالية الكثافة
تساعد بنى 800G على تحسين قابلية التوسع وكثافة المنافذ وكفاءة النطاق الترددي على المدى الطويل مع استمرار توسع أحمال عمل الذكاء الاصطناعي.
⭐ مشاكل شائعة في شبكات مجموعات الذكاء الاصطناعي وكيفية حلها
حتى مجموعات الذكاء الاصطناعي المصممة جيدًا قد تواجه مشكلات في الشبكة تُقلل من استخدام وحدات معالجة الرسومات وتُبطئ التدريب الموزع. ولأن أحمال عمل الذكاء الاصطناعي حساسة للغاية لزمن الاستجابة والازدحام، فإن مشكلات الشبكة الصغيرة قد تؤثر بسرعة على أداء المجموعة ككل.
فيما يلي بعض من أكثر مشاكل شبكات مجموعات الذكاء الاصطناعي شيوعًا وحلولها العملية.
ارتفاع زمن الوصول
يمكن أن تؤدي الارتفاعات المفاجئة في زمن الاستجابة إلى تعطيل مزامنة وحدة معالجة الرسومات وإبطاء عمليات الاتصال الجماعي مثل All-Reduce.
تشمل الأسباب الشائعة ما يلي:
-
تجاوز الاكتظاظ في الشبكة
-
روابط العمود الفقري المزدحمة
-
سياسات جودة الخدمة غير المناسبة
-
حمل مقاطعة وحدة المعالجة المركزية مرتفع
-
توزيع غير متساوٍ لحركة المرور
لتقليل ارتفاعات زمن الاستجابة:
-
استخدم أقمشة غير مانعة للتسرب أو ذات تغطية منخفضة
-
قم بتمكين RDMA حيثما أمكن
-
تحسين موازنة أحمال ECMP
-
تحسين محاذاة تقارب وحدة معالجة الرسومات و NUMA
-
مراقبة استخدام مخزن التبديل المؤقت
يُعد انخفاض زمن الاستجابة بشكل ثابت أمرًا بالغ الأهمية للحفاظ على كفاءة تدريب الذكاء الاصطناعي الموزع.
فقدان الحزم والازدحام
يُعد فقدان الحزم ضارًا بشكل خاص في بيئات تدريب الذكاء الاصطناعي لأن عمليات إعادة الإرسال يمكن أن تؤخر التزامن عبر آلاف وحدات معالجة الرسومات.
غالباً ما يكون سبب الازدحام ما يلي:
-
حركة مرور كثيفة بين الشرق والغرب
-
عرض نطاق التردد الصاعد غير كافٍ
-
سوء إدارة الطوابير
-
ازدحام مروري مفاجئ أثناء العمليات الجماعية
تشمل الحلول الشائعة ما يلي:
-
نشر تقنيات إيثرنت بدون فقدان
-
تكوين PFC و ECN بشكل صحيح
-
زيادة عرض نطاق الشبكة
-
خفض نسب الاكتتاب الزائد
-
استخدام آليات ذكية للتحكم في الازدحام
توفر بنى InfiniBand عادةً إدارة مدمجة للازدحام، بينما تتطلب بيئات RoCEv2 ضبطًا أكثر دقة.
RDMA أو RoCE غير مهيأ بشكل صحيح
يُعد التكوين غير الصحيح لتقنية RDMA أحد أكثر الأسباب شيوعًا لعدم استقرار أداء شبكة الذكاء الاصطناعي.
تتضمن المشكلات النموذجية ما يلي:
قد تشمل الأعراض ما يلي:
-
عدم استقرار اتصال وحدة معالجة الرسومات
-
أداء NCCL منخفض
-
انقطاعات غير متوقعة في حزم البيانات
-
زمن استجابة مرتفع أثناء التدريب الموزع
لتحسين استقرار تقنية RDMA:
-
توحيد تكوين الشبكة عبر المجموعة
-
التحقق من صحة سلوك قشرة الفص الجبهي وشبكة التحكم التنفيذية
-
استخدم إعدادات MTU متسقة
-
اختبر أداء RDMA بانتظام
-
مراقبة كفاءة الاتصال في المجلس الوطني لمكافحة الفساد
مشاكل عدم توافق برامج التشغيل والبرامج الثابتة
تعتمد مجموعات الذكاء الاصطناعي بشكل كبير على التوافق بين بطاقات الشبكة، والمحولات، ووحدات معالجة الرسومات، وأنظمة التشغيل. ويمكن أن يؤدي عدم تطابق البرامج الثابتة إلى مشاكل أداء غير متوقعة أو فشل في الوصول عن بُعد للذاكرة.
تشمل المشكلات الشائعة ما يلي:
-
عدم اتساق البرامج الثابتة لبطاقة الشبكة
-
عدم توافق برنامج التبديل
-
عدم تطابق برامج تشغيل وحدة معالجة الرسومات
-
إصدارات ميزات RDMA غير المدعومة
تشمل أفضل الممارسات ما يلي:
-
الحفاظ على إصدارات البرامج الثابتة موحدة على مستوى المجموعة
-
التحقق من التوافق قبل التحديثات
-
الحفاظ على خطوط الأساس البرمجية الموثقة
-
اختبار التحديثات في بيئات تجريبية أولاً
تُعد إدارة البرامج الثابتة المتسقة أمراً ضرورياً لعمليات الذكاء الاصطناعي واسعة النطاق والمستقرة.
ضعف استخدام الروابط في جميع أنحاء المجموعة
تعاني بعض مجموعات الذكاء الاصطناعي من استخدام غير متساوٍ لعرض النطاق الترددي، حيث تصبح بعض الروابط مزدحمة بينما تظل روابط أخرى غير مستغلة بشكل كافٍ.
غالباً ما يكون سبب ذلك هو:
لتحسين استخدام الأقمشة:
-
تحسين تصميم بنية العمود الفقري والورقة
-
ضبط سياسات إدارة دورة حياة المنتج
-
موازنة مسارات حركة المرور عبر المحولات
-
مراقبة توزيع التدفق بشكل مستمر
-
استخدم أدوات القياس عن بعد وتحليلات النسيج
يساعد الاستخدام الفعال للروابط على زيادة عرض النطاق الترددي المتاح وتحسين قابلية التوسع الشاملة لتدريب الذكاء الاصطناعي.
⭐ الأسئلة الشائعة حول شبكات مجموعات الذكاء الاصطناعي
س1: ما هي أفضل شبكة لمجموعة الذكاء الاصطناعي؟
يعتمد اختيار الشبكة الأمثل لمجموعة خوادم الذكاء الاصطناعي على حجم العمل، ومتطلبات زمن الاستجابة، والميزانية. غالبًا ما تستخدم بيئات تدريب الذكاء الاصطناعي الموزعة واسعة النطاق تقنية InfiniBand نظرًا لزمن الاستجابة المنخفض للغاية وأداء RDMA القوي. أما تطبيقات الذكاء الاصطناعي المؤسسية، فتختار عادةً RoCEv2 بدلاً من Ethernet لتحقيق التوازن بين قابلية التوسع والتكلفة والمرونة التشغيلية.
س2: هل إنفينيباند أفضل من روسيڤ2؟
توفر تقنية InfiniBand عمومًا زمن استجابة أقل وإدارة ازدحام أكثر تطورًا لمجموعات تدريب الذكاء الاصطناعي فائقة التوسع. مع ذلك، أصبحت تقنية RoCEv2 بديلاً شائعًا لأنها تجمع بين أداء RDMA وبنية إيثرنت القياسية، مما يقلل تكلفة النشر ويحسن التوافق مع شبكات المؤسسات.
بالنسبة للعديد من المؤسسات، يوفر RoCEv2 أفضل توازن بين الأداء وقابلية التوسع.
س3: هل تحتاج مجموعات الذكاء الاصطناعي إلى بصريات 400G أو 800G؟
تعتمد مجموعات تدريب الذكاء الاصطناعي الحديثة بشكل متزايد على وحدات بصرية بسرعة 400 جيجابت و800 جيجابت لدعم اتصال وحدة معالجة الرسومات عالي النطاق الترددي.
قد تظل مجموعات الاستدلال وبيئات التطوير الأصغر حجماً تعمل بكفاءة مع شبكات 100G.
س4: هل يمكن لشبكة الإيثرنت التعامل مع تدريب الذكاء الاصطناعي؟
نعم. يمكن لشبكات الإيثرنت الحديثة، بالاشتراك مع تقنيات RoCEv2 وRDMA، دعم تدريب الذكاء الاصطناعي على نطاق واسع بكفاءة. وتستخدم العديد من مراكز بيانات الذكاء الاصطناعي المؤسسية الآن شبكات إيثرنت عالية السرعة مع تكوينات شبكية خالية من فقدان البيانات لأحمال عمل وحدات معالجة الرسومات الموزعة.
ومع ذلك، تتطلب بنى الذكاء الاصطناعي القائمة على الإيثرنت ضبطًا دقيقًا لتقنيات مثل:
بدون التكوين المناسب، يمكن أن يؤدي الازدحام وفقدان الحزم إلى تقليل كفاءة التدريب.
س5: كيف تؤثر الوحدات البصرية على أداء مجموعات الذكاء الاصطناعي؟
تؤثر الوحدات البصرية بشكل مباشر على عرض النطاق الترددي، وزمن الاستجابة، وقابلية التوسع، وموثوقية الإشارة في شبكات مجموعات الذكاء الاصطناعي.
تتيح أجهزة الإرسال والاستقبال عالية السرعة مثل وحدات QSFP-DD و OSFP ما يلي:
-
اتصال 400G و 800G
-
التواصل عبر أوراق العمود الفقري لمسافات طويلة
-
أقمشة معالجات الرسومات عالية الكثافة
-
انخفاض تدهور الإشارة
-
تحسين قابلية التوسع لأحمال عمل الذكاء الاصطناعي الموزعة
يساعد اختيار البصريات الصحيحة لروابط التبديل إلى التبديل وروابط التبديل إلى الخادم على تحسين الأداء العام لمجموعة الذكاء الاصطناعي وقابلية التوسع في المستقبل.
⭐ أفضل الممارسات لمشاريع شبكات الذكاء الاصطناعي المستقبلية
As AI infrastructure continues moving toward larger GPU clusters and 400G/800G fabrics, network design decisions made today will directly affect long-term scalability, operational stability, and deployment cost. Successful AI cluster networking projects are no longer focused only on raw bandwidth — they also prioritize observability, التشغيل البيني, and future optical scalability.
صمم من أجل إمكانية المراقبة أولاً
تُولّد مجموعات الذكاء الاصطناعي كميات هائلة من البيانات المتبادلة بين الشرق والغرب، مما يجعل الرؤية والمراقبة أمراً بالغ الأهمية. ينبغي أن تتضمن البنية التحتية الحديثة للذكاء الاصطناعي ما يلي:
-
القياس عن بعد في الوقت الحقيقي
-
مراقبة الازدحام
-
تحليلات أداء RDMA
-
رؤية اتصالات وحدة معالجة الرسومات
-
تشخيص المفاتيح والأنظمة البصرية
تساعد المراقبة المبكرة في تحديد الاختناقات قبل أن تؤثر على استخدام وحدة معالجة الرسومات وكفاءة التدريب.
حافظ على حيادية مورد التصميم
قد يؤدي الاعتماد على مورد واحد إلى الحد من قابلية التوسع مستقبلاً وزيادة تكاليف البنية التحتية. لذا، ينبغي للمؤسسات، كلما أمكن، تصميم بنى الذكاء الاصطناعي وفقًا لمعايير إيثرنت المفتوحة، والبصريات القابلة للتشغيل البيني، وهياكل العمود الفقري والأوراق المرنة.
تؤدي الاستراتيجية المحايدة تجاه البائعين إلى تحسين ما يلي:
توحيد البرامج الثابتة والكابلات
تُعدّ عدم اتساق البرامج الثابتة أحد أكثر الأسباب شيوعًا لعدم استقرار شبكات الذكاء الاصطناعي. ويساعد توحيد البرامج الثابتة لبطاقات الشبكة، وبرامج المحولات، والوحدات الضوئية، وأنواع الكابلات على تقليل مشاكل التوافق غير المتوقعة.
تشمل أفضل الممارسات ما يلي:
-
الحفاظ على إصدارات البرامج الثابتة المتسقة
-
باستخدام قوائم التوافق البصري المعتمدة
-
توحيد معايير نشر DAC و AOC والألياف
-
اختبار التحديثات قبل طرحها في بيئة الإنتاج
بنية المستند ومعايير الضبط
قد تصبح شبكات الذكاء الاصطناعي الكبيرة معقدة للغاية. لذا، فإن التوثيق السليم يُسهّل عملية استكشاف الأخطاء وإصلاحها والتوسع المستقبلي.
تشمل العناصر المهمة التي يجب توثيقها ما يلي:
البيئات الموثقة جيداً يسهل توسيع نطاقها وصيانتها بمرور الوقت.
خطة للتوسع البصري، وليس فقط منافذ التبديل
سيتطلب نمو الذكاء الاصطناعي في المستقبل أكثر بكثير من مجرد منافذ تبديل إضافية. فكثافة النطاق الترددي البصري، وكفاءة الطاقة، وإدارة الكابلات أصبحت عوامل تصميم لا تقل أهمية.
ينبغي على المؤسسات التي تنشر بنية تحتية جديدة للذكاء الاصطناعي أن تكون مستعدة بالفعل لما يلي:
-
مسارات الترقية من 400 جيجابت إلى 800 جيجابت
-
كثافة رفوف أعلى
-
OSFP and QSFP-DD 800G adoption
-
بنية تحتية للألياف قابلة للتطوير
-
بنى الحوسبة العنقودية الفائقة المستقبلية
إن اختيار النظام البصري المناسب في وقت مبكر يمكن أن يقلل بشكل كبير من تعقيد عمليات التحديث المستقبلية.
مع استمرار تطور شبكات مجموعات الذكاء الاصطناعي، ستظل وصلات الربط الضوئية عالية الجودة ومكونات الإيثرنت الموثوقة أساسيةً لبنية وحدات معالجة الرسومات القابلة للتوسع. بالنسبة للمؤسسات التي تخطط لإنشاء بنى تحتية حديثة للذكاء الاصطناعي، فإن LINK-PP المتجر الرسمي توفر مجموعة واسعة من الوحدات البصرية عالية السرعة، وحلول DAC/AOC، ومنتجات اتصال الشبكات المصممة لتطبيقات الذكاء الاصطناعي المؤسسي، والحوسبة عالية الأداء، ومراكز البيانات.
