AI نیٹ ورکنگ جائزہ

بڑے AI ماڈلز کی تربیت کئی سرورز میں بہت سے GPUs پر کام پھیلاتی ہے۔ ان کے درمیان نیٹ ورک — نہ کہ کوئی ایک GPU — اکثر کلسٹر کی تربیت کی رفتار طے کرتا ہے، اسی لیے AI فیبرکس دستیاب سب سے زیادہ بینڈوڈتھ والے آپٹیکل ٹرانسیورز پر انحصار کرتے ہیں۔

نیٹ ورک اہم کیوں ہے

• اجتماعی عملیات — GPUs مسلسل آل ٹو آل نمونوں میں گریڈینٹس اور پیرامیٹرز کا تبادلہ کرتے ہیں، جس سے بھاری ایسٹ ویسٹ ٹریفک پیدا ہوتی ہے۔
• آخری تاخیر اہم ہے — ایک مرحلہ سب سے سست لنک کا انتظار کرتا ہے، اس لیے مسلسل کم تاخیر اور بے نقصان ترسیل ضروری ہیں۔
• پیمانہ — ہزاروں GPUs کا مطلب گھنے، زیادہ پورٹ/کنکشن والے سوئچز اور آپٹکس کی بہت بڑی گنتی ہے۔

دو فیبرک طرز

• InfiniBand — HPC میں طویل عرصے سے رائج، RDMA اور بے نقصان فلو کنٹرول کے ساتھ (دیکھیے InfiniBand)۔
• RoCE کے ساتھ Ethernet — Converged Ethernet پر RDMA، بے نقصان Ethernet پر پیمانے کی AI کے لیے بڑھتا ہوا استعمال۔

آپٹکس

AI لنکس عموماً QSFP-DD اور OSFP ماڈیولز پر 400G اور 800G ہوتے ہیں۔ مخصوص انٹرکنیکٹ انتخاب اور آپٹکس AI انٹرکنیکٹس اور آپٹکس میں بیان ہیں۔

یہی فارم فیکٹرز اور انتظامی میموری لاگو ہوتے ہیں — CodingBox ان تیز شرح والے ماڈیولز کو کسی بھی دوسرے ماڈیول کی طرح پڑھتا ہے۔

مزید مطالعہ

• AI کلسٹر کی کیبلنگ — ہر GPU کے لنک شمار، ریل کے لیے بہتر ترتیب میں فاصلے، DAC/AEC/AOC/DR کا امتزاج، کنیکٹر کے انتخاب، آپٹکس کی طاقت، تنصیب کا QA۔
• AI فیبرکس میں لنک کی قابلِ اعتماد کارکردگی اور نگرانی — ایک لنک کام کیوں روکتا ہے، FIT حساب، پیش گوئی کے پیمانے، نگرانی کا آرکیٹیکچر، علیحدگی اور بچاؤ۔