AI ইন্টারকানেক্ট ও অপটিক্স
AI ক্লাস্টার GPU-গুলোকে যুক্ত করে InfiniBand অথবা উচ্চগতির Ethernet দিয়ে। দুটিই অপটিক্সকে বর্তমানে উৎপাদনে থাকা সবচেয়ে দ্রুত মডিউলের সীমায় নিয়ে যায়।
InfiniBand বনাম Ethernet (RoCE)
| InfiniBand | Ethernet + RoCE | |
|---|---|---|
| ফ্লো কন্ট্রোল | ক্রেডিটভিত্তিক, লসলেস | PFC/ECN, লসলেস |
| RDMA | নেটিভ | RoCEv2 |
| বর্তমান রেট | NDR (400G) | 400G / 800G |
| ইকোসিস্টেম | HPC-ভিত্তিক | বিস্তৃত, মাল্টি-ভেন্ডর |
দুটিই গ্রহণযোগ্য বিকল্প; অনেক বড় ক্লাস্টার InfiniBand ব্যবহার করে, আর বৃহৎ পরিসরের AI-তে Ethernet+RoCE দ্রুত বাড়ছে।
রেট ও মডিউল
- 400G: QSFP-DD বা OSFP, 4×100G অথবা 8×50G লেন দিয়ে তৈরি।
- 800G: OSFP বা QSFP-DD800, সাধারণত 8×100G লেন।
রেট ও লেনের সংখ্যা ঠিক করে দেয় ফর্ম ফ্যাক্টর; InfiniBand-এর প্রজন্ম এবং প্রতি লেনের রেট রয়েছে InfiniBand-এর গতি পেজে।
পাল্লার ধরন
র্যাকের ভেতরে ছোট পাল্লার DR/SR অপটিক্স, ডাইরেক্ট-অ্যাটাচ ও অ্যাক্টিভ ক্যাবলই বেশি ব্যবহার হয়; সারির মধ্যে দীর্ঘ হপগুলো বহন করে FR/LR সিঙ্গেল-মোড অপটিক্স। ঘনত্ব এত বেশি যে একটি সুইচেই শত শত মডিউল বসানো যায়।
পাল্লা যা-ই হোক, এই মডিউলগুলোতে স্ট্যান্ডার্ড ম্যানেজমেন্ট মেমোরি থাকে। লিংক ফ্যাব্রিকে যুক্ত হওয়ার আগে CodingBox মডিউলের শনাক্তকরণ তথ্য ও DDM পড়ে লিংকটি যাচাই করে।