SmartNIC ও DPU: প্রোগ্রামযোগ্য অ্যাডাপ্টারে অপটিক্স
ডেটা প্রসেসিং ইউনিট (DPU) বা SmartNIC হলো এমন NIC, যার নিজস্ব প্রসেসর, মেমোরি ও অপারেটিং সিস্টেম আছে এবং যা বসে সার্ভারের PCIe বাস ও নেটওয়ার্কের মাঝখানে। কেজে অপটিক্সের জন্য কিছুই বদলায় না, একই QSFP56/QSFP112/OSFP মডিউল ও ক্যাবল; কিন্তু মডিউল পড়ে, নীতি প্রয়োগ করে এবং গতি ও FEC কনফিগার করে এখন কার্ডের ওপর থাকা একটি ছোট কম্পিউটার, যা প্রায়ই Linux বা SONiC-ধাঁচের স্ট্যাক চালায়। এই পেজে আছে বর্তমান DPU পরিবার ও তাদের পোর্ট, মডিউল ব্যবস্থাপনা কোথায় থাকে তার ব্যাখ্যা, এবং অপটিক্সের ক্ষেত্রে এর বিশেষ পরিণতি: পাওয়ার, কুলিং, টুইন-পোর্ট কেজ ও AI ব্যাক-এন্ড ফ্যাব্রিক।
পরিবার ও পোর্ট
| পরিবার | প্রজন্ম | পোর্ট | কেজ | হোস্ট PCIe | কোর |
|---|---|---|---|---|---|
| Nvidia BlueField-2 | 2020 | 2 × 25/100G বা 1 × 200G | SFP56 / QSFP56 | Gen 4 x16 | 8 × Arm A72 |
| Nvidia BlueField-3 | 2023 | 2 × 200G বা 1 × 400G; SuperNIC ভ্যারিয়েন্টে 400G | QSFP112 / OSFP | Gen 5 x16 | 16 × Arm A78 |
| Nvidia ConnectX-8 SuperNIC | 2024–25 | 1 × 800G বা 2 × 400G | OSFP (টুইন-পোর্ট) / QSFP112 | Gen 6 x16 | (NIC + সীমিত প্রোগ্রামযোগ্যতা) |
| AMD Pensando Elba / Giglio / Salina (400) | 2021–25 | 2 × 100/200G; 2 × 400G | QSFP56 / QSFP112 | Gen 4/5 x16 | 16 × Arm A72/N1 + P4 পাইপলাইন |
| Intel IPU E2000 (Mount Evans) | 2022 | 2 × 100G (মোট 200G) | QSFP28/56 | Gen 4 x16 | 16 × Arm N1 + P4 |
| Marvell Octeon 10 DPU | 2022 | সর্বমোট 400G পর্যন্ত | QSFP-DD | Gen 5 | Arm N2 |
| Microsoft/Fungible, Napatech, Xilinx Alveo SN1000 | বিভিন্ন | 2 × 100G | QSFP28 | — | FPGA / MIPS |
পোর্টের কেজ ও গতির নিয়ম সাধারণ NIC-এর মতোই (NIC-এর পোর্ট ও PCIe)।
মডিউল ব্যবস্থাপনা কোথায় থাকে
| মোড | মডিউল কে পড়ে | টুল |
|---|---|---|
| এমবেডেড / DPU মোড (পোর্টের মালিক Arm-এর দিক) | DPU-এর নিজস্ব OS (Ubuntu/DOCA, SONiC-DASH, ভেন্ডরের Linux) তার ড্রাইভারের মাধ্যমে | Arm-এর দিকে ethtool -m, mlxlink; হোস্ট শুধু ভার্চুয়াল ফাংশন দেখে |
| আলাদা হোস্ট / NIC মোড | হোস্ট ড্রাইভার, ConnectX-এর মতোই | হোস্টের ethtool, mlxlink (NIC টুল) |
| সীমাবদ্ধ মোড | DPU নিয়ন্ত্রণ করে, হোস্ট লিংক সেটিং বদলাতে পারে না | নীতি প্রয়োগ হয় DPU-তে |
এর পরিণতি: ফার্মওয়্যার ও লিংক সেটিং (গতি, FEC, ব্রেকআউট) কনফিগার করা হয় DPU-তে (mlxconfig, DOCA-এর টুল, Pensando penctl) এবং হোস্ট রিবুটের পরও বহাল থাকে; DPU যে মডিউল প্রত্যাখ্যান করেছে বা ডাউনগ্রেড করেছে, DPU-এর লগ না পড়া পর্যন্ত হোস্টের অ্যাডমিনিস্ট্রেটরের কাছে তা অদৃশ্য থাকে। মডিউলের নীতি নিজে Nvidia ও AMD-তে শিথিল (যেকোনো EEPROM পার্স করে), তাদের NIC-এর মতোই (NIC-তে অপটিক্সের সামঞ্জস্য)।
পাওয়ার ও কুলিং
| বিষয় | DPU-এর বাস্তবতা |
|---|---|
| কার্ডের পাওয়ার | 75–150 W (BlueField-3 অক্সিলিয়ারি কানেক্টরসহ ~150 W); কার্ড নিজেই তার ওপরের যেকোনো মডিউলের চেয়ে বেশি গরম |
| কেজের বাজেট | QSFP112/OSFP কেজ 15–20 W মডিউলের জন্য তৈরি; কার্ডের স্পেসিফিকেশন দেখুন |
| এয়ারফ্লো | GPU সার্ভারের ফুল-হাইট কার্ড GPU-এর সঙ্গে একই হট আইলে থাকে; মডিউলের DDM তাপমাত্রা 60–70 °C স্বাভাবিক, অ্যালার্ম 75+ থেকে (তাপমাত্রার গ্রেড) |
| টুইন-পোর্ট OSFP | একটি OSFP কেজে 2 × 400G থাকে; মডিউল (বা টুইন-পোর্ট DAC/AOC) একটিই 800G শ্রেণির ডিভাইস, নিজস্ব হিট সিংকসহ (OSFP) |
| অপটিক্সের পছন্দ | ToR 2 m-এর মধ্যে থাকলে DAC, নইলে AOC বা 400G/800G DR/FR; ছোট লিংকে LPO ভ্যারিয়েন্ট মডিউলের পাওয়ার কমায় (পাওয়ার ও খরচ) |
AI ব্যাক-এন্ড ফ্যাব্রিক
GPU ক্লাস্টারে প্রতিটি GPU-এর জন্য একটি DPU বা SuperNIC জুড়ে থাকে রেল-অপটিমাইজড ব্যাক-এন্ড ফ্যাব্রিকে, অর্থাৎ InfiniBand বা RoCE ইথারনেটে (GPU ফ্যাব্রিক):
| লিংক | সাধারণ অপটিক্স |
|---|---|
| প্রতি GPU-এর জন্য NDR 400G IB | টুইন-পোর্ট OSFP 2 × 400G; রেল লিফ পর্যন্ত DAC/ACC ≤ 3 m, AOC 3–50 m, তার বেশি দূরত্বে DR4/SR4 অপটিক্স (IB ক্যাবল) |
| প্রতি GPU-এর জন্য XDR 800G IB / 800G ইথারনেট | OSFP 800G টুইন-পোর্ট, 2 × DR4 বা SR8 |
| ফ্রন্ট-এন্ড / স্টোরেজ | DPU-এর আলাদা 100/200G পোর্ট, অথবা দ্বিতীয় একটি NIC |
ক্যাবলের শনাক্তকরণ তথ্য ও দৈর্ঘ্য যাচাই করে ফ্যাব্রিক ম্যানেজার; মডিউলের ফার্মওয়্যার সংস্করণ ক্লাস্টারের কোয়ালিফাইড বিল অব ম্যাটেরিয়ালসের (BOM) অংশ (AI ক্লাস্টারের ক্যাবলিং, লিংকের নির্ভরযোগ্যতা ও মনিটরিং)।
কার্ডে SONiC ও P4
SONiC-DASH বা P4 পাইপলাইন চালানো DPU নিজের পোর্টগুলোকে একটি ছোট সুইচের মতো দেখে: পোর্ট ব্রেকআউট, FEC ও গতি ঠিক হয় DPU-এর কনফিগারেশন ডেটাবেজে, আর ট্রান্সিভারের EEPROM দেখা যায় SONiC সুইচের মতোই show interfaces transceiver কমান্ডে (NOS-এর পরিমণ্ডল)। তৃতীয় পক্ষের মডিউলের প্রতি আচরণ প্ল্যাটফর্ম প্লাগইনের আচরণ, অর্থাৎ শিথিল।
CodingBox-এ
DPU-এর জন্য নির্ধারিত মডিউল কোয়ালিফাই করা হয় সুইচ বা NIC-এর মডিউলের মতোই: ফর্ম ফ্যাক্টর ও কমপ্লায়েন্স (QSFP112/OSFP, CMIS-এ 400G/800G অ্যাপ্লিকেশন), কেজের বিপরীতে পাওয়ার ক্লাস, এবং ক্লাস্টারের BOM-এর জন্য ফার্মওয়্যারের সংস্করণ। সবই কার্ড বসানোর আগে টেস্ট বেঞ্চে পড়া যায় (Check transceiver, CMIS)।