SmartNIC và DPU: module quang trên adapter lập trình được
Một đơn vị xử lý dữ liệu (DPU) hay SmartNIC là một NIC có bộ xử lý, bộ nhớ và hệ điều hành riêng, nằm giữa bus PCIe của server và mạng. Với quang học thì không có gì thay đổi ở cage — vẫn là những module và cáp QSFP56/QSFP112/OSFP quen thuộc — nhưng thực thể đọc module, áp dụng chính sách và cấu hình tốc độ, FEC giờ đây là một máy tính nhỏ trên card, thường chạy một ngăn xếp kiểu Linux hoặc SONiC. Trang này liệt kê các họ DPU hiện có và cổng của chúng, giải thích việc quản lý module nằm ở đâu, và trình bày các hệ quả riêng cho quang học: công suất, làm mát, cage hai cổng và các fabric back-end cho AI.
Các họ sản phẩm và cổng
| Họ sản phẩm | Thế hệ | Cổng | Cage | PCIe host | Lõi |
|---|---|---|---|---|---|
| Nvidia BlueField-2 | năm 2020 | 2 × 25/100G hoặc 1 × 200G | SFP56 / QSFP56 | Gen 4 x16 | 8 × Arm A72 |
| Nvidia BlueField-3 | năm 2023 | 2 × 200G hoặc 1 × 400G; biến thể SuperNIC 400G | QSFP112 / OSFP | Gen 5 x16 | 16 × Arm A78 |
| Nvidia ConnectX-8 SuperNIC | năm 2024–25 | 1 × 800G hoặc 2 × 400G | OSFP (hai cổng) / QSFP112 | Gen 6 x16 | (NIC + khả năng lập trình hạn chế) |
| AMD Pensando Elba / Giglio / Salina (400) | năm 2021–25 | 2 × 100/200G; 2 × 400G | QSFP56 / QSFP112 | Gen 4/5 x16 | 16 × Arm A72/N1 + pipeline P4 |
| Intel IPU E2000 (Mount Evans) | năm 2022 | 2 × 100G (tổng 200G) | QSFP28/56 | Gen 4 x16 | 16 × Arm N1 + P4 |
| Marvell Octeon 10 DPU | năm 2022 | tới 400G tổng hợp | QSFP-DD | Gen 5 | Arm N2 |
| Microsoft/Fungible, Napatech, Xilinx Alveo SN1000 | nhiều năm khác nhau | 2 × 100G | QSFP28 | — | FPGA / MIPS |
Cage cổng và tốc độ tuân theo cùng quy tắc như NIC thông thường (Cổng NIC và PCIe).
Việc quản lý module nằm ở đâu
| Chế độ | Ai đọc module | Công cụ |
|---|---|---|
| Chế độ nhúng / DPU (phía Arm sở hữu các cổng) | hệ điều hành riêng của DPU (Ubuntu/DOCA, SONiC-DASH, Linux của nhà sản xuất) qua driver của nó | ethtool -m, mlxlink ở phía Arm; host chỉ thấy các virtual function |
| Chế độ host/NIC tách biệt | driver của host, giống như trên ConnectX | ethtool, mlxlink phía host (Công cụ NIC) |
| Chế độ hạn chế | DPU kiểm soát, host không thể đổi cài đặt liên kết | chính sách được áp đặt trên DPU |
Hệ quả: firmware và cài đặt liên kết (tốc độ, FEC, breakout) được cấu hình trên DPU (mlxconfig, công cụ DOCA, penctl của Pensando) và tồn tại qua các lần khởi động lại host; một module bị DPU từ chối hoặc hạ cấp sẽ vô hình với quản trị viên host cho tới khi log của DPU được đọc. Bản thân chính sách module trên Nvidia và AMD khá dễ tính (phân tích bất kỳ EEPROM nào), giống như trên NIC của họ (Tính tương thích quang học trên NIC).
Công suất và làm mát
| Mục | Thực tế trên DPU |
|---|---|
| Công suất card | 75–150 W (BlueField-3 khoảng 150 W kèm đầu nối phụ trợ) — bản thân card còn nóng hơn bất kỳ module nào trên nó |
| Ngân sách cage | cage QSFP112/OSFP được thiết kế cho module 15–20 W; kiểm tra thông số của card |
| Luồng khí | các card full-height trong máy chủ GPU dùng chung hot aisle với GPU; nhiệt độ DDM của module 60–70 °C là bình thường, báo động từ 75 °C trở lên (Cấp nhiệt độ) |
| OSFP hai cổng | một cage OSFP mang 2 × 400G; module (hoặc DAC/AOC hai cổng) là một thiết bị lớp 800G duy nhất với bộ tản nhiệt riêng (OSFP) |
| Lựa chọn quang học | DAC khi ToR nằm trong vòng 2 m, nếu không thì AOC hoặc DR/FR 400G/800G; biến thể LPO giảm công suất module trên các liên kết ngắn (Công suất và mức tiêu thụ) |
Fabric back-end cho AI
Trong các cụm GPU, một DPU hay SuperNIC trên mỗi GPU kết nối tới fabric back-end được tối ưu theo rail, InfiniBand hoặc RoCE Ethernet (Fabric GPU):
| Liên kết | Quang học điển hình |
|---|---|
| IB NDR 400G mỗi GPU | OSFP hai cổng 2 × 400G; DAC/ACC ≤ 3 m tới rail leaf, AOC 3–50 m, quang học DR4/SR4 cho khoảng cách xa hơn (Cáp IB) |
| IB XDR 800G / Ethernet 800G mỗi GPU | OSFP 800G hai cổng, 2 × DR4 hoặc SR8 |
| Front-end / storage | cổng 100/200G riêng trên DPU hoặc một NIC thứ hai |
Thông tin nhận dạng và chiều dài cáp được fabric manager xác thực; phiên bản firmware của module là một phần trong bill of materials đã được công nhận của cụm (Đi cáp cho cụm AI, Độ tin cậy và giám sát liên kết).
SONiC và P4 trên card
DPU chạy SONiC-DASH hay pipeline P4 coi các cổng của mình như một switch nhỏ: breakout cổng, FEC và tốc độ được đặt trong cơ sở dữ liệu cấu hình của DPU, và EEPROM của transceiver xuất hiện dưới cùng lệnh show interfaces transceiver như trên một switch SONiC (Bức tranh các NOS). Hành vi đối với module bên thứ ba là hành vi của plugin nền tảng — dễ tính.
Trong CodingBox
Một module dành cho DPU được nghiệm thu giống như cho switch hay NIC: form factor và tuân thủ (application 400G/800G trong CMIS trên QSFP112/OSFP), hạng công suất so với cage, và phiên bản firmware cho BOM của cụm — tất cả đều đọc được trên bàn thử trước khi lắp card (Check transceiver, CMIS).