Kết nối và module quang cho AI
Cụm AI kết nối các GPU bằng InfiniBand hoặc Ethernet tốc độ cao. Cả hai đều đẩy thiết bị quang tới những module nhanh nhất đang được sản xuất.
InfiniBand so với Ethernet (RoCE)
| InfiniBand | Ethernet + RoCE | |
|---|---|---|
| Điều khiển luồng | dựa trên credit, lossless | PFC/ECN, lossless |
| RDMA | gốc (native) | RoCEv2 |
| Tốc độ hiện tại | NDR (400G) | 400G / 800G |
| Hệ sinh thái | bắt nguồn từ HPC | rộng, nhiều nhà sản xuất |
Cả hai đều là lựa chọn hợp lý; nhiều cụm lớn dùng InfiniBand, trong khi Ethernet+RoCE đang phát triển nhanh cho AI ở quy mô lớn.
Tốc độ và module
- 400G — QSFP-DD hoặc OSFP, dựng từ 4×100G hoặc 8×50G làn.
- 800G — OSFP hoặc QSFP-DD800, thường là 8×100G làn.
Tốc độ và số làn quyết định form factor; các thế hệ InfiniBand và tốc độ mỗi làn của chúng nằm trong Tốc độ InfiniBand.
Các loại cự ly
Bên trong một tủ rack, thiết bị quang DR/SR cự ly ngắn hoặc cáp direct-attach và cáp active chiếm ưu thế; giữa các hàng tủ, thiết bị quang đơn mode FR/LR đảm nhận các chặng dài hơn. Mật độ cao nghĩa là một switch duy nhất có thể chứa hàng trăm module như vậy.
Dù cự ly là bao nhiêu, các module này đều mang bộ nhớ quản lý theo chuẩn — CodingBox đọc thông tin nhận dạng và DDM của chúng để xác minh một liên kết trước khi nó gia nhập fabric.