InfiniBand 概述
InfiniBand(IB)是一种用于 HPC 集群和 AI 数据中心的高性能互连技术,在这些场景中节点间的延迟和吞吐量至关重要。它由 InfiniBand 贸易协会(IBTA) 制定标准。
与众不同之处
- 极低的延迟和服务器之间的高带宽。
- RDMA(远程直接内存访问)——一个节点几乎无需 CPU 参与即可读写另一个节点的内存。
- 与 Fibre Channel 一样,基于信用的无损流量控制。
链路与宽度
IB 链路由通道组成;常见的宽度有 ×1、×4 和 ×12,×4 是常见端口。×4 端口自然对应 QSFP 系列模块,因此 InfiniBand 和高速以太网常常共用相同的光模块外壳。
速率
每一代 IB 都会提高每通道信号速率(SDR、DDR、QDR、FDR、EDR、HDR、NDR……)。每通道及 ×4 聚合速率数据列于 InfiniBand 速率。
光学 InfiniBand 模块将身份信息和诊断数据存放在与其他光模块相同的受管理存储区中,CodingBox 会读取该存储区。
延伸阅读
- IB 协议与传输——协议层、LID/GID/PKey、队列对与 RDMA、信用流量控制、子网管理器、诊断工具。
- 按代际划分的 IB 布线—— 从 QDR 到 XDR 的连接器、DAC/ACC/AOC/光模块的传输距离等级、NDR 双端口与分支电缆、带散热片与平顶 OSFP。