세대별 IB 배선: DAC, AOC, 트랜시버, 분기 케이블
InfiniBand 클러스터는 전송 거리 등급에 따라 배선됩니다: 스위치가 손 닿는 거리 안이면 구리, 조금 더 멀면 액티브 구리, 옆 랙 열까지는 액티브 광케이블, 그 너머는 구조화 배선을 갖춘 트랜시버입니다. 세대가 바뀔 때마다 이 경계는 안쪽으로 좁혀졌고 커넥터도 바뀌었으며, NDR에서는 트윈포트 모듈과 분할 케이블이 추가되어 처음 설치하는 사람을 헷갈리게 합니다. 이 페이지는 전송 거리, 커넥터, 분할 구성, 기구적 규칙과 식별 정보 규칙을 정리한 배선 참고 자료입니다.
세대별 커넥터
| 세대 | 레인당 속도 | 4x 포트 | 커넥터 | 비고 |
|---|---|---|---|---|
| SDR / DDR | 2.5 / 5 Gb/s | 10 / 20 Gb/s | CX4(구리), 이후 QSFP | 레거시 |
| QDR | 10 Gb/s | 40 Gb/s | QSFP | SFF-8436 관리 |
| FDR | 14.06 Gb/s | 56 Gb/s | QSFP+(FDR 등급) | 64B/66B; FEC 선택 |
| EDR | 25.78 Gb/s | 100 Gb/s | QSFP28 | 100G 이더넷과 같은 옵틱스, 코딩만 다름 |
| HDR | 53.1 Gb/s PAM4 | 200 Gb/s | QSFP56 | HDR100으로 1:2 분할 |
| NDR | 106 Gb/s PAM4 | 400 Gb/s | 스위치에서는 OSFP 트윈포트(모듈당 2 × 400G); HCA에서는 OSFP 또는 QSFP112 | 스위치 케이지당 800G |
| XDR | 212 Gb/s PAM4 | 800 Gb/s | OSFP / OSFP-XD | 스위치 케이지당 1.6T |
폼 팩터 세부 정보: QSFP28, QSFP56, OSFP, QSFP112.
전송 거리 등급
| 매체 | QDR | FDR | EDR | HDR | NDR | 비고 |
|---|---|---|---|---|---|---|
| 패시브 DAC | ≤ 7 m | ≤ 3–5 m | ≤ 3 m | ≤ 2 m | ≤ 1.5–2 m | 세대가 바뀔수록 전송 거리가 줄어듦; 더 긴 구간은 더 굵은 심선 사용 |
| 액티브 구리(ACC/AEC) | — | ≤ 5 m | ≤ 5 m | ≤ 3–4 m | ≤ 3 m | 전원이 필요한 플러그; NDR용 AEC는 리타이머 탑재 |
| AOC | ≤ 100 m(일부 300) | ≤ 100 m | ≤ 100 m | ≤ 100 m | 일반적으로 ≤ 30–50 m | 850 nm VCSEL, 내부는 MMF 리본 |
| 트랜시버 SR 계열(MMF) | ≤ 300 m | ≤ 100–150 m | ≤ 70–100 m | ≤ 70–100 m | ≤ 50 m(VR) / 100 m(SR) | OM3/OM4, MPO |
| 트랜시버 DR/FR 계열(SMF) | — | — | 500 m – 2 km(PSM4, CWDM4) | 500 m – 2 km | 500 m(DR4) / 2 km(FR4) | MPO-12 APC(DR4), 듀플렉스 LC(FR4) |
각 케이블 종류의 내부 구조: 케이블 내부 구조.
NDR 트윈포트와 분할 케이블
NDR 스위치 케이지에는 트윈포트 OSFP 모듈이 하나 들어가며, 이는 MPO-12/APC(또는 LC 듀플렉스) 리셉터클 두 개 뒤에 독립적인 400G 포트 두 개가 있다는 뜻입니다. 모듈 하나에서 나오는 배선 옵션은 다음과 같습니다:
| 구성 | 케이블 | 반대쪽 끝 |
|---|---|---|
| 2 × 400G 직결 | MPO-12 APC 트렁크 2개 | 400G NDR HCA 포트 2개(OSFP 또는 QSFP112) 또는 다른 스위치 |
| 1:2 분할(800G → 2 × 400G) | Y 케이블, 한쪽은 OSFP, 다른 쪽은 OSFP/QSFP112 두 개 | HCA 2개 — 표준적인 서버 연결 |
| 1:4 분할(800G → 4 × 200G) | 한쪽은 OSFP, 다른 쪽은 QSFP56/QSFP112 네 개 | HDR 속도 HCA(NDR200) |
| AOC 트윈포트 | 한쪽은 OSFP 트윈포트, 다른 쪽은 OSFP/QSFP112 두 개 | 최대 약 30–50 m |
| DAC 트윈포트 | 한쪽은 OSFP, 다른 쪽은 두 개 | ≤ 1.5–2 m; 무거워서 랙 내부에서만 사용 |
분할된 각 레그는 독자적으로 협상하는 별개의 링크이며, 스위치에는 포트 두 개(또는 네 개)로 보입니다. 식별 정보 코딩은 모든 끝에서 어셈블리 전체를 일관되게 나타내야 합니다(케이블 내부 구조).
핀형 OSFP와 플랫형 OSFP
- 핀형(finned-top) OSFP — 모듈 위로 공기가 트인 스위치 케이지용 일체형 히트싱크. 플랫형 케이지에는 맞지 않음.
- 플랫형(flat-top) OSFP — HCA와, 올려놓는 방식의 히트싱크를 쓰는 케이지용. 어느 케이지에도 맞지만, 트인 스위치 케이지에서는 뜨거워질 수 있음.
- HCA의 QSFP112는 QSFP 풋프린트 안에서 4 × 106 Gb/s의 NDR 전기 인터페이스를 공유함; QSFP112 HCA 포트는 OSFP 스위치에서 나오는 분할 케이블과 짝을 이룸.
발열에 따른 영향: 전력과 발열.
기구적 규칙
| 규칙 | 이유 |
|---|---|
| 굽힘 반경 준수(DAC는 지름의 10배 이상; AOC/광섬유는 30 mm 이상) | 트윈액시얼이 눌리면 레인 오류; 광섬유가 꺾이면 Rx 손실 |
| 케이블 무게를 지지 — 트윈포트 DAC는 무거움 | 케이지를 당겨 접촉이 불안정해지거나 패들 카드가 갈라짐 |
| 모든 MPO의 피닝 여부와 APC | 브레이크아웃과 MPO 배선 |
| 삽입 전 모든 MPO를 세정하고 점검 | 입자 하나가 레인에 1–3 dB 손실을 일으킬 수 있음 |
| 사용하지 않는 케이지와 커넥터에는 방진 캡을 씌워 둠 | 오염이 레인 장애의 첫 번째 원인 |
| 뜨거운 배기 기류를 피해 배선 | AOC 엔진과 AEC 플러그는 온도에 따라 노화됨 |
식별 정보와 벤더 정책
주요 벤더의 InfiniBand 스위치와 HCA는 케이블과 트랜시버를 지원 목록과 대조해 검증하고, 케이블 정보(벤더, PN, SN, 길이, 기술)를 패브릭 매니저로 읽어들입니다. 검증되지 않은 케이블은 속도가 낮아지거나 플래그가 붙을 수 있으며, 길이나 레이트 등급이 잘못 코딩된 케이블은 협상에 실패할 수 있습니다. 식별 정보 바이트는 표준 SFF-8636/CMIS 필드에 InfiniBand 레이트 선언이 더해진 것입니다(컴플라이언스 코드, 벤더 락).
재고 관리
- 양쪽 끝에 링크 정보를 라벨로 표시(스위치/포트 ↔ 호스트/포트); 분할 케이블은 레그마다 별도 라벨이 필요.
- 케이블별 벤더, PN, SN, 길이를 패브릭 매니저나 CMDB에 기록; 입고 검사 시
mlxcables나 CodingBox에서 데이터를 가져올 것. - 전송 거리 등급과 커넥터별로 예비품을 보유; NDR 트윈포트와 분할형 변형은 일반 400G와 호환되지 않음.
- 신규 옵틱스는 배치 전에 번인 테스트를 수행(링크 신뢰성과 모니터링).
CodingBox에서는
케이블 끝단과 트랜시버는 다른 모듈과 마찬가지로 읽습니다: 케이블 길이·기술·레이트 등급을 포함한 식별 정보, AOC와 옵틱스의 레인별 DDM, NDR 모듈의 CMIS 상태(Check transceiver, DDM). 설치 전에 분할 케이블의 모든 레그를 읽어 두면, 그렇지 않았다면 잘못된 속도로 링크되었을 불일치 끝단을 미리 잡아낼 수 있습니다.
HCA와 NIC 드라이버가 이 케이블을 검증하는 방식과, 호스트에서 그 결과를 보여주는 도구: NIC의 트랜시버 호환성, NIC 도구와 진단.