CodingBox 문서

세대별 IB 배선: DAC, AOC, 트랜시버, 분기 케이블

InfiniBand 클러스터는 전송 거리 등급에 따라 배선됩니다: 스위치가 손 닿는 거리 안이면 구리, 조금 더 멀면 액티브 구리, 옆 랙 열까지는 액티브 광케이블, 그 너머는 구조화 배선을 갖춘 트랜시버입니다. 세대가 바뀔 때마다 이 경계는 안쪽으로 좁혀졌고 커넥터도 바뀌었으며, NDR에서는 트윈포트 모듈과 분할 케이블이 추가되어 처음 설치하는 사람을 헷갈리게 합니다. 이 페이지는 전송 거리, 커넥터, 분할 구성, 기구적 규칙과 식별 정보 규칙을 정리한 배선 참고 자료입니다.

세대별 커넥터

세대레인당 속도4x 포트커넥터비고
SDR / DDR2.5 / 5 Gb/s10 / 20 Gb/sCX4(구리), 이후 QSFP레거시
QDR10 Gb/s40 Gb/sQSFPSFF-8436 관리
FDR14.06 Gb/s56 Gb/sQSFP+(FDR 등급)64B/66B; FEC 선택
EDR25.78 Gb/s100 Gb/sQSFP28100G 이더넷과 같은 옵틱스, 코딩만 다름
HDR53.1 Gb/s PAM4200 Gb/sQSFP56HDR100으로 1:2 분할
NDR106 Gb/s PAM4400 Gb/s스위치에서는 OSFP 트윈포트(모듈당 2 × 400G); HCA에서는 OSFP 또는 QSFP112스위치 케이지당 800G
XDR212 Gb/s PAM4800 Gb/sOSFP / OSFP-XD스위치 케이지당 1.6T

폼 팩터 세부 정보: QSFP28, QSFP56, OSFP, QSFP112.

전송 거리 등급

매체QDRFDREDRHDRNDR비고
패시브 DAC≤ 7 m≤ 3–5 m≤ 3 m≤ 2 m≤ 1.5–2 m세대가 바뀔수록 전송 거리가 줄어듦; 더 긴 구간은 더 굵은 심선 사용
액티브 구리(ACC/AEC)≤ 5 m≤ 5 m≤ 3–4 m≤ 3 m전원이 필요한 플러그; NDR용 AEC는 리타이머 탑재
AOC≤ 100 m(일부 300)≤ 100 m≤ 100 m≤ 100 m일반적으로 ≤ 30–50 m850 nm VCSEL, 내부는 MMF 리본
트랜시버 SR 계열(MMF)≤ 300 m≤ 100–150 m≤ 70–100 m≤ 70–100 m≤ 50 m(VR) / 100 m(SR)OM3/OM4, MPO
트랜시버 DR/FR 계열(SMF)500 m – 2 km(PSM4, CWDM4)500 m – 2 km500 m(DR4) / 2 km(FR4)MPO-12 APC(DR4), 듀플렉스 LC(FR4)

각 케이블 종류의 내부 구조: 케이블 내부 구조.

NDR 트윈포트와 분할 케이블

NDR 스위치 케이지에는 트윈포트 OSFP 모듈이 하나 들어가며, 이는 MPO-12/APC(또는 LC 듀플렉스) 리셉터클 두 개 뒤에 독립적인 400G 포트 두 개가 있다는 뜻입니다. 모듈 하나에서 나오는 배선 옵션은 다음과 같습니다:

구성케이블반대쪽 끝
2 × 400G 직결MPO-12 APC 트렁크 2개400G NDR HCA 포트 2개(OSFP 또는 QSFP112) 또는 다른 스위치
1:2 분할(800G → 2 × 400G)Y 케이블, 한쪽은 OSFP, 다른 쪽은 OSFP/QSFP112 두 개HCA 2개 — 표준적인 서버 연결
1:4 분할(800G → 4 × 200G)한쪽은 OSFP, 다른 쪽은 QSFP56/QSFP112 네 개HDR 속도 HCA(NDR200)
AOC 트윈포트한쪽은 OSFP 트윈포트, 다른 쪽은 OSFP/QSFP112 두 개최대 약 30–50 m
DAC 트윈포트한쪽은 OSFP, 다른 쪽은 두 개≤ 1.5–2 m; 무거워서 랙 내부에서만 사용

분할된 각 레그는 독자적으로 협상하는 별개의 링크이며, 스위치에는 포트 두 개(또는 네 개)로 보입니다. 식별 정보 코딩은 모든 끝에서 어셈블리 전체를 일관되게 나타내야 합니다(케이블 내부 구조).

핀형 OSFP와 플랫형 OSFP

  • 핀형(finned-top) OSFP — 모듈 위로 공기가 트인 스위치 케이지용 일체형 히트싱크. 플랫형 케이지에는 맞지 않음.
  • 플랫형(flat-top) OSFP — HCA와, 올려놓는 방식의 히트싱크를 쓰는 케이지용. 어느 케이지에도 맞지만, 트인 스위치 케이지에서는 뜨거워질 수 있음.
  • HCA의 QSFP112는 QSFP 풋프린트 안에서 4 × 106 Gb/s의 NDR 전기 인터페이스를 공유함; QSFP112 HCA 포트는 OSFP 스위치에서 나오는 분할 케이블과 짝을 이룸.

발열에 따른 영향: 전력과 발열.

기구적 규칙

규칙이유
굽힘 반경 준수(DAC는 지름의 10배 이상; AOC/광섬유는 30 mm 이상)트윈액시얼이 눌리면 레인 오류; 광섬유가 꺾이면 Rx 손실
케이블 무게를 지지 — 트윈포트 DAC는 무거움케이지를 당겨 접촉이 불안정해지거나 패들 카드가 갈라짐
모든 MPO의 피닝 여부와 APC브레이크아웃과 MPO 배선
삽입 전 모든 MPO를 세정하고 점검입자 하나가 레인에 1–3 dB 손실을 일으킬 수 있음
사용하지 않는 케이지와 커넥터에는 방진 캡을 씌워 둠오염이 레인 장애의 첫 번째 원인
뜨거운 배기 기류를 피해 배선AOC 엔진과 AEC 플러그는 온도에 따라 노화됨

식별 정보와 벤더 정책

주요 벤더의 InfiniBand 스위치와 HCA는 케이블과 트랜시버를 지원 목록과 대조해 검증하고, 케이블 정보(벤더, PN, SN, 길이, 기술)를 패브릭 매니저로 읽어들입니다. 검증되지 않은 케이블은 속도가 낮아지거나 플래그가 붙을 수 있으며, 길이나 레이트 등급이 잘못 코딩된 케이블은 협상에 실패할 수 있습니다. 식별 정보 바이트는 표준 SFF-8636/CMIS 필드에 InfiniBand 레이트 선언이 더해진 것입니다(컴플라이언스 코드, 벤더 락).

재고 관리

  • 양쪽 끝에 링크 정보를 라벨로 표시(스위치/포트 ↔ 호스트/포트); 분할 케이블은 레그마다 별도 라벨이 필요.
  • 케이블별 벤더, PN, SN, 길이를 패브릭 매니저나 CMDB에 기록; 입고 검사 시 mlxcables나 CodingBox에서 데이터를 가져올 것.
  • 전송 거리 등급과 커넥터별로 예비품을 보유; NDR 트윈포트와 분할형 변형은 일반 400G와 호환되지 않음.
  • 신규 옵틱스는 배치 전에 번인 테스트를 수행(링크 신뢰성과 모니터링).

CodingBox에서는

케이블 끝단과 트랜시버는 다른 모듈과 마찬가지로 읽습니다: 케이블 길이·기술·레이트 등급을 포함한 식별 정보, AOC와 옵틱스의 레인별 DDM, NDR 모듈의 CMIS 상태(Check transceiver, DDM). 설치 전에 분할 케이블의 모든 레그를 읽어 두면, 그렇지 않았다면 잘못된 속도로 링크되었을 불일치 끝단을 미리 잡아낼 수 있습니다.

XDR 세대 모듈 상세: OSFP224OSFP-XD.

HCA와 NIC 드라이버가 이 케이블을 검증하는 방식과, 호스트에서 그 결과를 보여주는 도구: NIC의 트랜시버 호환성, NIC 도구와 진단.


이 문서에서 부정확한 내용이나 오류를 발견하면 해당 부분을 선택하고 Ctrl+Enter를 눌러 해 주세요.