Interkoneksi dan optik AI
Klaster AI menghubungkan GPU dengan InfiniBand atau Ethernet berkecepatan tinggi. Keduanya mendorong optik ke modul tercepat yang ada dalam produksi.
InfiniBand vs Ethernet (RoCE)
| InfiniBand | Ethernet + RoCE | |
|---|---|---|
| Flow control | berbasis kredit, lossless | PFC/ECN, lossless |
| RDMA | bawaan | RoCEv2 |
| Kecepatan saat ini | NDR (400G) | 400G / 800G |
| Ekosistem | berakar HPC | luas, multi-vendor |
Keduanya adalah pilihan yang valid; banyak klaster besar memakai InfiniBand, sementara Ethernet+RoCE berkembang cepat untuk AI dalam skala besar.
Kecepatan dan modul
- 400G — QSFP-DD atau OSFP, dibangun dari 4×100G atau 8×50G lane.
- 800G — OSFP atau QSFP-DD800, biasanya 8×100G lane.
Kecepatan dan jumlah lane menentukan faktor bentuk; generasi InfiniBand dan kecepatan per-lane-nya ada di Kecepatan InfiniBand.
Jenis jangkauan
Di dalam satu rak, optik DR/SR jarak pendek atau kabel direct-attach dan aktif mendominasi; antar-baris, optik single-mode FR/LR membawa hop yang lebih panjang. Kepadatan tinggi berarti satu switch saja dapat menampung ratusan modul ini.
Berapa pun jangkauannya, modul ini membawa memori terkelola standar — CodingBox membaca data identifikasi dan DDM-nya untuk memverifikasi sebuah link sebelum bergabung dengan fabric.