Port NIC, kecepatan, dan bandwidth PCIe
Panel depan sebuah NIC menjanjikan “2 × 100G”; apakah server benar-benar dapat memindahkan 200 Gb/s bergantung pada slot PCIe di belakang kartu, dan apakah suatu modul berfungsi bergantung pada cage dan peta lane controller-nya — persis seperti pada switch, tetapi dengan lebih sedikit port dan bus yang mudah under-provisioned. Halaman ini mendaftar cage dan kecepatan yang ditemukan pada NIC, aturan untuk port dual-rate dan kabel breakout, aritmetika PCIe, faktor bentuk OCP 3.0, serta batas daya dan pendinginan yang penting untuk optik pada kartu.
Cage dan kecepatan pada NIC
| Cage | Kecepatan yang ditemui pada NIC | Kontroler tipikal | Catatan |
|---|---|---|---|
| SFP+ | 10G (1G pada sebagian) | Intel X520/X710, Broadcom 5741x | dukungan 1G bervariasi; periksa spesifikasi kartu |
| SFP28 | 25G, 10G (1G jarang) | Intel XXV710/E810-XXV, ConnectX-4 Lx/-6 Lx, Broadcom P225 | 25G membutuhkan kesepakatan FEC (FEC & AN) |
| SFP56 | 50G, 25G, 10G | ConnectX-6 Lx/Dx (sebagian) | lane PAM4 |
| QSFP28 | 100G, 4 × 25G, 2 × 50G, 40G, 4 × 10G | Intel E810-CQDA2, ConnectX-5/6, Broadcom P2100 | breakout lewat kabel hanya jika diizinkan kontroler |
| QSFP56 | 200G, 100G, 2 × 100G | ConnectX-6 Dx/-7, Broadcom P2200, Pensando | — |
| QSFP112 | 400G, 200G, 100G, 4 × 100G | ConnectX-7, Broadcom P1400GD | 100G/lane; menerima QSFP28/56 |
| QSFP-DD | 400G, 2 × 200G, 4 × 100G | Broadcom BCM57608 | — |
| OSFP (twin-port) | 2 × 400G, 800G | ConnectX-7/-8, BlueField-3 | satu cage, dua port logis pada desain twin-port Nvidia |
| RJ45 | 1G / 10GBASE-T / mGig | X550, X710-T, BCM57416 | tanpa modul, PHY pada kartu |
Aturan kompatibilitas cage sama seperti pada switch (Jenis port & cage).
Port dual-rate dan grup kecepatan
- Kebanyakan NIC 25G menjalankan setiap port secara independen pada 10G atau 25G — tanpa pengelompokan quad — tetapi sebagian kontroler dual-port berbagi satu grup SerDes dan memaksa kecepatan yang sama pada kedua port.
- Kartu 100G sering mendukung modul 40G; kartu 200G/400G mendukung modul 100G; turun lebih dari satu generasi (1G pada SFP28, 10G pada QSFP56 lewat QSA) jarang didukung.
- Kecepatan biasanya auto dari kode kepatuhan modul; pemaksaan (
ethtool -s … speed) dibutuhkan ketika modul bersifat dual-rate atau tidak dikenali (Alat).
Breakout pada NIC
| Kasus | Berfungsi? |
|---|---|
| Port NIC QSFP28 100G → 4 × 25G ke sebuah switch (DAC splitter) | hanya jika kontroler mendukung mode “4 × 25G port split” (banyak kartu Nvidia dan Broadcom mendukungnya, kebanyakan Intel tidak); kartu kemudian menampilkan 4 netdev |
| Port switch 100G → 4 × 25G ke empat port SFP28 NIC | ya — ini arah yang umum; split dikonfigurasi pada switch (Breakout & MPO) |
| OSFP twin-port 400G → 2 × 400G atau 4 × 200G / 8 × 100G | kartu twin-port Nvidia: 2 port logis per cage; split lebih lanjut bergantung pada firmware |
| 2 × 50G dari sebuah port QSFP28 | sebagian kontroler |
PCIe: kecepatan port yang sesungguhnya
| Generasi PCIe | Per lane (mentah) | Terpakai x8 (≈) | Terpakai x16 (≈) |
|---|---|---|---|
| Gen 3 | 8 GT/s | 56–63 Gb/s | 112–126 Gb/s |
| Gen 4 | 16 GT/s | 112–126 Gb/s | 225–252 Gb/s |
| Gen 5 | 32 GT/s | 225–252 Gb/s | 450–504 Gb/s |
| Gen 6 | 64 GT/s | ~450–500 Gb/s | ~900–1 000 Gb/s |
Throughput yang dapat dipakai adalah 85–90 % dari nilai mentah setelah overhead pengkodean dan paket. Cocokkan port dengan lane:
| Kartu | Port | Membutuhkan |
|---|---|---|
| 2 × 25G | 50 Gb/s | Gen 3 x8 |
| 2 × 100G | 200 Gb/s | Gen 4 x16 (Gen 3 x16 jenuh pada ~126) |
| 1 × 200G / 2 × 100G Gen 4 | 200 Gb/s | Gen 4 x16 |
| 2 × 200G | 400 Gb/s | Gen 5 x16 |
| 1 × 400G | 400 Gb/s | Gen 5 x16 (atau dua x16 lewat “socket direct”/multi-host) |
| 2 × 400G | 800 Gb/s | Gen 6 x16 atau dua Gen 5 x16 |
Sebuah kartu 2 × 100G dalam slot Gen 3 x8 link pada 100G di kedua port dan menghasilkan total ~60 Gb/s — optiknya baik-baik saja, busnya tidak. Periksa lspci -vv untuk lebar dan kecepatan link yang dinegosiasikan (LnkSta), serta pengaturan bifurkasi BIOS.
OCP NIC 3.0
| Parameter | SFF (faktor bentuk kecil) | LFF (besar) |
|---|---|---|
| Ukuran | 76 × 115 mm | 139 × 115 mm |
| PCIe | hingga x16 | hingga x32 (dua x16) |
| Daya | hingga 80 W | hingga 150 W |
| Port | 2–4 × SFP28/QSFP28/QSFP56/QSFP112 | 2 × QSFP-DD/OSFP atau lebih |
| Akses optik | depan modul, tanpa tool | sama |
Kartu OCP berada di bagian belakang server dengan jalur aliran udaranya sendiri; pendinginan modul biasanya lebih baik dibandingkan pada kartu PCIe yang terjepit di antara GPU.
Daya dan pendinginan untuk optik pada kartu
| Item | Batas / aturan |
|---|---|
| Daya slot PCIe | 25 W (x1…x8 low profile), 75 W (x16); kartu 400G memakai konektor auksiliari 8-pin |
| Budget per-cage pada NIC | SFP28: 1,5 W (level II); QSFP28: 3,5–4,5 W; QSFP56/112: 5–8 W; QSFP-DD/OSFP: 12–20 W — dinyatakan pada datasheet kartu (Daya & konsumsi) |
| Aliran udara | 200–300 LFM melintasi kartu; optik pada kartu di server 1U dekat exhaust CPU berjalan panas — suhu DDM di atas 60 °C lazim terjadi |
| Thermal throttling | sebagian kontroler menurunkan modul ke daya rendah atau mematikan port ketika modul melaporkan suhu tinggi |
| Koheren / ZR pada NIC | tidak didukung pada NIC standar — kelas 8 melebihi budget cage |
Multi-host dan socket direct
Kartu high-end dapat menghadirkan dirinya ke dua socket CPU (dua link x8 atau x16) atau ke beberapa host. Sisi optik tidak berubah; split-nya ada di PCIe. Relevan untuk 400G pada platform Gen 4 dan untuk server GPU di mana NIC setiap GPU harus berada pada root PCIe-nya sendiri.
Checklist sebelum membeli NIC untuk optik
- Jenis cage dan kecepatan yang didukung kontroler pada cage tersebut.
- Generasi dan lane PCIe pada slot target vs total bandwidth port.
- Butuh breakout? Kontroler harus mendukung port split.
- Kebijakan modul dari driver (Kompatibilitas optik pada NIC).
- Budget daya cage vs modul yang direncanakan; keberadaan konektor daya auksiliari.
- Aliran udara pada posisi sasis; pertimbangkan OCP 3.0 untuk pendinginan lebih baik.
- Dukungan OS/driver untuk mode FEC dan pemaksaan kecepatan.
Di CodingBox
Kode kepatuhan dan kelas daya modul memberi tahu apakah modul itu dapat melayani cage dan kecepatan NIC; CodingBox membacanya sebelum modul dipasang, dan persoalan port-split serta PCIe diselesaikan di sisi server (Check transceiver).