Port NIC, kecepatan, dan bandwidth PCIe · Kartu antarmuka jaringan · Kartu jaringan dan switch · Dokumentasi · CodingBox
CodingBox Dokumentasi

Port NIC, kecepatan, dan bandwidth PCIe

Panel depan sebuah NIC menjanjikan “2 × 100G”; apakah server benar-benar dapat memindahkan 200 Gb/s bergantung pada slot PCIe di belakang kartu, dan apakah suatu modul berfungsi bergantung pada cage dan peta lane controller-nya — persis seperti pada switch, tetapi dengan lebih sedikit port dan bus yang mudah under-provisioned. Halaman ini mendaftar cage dan kecepatan yang ditemukan pada NIC, aturan untuk port dual-rate dan kabel breakout, aritmetika PCIe, faktor bentuk OCP 3.0, serta batas daya dan pendinginan yang penting untuk optik pada kartu.

Cage dan kecepatan pada NIC

CageKecepatan yang ditemui pada NICKontroler tipikalCatatan
SFP+10G (1G pada sebagian)Intel X520/X710, Broadcom 5741xdukungan 1G bervariasi; periksa spesifikasi kartu
SFP2825G, 10G (1G jarang)Intel XXV710/E810-XXV, ConnectX-4 Lx/-6 Lx, Broadcom P22525G membutuhkan kesepakatan FEC (FEC & AN)
SFP5650G, 25G, 10GConnectX-6 Lx/Dx (sebagian)lane PAM4
QSFP28100G, 4 × 25G, 2 × 50G, 40G, 4 × 10GIntel E810-CQDA2, ConnectX-5/6, Broadcom P2100breakout lewat kabel hanya jika diizinkan kontroler
QSFP56200G, 100G, 2 × 100GConnectX-6 Dx/-7, Broadcom P2200, Pensando—
QSFP112400G, 200G, 100G, 4 × 100GConnectX-7, Broadcom P1400GD100G/lane; menerima QSFP28/56
QSFP-DD400G, 2 × 200G, 4 × 100GBroadcom BCM57608—
OSFP (twin-port)2 × 400G, 800GConnectX-7/-8, BlueField-3satu cage, dua port logis pada desain twin-port Nvidia
RJ451G / 10GBASE-T / mGigX550, X710-T, BCM57416tanpa modul, PHY pada kartu

Aturan kompatibilitas cage sama seperti pada switch (Jenis port & cage).

Port dual-rate dan grup kecepatan

  • Kebanyakan NIC 25G menjalankan setiap port secara independen pada 10G atau 25G — tanpa pengelompokan quad — tetapi sebagian kontroler dual-port berbagi satu grup SerDes dan memaksa kecepatan yang sama pada kedua port.
  • Kartu 100G sering mendukung modul 40G; kartu 200G/400G mendukung modul 100G; turun lebih dari satu generasi (1G pada SFP28, 10G pada QSFP56 lewat QSA) jarang didukung.
  • Kecepatan biasanya auto dari kode kepatuhan modul; pemaksaan (ethtool -s … speed) dibutuhkan ketika modul bersifat dual-rate atau tidak dikenali (Alat).

Breakout pada NIC

KasusBerfungsi?
Port NIC QSFP28 100G → 4 × 25G ke sebuah switch (DAC splitter)hanya jika kontroler mendukung mode “4 × 25G port split” (banyak kartu Nvidia dan Broadcom mendukungnya, kebanyakan Intel tidak); kartu kemudian menampilkan 4 netdev
Port switch 100G → 4 × 25G ke empat port SFP28 NICya — ini arah yang umum; split dikonfigurasi pada switch (Breakout & MPO)
OSFP twin-port 400G → 2 × 400G atau 4 × 200G / 8 × 100Gkartu twin-port Nvidia: 2 port logis per cage; split lebih lanjut bergantung pada firmware
2 × 50G dari sebuah port QSFP28sebagian kontroler

PCIe: kecepatan port yang sesungguhnya

Generasi PCIePer lane (mentah)Terpakai x8 (≈)Terpakai x16 (≈)
Gen 38 GT/s56–63 Gb/s112–126 Gb/s
Gen 416 GT/s112–126 Gb/s225–252 Gb/s
Gen 532 GT/s225–252 Gb/s450–504 Gb/s
Gen 664 GT/s~450–500 Gb/s~900–1 000 Gb/s

Throughput yang dapat dipakai adalah 85–90 % dari nilai mentah setelah overhead pengkodean dan paket. Cocokkan port dengan lane:

KartuPortMembutuhkan
2 × 25G50 Gb/sGen 3 x8
2 × 100G200 Gb/sGen 4 x16 (Gen 3 x16 jenuh pada ~126)
1 × 200G / 2 × 100G Gen 4200 Gb/sGen 4 x16
2 × 200G400 Gb/sGen 5 x16
1 × 400G400 Gb/sGen 5 x16 (atau dua x16 lewat “socket direct”/multi-host)
2 × 400G800 Gb/sGen 6 x16 atau dua Gen 5 x16

Sebuah kartu 2 × 100G dalam slot Gen 3 x8 link pada 100G di kedua port dan menghasilkan total ~60 Gb/s — optiknya baik-baik saja, busnya tidak. Periksa lspci -vv untuk lebar dan kecepatan link yang dinegosiasikan (LnkSta), serta pengaturan bifurkasi BIOS.

OCP NIC 3.0

ParameterSFF (faktor bentuk kecil)LFF (besar)
Ukuran76 × 115 mm139 × 115 mm
PCIehingga x16hingga x32 (dua x16)
Dayahingga 80 Whingga 150 W
Port2–4 × SFP28/QSFP28/QSFP56/QSFP1122 × QSFP-DD/OSFP atau lebih
Akses optikdepan modul, tanpa toolsama

Kartu OCP berada di bagian belakang server dengan jalur aliran udaranya sendiri; pendinginan modul biasanya lebih baik dibandingkan pada kartu PCIe yang terjepit di antara GPU.

Daya dan pendinginan untuk optik pada kartu

ItemBatas / aturan
Daya slot PCIe25 W (x1…x8 low profile), 75 W (x16); kartu 400G memakai konektor auksiliari 8-pin
Budget per-cage pada NICSFP28: 1,5 W (level II); QSFP28: 3,5–4,5 W; QSFP56/112: 5–8 W; QSFP-DD/OSFP: 12–20 W — dinyatakan pada datasheet kartu (Daya & konsumsi)
Aliran udara200–300 LFM melintasi kartu; optik pada kartu di server 1U dekat exhaust CPU berjalan panas — suhu DDM di atas 60 °C lazim terjadi
Thermal throttlingsebagian kontroler menurunkan modul ke daya rendah atau mematikan port ketika modul melaporkan suhu tinggi
Koheren / ZR pada NICtidak didukung pada NIC standar — kelas 8 melebihi budget cage

Multi-host dan socket direct

Kartu high-end dapat menghadirkan dirinya ke dua socket CPU (dua link x8 atau x16) atau ke beberapa host. Sisi optik tidak berubah; split-nya ada di PCIe. Relevan untuk 400G pada platform Gen 4 dan untuk server GPU di mana NIC setiap GPU harus berada pada root PCIe-nya sendiri.

Checklist sebelum membeli NIC untuk optik

  1. Jenis cage dan kecepatan yang didukung kontroler pada cage tersebut.
  2. Generasi dan lane PCIe pada slot target vs total bandwidth port.
  3. Butuh breakout? Kontroler harus mendukung port split.
  4. Kebijakan modul dari driver (Kompatibilitas optik pada NIC).
  5. Budget daya cage vs modul yang direncanakan; keberadaan konektor daya auksiliari.
  6. Aliran udara pada posisi sasis; pertimbangkan OCP 3.0 untuk pendinginan lebih baik.
  7. Dukungan OS/driver untuk mode FEC dan pemaksaan kecepatan.

Di CodingBox

Kode kepatuhan dan kelas daya modul memberi tahu apakah modul itu dapat melayani cage dan kecepatan NIC; CodingBox membacanya sebelum modul dipasang, dan persoalan port-split serta PCIe diselesaikan di sisi server (Check transceiver).


Jika Anda menemukan ketidakakuratan atau kesalahan dalam artikel ini, pilih bagian teks yang bersangkutan lalu tekan Ctrl+Enter untuk .