CodingBox ドキュメント

FC ポート診断:カウンター、slow drain、SFP チェック

SAN スイッチは、ポート上で発生するあらゆる異常をカウントします。どのカウンターが「コネクターの汚れ」を意味し、どのカウンターが「ホストがバッファを排出できていない」ことを意味するかが分かっていれば、カウンターは物理的な原因にきれいに対応付けられます。このページでは、2大プラットフォームのカウンター、それぞれが示す原因、スロードレイン輻輳の現れ方、そしてスイッチから SFP 自体を読み取る方法を一覧にします。

カウンター一覧

カウンター(Brocade porterrshowCisco MDS での相当(show interface fc… counters意味原因
enc_out — フレーム外の符号化エラーinvalid transmission wordsフレーム間の不正なシンボル光モジュール、ケーブル、コネクター、速度の不一致 — 物理層の典型的なカウンター
enc_in — フレーム内の符号化エラーinvalid transmission words / CRCフレーム内の破損したシンボル同じ原因で、より深刻
crc_errCRC errorsフレームが CRC に失敗限界品質のリンク:端面の汚れ、低い Rx、SFP の故障。ISL では両端を確認
crc_g_eofCRC with good EOFCRC エラーだが、フレームは正しく終端されている。このポートより上流で発生直前のホップを確認
too_shrt / too_long / bad_eofframe too short / too long / bad EOF不正な形式のフレーム通常は enc_in の結果、または機器の故障
link_faillink failuresリンクがダウンしたケーブルの抜け、SFP 故障、電源、対向側のリセット
loss_sync / loss_sigsync loss / signal loss信号またはワード同期の喪失低い Rx、LOS、フラッピング — リンクフラッピング
frjt / fbsyF_RJT / F_BSYファブリックがフレームを拒否/ビジー状態にした光モジュールではなく、ファブリックまたはゾーニングの問題
disc_c3 — class 3 discardstimeout discardsスイッチ内でタイムアウトし、破棄されたフレームスロードレイン/輻輳
c3timeout tx/rxタイムアウトの方向tx タイムアウト:接続先の機器が遅い。rx:上流の問題
pcs_err(16G 以上)64B/66B PCS ブロックエラー16/32GFC での物理層の問題
uncor_err(FEC 付き 16G 以上)FEC uncorrectedFEC がブロックを訂正できなかった限界に近いリンク — VDM と FEC メトリクス
credit lossportstatsshow: tim_txcrd_z)credit loss / tx credit not available送信クレジットがゼロの状態で経過した時間輻輳、または汚れたリンクでの R_RDY の喪失

経験則:enc_out、crc_err、loss_sync、pcs_err は物理的な問題で増加し、disc_c3、c3timeout、tim_txcrd_z は輻輳の問題で増加し、frjt/fbsy はファブリックの問題で増加します。カウンターをクリアし、しばらく待ってから、累計ではなく増加率を確認してください。

スロードレイン

クレジットの返却が遅い末端機器(過負荷のホスト、故障しかけの HBA、経路上の速度不一致)は、フレームをスイッチのバッファに滞留させます。これらのフレームはタイムアウトして破棄され、輻輳は ISL を通じて無関係な機器へと逆方向に伝播します。これは SAN で最も被害の大きい問題であり、最初はランダムな性能問題のように見えます。

兆候場所
F_Port で tim_txcrd_z が増加しているそのポートの機器がクレジットの返却が遅い
同じポートで disc_c3/c3timeout txその機器宛てのフレームがタイムアウトしている
ISL や他の F_Port での disc_c3輻輳が広がっている
Bottleneck/MAPS の「latency」アラート(Brocade)、show logging onboard flow-control request-timeout、congestion-drop/slow-drain 検出(Cisco)プラットフォームのツール

対策:遅い機器を修理または隔離する(ポートフェンシング、優先度の低い仮想チャネルへの隔離)、エッジポートの congestion-drop タイムアウトを短縮する、経路上での速度の段差を避ける、ISL のオーバーサブスクリプションを適正に保つ(SAN 設計)。光モジュールがスロードレインの原因になることはほとんどありませんが、R_RDY を失った限界品質のリンクは、これを模倣することがあるため、まず enc_out/crc を確認してください。

スイッチからの SFP チェック

作業Brocade FOSCisco MDS / NX-OS
SFP の識別情報と DDMsfpshow <port>show interface fc1/1 transceiver details
ポート状態と速度portshow <port>, switchshowshow interface fc1/1, show interface brief
エラーカウンターporterrshow, portstatsshow <port>show interface fc1/1 counters [detailed]
カウンターのクリアportstatsclear / statsclearclear counters interface fc1/1
リンクテストportloopbacktestD_Port 診断(portcfgdport, portdporttestshow interface fc1/1 transceiver details + 診断ツールによるループバック
ヘルスポリシーMAPS(CRC、ITW、クレジット損失、SFP パワー/温度のしきい値)port-monitor ポリシー(RX/TX パワー、CRC、ITW、クレジット損失)

sfpshow と transceiver details は、ベンダー、型番、シリアル、速度、しきい値付きの DDM 値を表示します。これらは、CodingBox がベンチ上で読み取るのと同じバイトです。どちらのプラットフォームも非対応の光モジュールにフラグを立てます。Mod_InvNo_Module、または「unsupported transceiver」で止まっているポートは、故障ではなくポリシーによる拒否です(ベンダーロックFC の光学系)。

不良な FC ポートの診断手順

  1. porterrshow /カウンター:物理層(enc_out、crc、sync)、輻輳(disc_c3、credits)、ファブリック(rjt/bsy)を切り分けます。
  2. SFP の DDM:両端の Rx パワーをクラスの許容範囲と照合します(標準値)。経年劣化については Tx バイアスの傾向を見ます。
  3. コネクターを清掃・点検し、パッチコードを交換して、増加率でカウンターを再確認します。
  4. 速度:ネゴシエート速度を下の世代に固定し、エラーが止まるか確認します(限界品質の 32G リンクは 16G ではクリーンな場合があります)(速度とレート)。
  5. D_Port/ループバックテストで、スイッチ、SFP、ケーブルを切り分けます。
  6. 輻輳の場合:苦情が出ているポートではなく、tim_txcrd_z を手がかりに遅い機器を見つけます。

CodingBox では

スイッチから取り外した疑わしい FC SFP は、ベンチ上で読み取れます。Check transceiverDDM で、識別情報、FC の速度/メディアコード、チェックサム、リアルタイムの DDM を確認します。ベンチ上では問題がなく、ポートに挿すとエラーが出るモジュールであれば、疑いはケーブル、コネクター、または対向側に移ります。


この記事に不正確な点や誤りを見つけた場合は、該当する箇所を選択して Ctrl+Enter を押すと、できます。