NVIDIA GB200 が 800G/1.6T DAC/ACC を活用する方法

NVIDIA は、パフォーマンスが大幅に向上した最新の GB200 シリーズ コンピューティング システムをリリースしました。これらのシステムは銅と光の両方の相互接続を利用しているため、市場では「銅」と「光」テクノロジーの進化について多くの議論が行われています。

現在の状況: GB200 (以前の GH200 を含む) シリーズは、NVIDIA の「スーパーチップ」システムです。従来のサーバーと比較して、このシステムは粒度が高く、主にキャビネット内の電気信号を使用して 36 個または 72 個の GPU が接続されています。外部的には、NVLink ネットワークと InfiniBand ネットワークの両方を採用しています。

銅線と光ファイバーの選択は、基本的に距離と速度のトレードオフです。

GB200 は光通信の重要性を低下させますか?

GH200 をベースにした GB200 NVL72 システムのターゲット シナリオは、NVIDIA が「AI クラウド/AI ファクトリー」と定義する、大規模クラスター、クラウド、プラットフォーム タイプの顧客をより指向しています。期待される形式は、複数のキャビネットのクラスタです。 800G それ以上になると膨大な電気損失が発生するため、光通信が必要になります。

ただし、GB200 システムを XNUMX つしか導入しない中小規模の顧客の場合、実現可能性は疑わしく、従来のサーバーまたはクラウドベースのソリューションの方が良い選択肢になる可能性があります (これも NVIDIA の差別化戦略の一部です)。

GB200の設計目標は: 単一のキャビネットで AI 推論を処理できるため、クラウド仮想化の導入に有益です。

GB200 システムの最小単位はキャビネットであり、推論パフォーマンスが大幅に向上し、大規模なシングル GPU 分散システムを回避して、大量のパラメータ、クロスモーダル、大量のトークン、および複数の同時推論シナリオをより適切に処理できるようになりました。 。クラウド IDC シナリオでは、将来の大規模な推論需要にうまく対処できます (AWS および MSFT の評価を参照)。

銅配線の増加に対する市場の理解は次のような理由によるものです。

以前は、H100 シリーズ クラスタにはキャビネット内相互接続ではなく、別個のネットワーク キャビネットがあり、チップ レートが比較的高かったため、短距離の銅線はほとんどありませんでした。

一方、GB200 シリーズでは、筐体内に多くの銅線が存在しますが、NVLink ドメインや IB の光インターコネクト拡張など、大規模クラスターにおける光インターコネクトの需要は非常に大きく、シリコン フォトニクスとチップ間の光 I/O はすでに非常に明確です。

Q: GTC カンファレンスでの NVIDIA の製品発表は予想とどのように異なりましたか?

A: 今回の GTC カンファレンスでは、GB200 が主力製品となり、当初予定されていた B100 および B200 製品は予想通りに発表されませんでした。 GB200 チップには 2 つの GPU と 1 つの CPU が含まれており、展示されている主な製品は、サーバー用に 36 個の GB200 チップで構成される単一のキャビネットです。昨年リリースされた GB200 と比較すると、この GB200 では標準のクラスター製品は紹介されず、単一の 36 カード キャビネット製品のみが紹介されました。

Q: GB200 シリーズにおける IP アーキテクチャの役割は何ですか?

A: キャビネット間接続が必要な一部の大規模顧客の場合、外部接続に IP アーキテクチャが使用されます。ただし、GB200 と GB200 の違いは内部接続にあります。 GB200 は、昨年のバックプレーン接続方式ではなく、m リンク電気接続 (GPU とスイッチ間の銅線相互接続) を使用します。 Huang氏はカンファレンスでコスト削減と性能デモンストレーションにおける銅配線の利点を特に強調した。

Q: GTC カンファレンスで、Jensen Huang 氏が銅線相互接続ソリューションについて特別に説明しましたが、その利点は何ですか?

A: このような重要なカンファレンスで銅配線ソリューションが具体的に説明されるのは今回が初めてであり、誰もが大きな関心を寄せている点でもあります。 GPU は mlink を介して接続されており、銅相互接続の使用が確認されており、その製品ソリューションは昨年のバックプレーン接続方法と同様である可能性があります。 Huang氏は、コスト削減と性能実証における銅相互接続の利点を強調した。

Q: GB200 シリーズの発売は市場にどのような影響を与えますか?

A: NVIDIA の新世代のサーバー レベル GPU チップとして、GB200 シリーズのパフォーマンスと効率の向上は市場に大きな影響を与えるでしょう。特に、銅相互接続ソリューションの採用により、GPU クラスターの内部接続方法が変更され、コストが削減され、パフォーマンスが向上する可能性があります。さらに、GB200 はデータセンターの設計と展開を変え、人工知能とクラウド コンピューティングの開発をさらに推進する可能性があります。

Q: GB200 銅線相互接続の利点は何ですか?

A: GB200 発売のハイライト: GB200 シングル チップには 2 つの GPU と 1 つの CPU が含まれており、発売された主な製品は 36 個の GB200 チップで構成されるシングル キャビネット製品です。これは、NVIDIA が光インターコネクト テクノロジではなく電気インターコネクト (mlink) に焦点を当てていることを示しています。市場の促進と期待: GH200 が広く採用されていないのとは対照的に、GB200 は広く応用されるでしょう。カンファレンスでの Huang 氏のスピーチによると、複数の潜在的な大口顧客は、GB200 に大量の期待があることを示唆しています。市場は一般に、GB200のプロモーションにより、光モジュールとGPUの比率が1:2.5から1:9に徐々に増加する可能性があり、来年のGB200の販売量は大きな成長の可能性があると考えている。

Q: バックプレーン コネクタの業界トレンドは何ですか?

A: バックプレーン コネクタの使用は、AI サーバー、大型スイッチ、ルーターで徐々に増加しています。このテクノロジーは、直交ゼロ バックプレーン モードおよびケーブル バックプレーン モードに向けて進化しています。バックプレーン ケーブルには、伝送距離が長く、配線が柔軟であるという利点がありますが、コストが比較的高くなります。

Q: バックプレーン コネクタの需要と価格の傾向はどのようなものですか?

A: AI サーバーの需要の増加により、バックプレーン コネクタの需要も高まっています。ケーブル バックプレーン モードへの移行により値も増加し、合計値は単一サーバーのコストの 3 ～ 5% を占めます。したがって、業界では量と価格の両方が増加する傾向が見られます。

Q: GB200 の発売は光モジュール業界にどのような影響を与えますか?

A: GB200 の発売は、ほとんどの顧客に存在するキャビネット間接続の需要を満たすため、光モジュール業界にとってプラスです。現在の GB200 の双方向帯域幅は 1800G で、1.6T 構成比に基づくと、光モジュールとの比は約 1:9 になります。 800G ソリューションを使用する場合、比率は 1:18 に達する可能性があります。値の差はそれほど大きくありませんが、 1.6T OSFP-XD光モジュール 第 4 四半期に量産される予定であるため、顧客はよりコスト効率の高い 1.6T ソリューションを使用する傾向があります。したがって、光モジュールはアップグレードされ、現在の 1:2.5 から 1:9 への傾向が推進されます。

Q: GB200 と GH200 の主な違いは何ですか?

A: 主な違いは、GH シリーズが大量生産製品ではないのに対し、GB200 には Google、Meta、OpenAI、Microsoft、Oracle、Tesla など幅広い潜在顧客が含まれていることです。これは、GB200 が広範囲に適用され、大量に採用されることを意味します。

Q: 来年の 1.6T OSFP-XD 光モジュールの需要に対する市場の予想は何ですか?

A: 来年の 1.6T OSFP-XD 光モジュール需要の市場予想は 2 ～ 3 万個で、当社のモデルでは 2.5 万個と予測されています。これには、スタンドアロンの B100 または B200 シリーズからの増加する需要はまだ考慮されていません。

Q: GB200 はどのような種類の相互接続ソリューションを採用しましたか?

A: GB200 は銅相互接続ソリューションを採用し、コストを削減しました。特に GB200 の大量採用により、これは光モジュールの需要増加を促進する重要な要因となるでしょう。

Q: カンファレンスでの Huang 氏のプレゼンテーションはどのような業界トレンドを反映していましたか?

A: カンファレンスでの彼のプレゼンテーションは、単なる短期的な話題ではなく、業界のトレンドを反映していると見ることができます。時間が経つにつれて、業界は関連企業の業績を観察することになるでしょう。以前、市場では銅線インターコネクト ソリューションと光インターコネクト ソリューションについて議論がありましたが、GB200 が銅線インターコネクト ソリューションを採用したことが確認されました。

Q: 光モジュール業界の中核となる投資対象は何ですか?

A: GB200 の大量採用と 1.6T OSFP-XD 光モジュールの需要の高まりにより、FiberMall はさらに注目を集めるでしょう。

Q: 銅線相互接続ソリューションの市場の見通しは何ですか?

A: 銅線相互接続ソリューションに対する市場の態度は変わりつつあります。 GB200 が銅相互接続ソリューションを採用したという事実は、このソリューションが将来的により幅広い用途に使用される可能性があることを示しています。関連企業のパフォーマンス提供により、銅線相互接続ソリューションの市場見通しは期待に値します。

Q: GB200 と GH200 の設計とアプリケーションの主な違いは何ですか?

A: GB200 の設計は、ブレード サーバーのような接続方法を使用して、スイッチ、サーバー、GPU を同じキャビネットに統合します。スイッチの I/O インターフェイスは前面に表示されますが、スイッチと GPU 間の接続は銅線バックプレーン ケーブルを介している可能性が高くなります。対照的に、GH200 は DAC (ダイレクト アタッチ ケーブル) との独立した接続設計を採用しています。

Q: GB200 の設計において銅バックプレーン ケーブルはどのような役割を果たしますか?

A: 銅製バックプレーン ケーブルは GB200 設計において重要な役割を果たし、バックプレーン コネクタを接続し、スイッチと GPU ボード間の相互接続をサポートします。この設計により、サーバーとスイッチ間の信号伝送がより便利になります。

Q: バックプレーン コネクタの主な応用分野は何ですか?

A: バックプレーン コネクタは主に大型スイッチ、ルーター、AI サーバーで使用されます。特にモジュール設計のサーバーや大型スイッチ/ルーターでは、このサブボードとバックプレーンのアーキテクチャがより一般的になるでしょう。

Q: バックプレーン コネクタの業界の発展傾向は何ですか?

A: サーバーとスイッチの設計の進歩に伴い、バックプレーン コネクタの需要は今後も増加すると予想されます。特に大型スイッチ、ルーター、AI サーバーの分野では、これらのコネクタの応用の可能性は広範囲に及びます。

Q: 供給側の競争環境はどうなっていますか?

A: バックプレーン コネクタの供給側の競争状況は比較的安定しています。 FiberMall は、豊富な生産経験と強力なサプライチェーン管理能力を備え、安定した高品質のバックプレーン コネクタ製品を市場に提供しています。

Q: GB200 の設計はバックプレーン コネクタの需要にどのような影響を与えますか?

A: GB200 の設計により、AI サーバーや大型スイッチ/ルーターの需要が増加し、それがバックプレーン コネクタの需要を押し上げました。サーバーとスイッチのこの設計パラダイムでは、バックプレーン コネクタの需要が大幅に増加すると考えられます。

Q: バックプレーン コネクタは技術開発の過程でどのように進化していますか?

A: バックプレーン コネクタは 200 つの方向に進化しています。XNUMX つは直交ゼロ バックプレーン、もう XNUMX つはケーブル バックプレーンです。 GBXNUMXはケーブルバックプレーン方式を採用しており、放熱性の向上、伝送損失の低減、伝送距離の延長、配線の柔軟性などの利点があります。しかし、欠点はコストが高いことです。

Q: バックプレーン コネクタのデマンド側ロジックは何ですか?

A: バックプレーン コネクタの需要は主に AI サーバーによって促進されており、ケーブル バックプレーン モードの価値は従来のバックプレーン PCB モードよりも大幅に高くなります。現在、バックプレーン コネクタの価値は、単一サーバーのコストの約 3 ～ 5% を占めています。

Q: バックプレーン コネクタの将来の市場の見通しは何ですか?

A: 人工知能やビッグデータなどのテクノロジーの急速な発展に伴い、バックプレーン コネクタに対する市場の需要は今後も成長し続けるでしょう。将来的に、バックプレーンコネクタ市場はより多くの機会と課題に直面することになるため、国内外の企業は市場の需要に応え、競争力を維持するために技術研究開発と製品イノベーションを継続的に強化する必要があります。

Q: AI サーバーで使用されるケーブル バックプレーン モードは主流のトレンドになるでしょうか?

A: はい、AI サーバーで使用されるケーブル バックプレーン モードが主流になると予想されます。