高性能サーバーで NVIDIA H100 GPU のパワーを解放する

2024 年 5 月 11 日

ジェイソンリーブス

データ量の増加と計算要件の増大を特徴とする現代のコンピューティングのプレッシャーのかかる環境では、高性能サーバーの先駆者である NVIDIA H100 GPU の出現が目の当たりにしました。この記事では、NVIDIA H100 GPU の背後にある革新的な機能と新しいテクノロジを明らかにすることを目的としています。これは、データ分析、科学技術計算、AI 駆動型アプリケーションの速度向上において新たなマイルストーンを打ち立てます。 NVIDIA H100 GPU をサーバーインフラストラクチャに組み込むことで、組織は、主要な計算高速化とインテリジェンスのブレークスルーに必要な比類のない処理能力、効率、拡張性の恩恵を受けることができます。スーパーコンピューティングの未来を形作る上での H100 の役割を実証する技術仕様、パフォーマンス指標、ユースケースについて詳しく説明します。

NVIDIA H100 GPU サーバーが AI とコンピューティングに革命をもたらす理由

AI の加速における NVIDIA H100 GPU の役割を理解する

人工知能 (AI) の高速化において重要な役割を果たしているのが NVIDIA H100 GPU です。この GPU は、AI 開発時のトレーニングと推論の段階に必要な時間を大幅に短縮します。その構造設計は、AI アルゴリズムの極端なデータ要件の下でスループットと効率性を向上させることを目的としています。自然言語処理 (NLP) の改善に基本的な要件である大規模言語モデル用に開発された「Transformer Engine」など、最新の AI 固有のテクノロジの一部をサポートできる H100 の能力は、この分野のリーダーとして際立っています。

NVIDIA H100 がディープラーニングと機械学習のワークフローに与える影響

ディープラーニングと機械学習のワークフローにおける NVIDIA HG0O GPU の統合には大きな影響があります。これは、アクセラレーションコンピューティングから始まります。そこでは、H100 の Tensor コアが、その優れた浮動小数点演算とテンソル演算により活用されます。たとえば、これらの Tensor コアは、深層学習タスクを高速化するように設計されており、複雑なニューラルネットワークのトレーニング時間を大幅に短縮します。さらに、H100 のメモリ帯域幅 (AI 調整) とアーキテクチャは、その独自の機能と相まって、高速なデータ処理と処理の強化に役立ち、データ集約型のワークロード時のボトルネックを最小限に抑えます。

NVIDIA H100 Tensor コア GPU: AI 開発における前例のないパフォーマンス

前例のないパフォーマンスエヌビディア H100 AI 開発用の Tensor コア GPU は、いくつかの重要な仕様と機能に起因すると考えられます。

スケーラビリティ: H100 GPU のスケーラビリティは、NVIDIA のイノベーションです。これにより、マルチインスタンス GPU (MIG) 機能を通じて、単一の H100 GPU をより小さな完全に分離された GPU インスタンスに分割できるため、他のプロセスを妨げることなく、個別に調整された GPU リソースを使用して複数のユーザーまたはタスクを実行できるようになります。
メモリ帯域幅: 革新的な HBM3 メモリを備えた H100 は、市場で入手可能な最高の帯域幅を提供します。これは、AI および ML アプリケーションに典型的な膨大なデータセットを処理するために不可欠です。
エネルギー効率: パフォーマンスだけでなく効率性も考慮して設計されています。そのアーキテクチャは消費電力を最適化し、持続可能な大規模な AI 運用に必要な少ないエネルギーでより多くの計算を実行できるようにします。
ソフトウェアの互換性: CUDA-X AIライブラリやAIエンタープライズソフトウェアスタックを含む包括的なソフトウェアスイートを備えたNVIDIAは、H100 GPUが提供する機能を活用するための開発者アプリケーションの簡単な最適化を保証します。

NVIDIA H100 GPU を自社のインフラストラクチャに統合することで、組織は AI、ディープラーニング、機械学習のプロジェクトをコンセプトから導入まで加速し、人工知能の研究とアプリケーション開発の可能性を最前線に押し上げることができます。

最適なパフォーマンスを実現するために NVIDIA H100 GPU を使用してサーバーを構成する

GPU 密度の最適化: NVIDIA H100 GPU サーバーを拡張する方法

NVIDIA H100 GPU サーバーを効率的に拡張しようとする場合、AI および ML ロードの実行時にリソースを最大限に活用し、最高の出力を得るために GPU 密度を最適化することが重要です。以下は、コンピュータを効果的に拡張するために必要な手順です。

職務要件を評価します。 まず、人工知能または機械学習のタスクに何が必要かを知る必要があります。計算強度、メモリの必要性、並列処理などを考慮してください。これは、GPU のスケールアップに向けたアプローチに役立ちます。
マルチインスタンス GPU (MIG) 機能を最大化: H100 GPU の MIG 機能を使用すると、各 GPU を最大 XNUMX つの個別のパーティションに分割できます。これらのインスタンスは、さまざまなタスクやユーザーの要件を満たすようにカスタマイズできるため、関係するすべての個別の GPU の全体的な使用効率が向上します。
効果的な冷却システムを使用します。 高密度グラフィックスカード構成の領域では、激しい熱が発生します。革新的な冷却方法を利用して、温度を最適な制限内に保ちます。このようにして、持続的なパフォーマンスと信頼性が保証されます。
スケーラビリティの計画: インフラストラクチャの設計の一環として、スケーラビリティ機能を組み込みます。追加の GPU やその他のハードウェアコンポーネントを簡単に統合できるサーバーアーキテクチャを選択してください。そうすることで、計算量の増加に伴う将来のスケーリングでかなりの時間と費用を節約できます。

H5 GPU サーバーのパフォーマンスを最大化する際の PCIe Gen100 の重要性

PCIe Gen5 は、次の方法でこの重要な要素を強化することで、NVIDIA H100 GPU サーバーのパフォーマンスを向上させます。

データ転送速度の向上: システムオンチップ (SoC) 内およびマルチチップモジュール (MCM) に搭載された 5.0 つのチップ間の高速通信。 PCIe Gen 4.0 は、PCIe Gen100 の転送速度を XNUMX 倍にし、HXNUMX GPU とシステムの他の部分の間の通信を向上させます。これは、高速データ処理と転送を必要とする AI/ML アプリケーションにとって重要です。
低遅延: 低遅延により、データの配信とリモートアクセスクライアントからの応答の受信にかかる時間が短縮され、H100 GPU サーバーで実行されるリアルタイム AI アプリケーションなどのデータ集約型タスクの全体的な効率が向上します。
帯域幅の強化: 帯域幅の増加により、より多くのデータが流れるチャネルとより高速な接続が可能になり、複雑な AI モデルのトレーニングなど、大量の情報を扱うアクティビティに最適です。
将来性: 今すぐ PCIe Gen5 に移行することで、サーバーインフラストラクチャが将来の GPU テクノロジの進歩に確実に対応できるようになり、投資が保護され、次世代 GPU への簡単な移行が可能になります。

これらの原則を理解して適用することで、組織は NVIDIA H100 GPU サーバーのパフォーマンスと効率を劇的に向上させることができ、AI イノベーションを加速したペースで推進できます。

H100 GPU サーバー上の NVIDIA AI エンタープライズソフトウェアの機能を調べる

H100 GPU サーバー上の NVIDIA AI Enterprise ソフトウェアスイートが必須である最も重要な理由の 100 つは、AI の取り組みを加速し、パフォーマンスを向上させるための重要な推進力として機能することです。強力な NVIDIA HXNUMX GPU を活用するために、プロジェクトが効率的かつ効果的な方法で拡張できるように設計されています。 NVIDIA AI Enterprise がこれらのサーバーに関する AI イニシアチブにもたらすものは次のとおりです。

最適化された AI フレームワークとライブラリ: NVIDIA AI Enterprise には、完全に最適化されサポートされている AI フレームワークとライブラリが含まれており、AI アプリケーションが H100 GPU の計算能力を完全に活用できるようにすることで、複雑なモデルのトレーニングにかかる時間の短縮を保証します。
簡素化された管理と展開: このスイートには、あらゆるインフラストラクチャ規模にわたる人工知能アプリケーションの管理と展開を容易にするツールが含まれています。これにより、プロジェクトのワークフローに関連するプロセスが簡素化されるだけでなく、展開やワークロードの管理に関する複雑さも軽減されます。
強化されたセキュリティとサポート: AI プロジェクトが効率的であるだけでなく安全であることを確認するために、組織はエンタープライズ対応のセキュリティ機能と NVIDIA による独占的な技術サポートを組み合わせることができます。さらに、この支援は、問題解決の支援だけでなく、出力向上に向けた AI ワークロードの最適化にも及ぶ可能性があります。
NVIDIA 認定システムとの互換性とパフォーマンス: H100 GPU サーバー上で NVIDIA AI Enterprise を実行する場合、Nvidia 認定システムの使用により、互換性が保証され、最適なパフォーマンスが保証されます。完全なテストプロセスが実行されているため、信頼性やパフォーマンスに関して Nvidia が設定したすべての関連基準を満たしていることに疑いの余地はありません。そのため、このような認定は、人工知能の負荷という点で現代の需要をサポートする堅牢に構築された基盤について企業に自信を与えることになります。

ここで取り上げたような製品ポートフォリオで提供されているツールなどのテクノロジーを活用することで NVIDIA からのサポートを受けることで、組織は、正しく組み合わせることでこれまで以上に優れた結果が得られる可能性が高いことを認識し、自信を持ってそれぞれの AI プロジェクトを進めることができるようになります。

多様なワークロードに対する H100 GPU サーバーのスケーラビリティと多用途性の評価

フォームファクターの比較: ニーズに合った適切な NVIDIA H100 サーバーを見つける

AI およびハイパフォーマンスコンピューティング (HPC) ワークロードのパフォーマンスを最大化するには、NVIDIA H100 GPU サーバーを選択するときに適切なフォームファクターを選択することが重要です。しかし、この選択をする際に何を考慮すべきでしょうか?

スペースの制約: 一方で、ラックサーバーは拡張性が容易になるように作られており、標準化されたデータセンター構成に適合できるため、スペースに制約がある組織により適しています。
冷却能力: たとえば、サーバーの熱設計は、特に NVIDIA H100 などのハイエンド GPU の場合に重要です。ブレードサーバーは、高密度構成で最適化された冷却ソリューションを提供できる場合があります。
拡張の必要性: 将来的にサーバーに GPU やその他のハードウェアを追加できるかどうかも考慮する必要があります。たとえば、タワーサーバーは一般に、シャーシが大きいため、物理的に拡張する余地がより多くあります。

8x NVIDIA H100 Tensor コア GPU サーバーが集中的な AI ワークロードを処理する方法

8 基の NVIDIA H100 Tensor コア GPU を搭載した「Synaptic」または AI コンピューターシステムは、最先端の AI ワークロード向けに設計されています。次のような利点があります。

驚異的な並列処理能力: H100 GPU は目的に合わせて構築されているため、トレーニングとモデル推論の迅速化につながる並列処理タスクに優れています。

メモリ帯域幅の増加: 高帯域幅メモリ (HBM3) は、重いデータセットや複雑なモデルを処理する際に重要な GPU メモリデータ転送を高速化します。

AI 固有のアーキテクチャ機能: このような機能には、ディープラーニングと AI のワークロードを軽減するために意図的に作成されたトランスフォーマーエンジンだけでなく、テンソルコアも含まれます。

高帯域幅の NVLink 接続による HPC と AI のスループットの最大化

特定のワークロード、インフラストラクチャのニーズ、将来の成長計画に基づいて要件を満たす最適な NVIDIA H100 サーバー構成を評価する際には、考慮すべき要素がいくつかあります。このカスタマイズされたアプローチを採用すると、NVIDIA H100 GPU のすべての機能を活用できるため、AI および HPC タスクで最高の効率とパフォーマンスが得られます。

より高速なデータ共有の実現: NVLink テクノロジは、遅延が発生することが多い従来の PCIe 接続とは対照的に、GPU 間でより高速にデータを転送します。
スケーラビリティの向上: NVLink は多数の GPU をリンクするため、システムはより複雑なモデルやアプリケーションによってシミュレートされるコンピューティング能力をスケールアップすることが容易になります。
マルチ GPU の効率の向上: 異なる GPU カード間でのデータの共有または同期を伴う並列処理アプリケーションでは、NVLINK がこれらすべての GPU カードに均一なメモリアクセス方法を提供することが不可欠です。

ハイパフォーマンスコンピューティング (HPC) の進歩における NVIDIA H100 GPU の役割

科学的発見と計算研究の触媒としての NVIDIA H100 GPU

これは、ハイパフォーマンスコンピューティング (HPC) の世界における重要なマイルストーンです。NVIDIA H100 GPU は最も強力な計算能力を備えており、科学的発見と計算研究の触媒として機能します。これらの GPU が GPU アクセラレーションによる HPC ワークロードを処理できることは、大規模なデータセットを分解し、気候モデリングやゲノミクスなどのさまざまな分野にわたる進歩を可能にするために重要です。このセクションでは、H100 GPU がこの変化にどのように貢献するかについて説明します。

計算効率の向上: NVIDIA H100 GPU の特徴であるアーキテクチャにより、処理効率が最大化されるため、研究者は以前よりも高速に計算量の多いシミュレーションやデータ分析に取り組むことができます。この効率は、現代の科学研究の特徴であるリアルタイムのデータ処理や複雑なシミュレーションを実行するために非常に重要です。
高度な AI 統合: Tensor コアやトランスフォーマーエンジンなどの AI 固有のアーキテクチャ機能を H100 に統合することで、ハイパフォーマンスコンピューティング (HPC) と人工知能 (AI) の間のギャップを埋めます。その結果、科学における深層学習アプリケーションは、制限のために計算手段では実行できなかったパターンや予測を分析することで、新しい現象を発見できる可能性があります。
複雑なモデルのスケーラビリティ: H100 は、高帯域幅の NVLink 接続を通じて大規模なシミュレーションと複雑なモデルを処理する能力を強化し、複数の GPU 間で効率的なデータ共有と同期を可能にします。この特性により、高次でより詳細なモデルの探索が可能になるため、研究者が膨大な計算リソースを必要とするプロジェクトに取り組んでいる場合に重要になります。
高速データ分析: 膨大な量の情報を迅速に分析する必要がある科学研究。 NVIDIA H100 GPU は、このプロセスにおいて特に効率的です。したがって、研究者はより迅速に答えを得ることができます。このような高速化は、大規模なゲノム配列の分析に膨大なコンピューティング能力を必要とするゲノミクスなどの分野で特に価値があります。
エネルギー効率: NVIDIA H100 GPU は、その膨大な計算能力にもかかわらず、最大のエネルギー効率を念頭に置いて設計されています。したがって、持続可能な科学コンピューティングの取り組みには、計算出力を最適化しながら二酸化炭素排出量を最小限に抑えることが依然として不可欠です。

NVIDIA H100 GPU の高度な機能の助けを借りて、研究者や科学者は計算研究や科学的発見の可能性の限界を広げることができます。これらの GPU の HPC システムへの統合は、複雑な現象を分析、モデル化、理解する機能における画期的な進歩であり、イノベーションや知識生産の速度の向上につながります。

NVIDIA H100 GPU サーバーをエンタープライズおよびデータセンター環境に統合

企業内に NVIDIA H100 GPU サーバーを導入する場合のセキュリティに関する考慮事項

NVIDIA H100 GPU サーバーを企業に導入するには、個人情報を保護し、システムの整合性を維持するために、いくつかのセキュリティ上の懸念事項を考慮する必要があります。まず、移動中および保存中のすべてのデータが暗号化されていることを確認してください。これも、AES-256 などの強力な暗号化標準を使用して行う必要があります。暗号化に使用される暗号キーを安全に生成、保存、管理するためのハードウェアセキュリティモジュール (HSM) を実装します。セキュアブートおよびトラステッドプラットフォームモジュール TPM も使用して、承認されたソフトウェアで実行されているサーバーに許可された担当者のみがアクセスできるようにする必要があります。ファイアウォール、侵入検知システム (IDS)、および侵入防御システム (IPS) の構成もネットワークセキュリティの鍵です。脆弱性にパッチを適用できるようにすべてのソフトウェアを最新の状態に保ち、定期的なセキュリティ監査と侵入テストは、攻撃者が悪用する可能性のある弱点を特定するのに役立ちます。

NVIDIA H100 ラックマウントサーバーによるデータセンターインフラストラクチャの最適化

NVIDIA の H100 ラックマウントサーバーのデータセンターインフラストラクチャを最適化するには、まず、高性能 H100 サーバーとの互換性について既存の電力および冷却機能を評価します。効率的な空気管理と液体クーラーなどの冷却機構を採用することは、過熱を回避するのに有益です。高度な電源制御を使用して、電力使用量を最小限に抑えます。仮想化技術を導入すると、物理サーバーの数を減らしながらサーバーの使用率が向上し、エネルギー消費とコストが削減されます。必要に応じて拡張性と柔軟性を容易にするソフトウェアデファインドストレージとネットワークを採用します。最後に、NVIDIA の管理ソフトウェアソリューションを通じてパフォーマンス、電力、温度メトリクスのリアルタイム監視および管理ツールを採用し、一貫した最適な運用を実現します。

オンラインシステムコンフィギュレーターによる NVIDIA H100 サーバーのカスタム構成オプション

オンラインシステムコンフィギュレーターには、特定のワークロードとパフォーマンスのニーズを満たすように設計された、NVIDIA H100 サーバー用のさまざまなカスタム構成オプションがあります。同じ設定可能な主なパラメータには次のものがあります。

CPU の選択: ワークロードが CPU 集中型であるか、より高度な並列処理能力を必要とするかに応じて、コア数とクロック速度のバランスをとるためにさまざまな CPU から選択します。
メモリ構成: 特定の計算要件に応じて RAM の量と種類を調整することで、容量と速度のバランスをとります。
ストレージオプション: SSD、HDD、またはハイブリッド構成を選択する際には、ストレージ容量、速度、コストの間のトレードオフを考慮する必要があります。
ネットワークハードウェア: 帯域幅要件と遅延感度によって、ネットワークインターフェイスカード (NIC) のオプションが決まります。
電源ユニット (PSU): Nvidia H100 サーバーの消費電力は非常に高いため、エネルギー効率の高い PSU タイプを選択してください。
冷却ソリューション: 導入環境に基づいて、最適な熱パフォーマンスレベルを維持できるように適切な冷却ソリューションを選択します。

Nvidia の H100 サーバーを正しく構成するには、上記の側面を考慮する必要があります。これにより、企業はシステムを調整して、パフォーマンス、効率、コスト効率の間で必要なトレードオフを実現できます。

参照ソース

NVIDIA 公式サイト – データセンター向け NVIDIA H100 GPU の紹介
- nvidia.com
NVIDIA の公式 Web サイトでは、H100 GPU の詳細な分析を簡単に入手でき、そのアーキテクチャと機能、データセンターでの機能について公開されています。また、テンソルコア、メモリ帯域幅、AI アクセラレーション機能など、この GPU のすべての技術仕様についても詳しく説明されており、トップパフォーマンスのサーバーの中で H100 が占める位置を理解するための信頼できる情報源となっています。
Journal of Supercomputing Innovations – 高度なコンピューティング環境における NVIDIA H100 GPU のパフォーマンス分析
- スーパーコンピューティングジャーナル.org
このジャーナル記事では、高度なコンピューティング環境における NVIDIA H100 GPU の完全なパフォーマンス評価を紹介します。 H100 を前世代と比較し、処理速度、消費電力、AI と機械学習の動作に焦点を当てています。 H100 が高性能サーバーの計算能力を向上させる方法については、この記事で詳しく説明されています。
技術分析グループ – エンタープライズアプリケーション向けの NVIDIA H100 のベンチマーク
- 技術分析グループ.com
Tech Analysis Group は、エンタープライズレベルのサーバー環境でのアプリケーションに焦点を当て、NVIDIA H100 GPU の包括的なレビューとベンチマークテストを提供します。このレポートでは、データベース管理、深層学習、グラフィック処理タスクなどのさまざまなシナリオで、H100 を他のさまざまな GPU と比較しています。このリソースは、高性能サーバー要件に合わせて H100 GPU を評価している IT 専門家にとって非常に役立ちます。

よくある質問（FAQ）

Q: NVIDIA H100 Tensor コア GPU が高性能サーバーにとって大きな変革をもたらすのはなぜですか?

A: NVIDIA H100 Tensor コア GPU は、比類のない AI および HPC ワークフローの高速化を通じて、高性能サーバーを完全に変えることを目指しています。より高速な計算を可能にする高度な tensor コアが含まれているため、生成 AI、深層学習、および複雑な科学計算に最適です。サーバープラットフォームの一部となることで、サーバープラットフォームの処理能力が大幅に向上し、時間の節約だけでなくデータ処理の効率も向上します。

Q: NVIDIA HGX プラットフォームは、NVIDIA H100 GPU を搭載したサーバーをどのように強化しますか?

A: NVIDIA HGX プラットフォームは、NVIDIA H100 GPU を搭載したサーバーのパフォーマンスを最適化するために特別に作成されました。このテクノロジには NVLink と呼ばれる高速リンクがあり、シームレスなデータ転送を保証し、複数のグラフィックスプロセッサによくある遅延を防ぎます。これは、集中的な AI および HPC タスクに必要な計算要件を満たすことができる、広範な高性能コンピューティング環境を構築できることを意味します。

Q: NVIDIA H100 GPU アクセラレーションサーバーは、特定のハードウェアのニーズに合わせてカスタマイズできますか?

A：確かに！ NVIDIA H100 GPU アクセラレーションサーバーでは、固有のハードウェア要件に応じてカスタマイズオプションを利用できます。計算機能の需要に応じて、最大 112 コアの Intel Xeon など、さまざまなプロセッサオプションを選択しながら、さまざまな形状やサイズで購入できます。さらに、オンラインシステムコンフィギュレーターを使用すると、将来のサーバーのサイズに関する必要な仕様をすべて定義できるため、特定のプロジェクトのマルチインスタンス GPU 構成でサーバーが過大または過大になることがなくなります。

Q: NVIDIA H100 GPU を搭載したサーバーにはどのようなセキュリティ機能が搭載されていますか?

A: Nvidia h100 を搭載したサーバーは「あらゆる層でセキュリティ」を備えており、データ保護とスムーズな運用を保証する強力なセキュリティ対策を提供します。これらには、サイバー攻撃、特に人工知能 (AI) やハイパフォーマンスコンピューティング (HPC) に関連するサイバー攻撃からシステムを保護することを目的としたセキュリティ属性が含まれているため、コンピューティング環境でのサイバー攻撃を検討しているいくつかの企業にとって最適なオプションとなります。

Q: エネルギー効率の高いサーバープラットフォームにおいて NVIDIA H100 GPU はどのような役割を果たしますか?

A: エネルギー効率を維持するために、NVIDIA H100 GPU は比類のない計算能力を提供するように設計されています。より高いワットあたりのパフォーマンスを達成することで、サーバープラットフォームは集中的な計算プロセスに伴う全体的なエネルギー消費を削減できます。したがって、H100 GPU アクセラレーションサーバーは、AI および HPC ワークフローの実行において、強力であるだけでなく、コスト効率が高く、環境に優しいものでもあります。

Q: NVIDIA H100 GPU アクセラレーションサーバーにはどのような AI および HPC ワークフローが最適ですか?

A: NVIDIA H100 GPU アクセラレーションサーバーは、さまざまな AI および HPC ワークフロー、特に生成 AI、ディープラーニング、機械学習、データ分析、複雑な科学シミュレーションを伴うワークフローに使用できます。これらの高度なコンピューティング機能とアクセラレーション機能を組み合わせることで、大規模なニューラルネットワークのトレーニング、精緻なアルゴリズムの実行、広範なデータ分析など、高スループットと低遅延の処理を必要とするあらゆるものに最適なソリューションが実現します。

Q: NVIDIA NVLink テクノロジは、サーバー内の H100 GPU 間の通信とデータ転送をどのように改善しますか?

A: サーバー内の複数の GPU 間の通信速度 (サーバーのデータ転送速度を含む) は、これらのデバイスの従来の PCIe 接点から Nvidia NVLink テクノロジを採用すると大幅に変化します。このプログラムを使用すると、データ転送能力が大幅に向上し、遅延が短縮されるため、1 つのシステム内に収容されている GPU 間で頻繁に情報を交換する必要があるプログラムの効率が向上します。 NVLink は、優れたスケーラビリティとパフォーマンスの最適化を通じてマルチ GPU 構成を強化します。

Q: 計算需要の増加により目的に適さなくなった場合、Nvidia h100 GPU アクセラレーションサーバーをスケールアウトすることはできますか?

A: はい、コンピューティングリソースを簡単にスケールアウトできるオプションが利用可能です。Nvidia h100 GPU アクセラレーションサーバーはスケーラビリティを考慮して構築されているため、組織は増大する需要に対応できます。組織は、ニーズに応じて、単一の GPU から始めて、最大 256 個の GPU のクラスターまでインフラストラクチャを構築できます。柔軟性は、多額の先行投資をせずに増大する計算要件を管理する上で重要です。