NVIDIA Quantum-X800 及其對 AI 技術的影響
你會發現 NVIDIA Quantum-X800 正在改變你使用 AI 技術的方式，尤其是在香港伺服器租用環境中。NVIDIA 帶來了更快的交換頻寬、改進的網路內運算能力以及更低的連接埠到連接埠延遲。無論是在本地資料中心還是在 香港伺服器租用 部署中，你都能體驗到面向 AI 工作負載的更高速度與更強擴充性。與早期方案相比，NVIDIA Quantum-X800 將交換頻寬提升了五倍。NVIDIA 也加入了自我修復網路技術和內建的 PCIe 6.0 交換晶片，從而提升整體效率。下表展示了主要改進：
| 特性 | Quantum-X800 的改進 |
|---|---|
| 交換頻寬 | 提升五倍 |
| 網路內運算 | 最高提升至九倍 |
| 連接埠到連接埠延遲 | 低於 100 奈秒 |
| 功耗 | 4U 系統通常 <5 kW |
關鍵重點
- NVIDIA Quantum-X800 透過 800Gb/s 頻寬和超低延遲強化 AI 效能，實現更快速的資料處理。
- 此平台支援超過 10,000 張 GPU，能夠建構超大規模 AI 系統並提升擴充性。
- 先進的網路內運算功能帶來 14.4 TFLOPS 效能，縮短資料傳輸時間，進一步提升效率。
- 高能效設計降低營運成本，使其成為 AI 資料中心的永續選擇。
- 升級至 Quantum-X800 能重塑你的 AI 基礎設施，為高負載工作提供更高效能與可靠性。
NVIDIA Quantum-X800 對 AI 的影響
AI 的速度與擴充性
為了因應持續成長的 AI 需求，你需要更高的速度與更好的擴充性。NVIDIA Quantum-X800 為 AI 計算網路提供 2 倍速度與 5 倍擴充性。此平台支援最高 800Gb/s 的總吞吐量，這代表你可以比以往更快地傳輸資料。你可以在單一叢集中連接超過 10,000 張 GPU，從而建構超大規模 AI 系統。兩層胖樹架構協助你在維持低延遲與高頻寬的同時，實現最高效能的 AI 基礎設施。
「NVIDIA Networking 是我們 AI 超級運算基礎設施可擴充性的核心所在，」NVIDIA 網路事業部資深副總裁 Gilad Shainer 表示，「NVIDIA X800 交換器是端對端的網路平台，讓我們能夠實現對新一代 AI 基礎設施至關重要的兆億參數級生成式 AI。」
你可以在下表中直觀地看到差異：
| 特性 | Quantum-X800 | 上一代（Quantum-2） |
|---|---|---|
| 最大支援 GPU 數量 | 10,000+ | N/A |
| 架構 | 兩層胖樹 | N/A |
| 頻寬 | 最高 800Gb/s | N/A |
| 頻寬容量提升 | 5 倍 | N/A |
NVIDIA Quantum-X800 採用基於遙測的壅塞控制與強化自適應路由。這些功能協助你在多使用者共享 AI 專用基礎設施時，仍能有效管理頻寬並維持高效能。你可以同時執行多項作業並支援多租戶，而不會明顯拖慢工作負載。
- 此平台實現端到端 800Gb/s 的吞吐量。
- 網路內運算效能提升 9 倍，在 SHARPv4 加持下達到 14.4 TFLOPS。
- 架構在 800Gb/s 下支援超過 10,000 個主機連線，為多租戶環境提供良好擴充性。
驅動生成式 AI 與超級運算
若你希望訓練兆億參數級的生成式 AI 模型，NVIDIA Quantum-X800 能協助你達成目標。此平台為大規模 AI 應用與超級運算工作負載提供所需效能與效率。與上一代相比，你獲得 9 倍的網路內運算能力，代表你可以更快速地處理與分析資料，這對高效能 AI 引擎與極致效能的 AI 基礎設施尤其關鍵。
NVIDIA Quantum-X 光子網路交換器，讓 AI 工廠與超級運算中心能大幅降低能耗與營運成本。
此平台專為兆億參數級生成式 AI 所打造。你可以將其部署於雲端環境中的 AI 專用基礎設施，或建置在自有資料中心中。平台支援 Stargate 的 64,000 台 GB200 系統，以及 Oracle 的 131,000 GPU Z 級超級叢集，這些案例都顯示，你可以將 AI 工作負載延展至前所未有的高度。
| 特性 | 描述 |
|---|---|
| 先進網路內運算 | 運用 NVIDIA SHARP v4 與可程式化核心，在網路內部實現更強大的運算能力。 |
| 超高連線性 | 提供 800Gb/s 連線並具備超低延遲。 |
| 擴充性 | 為 AI 計算網路提供 2 倍速度與 5 倍擴充性。 |
| 能效 | 能效提升 3.5 倍，可靠度提升 10 倍。 |
| 連接埠到連接埠延遲 | 次 100 奈秒延遲，實現快速資料傳輸。 |
| 網路內運算效能 | 提供 14.4 TFLOPS 的網路內運算能力。 |
你可以信賴 NVIDIA Quantum-X800，為你提供建構極致效能 AI 基礎設施所需的平台。此平台支援大規模 AI，協助你在效能、效率與擴充性方面達到新高度。你可以依賴這項技術，推動下一代 AI 與科學探索。
NVIDIA AI 網路發展的演進
從傳統方案走向 Quantum-X800
隨著 AI 的快速發展，你已見證需求的急遽攀升，但傳統網路方案卻常常成為瓶頸。這些既有系統在面對現代 AI 工作負載時顯得力不從心，在頻寬擴展、能效與整合方面皆有不足。高延遲與可靠度問題讓建構大規模 AI 基礎設施變得更加困難。你需要的是能支援更大叢集與更複雜 AI 模型的新技術。
以下是傳統網路解決方案的主要侷限：
| 侷限 | 描述 |
|---|---|
| 頻寬擴展 | 傳統方案在大規模 GPU 叢集中，難以有效擴展頻寬。 |
| 能效 | 網路元件功耗偏高，嚴重影響整體系統效率。 |
| 整合難度 | 仰賴電性互連，導致先進網路技術的整合更加困難。 |
| 延遲問題 | 在大規模環境下，高尾延遲與故障網域問題日益嚴重，影響整體效能。 |
| 成本與可靠度 | 以電性互連為主，在成本與可靠度方面皆難與光學互連解決方案相比。 |
你需要一條全新的道路。NVIDIA Quantum-X800 在 AI 網路方面帶來飛躍性的進步。此技術採用先進的 InfiniBand 架構，突破傳統系統限制，讓你獲得更高頻寬、更佳擴充性以及更流暢的整合體驗，從而打造面向未來的 AI 基礎設施。
因應 AI 基礎設施挑戰
你希望 AI 基礎設施能夠輕鬆承載大規模工作負載並實現平滑擴展。NVIDIA Quantum-X800 InfiniBand 透過多項關鍵特性來回應這些挑戰。與上一代相比，你可以獲得每連接埠兩倍的頻寬。系統支援多種機箱配置，便於建構大型 AI 與 HPC 網路架構。在 Q3400 系統中，你可以獲得高達 115.2 Tb/s 的交換總吞吐量。
以下特性可協助你解決基礎設施難題：
| 特性 | 描述 |
|---|---|
| 頻寬 | 與 Quantum-2 相比，每連接埠頻寬倍增，提供每連接埠 800G。 |
| 擴充性 | 支援多種機箱配置，以建構大型 AI 與 HPC 網路架構。 |
| 吞吐量 | 在 Q3400 系統中，最高可提供 115.2 Tb/s 的交換吞吐量。 |
現在，你可以建構真正符合現代技術需求的 AI 基礎設施。NVIDIA 為你提供擴展 AI 叢集、提升效率與降低延遲的工具。你能獲得更佳的整合體驗與可靠度，進而不斷突破 AI 技術的邊界。
提示：當你升級至 NVIDIA Quantum-X800 時，你將為 AI 基礎設施解鎖全新的效能與擴充層級。
NVIDIA Quantum-X800 InfiniBand 架構
800G 頻寬與超低延遲
藉由 NVIDIA Quantum-X800 InfiniBand，你將體驗到連線能力的大躍進。此技術提供最高 800Gb/s 的網路能力，讓你能更快速地處理資料並支援更大規模的 AI 工作負載。相較於過去幾代，你可以取得五倍的頻寬容量提升。胖樹拓撲確保整個 AI 叢集在高頻寬狀態下仍能維持穩定連線與低延遲。你會注意到端到端延遲低於 100 奈秒，這有助於加速訓練流程並縮短分散式訓練完成時間。NVIDIA Quantum-X800 InfiniBand 支援超過 10,000 個主機連線，非常適合大規模運算環境。
提示：對於有效率地訓練大型 AI 模型而言，低延遲與高頻寬不可或缺。藉由 NVIDIA Quantum-X800 InfiniBand，你能在競爭中取得優勢。
| 特性 | Quantum-X800 InfiniBand | 上一代方案 |
|---|---|---|
| 吞吐量 | 最高 800Gb/s | 低於 800Gb/s |
| 頻寬容量提升 | 5 倍 | N/A |
| 運算能力提升 | 9 倍 | N/A |
| 網路運算效能 | 14.4 TFLOPS | N/A |
網路內運算與效率
透過 NVIDIA Quantum-X800 InfiniBand，你可以充分享受先進網路內運算所帶來的優勢。SHARP 通訊協定優化了集合通訊操作，這對 AI 與科學運算尤其關鍵。你會看到部分工作被卸載給網路交換器處理，進而減少資料傳輸並盡量降低延遲。此技術顯著提升訓練與高運算密集工作負載的效能。你可獲得 9 倍的運算能力提升，總計達到 14.4 TFLOPS。NVIDIA Quantum-X800 InfiniBand 同時提供超低延遲與高頻寬，使 AI 工作負載與科學運算更加高效。
- SHARP 通訊協定優化通訊效率。
- 網路交換器負責處理集合運算工作。
- 降低資料傳輸量並盡可能減少延遲。
- 大幅提升訓練與分散式訓練效能。
大規模 AI 叢集支援
藉由 NVIDIA Quantum-X800 InfiniBand，你可以輕鬆擴展 AI 叢集。此平台支援超過 10,000 張 GPU，並提供 800Gb/s 網路能力，實現大規模連線。你可以運用多種機箱配置，建構大型 AI 與 HPC 網路架構。NVIDIA Quantum-X800 InfiniBand 整合共封裝光學（CPO）技術，進一步提升能效並降低互連功耗。你可以擺脫傳統可插拔式收發模組，進而降低延遲與功耗。導入液冷機櫃可改善散熱管理，支援 AI 資料中心的永續擴展。NVIDIA 的 PCF 顯示，在大規模 AI 工作負載情境下，碳排放足跡可降低約 24%。
注意：藉由 NVIDIA Quantum-X800 InfiniBand，你可以打造密度更高、散熱更有效率的系統設計，並在大規模部署中節省數十甚至上百兆瓦的電力。
| 證據描述 | 對環境效率的影響 |
|---|---|
| 整合共封裝光學（CPO）技術 | 提升能效並降低互連功率開銷，在大規模部署時有望節省數十甚至上百兆瓦電力。 |
| 取消傳統可插拔式收發模組 | 降低延遲與功耗，有助於打造更高密度且散熱更有效率的系統設計。 |
| 導入液冷機櫃 | 透過改善散熱與能效，支援 AI 資料中心的永續擴展。 |
你可以運用 NVIDIA Quantum-X800 InfiniBand 建置高效能 AI 基礎設施。在實際工作負載中，你將擁有更佳的連線性、更低延遲與更高效的運算能力。依託 NVIDIA 技術，你可以為下一代 AI 與科學探索提供強而有力的動能。
真實部署與比較
AI 超級電腦與企業級應用情境
你會看到，NVIDIA 技術正為全球部分規模最大的 AI 超級電腦提供支援。許多機構運用 NVIDIA 網路技術建構高效能運算叢集，以支撐前沿研究與創新。例如，Microsoft Azure 採用 NVIDIA 網路方案來擴展其 AI 雲端與企業基礎設施。你可以在雲端環境、研究實驗室以及企業資料中心看見 NVIDIA 解決方案的身影。
透過 NVIDIA，你可以在多方面獲益：
- 更低的功耗，為大規模 AI 資料中心帶來直接的營運成本節省。
- 在 AI 工作負載上獲得更佳效能與擴充性。
- 更容易與既有雲端與企業系統整合。
早期採用者對 NVIDIA 網路技術給予正面回饋：
- NVIDIA 網路事業部資深副總裁 Gilad Shainer 表示：「NVIDIA Networking 是我們 AI 超級運算基礎設施可擴充性的核心所在。」
- Microsoft Azure AI 基礎設施副總裁 Nidhi Chappell 指出：「AI 是將資料轉化為知識的強大工具。在這場轉型背後，是資料中心向高效能 AI 引擎演進，對網路基礎設施提出更高要求。」
你可以採用 NVIDIA 網路方案來支撐 AI 雲端與企業基礎設施，以滿足持續成長的 AI 與高效能運算叢集需求。
Quantum-X800 與其他方案比較
若你想了解 NVIDIA 與其他網路方案之間的差異，關鍵在於其高效能、低延遲與高能效。你可以獲得最高 800Gb/s 的頻寬，遠高於許多替代方案。同時，你也能享有頻寬容量提升五倍與網路運算效能提升九倍等優勢。
下表提供一個比較範例：
| 特性 | NVIDIA Quantum-X800 | 其他方案 |
|---|---|---|
| 頻寬 | 最高 800Gb/s | 較低 |
| 功耗 | 較低 | 較高 |
| 擴充性 | 10,000+ 張 GPU | GPU 數量較少 |
| 整合能力 | 更易與雲端環境整合 | 整合較為複雜 |
| 效能 | 高 | 中等 |
當你在 AI、雲端運算與企業級工作負載中需要可靠效能時，NVIDIA 是理性之選。在 AI 超級運算與大規模部署中，你可以取得更佳成果，同時節省營運成本，使 NVIDIA 成為建構 AI 基礎設施的明智投資。
你會看到 NVIDIA 正在推動新一代 AI 技術的發展。Quantum-X800 平台為網路與運算樹立了更高標準。你能獲得更快速度、更佳能效及更高可靠度。NVIDIA 協助你建構易於擴展且能長時間穩定運行的 AI 系統。你也能明顯感受到能耗與營運成本的下降。下表展示下一代技術的預期進展：
| 特性 | 描述 |
|---|---|
| 能效 | 相較於傳統系統提升 3.5 倍 |
| 訊號完整性 | 進一步強化，確保資料傳輸穩定可靠 |
| 可靠度 | 韌性提升 10 倍，應用運行時間延長 5 倍 |
| 端到端吞吐量 | 800Gb/s，為前代系統頻寬的兩倍 |
| 網路內運算 | 運算能力提升 9 倍 |
| SHARPv4 技術 | 最大幅度降低 GPU 之間通訊開銷 |
| FP8 精度 | 加速訓練兆億參數等級的模型 |
| 能源消耗 | 顯著降低營運成本 |
藉由採用 NVIDIA 解決方案，你可以為未來 AI 發展趨勢預先做好準備。在 AI 不斷演進並持續提高對基礎設施要求的過程中，你都能保持領先。
常見問題
NVIDIA Quantum-X800 相較於既有網路方案有何不同？
你可以獲得 5 倍頻寬與更低延遲。Quantum-X800 採用先進的 InfiniBand 架構，在擴充性與能效方面表現更佳。此技術能支撐超大規模 AI 叢集，同時降低營運成本。
Quantum-X800 如何提升 AI 訓練速度？
憑藉 800Gb/s 頻寬與超低延遲，你可以在 GPU 之間快速傳輸資料。訓練工作的完成時間大幅縮短，同時也能輕鬆處理更大規模的模型。
Quantum-X800 能否用於現有資料中心？
可以。Quantum-X800 容易與既有雲端與企業系統整合。你無需對基礎設施進行大規模改造，即可順利完成升級，讓 AI 工作負載更容易擴展。
Quantum-X800 在環保方面有何優勢？
透過共封裝光學與液冷技術，你可以大幅降低能耗並減少碳排放，從而建構更環保且更高效的 AI 資料中心。
Quantum-X800 是否適用於 AI 與科學運算？
當然可以！你可以在 AI、機器學習以及科學研究等多種情境中使用 Quantum-X800。其高頻寬與低延遲能滿足多種高要求工作負載，為不同應用提供穩定可靠的效能。
