为什么 NVIDIA 服务器越来越依赖液冷技术

你会发现，NVIDIA 服务器以及日本服务器租用都在转向液冷，因为传统风冷已经难以应对现代 GPU 在尤其是 AI 工作负载下产生的高热量与高功耗。液冷可以在热源处直接捕获热量，帮助你节省能源并降低成本。

• 现代 AI 机架产生极高的热密度，液冷可防止过热，保障服务器可靠运行。
• 加州能源委员会的一项研究显示，对 1200 台服务器采用液冷，每年可节省 355 兆瓦时电能，降低成本 39,155 美元。

关键要点

• 液冷对于现代 NVIDIA 服务器至关重要，它可以高效处理高性能 GPU 产生的大量热量，确保可靠性与性能表现。
• 切换到液冷可以带来显著的能源成本节省，研究表明节能幅度可达 30%，大型数据中心每年可节省超过 39,000 美元。
• 液冷允许更高的功率密度，使每个机架容纳更多 GPU，从而提升整体性能与营收潜力。
• 通过液冷维持最佳温度，可避免热降频，让服务器在高强度 AI 负载下持续发挥稳定性能。
• 部署液冷需要提前规划基础设施并对运维团队进行培训，但长期收益包括更高的效率与更强的可扩展性。

NVIDIA 服务器采用液冷的驱动因素

功率密度与散热挑战

随着 NVIDIA 服务器性能不断提升，你面临的新挑战也在增加。A100、H100 和 B200 等现代 GPU 的功耗持续攀升。例如，单颗 A100 芯片功耗约 400 瓦，H100 提升至 700 瓦，而 B200 则达到 1,000 瓦。配备八块 GPU 的满载 AI 机架，持续功耗可达 12–15 千瓦，而 GB200 NVL72 机柜的功耗甚至可高达 130 千瓦。这些数字远远超过传统风冷的最佳范围（每机架约 8–12 千瓦）。

• 平均机架功率密度在短短两年内已从 8 kW 提升到 17 kW。
• 下一代处理器预计在 2027 年前后，单芯片功耗可能超过 1,400 瓦。
• 糟糕的气流会产生热点，降低散热效率并增加硬件故障风险。
• 高密度 NVIDIA GPU 集群需要先进的散热方案来避免过热。

液冷让你可以应对这些极端热负载。它直接从热源处带走热量，防止热点产生，保持服务器稳定运行。你可以在保证安全的前提下增加每个机架中的 GPU 数量，这对液冷数据中心尤为重要。这种方式支持高密度 AI 训练集群的部署，并确保可靠运行。

能效提升与成本降低

你希望服务器在高效运行的同时尽量节省成本。与风冷相比，液冷方案在能源利用和成本节省方面优势明显。液冷系统的电源使用效率（PUE）可达 1.15，而风冷则通常在 1.6 左右。这意味着你可以用更少的能耗完成制冷，把更多电力用于实际算力。

液冷可带来高达 30% 的电力利用率提升。你在制冷支出上的成本节省可高达 25 倍，对于 50 MW 规模的超大数据中心而言，年度节省金额可超过 400 万美元。同时，总体数据中心用电量也有约 10.2% 的下降。这些优势让液冷成为追求能效计算时的明智之选。

液冷还可以让每台服务器容纳更多 GPU，从而提升吞吐量和营收潜力。你可以获得更低的总体拥有成本和更高的效率，这在你大规模扩展 AI 算力时尤为关键。

AI 工作负载与兼容性

你依赖 NVIDIA 服务器来处理高强度 AI 工作负载，这类任务需要持续的高性能计算，并会产生大量热量。液冷可以保持较低的运行温度，避免热降频，支持更高、更稳定的工作频率。例如，液冷可以将运行温度从 72°C 降低到 50°C，在提升性能的同时还可减少约 30% 的能耗。

冷板是 NVIDIA AI 平台液冷方案中的关键组件。它们支持芯片直冷，可以直接移除服务器超过 90% 的热负载。冷板可应对从 400 W 到 2,000 W 的热设计功耗，因此能够兼容不同代际的硬件。这项技术让你在不依赖高能耗制冷系统的情况下，持续以峰值性能运行 AI 工作负载。

• 冷板支持对 NVIDIA 服务器的芯片直冷。
• 它们可以消除大部分热量，在 AI 训练集群中保持服务器可靠运行。
• 凭借高效散热，液冷数据中心能够在大规模运行下保持稳定。

液冷对于大规模 AI 性能至关重要。你可以获得更高的灵活性、更强的可靠性，以及与最新 NVIDIA GPU 的良好兼容性。随着 AI 工作负载持续增长，液冷确保你的服务器在未来仍能保持冷静、高效并随时应对新需求。

液冷为 NVIDIA 服务器带来的优势

性能与可靠性提升

你希望服务器每天都能输出顶级性能。与风冷相比，液冷在这方面优势明显。液体的导热能力比空气高出 1,000–3,000 倍，可以更快地将热量从 GPU 中带走，这让 NVIDIA 服务器在高负载下也能维持更高的运行频率。你还会发现热降频现象显著减少，即使在重负载时，性能也更稳定。

液冷对系统的提升主要体现在以下几个方面：

• 液冷让你的硬件始终处于安全温度范围之内。
• 你可以获得更高、更持久的工作频率和更好的超频潜力。
• 服务器整体性能更好、寿命更长，维护成本更低。

最佳温度管理

为了获得理想效果，你需要让 GPU 维持在合适的温度区间。液冷可以在服务器满载时，依然帮助你维持稳定温度。对于高端 NVIDIA GPU，理想温度区间大约在 60–70°C（140–158°F）。采用液冷后，GPU 在高负载下通常可以维持在约 63°C（149°F），空闲时约 53°C（90°F）。这能有效避免过热和突发性能下降。

• 温度稳定意味着硬件承受的压力更小。
• 你可以避免因为过热而引发的热降频，服务器运行更加顺畅。
• 稳定的散热能力也更适合支撑关键任务型应用。

数据中心设计的灵活性

你希望数据中心在高效的同时具备足够的灵活性。液冷让你可以设计更紧凑的机房布局，在有限空间内堆叠更多 GPU 服务器机架。你不再需要大量空气处理设备或架空地板，从而让数据中心更安静、结构更简洁、管理更轻松。

采用液冷后，你的收入潜力最多可提升 40 倍，吞吐量可提升 30 倍。数据中心制冷效率得到显著改善，你也可以在同样的机房面积内部署更多服务器。

提示：液冷为你扩展 NVIDIA 服务器规模，和为未来需求升级数据中心，提供了更大的自由度。

对数据中心运营的影响

基础设施与运维需求

当你为 NVIDIA 服务器部署液冷时，必须提前规划新的基础设施。你需要在现有的网络和电源线缆旁边增加冷却水管路，这意味着需要重新调整机架布局，为管路和集水歧管预留空间。同时，你还需要在便于维护的位置安装冷却分配单元（CDU）。如果选择浸没式液冷，还要确认机房地面结构是否能承受装满冷却液的重型液槽。

你还必须对团队进行新的运维培训。液冷系统需要你定期监测冷却液品质、检查泄漏情况，并对水泵和电机进行维护。运维人员需要学习新的操作流程与安全规范，你也需要持续监控系统状态，以便第一时间发现问题。这些改变使数据中心散热系统更加先进，同时也能为服务器提供更高可靠性。

注意：如果跳过试点测试，或低估基础设施改造的难度，可能会带来严重问题。务必在正式上线前做好测试并充分培训团队。

扩展性与未来准备

液冷有助于你为未来的扩展做好准备。你可以在每个机架中部署更多 GPU，应对更高的功率密度。例如，NVIDIA GB200 NVL72 机柜的功耗约为 130 kW，算力与吞吐量都远超旧一代系统。这意味着你可以在不突破能耗和散热上限的前提下扩展数据中心。

同时，你也为下一代 AI 工作负载预留了空间。这类任务会产生更多热量，因此需要更先进的散热方案来支撑。传统风冷已无法在满负载下支持最新 GPU，而通过液冷，你可以让服务器持续在峰值性能下运行，为新一代技术升级做好准备。

通过采用液冷，你为数据中心的长期发展奠定了基础。你能够满足新的监管要求，支持企业的可持续发展目标，同时为下一波高性能计算浪潮做好准备。

你会看到，液冷正在解决 NVIDIA 服务器在功耗与散热方面最棘手的难题。液冷的传热效率比空气高出近 1,000 倍，能耗可降低约 30%，而机架占用空间最多可减少 75%。

你因此获得更高的性能表现、更可靠的服务器以及更灵活的数据中心设计。在采用液冷的过程中，你需要提前规划基础设施，并对团队进行充分培训。

“对于高端处理器和加速服务器而言，提升散热性能已经成为推动液冷普及的关键因素。”
随着市场扩张与技术演进，你也在为未来的增长提前做好服务器层面的准备。

常见问题

什么是液冷？它是如何工作的？

液冷是通过水或专用冷却液，将服务器产生的热量带走的一种散热方式。冷却液沿着管路和冷板循环流动，将热量从服务器内部转移到外部散热设备，从而保持硬件处于安全温度，避免过热。

为什么 NVIDIA 服务器需要液冷而不是风冷？

由于现代服务器产生的热量已经远超传统风冷的处理能力，你需要液冷来更快地移除热量。液冷可以更高效地散热，让高性能 GPU 在不损伤硬件、不发生降频的情况下持续运行。

液冷对我的数据中心安全吗？

在正确设计、安装和维护的前提下，液冷对数据中心是安全的。你需要定期检查是否有泄漏、监控冷却液质量，并对运维人员进行培训。许多数据中心已经采用液冷来保护服务器并提升整体可靠性。

液冷从长期来看能帮我省钱吗？

液冷可以通过降低能耗和减少硬件故障，为你带来长期成本节省。随着时间推移，服务器在更低制冷能耗下保持更长寿命和更稳定运行，这意味着更低的电费支出和更少的设备更换成本。

我可以给现有服务器升级液冷吗？

部分服务器可以通过液冷改造套件实现升级，但你可能需要更换机架或增加新的管路设施。在实施前，务必与硬件供应商确认你的服务器是否支持液冷方案。