首页 > 笔记本 > 笔记本资讯 > 笔记本_行业动态> 正文

AI应用超费电,全球H100功耗堪比欧洲小国

婷仔 整合编辑: 杨玥锴 发布于:2023-12-29 09:44

随着人工智能的飞速发展,对计算能力的需求也水涨船高。英伟达的AI处理器H100目前十分畅销,然而每块H100的峰值功耗高达700瓦,超过了普通美国家庭的平均功耗。随着大量H100被部署,专家预测,其总功耗将与一座美国大城市不相上下,甚至超过一些欧洲小国。

英伟达H100GPU峰值功耗为700瓦,按照61% 的年利用率,每块 H100 每年将消耗约3740千瓦时(kWh)的电量。到2024年底,将有350万块H100芯片被部署,其总年耗电量将达到13091.82 吉瓦时 (GWh)。而立陶宛或危地马拉等国家的年均电力消耗也才为13092 吉瓦时左右。

英伟达及其人工智能潮流将电力数字推向了新的高度,这确实是黄仁勋的杰作。根据市场分析来源Stock Talk的估计数据,首席执行官黄仁勋所引领的人工智能潮流似乎不仅在收入数据方面,而且在电力消耗方面都建立了新的基准。

据悉,英伟达H100共计350万台,每年将消耗约1.3万GWh的电力。此前,电力消耗与2020年的加密货币挖矿热潮有关,因为据透露,加密货币挖矿导致消耗了173.42太瓦时的电力。

NVIDIA 在全球的H100 AI GPU现在预计其用电量相当于危地马拉和立陶宛等国家每年的耗电量,这令人感到震惊与惊讶。不可否认,Team Green的AI GPU已经在全球范围内进行了大规模部署,这不仅是因为该公司努力拓展其硬件和软件资源,而且也因为英伟达在向市场提供其产品方面处于领先地位。在目前的状态下,没有其他公司能与NVIDIA相媲美,尤其是在采用新的AI语言模型和平台方面。

然而,事情似乎并没有就此止步,因为英伟达计划明年销售高达150至200万台,这意味着用电量几乎是现在的三倍。

NVIDIA的Jupiter 超级计算机由 GH200 GPU 加速器提供支持。未来几年,几台超级计算机将投入使用,因此预计相关AI行业和数据中心领域的功耗将继续增长。

虽然H100的功耗令人震惊,但值得注意的是,AI和高性能计算 (HPC) GPU的效率正在不断提高。因此,虽然英伟达下一代Blackwell架构的B100芯片的功耗可能会超过H100,但它也将提供更高的性能,从而以更少的单位功耗完成更多的工作。

随着AI技术的发展,如何平衡算力与能耗之间的矛盾,将成为未来亟需解决的重要课题。

Nvidia   AI
婷仔

网友评论

聚超值•精选

推荐 手机 笔记本 影像 硬件 家居 商用 企业 出行 未来
二维码 回到顶部