当前位置：新闻详细
转载：https://ai.zol.com.cn/883/8830512.html
2024-07-09 16:40:58·[??中关村在线 原创??]·作者：一便士的月亮
根据富国银行的预测，今年AI用电需求将达到8TWh，而到2030年将激增到652TWh，增长幅度将达到8050%。这一增长主要由于AI模型训练所用的电力消耗增加。富国银行预计，在2026年，AI用电将达到40TWh，在2030年将达到402TWh。此外，随着AI推理技术的发展，未来几年里用电量也将快速增长。
如果单纯看数字可能会让人感到有些抽象。举个例子，2023年中国全年用电为9224.1TWh，上海市全年用电为184.9TWh，深圳市全年用电为112.8 TWh。可以看出，在当前阶段下，人工智能领域正面临严重的用电荒挑战。
就GPU而言，在人工智能领域中起着重要作用。以英伟达的H100 AI GPU为例，其单机功耗高达700W；而英伟达下一代B200 AI GPU每片功耗将达到1200W。
AMD方面的情况也类似。上一代Instinct MI250 AI加速器峰值功耗为560瓦，而新推出的MI300X AI加速器峰值功耗则达到了750瓦，比上一代增加了50%。英特尔也不甘落后，其新款Gaudi 2 AI加速器的峰值功耗为600W，新款Gaudi 3 AI加速器的峰值功耗更高达900W（又增加了50%）。英特尔下一代Falcon Shore混合AI处理器的功耗更高，每个芯片的峰值功耗达到了惊人的1500W。
以上只是单独计算了GPU部分，如果再加上CPU以及其他附加组件，则整个系统所需的电力更加惊人。以英伟达GB200为例，它包含了两个B200 GPU和一个Grace CPU，总功耗达到了惊人的2700W。
友情链接