好多写AI会导致电力匮乏的消息,不绝于耳。然而大部分只能知其然,却不能知其所以然,为什么缺,怎么缺,缺多少,没什么答案也没什么可参考的。
我关注一个事情,一般先了解一下论点,然后重点看论据,最后再自己论证合理不。今天这篇文章主要聊一下数据层面上是谈一谈AI如何导致电力的供给紧张,以及业界的一些潜在的解决办法。
首先为什么缺?从国外的角度讲,如果现在新建AI算力中心,不太可能买B200,也不太可能买A100,基本主力是买H100。
这种卡我现在手里有10块
,虽说是PCIE的
一块H100的峰值功率一般大概在700W,我的是PCIE所以是400W
H100 2023年底全球销量50万块卡左右,2024年估计要翻到150万块到200万块左右。
如果H100都按SXM来算(实际上大多数买的也是SXM,要不也不会给我PCIE免费玩
)然后按着百分之60的年利用率做一个简单的乘法,可以算出来一年的耗电量是5,500G瓦时左右,也就是5.5TWh
5.5TWh是什么概念呢?立陶宛这种东欧国