1月1日，Nvidia近期大賣H100 AI GPU，每個GPU的功耗高達(dá)700W，遠(yuǎn)超美國家庭平均功耗。隨著Nvidia新款GPU的大量銷售，預(yù)計其總功耗將與美國主要城市相當(dāng)，甚至超過一些歐洲小國的總功耗。
據(jù)統(tǒng)計，目前用于人工智能應(yīng)用的數(shù)據(jù)中心的總能耗已與塞浦路斯全國的能耗相當(dāng)。微軟數(shù)據(jù)中心技術(shù)治理和戰(zhàn)略首席電氣工程師Paul Churnock預(yù)測，到2024年底，部署數(shù)以百萬計的Nvidia H100 GPU時，Nvidia的H100 GPU的能耗將超過亞利桑那州鳳凰城所有家庭的能耗。然而，總耗電量將低于德克薩斯州休斯頓等大城市。
Churnock指出，H100 GPU的峰值功耗為700W，以61%的年利用率計算，相當(dāng)于美國家庭平均用電量。預(yù)計2024年H100 GPU的銷量為150萬~200萬個。與住宅用電相比按城市消費量計算，Nvidia的H100芯片將排名第五，僅次于德克薩斯州的休斯頓，領(lǐng)先于亞利桑那州的菲尼克斯。
事實上，如果年利用率為61%，H100 GPU每年將消耗約3,740千瓦時 (kWh) 的電力。假設(shè)Nvidia在2023年銷售150萬個H100 GPU，在2024年銷售200萬個H100 GPU，那么到2024年底將部署350萬個此類處理器?？偣?，它們每年將消耗高達(dá)13,091,820,000千瓦時 (kWh) 的電力，或13,091.82 GWh。
雖然這個數(shù)字看起來相當(dāng)驚人，但值得注意的是，AI和HPC GPU的效率正在提高。因此，雖然Nvidia基于Blackwell的B100的功耗可能會超過H100，但它將提供更高的性能，因此每單位功耗可以完成更多的工作。
總的來說，隨著AI技術(shù)的快速發(fā)展和普及，GPU的功耗和數(shù)據(jù)中心的總能耗都在快速增長。然而，通過提高GPU的效率和性能，這個趨勢有望得到緩解。
*部分圖文來自網(wǎng)絡(luò)，如侵權(quán)請聯(lián)系本號刪除*
文章標(biāo)簽：
GPU
