3月26日,科技界傳出震撼消息,據(jù)業(yè)內(nèi)媒體報(bào)道,英偉達(dá)公司即將在今年9月展開(kāi)大規(guī)模采購(gòu)行動(dòng),目標(biāo)直指三星電子一家供應(yīng)12層HBM3E內(nèi)存。這一決策不僅彰顯了英偉達(dá)在高性能計(jì)算領(lǐng)域的雄心壯志,也預(yù)示著高帶寬存儲(chǔ)器(HBM)市場(chǎng)即將迎來(lái)新的技術(shù)變革。?
在不久前舉辦的GTC 2024大會(huì)上,英偉達(dá)創(chuàng)始人兼CEO黃仁勛親自為三星電子的12層HBM3E產(chǎn)品簽下了“黃仁勛認(rèn)證(JENSEN APPROVED)”的殊榮,這無(wú)疑是對(duì)三星技術(shù)實(shí)力的最高認(rèn)可。與此同時(shí),業(yè)界另一大內(nèi)存制造商SK海力士卻因部分工程問(wèn)題,未能及時(shí)推出12層HBM3E產(chǎn)品,轉(zhuǎn)而計(jì)劃從本月末開(kāi)始批量生產(chǎn)8層HBM3E產(chǎn)品。這一對(duì)比,更加凸顯了三星在HBM技術(shù)領(lǐng)域的領(lǐng)先地位。
早在今年2月,三星電子便官方宣布成功開(kāi)發(fā)出業(yè)界首款36GB 12層堆疊(12H)的HBM3E DRAM內(nèi)存。這款新產(chǎn)品不僅提供了高達(dá)1280GB/s的帶寬,更擁有業(yè)界最da的36GB容量。與8層堆疊的HBM3 8H相比,其在帶寬和容量上實(shí)現(xiàn)了超過(guò)50%的提升,為高性能計(jì)算和人工智能應(yīng)用帶來(lái)了前所未有的性能飛躍。
據(jù)了解,三星為了實(shí)現(xiàn)12層堆疊同時(shí)保持產(chǎn)品高度一致,采用了先進(jìn)的熱壓非導(dǎo)電薄膜(TC NCF)技術(shù)。這項(xiàng)技術(shù)的應(yīng)用不僅滿足了當(dāng)前HBM封裝的要求,還有效緩解了薄片帶來(lái)的芯片彎曲問(wèn)題,為更高的堆疊層數(shù)帶來(lái)了更多優(yōu)勢(shì)。同時(shí),通過(guò)降低非導(dǎo)電薄膜材料的厚度并最小化芯片之間的間隙,三星成功消除了層與層之間的空隙,使得HBM3E 12H的垂直密度比HBM3 8H提高了20%以上。
值得一提的是,隨著人工智能應(yīng)用的不斷擴(kuò)展和深化,HBM3E 12H有望成為未來(lái)系統(tǒng)的關(guān)鍵存儲(chǔ)解決方案。其AI訓(xùn)練速度平均提高34%,同時(shí)推理服務(wù)用戶數(shù)量也可增加超過(guò)11.5倍,為AI應(yīng)用提供了強(qiáng)大的數(shù)據(jù)吞吐和處理能力。
在GTC 2024大會(huì)上,英偉達(dá)還正式發(fā)布了B200和GB200系列芯片。其中,B200擁有驚人的2080億個(gè)晶體管,采用臺(tái)積電4NP工藝制程,可以支持多達(dá)10萬(wàn)億個(gè)參數(shù)的AI大模型。而其強(qiáng)大的AI性能,離不開(kāi)高性能存儲(chǔ)器的支持。可以預(yù)見(jiàn),隨著英偉達(dá)大量采購(gòu)三星12層HBM3E內(nèi)存,其B200和GB200系列芯片的性能將得到進(jìn)一步提升,為人工智能和高性能計(jì)算領(lǐng)域帶來(lái)更多的可能性。
此次英偉達(dá)與三星的合作,無(wú)疑將推動(dòng)整個(gè)半導(dǎo)體行業(yè)的技術(shù)進(jìn)步和產(chǎn)業(yè)升級(jí)。未來(lái),我們期待看到更多高性能、高帶寬的存儲(chǔ)器產(chǎn)品問(wèn)世,為人工智能、云計(jì)算、大數(shù)據(jù)等領(lǐng)域的發(fā)展注入新的活力。