美國芯片設(shè)計(jì)領(lǐng)域的初創(chuàng)公司Cerebras Systems近期宣布了一項(xiàng)重要的技術(shù)突破，他們成功推出了晶圓級Wafer Scale Engine 3 (WSE-3) AI芯片。這款芯片采用了臺積電先進(jìn)的5nm工藝，將半導(dǎo)體技術(shù)的邊界再次向前推進(jìn)。WSE-3的問世，不僅代表了Cerebras在芯片設(shè)計(jì)領(lǐng)域的深厚實(shí)力，也象征著整個半導(dǎo)體行業(yè)邁向更高性能、更低功耗的新時代。這一性能水平在當(dāng)前的AI芯片市場中堪稱佼佼者，理論上相當(dāng)于約62個英偉達(dá)H100 GPU的性能。
據(jù)悉，與Cerebras前一代的WSE-2相比，WSE-3在晶體管數(shù)量上實(shí)現(xiàn)了顯著的增長，增幅高達(dá)54%，達(dá)到了驚人的4萬億個晶體管。這一數(shù)字的提升，不僅意味著芯片內(nèi)部可以容納更多的電路和功能，同時也預(yù)示著它在處理復(fù)雜任務(wù)時將會擁有更為出色的性能。
配備WSE-3的CS-3系統(tǒng)在功耗相同的情況下，性能是CS-2的兩倍。這一改進(jìn)使得CS-3成為了一款既高效又強(qiáng)大的計(jì)算系統(tǒng)，能夠滿足更多領(lǐng)域?qū)τ诟咝阅苡?jì)算的需求。Cerebras公司CEO Andrew Feldman對此表示，這是朝著實(shí)現(xiàn)摩爾定律邁出的真正一步。摩爾定律是半導(dǎo)體行業(yè)的一個重要法則，它預(yù)測了芯片上晶體管數(shù)量每兩年翻一番的趨勢。而WSE-3的推出，正是對這一法則的有力驗(yàn)證和延續(xù)。
從外觀上看，WSE-3 AI芯片幾乎由一整塊12英寸晶圓制成，形成了一個邊長為21.5厘米的正方形。這種獨(dú)特的設(shè)計(jì)使得芯片在結(jié)構(gòu)上更加緊湊，同時也提高了散熱效率。在內(nèi)部配置上，WSE-3擁有90萬個AI核心，這些核心能夠并行處理大量數(shù)據(jù)，提供高達(dá)每秒125 peta浮點(diǎn)運(yùn)算（PFLOPS）的AI計(jì)算性能。這一性能水平在當(dāng)前的AI芯片市場中堪稱佼佼者，理論上相當(dāng)于約62個英偉達(dá)H100 GPU的性能。
Cerebras的WSE系列目前已經(jīng)發(fā)展到了第三代，每一代都在前一代的基礎(chǔ)上進(jìn)行了顯著的改進(jìn)。從2019年的WSE-1開始，該系列就采用了臺積電的先進(jìn)工藝節(jié)點(diǎn)，從16nm到7nm再到現(xiàn)在的5nm。隨著工藝節(jié)點(diǎn)的進(jìn)步，晶體管的數(shù)量也在不斷增加，從WSE-1的1.2萬億個到WSE-2的2.6萬億個，再到現(xiàn)在的WSE-3的4萬億個。這種增長趨勢不僅體現(xiàn)了半導(dǎo)體技術(shù)的快速發(fā)展，也展示了Cerebras在芯片設(shè)計(jì)領(lǐng)域的持續(xù)創(chuàng)新。
配備單個WSE-3芯片的CS-3計(jì)算系統(tǒng)，在神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練方面展現(xiàn)出了驚人的能力。它能夠訓(xùn)練多達(dá)24萬億個參數(shù)的神經(jīng)網(wǎng)絡(luò)模型，這一規(guī)模相當(dāng)于目前最強(qiáng)大的LLM（大型語言模型）規(guī)模的十倍，包括OpenAI的GPT-4和谷歌的Gemini等。這意味著CS-3系統(tǒng)能夠?yàn)槿斯ぶ悄茴I(lǐng)域的研究和應(yīng)用提供更為強(qiáng)大的計(jì)算支持，推動相關(guān)技術(shù)的快速發(fā)展。
除了強(qiáng)大的計(jì)算能力外，CS-3系統(tǒng)還具備出色的可擴(kuò)展性。它支持連接多達(dá)2048臺設(shè)備，這意味著用戶可以根據(jù)需要靈活地?cái)U(kuò)展計(jì)算集群的規(guī)模。如此規(guī)模的計(jì)算集群將帶來前所未有的計(jì)算能力，使得一些之前難以完成的任務(wù)變得觸手可及。例如，700億參數(shù)的Llama模型的訓(xùn)練可以在一天內(nèi)完成，這在以前是無法想象的。
CS-3計(jì)算系統(tǒng)的推出引起了市場的高度關(guān)注。據(jù)悉，Cerebras已經(jīng)收到了來自企業(yè)客戶、云服務(wù)提供商和政府機(jī)構(gòu)等的大量訂單。這些訂單不僅證明了CS-3系統(tǒng)的強(qiáng)大實(shí)力和市場潛力，也反映了各行各業(yè)對于高性能計(jì)算的需求正在不斷增長。
此外，Cerebras還與阿聯(lián)酋G42公司展開了深度合作。繼Condor Galaxy 1（CG-1）和CG-2之后，雙方已經(jīng)開始構(gòu)建CG-3超級計(jì)算機(jī)。這臺超級計(jì)算機(jī)將配備64個CS-3計(jì)算系統(tǒng)，總計(jì)擁有5760萬個AI核心，預(yù)計(jì)AI計(jì)算性能將達(dá)到驚人的8 exaFLOPS（EFLOPS）。這一性能水平將使得CG-3成為世界上最強(qiáng)大的超級計(jì)算機(jī)之一，為各種復(fù)雜任務(wù)的解決提供強(qiáng)大的計(jì)算支持。
_268.png "億配芯城 (2).png")
