谷歌發(fā)布了第六代TPU芯片 引領(lǐng)AI計(jì)算新時(shí)代

 　　近日，谷歌正式發(fā)布了其第六代張量處理單元（TPU）芯片——Trillium，這款芯片在性能和能效上均實(shí)現(xiàn)了顯著的飛躍，預(yù)示著人工智能計(jì)算的新篇章。

　　Trillium作為谷歌的第六代TPU芯片，相較于前代產(chǎn)品TPUv5e，在計(jì)算性能上實(shí)現(xiàn)了高達(dá)4.7倍的提升。這一巨大的性能飛躍，得益于谷歌對芯片矩陣乘法單元（MXU）的擴(kuò)大以及整體時(shí)鐘速度的提高。這使得Trillium能夠處理更為復(fù)雜、龐大的計(jì)算任務(wù)，為生成式人工智能模型和工作負(fù)載提供強(qiáng)大的支持。

　　除了性能的提升，Trillium在能效方面也取得了顯著的進(jìn)步。據(jù)谷歌透露，與TPUv5e相比，Trillium的能效提高了67%。這意味著在相同的計(jì)算任務(wù)下，Trillium能夠消耗更少的能源，從而降低了運(yùn)行成本和碳足跡。這一改進(jìn)對于推動綠色計(jì)算和可持續(xù)發(fā)展具有重要意義。

　　此外，Trillium還采用了第三代SparseCore技術(shù)，這是一個(gè)專業(yè)加速器，用于處理先進(jìn)的基于人工智能的排名和推薦系統(tǒng)中的超大嵌入。這一技術(shù)的引入，使得Trillium能夠更快地訓(xùn)練模型，并以更低的延遲為模型提供服務(wù)。這將極大地縮短大型語言模型的訓(xùn)練時(shí)間，提高模型的響應(yīng)速度，從而為用戶帶來更好的體驗(yàn)。

　　Trillium的高帶寬內(nèi)存容量和帶寬也得到了提升，達(dá)到了原來的兩倍。同時(shí)，芯片間互連帶寬也增加了一倍。這些增強(qiáng)功能將使得Trillium能夠更好地處理大規(guī)模數(shù)據(jù)和高并發(fā)計(jì)算任務(wù)，為云計(jì)算和數(shù)據(jù)中心提供更加穩(wěn)定、高效的計(jì)算能力。

　　Trillium將于今年晚些時(shí)候向云服務(wù)客戶提供。通過利用谷歌在Pod級可擴(kuò)展性、多切片技術(shù)和Titanium智能處理單元方面的進(jìn)步，用戶將能夠鏈接數(shù)百個(gè)Trillium TPU的單獨(dú)Pod，以構(gòu)建PB級超級計(jì)算機(jī)和數(shù)據(jù)中心網(wǎng)絡(luò)。這將為人工智能的廣泛應(yīng)用提供強(qiáng)大的基礎(chǔ)設(shè)施支持。

　　谷歌云機(jī)器學(xué)習(xí)、系統(tǒng)和云AI副總裁兼總經(jīng)理Amin Vadhat表示：“Trillium TPU的推出，標(biāo)志著我們在人工智能計(jì)算領(lǐng)域取得了重要的里程碑。我們希望通過這款芯片，為企業(yè)提供Nvidia GPU的替代品，并推動人工智能技術(shù)的廣泛應(yīng)用和發(fā)展。”

　　隨著Trillium的發(fā)布，谷歌將繼續(xù)在人工智能領(lǐng)域進(jìn)行深入的研究和探索，致力于開發(fā)出更加先進(jìn)、高效的計(jì)算技術(shù)和產(chǎn)品，推動人工智能技術(shù)的創(chuàng)新和應(yīng)用。我們有理由相信，谷歌的這一創(chuàng)新成果將對整個(gè)科技產(chǎn)業(yè)產(chǎn)生深遠(yuǎn)的影響。