谷歌推出了其最新的人工智能數(shù)據(jù)中心芯片——Trillium。這款芯片是谷歌的第六代產(chǎn)品，與上一代TPU v5e相比，Trillium在每個芯片上的峰值計算性能提高了4.7倍，節(jié)能67%以上。

此外，谷歌還通過增加高帶寬存儲（HBM）容量和整體帶寬，以及引入新的技術(shù)特性，如擴大了矩陣乘單元（MXU）的大小并提高了時鐘速度，以及配備了第三代SparseCore等，進(jìn)一步提升了Trillium的性能。

SparseCore是Trillium的一個關(guān)鍵特性，它是一種專門用于處理高級排名和推薦工作負(fù)載中常見的超大型嵌入的專用加速器。通過戰(zhàn)略性地從張量核心中卸載隨機和細(xì)粒度訪問，SparseCore能夠加速嵌入繁重的工作負(fù)載。此外，HBM容量和帶寬翻倍后，Trillium可以使用具有更多權(quán)重和更大鍵值緩存的更大模型。

Alphabet首席執(zhí)行官桑達(dá)爾·皮查伊（Sundar Pichai）表示，過去六年，行業(yè)對機器學(xué)習(xí)計算機的需求增長了100萬臺，每年大約增長10倍。谷歌推出Trillium AI芯片正是為了應(yīng)對這一日益增長的需求。谷歌本身并不銷售芯片，而是通過其云計算平臺出租訪問權(quán)限。谷歌表示，新芯片Trillium旨在為從大模型生成文本和其他媒體的技術(shù)提供支持，并計劃于2024年末向云客戶提供。

在架構(gòu)設(shè)計上，Trillium可以在單個高帶寬、低延遲的Pod中擴展到多達(dá)256個TPU，并且可以擴展到數(shù)百個Pod。這使得Trillium能夠處理更大規(guī)模、更復(fù)雜的人工智能任務(wù)，進(jìn)一步推動人工智能技術(shù)的發(fā)展和應(yīng)用。

谷歌推出的Trillium AI芯片在性能上實現(xiàn)了近5倍的提升，并在多個方面進(jìn)行了創(chuàng)新和改進(jìn)。這款芯片有望在未來的人工智能領(lǐng)域中發(fā)揮重要作用。