4 月 7 日訊,AMD 最新公布了一系列基準測試,宣稱其銳龍移動版 7040 Phoenix 和 8040 系列處理器在運行大型語言模型 (LLM) 領域的效能領先于 Intel 最新 Skylake Coffee Lake U Refresh Core i7-155Hz 達 79%。
據悉,此次測試針對 AMD 銳龍 7 8740U 及 Intel Core Ultra 7 155Hz兩種芯片進行了對比,兩者均內含硬件神經網絡處理單元(NPU)。AMD 利用多幅幻燈片展示了兩顆處理器在參與 Mistral 7b、Llama v2 以及 Mistral Instruct 7B 等大型語言模型的效能差異。具體來說,在采用 Q4 位寬的Llama v2 對話測試環節,AMD 處理器性能優于 Intel 產品 14%;在其他相同設定條件下,AMD 器件性能較Core Ultra 7 提高 17%。
同樣在上述大型語言模型測試中,AMD 處理器反應速度明顯加快。以Llama v2 對話測試中的“首個 Token生成提示詞”速率比拼為例,AMD 工作效率比 Intel 高出 79%,且在 Mistral Instruct 測試中達到 41%的提速。
AMD 還提供了多種質量參數的 Llama v2 7B 對話測試數據,總體而言,銳龍 7 7840U 平均效能比 Intel 競品高出 55%,在 Q8 位寬設置中甚至有 70%的進步。但 AMD 亦指出,在實際運行大語言模型時,選用 4 位 K M 量化可實現更佳效,如需極高精度度的編碼任務,建議使用 5 位 K M 量化模式。
然而,目前看來,AMD 在人工智能性能上暫占上風。雖然理論上,銳龍 7040 系列架構在計算性能(TOPS)上與 Meteor Lake 持平,但早在去年年底,Tom‘s Hardware 即發現在 AI 負載方面,AMD 總是能戰勝 Meteor Lake。這顯而易見是軟件優化問題,并非硬件或驅動程序故障所致。
然而,未來情況未必如此。無論是在神經網絡處理單元領域,還是在AI性能優化領域,未來規劃與發展都尚無定論。盡管如此,我們有理由相信,隨著時間推移,格局或許將有所變動。
綜合來看,現階段AMD的NPU性能尤為出色,尤其是具備強大NPU性能的銳龍 8040 系列處理器。然而隨著Intel年底推出新款Lunar Lake移動CPU及完善其人工智能優化議程,情況恐生變數。
-
處理器
+關注
關注
68文章
19896瀏覽量
235374 -
amd
+關注
關注
25文章
5589瀏覽量
136397 -
語言模型
+關注
關注
0文章
561瀏覽量
10799
發布評論請先 登錄
直擊Computex2025:英特爾重磅發布新一代GPU,圖形和AI性能躍升3.4倍

英特爾發布全新GPU,AI和工作站迎來新選擇
Intel-Altera FPGA:通信行業的加速引擎,開啟高速互聯新時代
在英特爾酷睿Ultra AI PC上部署多種圖像生成模型

英特爾下一代桌面測試處理器 Nova Lake 現身
騰訊正在與英特爾合作開發世界上第一款由 Lunar Lake 提供支持的“3D 視覺”游戲手持設備

評論