2024 年RISC-V 歐洲峰會于德國慕尼黑盛大舉行,來自全球的專家、學(xué)者以及企業(yè)匯聚于此,共同探討 RISC-V 的創(chuàng)新技術(shù)和發(fā)展前景。
澎峰科技CEO張先軼博士在RISC-V歐洲峰會上發(fā)表演講:“PerfXLM : a High Performance LLM Inference Engine on RISC-V CPUs”。
PerfXLM是澎峰科技推出的一款專用大模型推理引擎,它旨在為各種主流模型提供快速適配多種異構(gòu)硬件的解決方案。作為一款強(qiáng)大的推理引擎,支持云端GPU算力,還能兼容端側(cè)輕量級處理器,同時集成了異構(gòu)計算支持、多卡并行處理以及極致性能優(yōu)化等多重功能。用戶只需通過一鍵部署,即可輕松享受PerfXLM帶來的便捷與高效。
-
RISC-V
+關(guān)注
關(guān)注
46文章
2535瀏覽量
48559 -
澎峰科技
+關(guān)注
關(guān)注
0文章
71瀏覽量
3367 -
大模型
+關(guān)注
關(guān)注
2文章
3101瀏覽量
3996
原文標(biāo)題:RISC-V歐洲峰會 | 張先軼博士:大模型推理引擎PerfXLM面向RISC-V CPU的移植與優(yōu)化
文章出處:【微信號:perfxlab,微信公眾號:perfxlab】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
奕斯偉計算亮相2025 RISC-V歐洲峰會
澎峰科技榮獲RISC-V聯(lián)盟2024年度前沿科技獎

2024年risc-v的發(fā)展總結(jié)
澎峰科技受邀參加全球AI芯片峰會,探討大模型推理引擎PerfXLM面向RISC-V的移植和優(yōu)化

RISC-V Summit China 2024 青稞RISC-V+接口PHY,賦能RISC-V高效落地

2024 RISC-V 中國峰會:華秋電子助力RISC-V生態(tài)!

評論