近日,阿里云團隊正式開源全新推理模型——通義千問QwQ-32B。摩爾線程在該模型發布后2小時內,迅速且高效完成了對千問QwQ-32B的支持?;诖笳Z言模型高速推理框架vLLM以及MT Transformer推理引擎部署的QwQ-32B,在實際運行中展現出了卓越的推理性能與穩定性,充分印證了MUSA架構和全功能GPU在生態兼容與快速支持方面的強大優勢。
摩爾線程將這一成果開放上線至模型廣場“夸娥工場”。夸娥工場是摩爾線程傾力打造的模型展示中心,旨在為用戶提供基于摩爾線程夸娥(KUAE)智算集群支持的模型能力體驗。
千問QwQ-32B是阿里探索推理模型的最新成果。在一系列權威基準測試中,千問QwQ-32B 模型表現異常出色,幾乎完全超越了OpenAI-o1-mini,比肩最強開源推理模型DeepSeek-R1。盡管該模型僅包含32B參數,但通過大規模強化學習訓練,其在數學、編程及通用能力等領域實現了顯著突破,展現了卓越的智能化水平。
圖注:官方發布的benchmark測試對比圖
從官方發布的benchmark測試對比圖中可以清晰地看到,QwQ-32B在各項測試中成績顯著高于OpenAI-o1-mini及Deepseek的各個蒸餾版本。在LiveBench與BFCL測試中甚至擊敗了滿血版的Deepseek-R1-671B。
從DeepSeek一系列模型的問世,到阿里云通義千問QwQ-32B的發布,這些開源大模型降低了開發門檻,激發了開源社區創新活力,極大地推動了AI技術的普及與發展。它們用實打實的表現證明,開源大模型憑借其強大的性能和靈活性,正在突破傳統技術局限,成為不可阻擋的發展趨勢。
摩爾線程積極響應開源社區的號召,旨在賦能更多開發者基于國產全功能GPU進行AI應用創新。摩爾線程僅用一周時間就火速支持了DeepSeek開源周“全家桶”,對千問QwQ-32B更實現了Day0級支持,充分驗證了摩爾線程先進MUSA架構和全功能GPU的技術成熟度。
我們誠摯歡迎廣大開發者與用戶來摩爾線程夸娥工場進行體驗。與此同時,開發者可以在GitHub摩爾線程賬號或者開發者社區了解更多:
摩爾線程始終致力于推動開源生態的發展,通過技術開放與生態共建,加速國產全功能GPU在AI計算領域的規模化應用,為更多用戶提供更智能、高效的解決方案。
關于摩爾線程
摩爾線程成立于2020年10月,以全功能GPU為核心,致力于向全球提供加速計算的基礎設施和一站式解決方案,為各行各業的數智化轉型提供強大的AI計算支持。
我們的目標是成為具備國際競爭力的GPU領軍企業,為融合人工智能和數字孿生的數智世界打造先進的加速計算平臺。我們的愿景是為美好世界加速。
-
開源
+關注
關注
3文章
3524瀏覽量
43233 -
模型
+關注
關注
1文章
3456瀏覽量
49753 -
摩爾線程
+關注
關注
2文章
218瀏覽量
4976
原文標題:Day0級支持|摩爾線程火速支持通義千問QwQ-32B開源模型
文章出處:【微信號:moorethreads,微信公眾號:摩爾線程】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論