前方高能
誰說打游戲的顯卡不能搞AI?
MTT S80表示:
“我!全!都!要!”
摩爾線程“全功能”圖形顯卡MTT S80,不僅游戲渲染性能強大,能玩《黑神話:悟空》,現在還能本地部署DeepSeek R1蒸餾模型。搭配最新發布的MUSA SDK RC3.1.1版本,開發者直接用開源框架Ollama就能開跑,學術黨、AI極客的福音來了。
MTT S80本地運行DeepSeek-R1 14B模型的示例圖
手把手教程:?
3步搞定DeepSeek模型部署
第一步:環境準備
系統:Ubuntu 22.04
工具:MUSA SDK RC3.1.1(文末下載)
框架:Ollama(開源免費,小白友好)
第二步:模型下載
打開Ollama,直接拉取DeepSeek R1系列模型,1.5B/7B/8B/14B輕量版任選;
在Q4_K_M量化格式下,MTT S80的16GB顯存可最高支持DeepSeek-R1-Distill-Qwen-14B模型的高效推理,充分滿足輕量化AI開發需求
第三步:一鍵推理
終端輸入代碼,秒出結果!
我們已附上實戰部署指南,詳細解析DeepSeek R1 7B和14B蒸餾模型的配置流程與優化技巧。
對游戲黨:買顯卡送AI算力,血賺!
對開發者:不用搶云服務器,本地部署成本直降!
對學生黨:論文實驗、輕量級AI開發,一臺機器全搞定!
關于摩爾線程
摩爾線程成立于2020年10月,以全功能GPU為核心,致力于向全球提供加速計算的基礎設施和一站式解決方案,為各行各業的數智化轉型提供強大的AI計算支持。
我們的目標是成為具備國際競爭力的GPU領軍企業,為融合人工智能和數字孿生的數智世界打造先進的加速計算平臺。我們的愿景是為美好世界加速。
-
AI
+關注
關注
88文章
34488瀏覽量
275953 -
摩爾線程
+關注
關注
2文章
230瀏覽量
5178 -
大模型
+關注
關注
2文章
3055瀏覽量
3881
原文標題:游戲顯卡跑AI大模型?使用MTT S80解鎖DeepSeek R1蒸餾模型本地推理
文章出處:【微信號:moorethreads,微信公眾號:摩爾線程】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
摩爾線程MTT X300顯卡全新性能升級
摩爾線程發布圖形顯卡驅動程序v300.110
摩爾線程發布圖形顯卡驅動程序v290.100.2
摩爾線程GPU成功適配Deepseek-V3-0324大模型

評論