前方高能
誰說打游戲的顯卡不能搞AI?
MTT S80表示:
“我!全!都!要!”
摩爾線程“全功能”圖形顯卡MTT S80,不僅游戲渲染性能強大,能玩《黑神話:悟空》,現在還能本地部署DeepSeek R1蒸餾模型。搭配最新發布的MUSA SDK RC3.1.1版本,開發者直接用開源框架Ollama就能開跑,學術黨、AI極客的福音來了。
MTT S80本地運行DeepSeek-R1 14B模型的示例圖
手把手教程:?
3步搞定DeepSeek模型部署
第一步:環境準備
系統:Ubuntu 22.04
工具:MUSA SDK RC3.1.1(文末下載)
框架:Ollama(開源免費,小白友好)
第二步:模型下載
打開Ollama,直接拉取DeepSeek R1系列模型,1.5B/7B/8B/14B輕量版任選;
在Q4_K_M量化格式下,MTT S80的16GB顯存可最高支持DeepSeek-R1-Distill-Qwen-14B模型的高效推理,充分滿足輕量化AI開發需求
第三步:一鍵推理
終端輸入代碼,秒出結果!
我們已附上實戰部署指南,詳細解析DeepSeek R1 7B和14B蒸餾模型的配置流程與優化技巧。
對游戲黨:買顯卡送AI算力,血賺!
對開發者:不用搶云服務器,本地部署成本直降!
對學生黨:論文實驗、輕量級AI開發,一臺機器全搞定!
關于摩爾線程
摩爾線程成立于2020年10月,以全功能GPU為核心,致力于向全球提供加速計算的基礎設施和一站式解決方案,為各行各業的數智化轉型提供強大的AI計算支持。
我們的目標是成為具備國際競爭力的GPU領軍企業,為融合人工智能和數字孿生的數智世界打造先進的加速計算平臺。我們的愿景是為美好世界加速。
-
AI
+關注
關注
87文章
32211瀏覽量
271262 -
摩爾線程
+關注
關注
2文章
208瀏覽量
4748 -
大模型
+關注
關注
2文章
2746瀏覽量
3392
原文標題:游戲顯卡跑AI大模型?使用MTT S80解鎖DeepSeek R1蒸餾模型本地推理
文章出處:【微信號:moorethreads,微信公眾號:摩爾線程】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
RK3588開發板上部署DeepSeek-R1大模型的完整指南
摩爾線程完成DeepSeek開源庫FlashMLA和DeepGEMM適配
摩爾線程發布圖形顯卡驅動v290.100
添越智創基于 RK3588 開發板部署測試 DeepSeek 模型全攻略
摩爾線程宣布成功部署DeepSeek蒸餾模型推理服務
摩爾線程發布最新圖形顯卡驅動程序v280.90.1
摩爾線程發布v280.90圖形顯卡驅動程序
摩爾線程GPU與超圖軟件大模型適配:共筑國產地理空間AI新生態
摩爾線程與超圖軟件完成產品兼容認證
摩爾線程攜手東華軟件完成AI大模型推理測試與適配


評論