星環科技近日宣布,其企業級大模型運營管理平臺Sophon LLMOps現已全面支持DeepSeek R1的全參版本以及蒸餾版本。這一消息標志著星環科技在AI大模型管理領域邁出了重要一步。
Sophon LLMOps作為一款功能強大的企業級平臺,致力于為用戶提供全面的大模型運營管理解決方案。該平臺支持大模型與小模型的統一管理,能夠輕松納管開源及商業化大模型,滿足用戶多樣化的需求。同時,Sophon LLMOps還具備底層國內外GPU/NPU(ARM/x86)異構算力的混合部署能力,實現了資源的精細化切分及高效調度,進一步提升了系統的靈活性和性能。
此外,Sophon LLMOps還提供了模型及應用效果評估、全局狀態監控及預警等功能,幫助用戶實時掌握模型運行狀況,確保系統的穩定運行。這些功能的加入,使得Sophon LLMOps成為了一款真正意義上的企業級大模型運營管理平臺,為用戶提供了從模型部署到運行管理的全方位支持。
-
星環科技
+關注
關注
0文章
37瀏覽量
2743 -
大模型
+關注
關注
2文章
3062瀏覽量
3919 -
DeepSeek
+關注
關注
1文章
785瀏覽量
1503
發布評論請先 登錄
DeepSeek開源新版R1 媲美OpenAI o3
RK3588開發板上部署DeepSeek-R1大模型的完整指南
OpenAI O3與DeepSeek R1:推理模型性能深度分析
IBM在watsonx.ai平臺推出DeepSeek R1蒸餾模型
了解DeepSeek-V3 和 DeepSeek-R1兩個大模型的不同定位和應用選擇
DeepSeek V3/R1滿血版登陸華為云
景嘉微完成DeepSeek R1系列模型適配
Deepseek R1大模型離線部署教程

部署DeepSeek R1于AX650N與AX630C平臺

扣子平臺支持DeepSeek R1與V3模型
Krea發布Deepseek R1驅動的Chat功能
云天勵飛上線DeepSeek R1系列模型

評論