近日,中國信息通信研究院(以下簡稱“中國信通院”)完成可信AI《大模型推理平臺通用能力成熟度》首輪評估。
商湯大裝置萬象大模型開發平臺,獲得當前最高評級——4+級,并成為國內首家獲得最高評級的大模型推理平臺。
中國信通院依托人工智能關鍵技術和應用評測工業和信息化部重點實驗室、中國人工智能產業發展聯盟AI Infra工作組,聯合七十余家單位共同編制了《大模型推理平臺技術要求》標準,并依托該標準開展可信AI大模型推理平臺首批評估,是國內最具影響力和權威的大模型推理平臺評估之一。
該評估聚焦大模型推理平臺的功能、性能、穩定性,關注部署、推理、服務與管理環節,以實現低時延、高吞吐、可擴展、高易用、低成本目標。本次共評估88個能力項,其中基本功能34項,高級功能54項。
結果顯示,商湯大裝置的萬象大模型開發平臺在模型的部署、推理、服務環節均表現優異,可為開發者提供高性價比、靈活易用的服務,配備前沿模型、算法、推理引擎、知識庫等套件,助力開發者快速構建行業模型及應用編排。
商湯大裝置萬象大模型開發平臺提供從大模型開發到應用構建的全鏈條開發工具,為企業大模型落地提供一站式高效服務。萬象可兼容GPU、NPU等異構推理加速卡;其內置自研高效推理引擎,降低推理成本50%以上;同時,具備完整的安全機制,為企業大模型落地提供安全保障。
目前,商湯大裝置萬象大模型開發平臺已在交通、消費、政務、自動駕駛、智能家居、醫療等多個行業多種業務場景中落地:
交通領域,基于萬象,我們為某客戶構建了工程勘察設計領域智能平臺,可實現知識檢索、智能問答、報告輔助生成等功能,有效解決了客戶在知識傳承困難、融合性差和應用程度低等方面的痛點。
消費領域,某企業希望為員工配備AI助理,改變依賴查閱文檔獲取知識的低效方式。通過萬象平臺的調用大模型、檢索增強生成(RAG)技術、文檔插件及工程化優化,提升了知識獲取效率。
政務領域,某政府機構計劃打造小型AI創新平臺,基于萬象模型開發平臺及其配套的模型優化、API調用、部署和監控服務,大大簡化了復雜的部署工程,實現了企業開箱即用。
日前,國際數據公司(IDC)發布《中國模型即服務(MaaS)及AI大模型解決方案市場追蹤(2024H2)》,報告顯示,商湯大裝置萬象平臺憑借13%的市場份額穩居國內AI大模型解決方案市場第二位,再次領跑行業第一梯隊。
未來,商湯大裝置將繼續依托AI原生技術棧和行業級解決方案,結合專家服務體系,持續致力企業突破大模型落地“最后一公里”,驅動企業智能化轉型與創新增長。
-
人工智能
+關注
關注
1805文章
48930瀏覽量
248185 -
商湯科技
+關注
關注
8文章
561瀏覽量
36737 -
大模型
+關注
關注
2文章
3095瀏覽量
3988
原文標題:首個!商湯大裝置萬象,獲信通院最高等級“大模型推理平臺”認證
文章出處:【微信號:SenseTime2017,微信公眾號:商湯科技SenseTime】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
爆款應用背后的商湯大裝置
商湯日日新SenseNova融合模態大模型 國內首家獲得最高評級的大模型
芯盾時代多款產品獲得中國信通院權威認可
中科采象與您共研“精采萬象”的數據采集前沿科技

萬里紅入選中國信通院大模型應用交付供應商名錄
商湯大裝置DeepSeek企業版上線
首批首家!DataCanvas Alaya NeW智算操作系統通過中國信通院“大模型計算資源調度平臺” 標準評測

TCL新技術引領視覺革命:萬象分區+絢彩XDR重塑Mini LED畫質標準!
TCL發布萬象分區技術,重塑Mini LED技術巔峰
科大訊飛AI虛擬人交互平臺榮獲行業最高評級
權威認證 “圖撲軟件數字孿生低代碼平臺”獲中國信通院檢測認證
中國信通院發布“2024云計算十大關鍵詞”

評論