7月6日，在世界人工智能大會WAIC上，墨芯人工智能發布了大模型算力方案的最新成果，宣告進入“千億”時代：墨芯AI計算平臺率先支持高達千億參數的大語言模型，并在吞吐、延時等多項指標上表現優異，創下又一里程碑。

在活動現場，墨芯展臺成為全場熱點：1760億參數的大語言模型Bloom在墨芯AI計算平臺的推理引擎支持下，能夠快速、流暢地回答各類問題，并完成詩歌創作、文案撰寫等多項語言生成任務，贏得現場觀眾的關注與贊嘆。

墨芯在千億參數大模型上的卓越表現，不僅再次彰顯出眾的產品技術優勢，更是意義重大的行業性突破：

當前，算力瓶頸已成為大模型落地應用的普遍痛點。墨芯針對大模型打造更高性能、更優化的方案，緩解算力之困，為AIGC等大模型應用釋放巨大空間，真正帶來“好用”、“用得起”的大模型算力方案。

千億參數大模型在墨芯AI計算平臺支持下的

推理效果

這對AIGC產業發展具有重要意義——

表明墨芯能夠為行業帶來新的前景：為企業、科研機構提供高效的算力支持，有力助推AIGC等大模型成果走向社會、走向更多行業；同時幫助AI企業建立先發優勢，加入AIGC潮流。

一起來了解，墨芯的“千億時刻“，所包含的重要突破——

在WAIC現場，墨芯還展示了MLPerf冠軍產品——墨芯AI卡計算卡、AI集成架構方案等眾多展品，吸引了眾多嘉賓、觀眾與媒體的好評。

墨芯在千億參數大模型上的突破，再次顯示出稀疏計算的巨大優勢，有效解決算力資源不足、功耗等運營成本巨大等行業痛點。墨芯率先將稀疏化算法與硬件結合落地，深度挖掘與釋放了稀疏計算在大模型上的潛力與價值，為行業帶來大模型算力的“最佳實踐”。

這不僅為AI算力的未來發展帶來了可行的創新路徑，為將來更大模型、更復雜應用的發展奠定基礎，更為AIGC等大模型應用的廣泛落地打開了空間，為新一輪智能革命提供加速引擎，推動AIGC的發展迎來新天地。