2024年7月5日，中國上海——燧原科技今日宣布與人工智能系統軟件商清程極智簽署戰略合作協議，聯合開發面向超萬億參數大模型和超大規模集群的高性能系統軟件方案。

人工智能大模型在加速提升算法模型的智能化水平和場景泛化性的同時，其日益增長的模型參數、海量的語料庫以及廣泛的場景需求對人工智能的算力基礎設施提出了巨大的挑戰，如何使超大規模集群能夠同時具備高效率和高性價比成為業界亟需解決的關鍵問題。

基于此，燧原科技和清程極智簽署戰略合作協議，致力于共同打造超大規模智算集群的訓練方案，針對大模型實際應用場景進行軟硬協同的開發與優化。在滿足基礎大模型的預訓練、行業大模型的微調和大模型推理部署等不同的應用場景和多元的算力需求，提供更高性能、更高效率、更高性價比的算力方案。

此次戰略合作協議的簽署是燧原科技和清程極智進一步深化合作的又一個重要里程碑。此前，雙方已經在技術領域開展了重要合作。其中，基于燧原的新一代人工智能推理加速卡“燧原S60”和清程極智的高性能推理框架“FastDecode”，共同研發了千億參數規模大模型的高性能推理平臺，該平臺在不同場景下可實現1到10倍不等的吞吐量提升，實測的并發量是vLLM等開源框架的4倍，為進一步降低相關應用場景的算力使用成本提供了可規模落地的技術產品方案。

燧原科技創始人、董事長、CEO趙立東認為：“隨著大語言模型的迅猛發展和模型參數的指數級增長，借助超大規模計算集群來運行復雜模型的需求也日益迫切。清程極智的系統軟件方案，有效提升大模型訓練和推理算力利用率，顯著降低使用成本。燧原科技與清程極智合作，通過創新的技術和優化的算法，面向超萬億參數大模型和超大規模算力集群，攜手打造高效、可擴展和穩定的系統軟件解決方案，推動生成式人工智能的變革，助力中國數字經濟發展。”

“清程極智與燧原科技的戰略合作正逢其時，燧原在本土人工智能算力產品及智算集群等方面能力卓越，而我司在分布式訓練框架、高性能推理框架、算子優化、通信庫優化等軟件棧技術與產品方面擁有領先的研發能力。雙方優勢互補，在聯合開發高性能推理軟件棧、打造超大規模智算集群，為業界提供高效率、高性價比解決方案方面具有巨大的協同潛力。我相信，隨著雙方合作的深入，將進一步拓展合作維度，在更多前沿技術研發領域協同創新，切實推動我國人工智能產業的發展，共同賦能新質生產力的構建。”清程極智CEO湯雄超表示。