在開源開發(fā)者圈子來(lái)看，2023 年是大模型 LLM 年、生成式 AI GenAI 年，LLM 領(lǐng)域大放異彩。

LLM 是利用深度學(xué)習(xí)和大數(shù)據(jù)訓(xùn)練的人工智能系統(tǒng)，專門設(shè)計(jì)來(lái)理解、生成和回應(yīng)自然語(yǔ)言。這些模型通過(guò)分析大量的文本數(shù)據(jù)來(lái)學(xué)習(xí)語(yǔ)言的結(jié)構(gòu)和用法，從而能夠執(zhí)行各種語(yǔ)言相關(guān)任務(wù)。

本篇將為大家介紹一下 LLM 相關(guān)的工具和平臺(tái)。

LLMOps

LLMOps 平臺(tái)專注于提供大模型的部署、運(yùn)維和優(yōu)化服務(wù)，旨在幫助企業(yè)和開發(fā)者更高效地管理和使用這些先進(jìn)的 AI 模型，快速完成從模型到應(yīng)用的跨越，如 Dify.AI 、LangChain等。

開源框架 LangChain 是一個(gè)幫助開發(fā)者使用 LLM 創(chuàng)建應(yīng)用的開源框架，它可以將 LLM 與外部數(shù)據(jù)源進(jìn)行連接，并允許與 LLM進(jìn)行交互。LangChain 于 2022 年 10 月作為開源項(xiàng)目推出，并于2023 年 4 月注冊(cè)成立公司，累計(jì)獲得超過(guò) 3000 萬(wàn)美元的投資，估值達(dá)到了 2 億美元。在 GitHub 上，LangChain 已經(jīng)獲得了超過(guò) 7 萬(wàn)個(gè) Star 和超過(guò) 2000 名貢獻(xiàn)者。

大模型聚合平臺(tái)

大模型聚合平臺(tái)主要用于整合和管理多個(gè)大型機(jī)器學(xué)習(xí)模型，在聚合平臺(tái)之上，衍生出 MaaS（Model-as-a- Service，大模型即服務(wù)）的服務(wù)模式——通過(guò)提供統(tǒng)一的接口和框架，以更高效地部署、運(yùn)行和優(yōu)化這些模型，Hugging Face、Replicate 以及 Gitee AI 均為 MaaS 平臺(tái)。

Gitee AI 是開源中國(guó)旗下的 MaaS 平臺(tái)，提供模型、數(shù)據(jù)集，以及應(yīng)用托管能力，同時(shí)接入了豐富的國(guó)產(chǎn)算力平臺(tái)，為開發(fā)者提供了更高效、實(shí)惠的微調(diào)方案，降低使用門檻，目前已進(jìn)入內(nèi)測(cè)階段。

開發(fā)工具

其它開發(fā)相關(guān)的 LLM 工具，如云原生構(gòu)建多模態(tài)AI應(yīng)用的工具 Jina，嵌入式數(shù)據(jù)庫(kù) txtai 等。

比較有代表性的 LLM 開發(fā)工具有：

PromptPerfect：幫助用戶極致優(yōu)化給大模型的提示詞（prompt），使得對(duì)大語(yǔ)言模型提問(wèn)時(shí)，可以獲得更理想的輸出。

txtai：用于語(yǔ)義搜索、LLM 編排和語(yǔ)言模型工作流的一體化嵌入數(shù)據(jù)庫(kù)，可以使用SQL、對(duì)象存儲(chǔ)、主題建模、圖形分析和多模態(tài)索引進(jìn)行矢量搜索。

imgcook：專注以 Sketch、PSD、靜態(tài)圖片等形式的視覺稿作為輸入，通過(guò)智能化技術(shù)一鍵生成可維護(hù)的前端代碼，包含視圖代碼、數(shù)據(jù)字段綁定、組件代碼、部分業(yè)務(wù)邏輯代碼。

另一個(gè)視角來(lái)看，在大模型繁榮發(fā)展的背后，少不了工具和平臺(tái)的發(fā)力，如 LLMOps 平臺(tái)、大模型聚合平臺(tái)以及相關(guān)的開發(fā)工具，此外還有它們所依賴的最重要的資源——算力。在這些工具、平臺(tái)和資源的有力支撐下，大模型才得以一步一個(gè)臺(tái)階，引領(lǐng)全球開發(fā)者步入一個(gè)技術(shù)新時(shí)代。

以上內(nèi)容出自《2023 LLM 技術(shù)報(bào)告》，此報(bào)告濃墨重彩地梳理了 2023 年 LLM 的技術(shù)行情。報(bào)告整體圍繞 LLM Tech Map 梳理邏輯來(lái)展開，從基礎(chǔ)設(shè)施、大模型、Agent、AI 編程、工具和平臺(tái)，以及算力幾個(gè)方面，為開發(fā)者整理了當(dāng)前 LLM 中最為熱門和硬核的技術(shù)領(lǐng)域以及相關(guān)的軟件產(chǎn)品和開源項(xiàng)目。