11 RAGFlow 中配置 MaaS 模型服務使用全流程:
1.1 RAGFlow 平臺部署
方式 1-直接訪問 RAGFlow 官方 SaaS 服務(需翻墻):RAGFlow
方式 2-Docker Compose 方式部署:見官方 Github 倉庫:https://github.com/infiniflow/ragflow
1.2 MaaS 模型 API 接入 RAGFlow
1)MaaS 控制臺創建 API Key:
-訪問 MaaS 控制臺:點此訪問
-在 MaaS 左側導航欄中,選擇“鑒權管理”。
-在“鑒權管理”頁面,單擊“創建 API Key”,填寫描述信息后,單擊“確認”會返回“您的密鑰”,請復制保存密鑰,單擊“關閉”后將無法再次查看密鑰。(注:最多支持創建 5 個密鑰,密鑰只會在新建后顯示一次,請妥善保存。當密鑰丟失將無法找回,請新建 API Key 獲取新的訪問密鑰。)
2)選擇要接入的模型服務
預置服務接入:
-點擊控制臺左側“模型部署”,找到想要使用的模型服務后點擊“領取”
-領取后找到已領取額度的模型服務,然后點擊 “調用”;
-在右側彈出界面中,可以查看到調用該服務需要的基礎 API 地址和模型名稱信息
自部署“我的服務”接入:
在“模型部署-我的服務”頁簽,狀態為運行中的模型服務操作一欄點擊“更多”中的“調用”;在右側彈出界面中,可以查看到調用該服務需要的基礎 API 地址和模型名稱信息
3)RAGFlow 新增模型供應商
進入 RAGFLow 平臺界面,點擊右上角頭像后點擊左側導航欄中的“模型提供商頁簽”,找到“OpenAI-API-Compatible”供應商點擊“添加模型”
4)MaaS 模型服務配置
在彈出的添加 LLM 彈窗中填入如下信息:
-模型類型:chat
-模型名稱:MaaS 服務調用界面顯示的模型名稱
-基礎 Url:之前步驟中 MaaS 服務的基礎 API 地址,需要去掉地址尾部的“/chat/completions” 后填入
-API Key:之前步驟中創建的 API Key
-最大 token 數:各預置服務支持的最大 token 數見下表
5)修改系統模型設置
在模型供應商界面點擊“系統模型設置”,將聊天模型設置為剛配置好的 MaaS 模型。嵌入和 Rerank 模型可使用系統預置的。
1.3 RAGFlow 中使用接入的 MaaS API 進行知識庫問答
1)知識庫創建
頂部切換到“知識庫”頁簽,點擊“創建知識庫”,在知識庫的詳情頁面配置頁簽可進行文檔解析、文檔切分等規則的配置
2)上傳文檔
-在知識庫的“數據集”頁簽中,點擊“新增文件”-“本地文件”
-彈窗中上傳需要進行問答的知識文檔
-上傳完成后點擊動作中的“運行”按鈕,當解析狀態為已完成時,則知識庫已可以用于進行問答
3)創建助理
在“聊天”頁簽點擊“新建助理”,自定義姓名后選擇之前步驟中創建好的知識庫
4)與助理進行文檔問答
選擇創建好的 AI 助理,點擊旁邊的藍色加號即可開始進行文檔問答,模型會基于外掛的知識庫中的內容進行問題答復;回答效果示例如下:
-
API
+關注
關注
2文章
1563瀏覽量
63605 -
模型
+關注
關注
1文章
3499瀏覽量
50077 -
GitHub
+關注
關注
3文章
481瀏覽量
17486
發布評論請先 登錄
鴻蒙開發接口公共事件與通知:【FFI能力】 N-API在Android、iOS平臺應用的使用指導

使用 Canonical MAAS 部署 openEuler 測試
FreeRTOS的API函數和配置選項參考手冊資料免費下載

高級配置和電源接口規范

Compose中的動畫API概覽及使用方法
什么是API,不同場景中的API
什么是API標準化?
阿里提及的MaaS,會如何改變云平臺?

Chatbox中配置MaaS模型服務使用全流程

如何獲取 OpenAI API Key?API 獲取與代碼調用示例 (詳解教程)

評論