自 ChatGPT 火爆出圈以來，各式大模型與生成式 AI 技術噴涌而出，醫療、金融、出行、消費零售、互聯網等各個行業都在尋找利用生成式AI 技術賦能業務創新的方法。然而，從摸索到落地，企業在應用用生成式 AI 技術尚存在門檻，使用現成的技術服務又會產生安全等方面的顧慮，比如業務數據泄漏等問題。一時間，許多企業陷入進退兩難的境地。本篇就來說道說道企業在落地生成生式 AI 應用過程中的那些事。

從模型選擇到業務安全，生成式 AI 應用誕生的曲折

實際上，生成式 AI 市場經過一年多快速的發展，一方面市場上涌現出很多大模型與配套服務，另一方面，企業面臨的難題也在與日俱增。

首先，從模型的選擇開始，眼花繚亂的大模型就已經夠廠家喝上一壺。5 月 28 日，由中國科學技術信息研究所、科技部新一代人工智能發展研究中心聯合相關研究機構編寫的《中國人工智能大模型地圖研究報告》正式發布，報告顯示，我國 10 億參數規模以上大模型已發布近 80 個。再到 10 月中國新一代人工智能發展戰略研究院發布的《2023中國新一代人工智能科技產業發展報告》顯示，目前國內大模型總數達 238 個。而據北京經信局數據，截至 10 月初，北京發布大模型數量達 115 個，其中通用大模型 12 個，垂類大模型 103 個。

按照這個發展趨勢，“百模大戰”或許很快就會升級為“千模大戰”。而企業如何選擇大模型便會難上加難。在具體應用場景中，企業需要在準確性和性能平衡間作出衡量，有效地比較模型并根據其首選指標找到最佳選擇，這就需要深厚的數據科學專業知識，也會耗費大量的人力時間成本。

而模型的選擇只是開始，確定模型之后，還需要結合自身業務，做模型的精調、訓練等工作。在這一步，公司的業務數據類型與大模型輸入所要求的數據類型需要做一定適配，同時輸入的數據需要具有代表性、多樣性、一致性和可靠性，這樣才能實現效果更佳的輸出，這便要求企業需要有既懂業務，又懂大模型技術的工程師對數據進行整理。

此外，大模型的精調也需要大量的算力，需要投入大量的資金和時間來購買和維護硬件設備，或者租用云服務，同時基礎設施也需要長時間的維護。而大模型技術作為新興技術，許多公司并沒有相應的人才儲備與經驗，這對企業來說也是不小的壓力。

模型本身的問題解決了之后，企業還要面臨安全隱患。比如很多使用方會擔心，用了某個大模型，那么自己的數據會不會都被模型方看到甚至泄露？會不會導致敏感信息泄漏，或是生成違規內容等等？那么，企業就需要確保數據在傳輸、存儲和處理的過程中不會被泄露或者濫用，以免給業務和聲譽帶來損失。

亞馬遜云科技助力企業安全構建生成式 AI 應用

面對種種挑戰，對于許企業來說，最佳選擇可以是給自己找一個 AI 助手，全方面輔助完成 AI 能力的嵌入，最常見的便是云上大模型平臺和服務。

2023年11月28日，2023亞馬遜云科技 re:Invent 在美國拉斯維加斯盛大開啟，并于12月2日圓滿落下帷幕。2023年12月12日起，2023亞馬遜云科技re:Invent 中國行城市巡展活動將在10大城市開啟，覆蓋北京、上海、廣州、深圳、成都、青島、南京、西安、杭州、長沙10個城市！

作為全球云計算領域的年度風向標，2023 亞馬遜云科技 re:Invent 為全球云計算愛好者和構建者帶來了最新的產品和技術發布、最前沿的領導者洞察和全球云計算的最佳實踐。在今年 re:Invent 中，一系列重磅發布成為大會焦點，從 Serverless、生成式AI時代的數據戰略、芯片與云底座創新，到 Amazon Bedrock 的重磅更新、企業級生成式AI 應用 (Amazon Q) 的全新發布等等，系列組合拳為企業落地生成式 AI 應用全方位護航。

在多個新發布的動作中，一項全面托管服務的重磅更新引人注目——Amazon Bedrock 發布更多模型選擇和全新強大功能。

首先，Amazon Bedrock 上集成了 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和亞馬遜的多種行業領先大語言模型和其他模型，用戶可輕松訪問。不僅如此，為了幫助客戶在紛繁的模型中選擇更適合自己的，Amazon Bedrock 新功能可幫助客戶高效評估、比較和選擇最適合其應用場景和業務需求的模型。

確定模型之后，企業往往需要針對模型做適配，或者說是擴展調優，最大程度地釋放數據價值。針對這些部分，Amazon Bedrock 知識庫功能使用上下文和相關公司數據定制模型響應：組織希望使用專有數據補充現有模型，以獲得更相關和更準確的響應。針對模型調優，Amazon Bedrock 中的 Cohere Command、Meta Llama 2 和 Amazon Titan 模型支持調優，為客戶的模型定制提供更多選項，Anthropic Claude 也即將支持調優。

此外，Amazon Bedrock 也兼備代理功能，可以自動執行，使用公司系統和數據源執行多步驟任務。雖然模型能夠有效地進行對話和創建新內容，但如果能夠執行復雜的操作，例如解決問題以及與公司系統交互以完成任務（例如，旅行預定或訂購替換零件），它們可以提供更多價值。然而，這需要定制化地將模型與公司數據源、API以及內部和外部系統集成起來。開發人員必須編寫代碼來協調模型、系統和用戶之間的交互，以便應用程序可以按邏輯順序執行一系列API調用。為了將模型與數據源連接起來，開發人員必須部署RAG，以便模型可以根據任務調整其響應。最后，開發人員必須配置和管理必要的基礎設施，并制定數據安全和隱私策略。這些步驟非常耗時且需要專業知識，從而減慢了生成式AI應用程序的開發速度。現在正式可用、完全托管的Amazon Bedrock代理功能使生成式AI應用程序能夠跨公司系統和數據源執行多步驟任務。

最后，在交互安全層面。雖然許多模型使用內置控件來過濾不良和有害內容，但企業希望進一步定制交互，以保證話題始終與業務相關，符合公司政策，并遵守“負責任的 AI”的原則。例如，銀行可能希望這樣設置其在線助手：避免查詢競爭對手、避免提供投資建議、以及限制有害內容。此外，應用戶要求，可能要變換或隱去用戶的個人身份信息（PII）以保證安全。企業希望以一種簡化的方式在生成AI應用程序中強化關鍵策略和規則，以提供所答即所問的用戶體驗并支持更安全地使用該技術。Amazon Bedrock 的 Guardrails 功能現已推出預覽版，使客戶能夠為生成式 AI 應用程序實施保護措施。借助Amazon Bedrock的Guardrails功能，客戶可以根據應用程序要求和負責任的AI策略跨模型實施保護措施。這些應用程序根據客戶應用場景和“負責任的AI”原則進行定制，因此這一功能可以增強用戶交互的安全性和隱私性。

目前，亞馬遜云科技已經推出多款產品助力企業構建生成式 AI 應用，緩解 AI“焦慮”其中也不乏許多科技界合作伙伴。MongoDB首席產品官Sahir Azam表示：“各行各業越來越多的客戶希望利用生成式AI來構建下一代應用程序，但許多人擔心數據隱私以及人工智能驅動的系統輸出的準確性。為了滿足客戶的需求，我們將MongoDB Atlas作為Amazon Bedrock的知識庫，以便我們的共同客戶可以利用其運營數據安全地構建生成式AI應用程序，以符合最終用戶期望的信任度和準確性來創建個性化體驗。通過這種集成，客戶可以訪問行業領先的基礎模型，并使用MongoDB Atlas Vector Search處理過的數據來創建應用程序，在正確的上下文中提供更多相關的輸出。利用Amazon Bedrock知識庫中內置的數據隱私最佳實踐，客戶可以節省在生成式AI運營上花費的時間，從而更專注于技術部署，以在亞馬遜云科技上提供更有吸引力的最終用戶體驗。”

當然，除了 Amazon Bedrock，2023亞馬遜云科技 re:Inven還有許多重磅發布，并且在接下來的2023亞馬遜云科技 re:Invent 中國活動中，亞馬遜云科技也將對各個新產品新功能做深入解讀。

審核編輯：黃飛

?