探索LangChain：構(gòu)建專屬LLM應(yīng)用的基石

LangChain通過Loader加載外部的文檔，轉(zhuǎn)化為標(biāo)準(zhǔn)的Document類型。Document類型主要包含兩個(gè)屬性：page_content 包含...

2024-01-30 標(biāo)簽：ChatGPTLLM 881 0

Continous Batching大模型推理關(guān)鍵技術(shù)

TurboTransformers算是比較早期指出輸入變長(zhǎng)需要新的Batching方法的論文。在2020年上半年，我開始思考如何把變長(zhǎng)輸入Batchin...

2024-01-23 標(biāo)簽：gpuGPTnlp 967 0

如何用Rust過程宏魔法簡(jiǎn)化SQL函數(shù)呢？

這是 RisingWave 中一個(gè) SQL 函數(shù)的實(shí)現(xiàn)。只需短短幾行代碼，通過在 Rust 函數(shù)上加一行過程宏，我們就把它包裝成了一個(gè) SQL 函數(shù)。

2024-01-23 標(biāo)簽：SQL生成器Rust 1923 0

不同算力芯片的特點(diǎn)與區(qū)別

AMD 推出數(shù)據(jù)中心 APU Instinct MI300。AMD 推出數(shù)據(jù)中心APU（加速處理器）Instinct MI300，其旨在幫助數(shù)據(jù)中心處理...

2024-01-22 標(biāo)簽：gpu數(shù)據(jù)中心人工智能 2549 0

教您如何精調(diào)出自己的領(lǐng)域大模型

BERT和 GPT-3 等語(yǔ)言模型針對(duì)語(yǔ)言任務(wù)進(jìn)行了預(yù)訓(xùn)練。微調(diào)使它們適應(yīng)特定領(lǐng)域，如營(yíng)銷、醫(yī)療保健、金融。在本指南中，您將了解 LLM 架構(gòu)、微調(diào)過程...

2024-01-19 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)nlpChatGPT 1518 0

如何利用ChatGPT快速實(shí)現(xiàn)一個(gè)控制臺(tái)進(jìn)度條小工具？

控制臺(tái)程序執(zhí)行一些耗時(shí)任務(wù)時(shí)，需要向用戶顯示當(dāng)前任務(wù)執(zhí)行的進(jìn)度，以提供清晰的感知。比如一個(gè)下載程序，通過進(jìn)度條便能告知用戶當(dāng)前的下載進(jìn)度。

2024-01-18 標(biāo)簽：ASCIIC++語(yǔ)言python 1209 0

基于生成式人工智能的工業(yè)軟件自主創(chuàng)新路徑分析

當(dāng)前，以ChatGPT 為代表的預(yù)訓(xùn)練大模型 展現(xiàn)出自主學(xué)習(xí)、跨模態(tài)理解、推理抽象思維和人類社會(huì)理解等特征優(yōu)勢(shì)，正引發(fā)新一輪人工智能范式革命

2024-01-17 標(biāo)簽：人工智能ai技術(shù)ChatGPT 1755 0

深度解析大語(yǔ)言模型內(nèi)部運(yùn)行原理

許多早期的機(jī)器學(xué)習(xí)算法需要人工標(biāo)記訓(xùn)練示例。例如，訓(xùn)練數(shù)據(jù)可能是帶有人工標(biāo)簽（"狗"或"貓"）的狗或貓的照片。人...

2024-01-16 標(biāo)簽：人工智能神經(jīng)元機(jī)器學(xué)習(xí) 770 0

ChatGPT算力芯片如何做算力輸出

算力卡的核心當(dāng)然還是計(jì)算芯片，會(huì)搭配大容量高帶寬的內(nèi)存、緩存，以及搭載CPU用于調(diào)度，為了幫助數(shù)據(jù)傳輸，便會(huì)使用高速通道，這便是PCIe（高速串行計(jì)算機(jī)...

2024-01-11 標(biāo)簽：cpuPCIe人工智能 730 0

13個(gè)精選創(chuàng)意應(yīng)用案例！協(xié)作機(jī)器人與智慧生活的融合！

2023年，大象機(jī)器人協(xié)作機(jī)器人產(chǎn)品年出貨量超1萬(wàn)臺(tái)，銷往海內(nèi)外50+國(guó)家，獲國(guó)內(nèi)外超500+所高校、企業(yè)的認(rèn)可和應(yīng)用。

2024-01-10 標(biāo)簽：機(jī)械臂協(xié)作機(jī)器人樹莓派 5980 0

一文解析PPO算法原理

Reward Model的初始化：6B的GPT-3模型在多個(gè)公開數(shù)據(jù)（(ARC, BoolQ, CoQA, DROP, MultiNLI, OpenBo...

2024-01-09 標(biāo)簽：ChatGPT 7149 0

大語(yǔ)言模型推斷中的批處理效應(yīng)

隨著開源預(yù)訓(xùn)練大型語(yǔ)言模型（Large Language Model, LLM ）變得更加強(qiáng)大和開放，越來(lái)越多的開發(fā)者將大語(yǔ)言模型納入到他們的項(xiàng)目中。其...

2024-01-04 標(biāo)簽：語(yǔ)言模型機(jī)器學(xué)習(xí)LoRa 865 0

如何設(shè)計(jì)一款好的電源產(chǎn)品？

電氣化社會(huì)下電源無(wú)處不在，不同種類的電源技術(shù)在最初的發(fā)電側(cè)到終端芯片都扮演著重要的角色，一款高度集成的電子產(chǎn)品中電源系統(tǒng)的設(shè)計(jì)甚至占到了總設(shè)計(jì)量的50%...

2024-01-04 標(biāo)簽：adi電源技術(shù)電源產(chǎn)品 763 0

四種微調(diào)大模型的方法介紹

全微調(diào)（Full Fine-tuning）：全微調(diào)是指對(duì)整個(gè)預(yù)訓(xùn)練模型進(jìn)行微調(diào)，包括所有的模型參數(shù)。在這種方法中，預(yù)訓(xùn)練模型的所有層和參數(shù)都會(huì)被更新和優(yōu)...

2024-01-03 標(biāo)簽：gpu深度學(xué)習(xí)ChatGPT 2.6萬(wàn) 0

ChatGPT是一個(gè)好的因果推理器嗎？

因果推理能力對(duì)于許多自然語(yǔ)言處理（NLP）應(yīng)用至關(guān)重要。最近的因果推理系統(tǒng)主要基于經(jīng)過微調(diào)的預(yù)訓(xùn)練語(yǔ)言模型（PLMs），如BERT [1] 和RoBER...

2024-01-03 標(biāo)簽：ChatGPT 1046 0

AIGC的基礎(chǔ)及各行業(yè)應(yīng)用拆解

文本類最熱門的AI工具無(wú)非是ChatGPT，我們可以把它當(dāng)作是一個(gè)聊天機(jī)器人，可以直接輸入問題或者與它進(jìn)行自然語(yǔ)言對(duì)話。

2024-01-02 標(biāo)簽：AIpython聊天機(jī)器人 1118 0

認(rèn)識(shí)一下AI算力應(yīng)用中的光模塊產(chǎn)品

以ChatGPT為代表的AI大模型應(yīng)用普及將推動(dòng)算力需求快速增長(zhǎng)，服務(wù)器產(chǎn)業(yè)鏈?zhǔn)瞧渲兄匾氖芤姝h(huán)節(jié)之一，AI計(jì)算的普及將推動(dòng)服務(wù)器產(chǎn)業(yè)鏈光模塊向800G...

2023-12-29 標(biāo)簽：交換機(jī)光模塊GPU芯片 1304 0

高級(jí)檢索增強(qiáng)生成技術(shù)(RAG)全面指南

ChatGPT、Midjourney等生成式人工智能（GenAI）在文本生成、文本到圖像生成等任務(wù)中表現(xiàn)出令人印象深刻的性能。

2023-12-25 標(biāo)簽：轉(zhuǎn)換器人工智能RAG算法 5776 0