完善資料讓更多小伙伴認識你，還能領取20積分哦，立即完善>
標簽 > llm
在人工智能領域，LLM代表“大型語言模型”。在人工智能（AI）領域自然語言處理（NLP）是一個快速進展的領域。NLP中最重要是大語言模型（LLM）。大語言模型（英文：Large Language Model，縮寫LLM），也稱大型語言模型，是一種基于機器學習和自然語言處理技術的模型。
文章：145個 瀏覽：411次 帖子：3個
LLM推理上的DeepSpeed Inference優化實踐方案
首先將 batch 拆分為 micro-batch，其中 micro-batch 數等于 pipeline 深度，micro-batch通過動態隊列的順...
向量數據庫是一種以向量嵌入（高維向量）方式存儲和管理非結構化數據（如文本、圖像或音頻）的數據庫，以便于快速查找和檢索類似對象。
internal feedback：使用LLM去預測生成的plan取得成功的概率、Tree of Thought去對比不同的plan（有點類似Alpha...
? 最近幾年，GPT-3、PaLM和GPT-4等LLM刷爆了各種NLP任務，特別是在zero-shot和few-shot方面表現出它們強大的性能。因此，...
由于本文以大語言模型 RLHF 的 PPO 算法為主，所以希望你在閱讀前先弄明白大語言模型 RLHF 的前兩步，即 SFT Model 和 Reward...
TaD：任務感知解碼技術（Task-aware Decoding，簡稱TaD），京東聯合清華大學針對大語言模型幻覺問題提出的一項技術，成果收錄于IJCA...
? ? 在這篇文章中，我們將盡可能詳細地梳理一個完整的 LLM 訓練流程。包括模型預訓練（Pretrain）、Tokenizer 訓練、指令微調（Ins...
最新綜述！當大型語言模型（LLM）遇上知識圖譜：兩大技術優勢互補
LLM 是黑箱模型，缺乏可解釋性，因此備受批評。LLM 通過參數隱含地表示知識。因此，我們難以解釋和驗證 LLM 獲得的知識。此外，LLM 是通過概率模...
為什么Agent落地這么難？AI最大賽道Agent機遇全解析
“如果一篇論文提出了某種不同的訓練方法，OpenAI內部會嗤之以鼻，認為都是我們玩剩下的。但是當新的AI Agent論文出來時，我們會十分認真且興奮地討...
通過醫學知識圖譜和 GPT 3.5 API 構建了中文醫學指令數據集，并在此基礎上對 LLaMA 進行了指令微調，提高了 LLaMA 在醫療領域的問答效果。
基準數據集(CORR2CAUSE)如何測試大語言模型(LLM)的純因果推理能力
? 因果推理是人類智力的標志之一。因果關系NLP領域近年來引起了人們的極大興趣，但其主要依賴于從常識知識中發現因果關系。本研究提出了一個基準數據集(CO...
現在是2023年5月，截止目前，網絡上已經開源了眾多的LLM，如何用較低的成本，判斷LLM的基礎性能，選到適合自己任務的LLM，成為一個關鍵。 本文會涉...
LLM in Medical Domain: 一文速覽大語言模型在醫學領域的應用
由于在生成長文本的數據集上，Flan-PaLM和臨床醫生的結果顯示出一定gap。本文提出了使用Instruction Prompt Tuning對Fla...
ChatGLM2-6b是清華開源的小尺寸LLM，只需要一塊普通的顯卡(32G較穩妥)即可推理和微調，是目前社區非常活躍的一個開源LLM。
三步完成在英特爾獨立顯卡上量化和部署ChatGLM3-6B模型
ChatGLM3 是智譜 AI 和清華大學 KEG 實驗室聯合發布的新一代對話預訓練模型。ChatGLM3-6B 是 ChatGLM3 系列中的開源模型...
今天分享一篇普林斯頓大學的一篇文章，Tree of Thoughts: Deliberate Problem Solving with Large La...
英特爾銳炫顯卡運行類ChatGPT的開源大語言模型(LLM)Dolly 2.0解讀
人類偏好強化學習Reinforcement learning with human preferences（RLHF）和 InstructGPT 等技術...
本文假設不同的ICL為LLM提供了關于任務的不同知識，導致對相同數據的不同理解和預測。因此，一個直接的研究問題出現了:llm能否用多個ICL提示輸入來增...
面向表格數據的推理任務，在計算機領域，特別是自然語言處理（Natural Language Processing，NLP）領域的研究中扮演著重要角色[1...
換一批
編輯推薦廠商產品技術軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯網 | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發電 | UPS | AR | 智能電網 | 國民技術 | Microchip |
| 開關電源 | 步進電機 | 無線充電 | LabVIEW | EMC | PLC | OLED | 單片機 |
| 5G | m2m | DSP | MCU | ASIC | CPU | ROM | DRAM |
| NB-IoT | LoRa | Zigbee | NFC | 藍牙 | RFID | Wi-Fi | SIGFOX |
| Type-C | USB | 以太網 | 仿真器 | RISC | RAM | 寄存器 | GPU |
| 語音識別 | 萬用表 | CPLD | 耦合 | 電路仿真 | 電容濾波 | 保護電路 | 看門狗 |
| CAN | CSI | DSI | DVI | Ethernet | HDMI | I2C | RS-485 |
| SDI | nas | DMA | HomeKit | 閾值電壓 | UART | 機器學習 | TensorFlow |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關注我們的微信
下載發燒友APP
電子發燒友觀察
版權所有 ? 湖南華秋數字科技有限公司
長沙市望城經濟技術開發區航空路6號手機智能終端產業園2號廠房3層（0731-88081133）
電子發燒友 （電路圖） 湘公網安備43011202000918
工商網監
湘ICP備2023018690號-1
