完善資料讓更多小伙伴認識你，還能領(lǐng)取20積分哦，立即完善>
標(biāo)簽 > llm
在人工智能領(lǐng)域，LLM代表“大型語言模型”。在人工智能（AI）領(lǐng)域自然語言處理（NLP）是一個快速進展的領(lǐng)域。NLP中最重要是大語言模型（LLM）。大語言模型（英文：Large Language Model，縮寫LLM），也稱大型語言模型，是一種基于機器學(xué)習(xí)和自然語言處理技術(shù)的模型。
文章：318個 瀏覽：686次 帖子：3個
NVIDIA TensorRT-LLM 是一個專為優(yōu)化大語言模型 (LLM) 推理而設(shè)計的庫。它提供了多種先進的優(yōu)化技術(shù)，包括自定義 Attention...
采用伯克利神經(jīng)解析器（Berkeley Neural Parser）作為方法的基礎(chǔ)。該解析器是一種基于圖表的方法，采用自注意力編碼器和圖表解碼器，利用預(yù)...
當(dāng)然 MPT-7B-StoryWriter-65k+ [5] 模型也有較長的外推能力，主要在于，注意力這塊使用了 ALIBI [6]。要擁有什么樣的長度...
2023-10-26 標(biāo)簽：gpu數(shù)據(jù)處理ChatGPT 689 0
本研究提出了ExTraCT框架，利用自然語言進行軌跡校正。該框架結(jié)合了大型語言模型（LLMs）用于自然語言理解和軌跡變形函數(shù)。ExTraCT能夠根據(jù)場景...
NVIDIA大語言模型在推薦系統(tǒng)中的應(yīng)用實踐
推薦系統(tǒng)的主要任務(wù)在于根據(jù)用戶的過往行為預(yù)測其潛在興趣點，并據(jù)此推薦相應(yīng)的商品。在傳統(tǒng)的推薦系統(tǒng)中，當(dāng)處理用戶請求時，會觸發(fā)多個召回模塊，例如熱門商品召...
2025-03-05 標(biāo)簽：NVIDIA模型推薦系統(tǒng) 674 0
生成式推薦系統(tǒng)與京東聯(lián)盟廣告-綜述與應(yīng)用
大型語言模型（LLM）正在深刻地影響自然語言處理（NLP）領(lǐng)域，其強大的處理各種任務(wù)的能力也為其他領(lǐng)域的從業(yè)者帶來了新的探索路徑。推薦系統(tǒng)（RS）作為解...
通過豐富數(shù)據(jù)，生成式 AI 應(yīng)用程序可以提供上下文感知交互。 LLM 驅(qū)動的功能通常依賴于特定的專有數(shù)據(jù)。簡化從多個來源引入數(shù)據(jù)對于創(chuàng)建平滑有效的模型至...
2023-12-21 標(biāo)簽：AI數(shù)據(jù)連接器大模型 652 0
更適合機械寶寶體質(zhì)的操作系統(tǒng)，竟然內(nèi)置LLM！
工程師們一直在試圖搭建更智能、可靠的機器人，比如之前火爆全網(wǎng)、來自波士頓動力公司的機器狗Spot。它可以輕松上下樓梯、搬運重物、巡查街道，等等。
在NVIDIA TensorRT-LLM中啟用ReDrafter的一些變化
Recurrent Drafting (簡稱 ReDrafter) 是蘋果公司為大語言模型 (LLM) 推理開發(fā)并開源的一種新型推測解碼技術(shù)，該技術(shù)現(xiàn)在...
NVIDIA Nemotron-4 340B模型幫助開發(fā)者生成合成訓(xùn)練數(shù)據(jù)
Nemotron-4 340B 是針對 NVIDIA NeMo 和 NVIDIA TensorRT-LLM 優(yōu)化的模型系列，該系列包含最先進的指導(dǎo)和獎勵...
VILA與其他模型在提供邊緣AI 2.0方面的表現(xiàn)
VILA 是 NVIDIA 研究部門與麻省理工學(xué)院共同開發(fā)的高性能視覺語言模型系列。最大的模型約有 400 億參數(shù)，最小的模型約有 30 億參數(shù)，并且完...
生成式 AI 正在被應(yīng)用程序設(shè)計人員快速地使用著。這不僅體現(xiàn)在使用來自商業(yè)云服務(wù)模型的傳統(tǒng)REST API形式上，而且還發(fā)生在客戶端和邊緣。越來越多的數(shù)...
還有一個與批次大小有關(guān)的數(shù)量，它們在一個有趣的點上相交。這個點不取決于硬件之外的任何因素。舉例來說，在 A10G 和 A100 上，硬件可以實現(xiàn)的總浮點...
2024-01-29 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)gpuAI 566 0
OpenAI新研究：指令層次結(jié)構(gòu)防御LLM攻擊策略
為了解決這個問題，這篇研究提出了一種指令層次結(jié)構(gòu)（instruction hierarchy）。它明確定義了不同指令的優(yōu)先級，以及當(dāng)不同優(yōu)先級的指令發(fā)生...
隨著 DeepSeek、 GPT 和 Llama 等大語言模型（LLMs）不斷推動人工智能的邊界，它們在高效部署方面也帶來了重大挑戰(zhàn)。這些模型在生成類似...
本實驗旨在驗證LLM在模擬復(fù)雜歷史事件方面的有效性。實驗選用了OpenAI開發(fā)的GPT-4作為后端模型，討論以下問題。
? 作者：Sebastian Raschka 博士， 翻譯：張晶，Linux Fundation APAC Open Source Evangelist...
大語言模型的解碼策略與關(guān)鍵優(yōu)化總結(jié)
本文系統(tǒng)性地闡述了大型語言模型(LargeLanguageModels,LLMs)中的解碼策略技術(shù)原理及其實踐應(yīng)用。通過深入分析各類解碼算法的工作機制、...
繼上一篇移植了 Mediapipe 的 LLM Inference 后，這篇文章我們將繼續(xù)探索 Object Detection Demo 的移植。
內(nèi)部業(yè)務(wù)支撐&前瞻技術(shù)布局 One4All下一代生成式推薦系統(tǒng)
作者：京東零售 申磊 自LLM在自然語言處理等領(lǐng)域取得了矚目成就之后，學(xué)術(shù)界積極探索生成式模型對搜廣推系統(tǒng)的增強或改進方式[1]，現(xiàn)有工作大體可以分為兩...
換一批
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關(guān)注我們的微信
下載發(fā)燒友APP
電子發(fā)燒友觀察
版權(quán)所有 ? 湖南華秋數(shù)字科技有限公司
長沙市望城經(jīng)濟技術(shù)開發(fā)區(qū)航空路6號手機智能終端產(chǎn)業(yè)園2號廠房3層（0731-88081133）
電子發(fā)燒友 （電路圖） 湘公網(wǎng)安備43011202000918
工商網(wǎng)監(jiān)
湘ICP備2023018690號-1
