llm

+關(guān)注0人關(guān)注

在人工智能領(lǐng)域，LLM代表“大型語言模型”。在人工智能（AI）領(lǐng)域自然語言處理（NLP）是一個(gè)快速進(jìn)展的領(lǐng)域。NLP中最重要是大語言模型（LLM）。大語言模型（英文：Large Language Model，縮寫LLM），也稱大型語言模型，是一種基于機(jī)器學(xué)習(xí)和自然語言處理技術(shù)的模型。

文章：299個(gè) 瀏覽：411次帖子：3個(gè)

全部技術(shù) 資訊資料帖子視頻產(chǎn)品方案企業(yè)

llm技術(shù)

什么是LlamaIndex？LlamaIndex數(shù)據(jù)框架的特點(diǎn)和功能

LlamaIndex是一個(gè)數(shù)據(jù)框架，用于讓基于LLM的應(yīng)用程序攝取、結(jié)構(gòu)化和訪問私有或領(lǐng)域特定的數(shù)據(jù)。它提供Python和Typescript版本。

2024-01-05 標(biāo)簽：接口 SQL 數(shù)據(jù)庫 9698 0

什么是LLM？LLM的工作原理和結(jié)構(gòu)

隨著人工智能技術(shù)的飛速發(fā)展，大型語言模型（Large Language Model，簡(jiǎn)稱LLM）逐漸成為自然語言處理（NLP）領(lǐng)域的研究熱點(diǎn)。LLM以其...

2024-07-02 標(biāo)簽：人工智能自然語言處理 LLM 9444 0

理解KV cache的作用及優(yōu)化方法

MQA (Multi Query Attention，多查詢注意力) 是多頭注意力的一種變體。其主要區(qū)別在于，在 MQA 中不同的注意力頭共享一個(gè)K和V...

2023-12-04 標(biāo)簽：gpu GPT LLM 7435 0

高級(jí)檢索增強(qiáng)生成技術(shù)(RAG)全面指南

ChatGPT、Midjourney等生成式人工智能（GenAI）在文本生成、文本到圖像生成等任務(wù)中表現(xiàn)出令人印象深刻的性能。

2023-12-25 標(biāo)簽：轉(zhuǎn)換器人工智能 RAG算法 5123 0

什么是大模型、大模型是怎么訓(xùn)練出來的及大模型作用

本文通俗簡(jiǎn)單地介紹了什么是大模型、大模型是怎么訓(xùn)練出來的和大模型的作用。 ? 什么是大模型大模型，英文名叫Large Model，大型模型。早期的時(shí)候...

2024-11-25 標(biāo)簽：大模型 LLM 5041 0

什么是多模態(tài)？多模態(tài)的難題是什么？

單模態(tài)大模型，通常大于100M～1B參數(shù)。具有較強(qiáng)的通用性，比如對(duì)圖片中任意物體進(jìn)行分割，或者生成任意內(nèi)容的圖片或聲音。極大降低了場(chǎng)景的定制成本。

2024-01-17 標(biāo)簽：AI 大模型 LLM 4817 0

LLM底座模型：LLaMA、Palm、GLM、BLOOM、GPT結(jié)構(gòu)對(duì)比

使用RMSNorm（即Root Mean square Layer Normalization）對(duì)輸入數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化，RMSNorm可以參考論文：Roo...

2023-05-19 標(biāo)簽：電源優(yōu)化器 GPT BPEKF算法 4162 0

基于AX650N/AX630C部署端側(cè)大語言模型Qwen2

本文將分享如何將最新的端側(cè)大語言模型部署到超高性價(jià)比SoC上，向業(yè)界對(duì)端側(cè)大模型部署的開發(fā)者提供一種新的思路。

2024-07-06 標(biāo)簽：愛芯元智大模型 LLM 3839 0

深入了解RAG技術(shù)

這是任何RAG流程的最后一步——基于我們仔細(xì)檢索的所有上下文和初始用戶查詢生成答案。最簡(jiǎn)單的方法可能是將所有獲取到的上下文（超過某個(gè)相關(guān)性閾值的）連同查...

2024-01-17 標(biāo)簽：編碼器大模型 LLM 3434 0

一文詳解LLM模型基本架構(gòu)

LLM 中非常重要的一個(gè)概念是 Token，我們輸入給 LLM 和它輸出的都是 Token。Token 在這里可以看做語言的基本單位，中文一般是詞或字（...

2023-12-25 標(biāo)簽：gpu rust語言 LLM 3301 0

LLM推理加速新范式！推測(cè)解碼（Speculative Decoding）最新綜述

這個(gè)問題隨著LLM規(guī)模的增大愈發(fā)嚴(yán)重。并且，如下左圖所示，目前LLM常用的自回歸解碼（autoregressive decoding）在每個(gè)解碼步只能生...

2024-01-29 標(biāo)簽：解碼模型 LLM 3197 0

深入理解Llama模型的源碼案例

目前大部分開源LLM模型都是基于transformers庫來做的，它們的結(jié)構(gòu)大部分都和Llama大同小異。

2023-08-23 標(biāo)簽：解碼器源碼位置編碼器 3154 0

中國(guó)研究人員提出StructGPT，提高LLM對(duì)結(jié)構(gòu)化數(shù)據(jù)的零樣本推理能力

盡管結(jié)構(gòu)化數(shù)據(jù)的體量往往非常巨大，但不可能容納輸入提示中的所有數(shù)據(jù)記錄（例如，ChatGPT 的最大上下文長(zhǎng)度為 4096）。將結(jié)構(gòu)化數(shù)據(jù)線性化為 LL...

2023-05-24 標(biāo)簽：數(shù)據(jù)管理自然語言處理知識(shí)圖譜 3121 0

MLC-LLM的編譯部署流程

0x0. 前言我的 ChatRWKV 學(xué)習(xí)筆記和使用指南這篇文章是學(xué)習(xí)RWKV的第一步，然后學(xué)習(xí)了一下之后決定自己應(yīng)該做一些什么。所以就在RWKV社...

2023-09-04 標(biāo)簽：模型編譯 LLM 3058 0

Long-Context下LLM模型架構(gòu)全面介紹

隨著ChatGPT的快速發(fā)展，基于Transformer的大型語言模型(LLM)為人工通用智能(AGI)鋪平了一條革命性的道路，并已應(yīng)用于知識(shí)庫、人機(jī)界...

2023-11-27 標(biāo)簽：模型深度學(xué)習(xí)ChatGPT 3029 0

大型語言模型（LLM）的自定義訓(xùn)練：包含代碼示例的詳細(xì)指南

近年來，像 GPT-4 這樣的大型語言模型（LLM）因其在自然語言理解和生成方面的驚人能力而受到廣泛關(guān)注。但是，要根據(jù)特定任務(wù)或領(lǐng)域定制LLM，定制...

2023-06-12 標(biāo)簽：GPU python 數(shù)據(jù)集 2970 0

使用基于Transformers的API在CPU上實(shí)現(xiàn)LLM高效推理

英特爾 Extension for Transformers是英特爾推出的一個(gè)創(chuàng)新工具包，可基于英特爾架構(gòu)平臺(tái)，尤其是第四代英特爾至強(qiáng) 可擴(kuò)展處理器...

2024-01-22 標(biāo)簽：處理器英特爾 cpu 2894 0

LLM大模型訓(xùn)練Trick系列之拒絕采樣

這個(gè)方法之所以有效，是因?yàn)榫鶆蚍植紟椭覀儗q(x)提供的“封包”縮放到p(x)的概率密度函數(shù)。另一種看法是，我們?nèi)狱c(diǎn)x0的概率。這與從g中取樣x0...

2023-08-21 標(biāo)簽：算法大模型 LLM 2863 0

當(dāng)紅炸子雞LoRA，是當(dāng)代微調(diào)LLMs的正確姿勢(shì)？

大多數(shù)人對(duì)于 LLM 的“親密度”，可能最多就是拉個(gè)開源的 demo 跑下推理過程，得到個(gè)“意料之中”的結(jié)果，然后很諷刺地自 high 一把：WOW~ ...

2023-07-07 標(biāo)簽：模型 LoRa ChatGPT 2835 0

如何本地部署大模型

近期，openEuler A-Tune SIG在openEuler 23.09版本引入llama.cpp&chatglm-cpp兩款應(yīng)用，以支持...

2023-10-18 標(biāo)簽：人工智能 C++openEuler 2754 0

12 3 4 5 6 7 下一頁 8

相關(guān)話題

換一批

電子發(fā)燒友網(wǎng)

電子發(fā)燒友網(wǎng)

+關(guān)注

電子發(fā)燒友網(wǎng)于2006年10月成立，是一個(gè)以電子技術(shù)知識(shí)為核心，以工程師為主導(dǎo)的平臺(tái)。致立于為中國(guó)電子工程師的電子產(chǎn)品設(shè)計(jì)等做出最大貢獻(xiàn)，促進(jìn)中國(guó)電子科技的穩(wěn)步發(fā)展。
無人駕駛

無人駕駛

+關(guān)注

提供全球最前沿?zé)o人駕駛科技趨勢(shì)，中國(guó)無人駕駛開發(fā)者社區(qū)
1024

1024

+關(guān)注
京瓷

京瓷

+關(guān)注

京瓷株式會(huì)社成立于1959年4月1日。川村誠(chéng)為現(xiàn)任代表取締役社長(zhǎng)。資本金為1，157億332萬日元。截至2006年3月31日為止的年度銷售額達(dá)到1，181，489百萬日元，集團(tuán)公司包括關(guān)聯(lián)公司在內(nèi)共計(jì)183家，員工61，468名。
emmc

emmc

+關(guān)注

eMMC （Embedded Multi Media Card）是MMC協(xié)會(huì)訂立、主要針對(duì)手機(jī)或平板電腦等產(chǎn)品的內(nèi)嵌式存儲(chǔ)器標(biāo)準(zhǔn)規(guī)格。
過壓保護(hù)電路

過壓保護(hù)電路

+關(guān)注
6G

6G

+關(guān)注

6G網(wǎng)絡(luò)將是一個(gè)地面無線與衛(wèi)星通信集成的全連接世界。6G，即第六代移動(dòng)通信標(biāo)準(zhǔn)，也被稱為第六代移動(dòng)通信技術(shù)。主要促進(jìn)的就是物聯(lián)網(wǎng)的發(fā)展。截至2019年11月，6G仍在開發(fā)階段。6G的傳輸能力可能比5G提升100倍，網(wǎng)絡(luò)延遲也可能從毫秒降到微秒級(jí)。
華強(qiáng)pcb線路板打樣

華強(qiáng)pcb線路板打樣

+關(guān)注
高頻電容

高頻電容

+關(guān)注
COB

COB

+關(guān)注
wifi6

wifi6

+關(guān)注

WiFi6主要使用了OFDMA、MU-MIMO等技術(shù)，MU-MIMO（多用戶多入多出）技術(shù)允許路由器同時(shí)與多個(gè)設(shè)備通信，而不是依次進(jìn)行通信。MU-MIMO允許路由器一次與四個(gè)設(shè)備通信，WiFi6將允許與多達(dá)8個(gè)設(shè)備通信。WiFi6還利用其他技術(shù)，如OFDMA（正交頻分多址）和發(fā)射波束成形，兩者的作用分別提高效率和網(wǎng)絡(luò)容量。WiFi6最高速率可達(dá)9.6Gbps。
dcdc轉(zhuǎn)換器

dcdc轉(zhuǎn)換器

+關(guān)注

DC/DC轉(zhuǎn)換器為轉(zhuǎn)變輸入電壓后有效輸出固定電壓的電壓轉(zhuǎn)換器。DC/DC轉(zhuǎn)換器分為三類：升壓型DC/DC轉(zhuǎn)換器、降壓型DC/DC轉(zhuǎn)換器以及升降壓型DC/DC轉(zhuǎn)換器。
汽車

汽車

+關(guān)注
檢測(cè)電路圖

檢測(cè)電路圖

+關(guān)注
Zynq-7000

Zynq-7000

+關(guān)注

　　賽靈思公司（Xilinx）推出的行業(yè)第一個(gè)可擴(kuò)展處理平臺(tái)Zynq系列。旨在為視頻監(jiān)視、汽車駕駛員輔助以及工廠自動(dòng)化等高端嵌入式應(yīng)用提供所需的處理與計(jì)算性能水平。
CD4069

CD4069

+關(guān)注
過流保護(hù)電路

過流保護(hù)電路

+關(guān)注

電路過電流過電壓保護(hù)是為防止主回路短路或直流牽引電動(dòng)機(jī)發(fā)生環(huán)火造成主回路電流過大而損壞同步牽引發(fā)電機(jī)、主整流柜等電氣設(shè)備，機(jī)車在牽引、電阻制動(dòng)或自負(fù)載工況下，對(duì)主電路的過電流和過電壓均進(jìn)行保護(hù)。
過零檢測(cè)電路

過零檢測(cè)電路

+關(guān)注

過零檢測(cè)指的是在交流系統(tǒng)中，當(dāng)波形從正半周向負(fù)半周轉(zhuǎn)換時(shí)，經(jīng)過零位時(shí)，系統(tǒng)作出的檢測(cè)。可作開關(guān)電路或者頻率檢測(cè)。漏電開關(guān)的漏電檢測(cè)是檢測(cè)零序電流。
特斯拉線圈

特斯拉線圈

+關(guān)注

特斯拉線圈又叫泰斯拉線圈，因?yàn)檫@是從“Tesla”這個(gè)英文名直接音譯過來的。這是一種分布參數(shù)高頻串聯(lián)諧振變壓器，可以獲得上百萬伏的高頻電壓。
VHF

VHF

+關(guān)注
VDD

VDD

+關(guān)注

　Vcc和Vdd是器件的電源端。Vcc是雙極器件的正，Vdd多半是單極器件的正。下標(biāo)可以理解為NPN晶體管的集電極C，和PMOS or NMOS場(chǎng)效應(yīng)管的漏極D。同樣你可在電路圖中看見Vee和Vss，含義一樣。因?yàn)橹髁餍酒Y(jié)構(gòu)是硅NPN所以Vcc通常是正。如果用PNP結(jié)構(gòu)Vcc就為負(fù)了。建議選用芯片時(shí)一定要看清電氣參數(shù)
逆變器電路圖

逆變器電路圖

+關(guān)注
慕尼黑上海電子展

慕尼黑上海電子展

+關(guān)注
測(cè)試電路

測(cè)試電路

+關(guān)注
AIoT

AIoT

+關(guān)注

AIoT（人工智能物聯(lián)網(wǎng)）=AI（人工智能）+IoT（物聯(lián)網(wǎng)）。 AIoT融合AI技術(shù)和IoT技術(shù)，通過物聯(lián)網(wǎng)產(chǎn)生、收集海量的數(shù)據(jù)存儲(chǔ)于云端、邊緣端，再通過大數(shù)據(jù)分析，以及更高形式的人工智能，實(shí)現(xiàn)萬物數(shù)據(jù)化、萬物智聯(lián)化，物聯(lián)網(wǎng)技術(shù)與人工智能追求的是一個(gè)智能化生態(tài)體系，除了技術(shù)上需要不斷革新，技術(shù)的落地與應(yīng)用更是現(xiàn)階段物聯(lián)網(wǎng)與人工智能領(lǐng)域亟待突破的核心問題。
HarmonyOS

HarmonyOS

+關(guān)注

HarmonyOS最新信息分享，我們將為大家?guī)鞨armonyOS是什么意思的深度解讀，HarmonyOS官網(wǎng)地址、HarmonyOS開源相關(guān)技術(shù)解讀與設(shè)計(jì)應(yīng)用案例，HarmonyOS系統(tǒng)官網(wǎng)信息，華為harmonyOS最新資訊動(dòng)態(tài)分析等。
功放板

功放板

+關(guān)注
ELMOS

ELMOS

+關(guān)注
功放制作

功放制作

+關(guān)注

功率放大器（英文名稱：power amplifier），簡(jiǎn)稱“功放”，是指在給定失真率條件下，能產(chǎn)生最大功率輸出以驅(qū)動(dòng)某一負(fù)載（例如揚(yáng)聲器）的放大器。
科創(chuàng)板

科創(chuàng)板

+關(guān)注

擬訂科創(chuàng)板股票上市審核規(guī)則、科創(chuàng)板上市公司并購重組審核規(guī)則、上市委員會(huì)及科技創(chuàng)新咨詢委員會(huì)相關(guān)規(guī)則；負(fù)責(zé)科創(chuàng)板股票發(fā)行上市審核和科創(chuàng)板上市公司并購重組審核工作，擬訂審核標(biāo)準(zhǔn)、審核程序等；對(duì)發(fā)行人、科創(chuàng)板上市公司及中介機(jī)構(gòu)進(jìn)行自律監(jiān)管等。

換一批

電機(jī)控制	DSP	氮化鎵	功率放大器	ChatGPT	自動(dòng)駕駛	TI	瑞薩電子
BLDC	PLC	碳化硅	二極管	OpenAI	元宇宙	安森美	ADI
無刷電機(jī)	FOC	IGBT	逆變器	文心一言	5G	英飛凌	羅姆
直流電機(jī)	PID	MOSFET	傳感器	人工智能	物聯(lián)網(wǎng)	NXP	賽靈思
步進(jìn)電機(jī)	SPWM	充電樁	IPM	機(jī)器視覺	無人機(jī)	三菱電機(jī)	ST
伺服電機(jī)	SVPWM	光伏發(fā)電	UPS	AR	智能電網(wǎng)	國(guó)民技術(shù)	Microchip

瑞薩	沁恒股份	全志	國(guó)民技術(shù)	瑞芯微	兆易創(chuàng)新	芯海科技	Altium
德州儀器	Vishay	Micron	Skyworks	AMS	TAIYOYUDEN	納芯微	HARTING
adi	Cypress	Littelfuse	Avago	FTDI	Cirrus LogIC	Intersil	Qualcomm
st	Murata	Panasonic	Altera	Bourns	矽力杰	Samtec	揚(yáng)興科技
microchip	TDK	Rohm	Silicon Labs	圣邦微電子	安費(fèi)諾工業(yè)	ixys	Isocom Compo
安森美	DIODES	Nidec	Intel	EPSON	樂鑫	Realtek	ERNI電子
TE Connectivity	Toshiba	OMRON	Sensirion	Broadcom	Semtech	旺宏	英飛凌
Nexperia	Lattice	KEMET	順絡(luò)電子	霍尼韋爾	pulse	ISSI	NXP
Xilinx	廣瀨電機(jī)	金升陽	君耀電子	聚洵	Liteon	新潔能	Maxim
MPS	億光	Exar	菲尼克斯	CUI	WIZnet	Molex	Yageo
Samsung	風(fēng)華高科	WINBOND	長(zhǎng)晶科技	晶導(dǎo)微電子	上海貝嶺	KOA	Echelon
Coilcraft	LRC	trinamic

放大器	運(yùn)算放大器	差動(dòng)放大器	電流感應(yīng)放大器	比較器	儀表放大器	可變?cè)鲆娣糯笃?	隔離放大器
時(shí)鐘	時(shí)鐘振蕩器	時(shí)鐘發(fā)生器	時(shí)鐘緩沖器	定時(shí)器	寄存器	實(shí)時(shí)時(shí)鐘	PWM 調(diào)制器
視頻放大器	功率放大器	頻率轉(zhuǎn)換器	揚(yáng)聲器放大器	音頻轉(zhuǎn)換器	音頻開關(guān)	音頻接口	音頻編解碼器
模數(shù)轉(zhuǎn)換器	數(shù)模轉(zhuǎn)換器	數(shù)字電位器	觸摸屏控制器	AFE	ADC	DAC	電源管理
線性穩(wěn)壓器	LDO	開關(guān)穩(wěn)壓器	DC/DC	降壓轉(zhuǎn)換器	電源模塊	MOSFET	IGBT
振蕩器	諧振器	濾波器	電容器	電感器	電阻器	二極管	晶體管
變送器	傳感器	解析器	編碼器	陀螺儀	加速計(jì)	溫度傳感器	壓力傳感器
電機(jī)驅(qū)動(dòng)器	步進(jìn)驅(qū)動(dòng)器	TWS	BLDC	無刷直流驅(qū)動(dòng)器	濕度傳感器	光學(xué)傳感器	圖像傳感器
數(shù)字隔離器	ESD 保護(hù)	收發(fā)器	橋接器	多路復(fù)用器	氮化鎵	PFC	數(shù)字電源

開關(guān)電源	步進(jìn)電機(jī)	無線充電	LabVIEW	EMC	PLC	OLED	單片機(jī)
5G	m2m	DSP	MCU	ASIC	CPU	ROM	DRAM
NB-IoT	LoRa	Zigbee	NFC	藍(lán)牙	RFID	Wi-Fi	SIGFOX
Type-C	USB	以太網(wǎng)	仿真器	RISC	RAM	寄存器	GPU
語音識(shí)別	萬用表	CPLD	耦合	電路仿真	電容濾波	保護(hù)電路	看門狗
CAN	CSI	DSI	DVI	Ethernet	HDMI	I2C	RS-485
SDI	nas	DMA	HomeKit	閾值電壓	UART	機(jī)器學(xué)習(xí)	TensorFlow

Arduino	BeagleBone	樹莓派	STM32	MSP430	EFM32	ARM mbed	EDA
示波器	LPC	imx8	PSoC	Altium Designer	Allegro	Mentor	Pads
OrCAD	Cadence	AutoCAD	華秋DFM	Keil	MATLAB	MPLAB	Quartus

在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

搜索歷史

llm

llm技術(shù)

相關(guān)標(biāo)簽

相關(guān)話題

關(guān)注此標(biāo)簽的用戶(0人)

C++	Java	Python	JavaScript	node.js	RISC-V	verilog	Tensorflow
Android	iOS	linux	RTOS	FreeRTOS	LiteOS	RT-THread	uCOS
DuerOS	Brillo	Windows11	HarmonyOS

林超文PCB設(shè)計(jì)：PADS教程，PADS視頻教程	鄭振宇老師：Altium Designer教程，Altium Designer視頻教程
張飛實(shí)戰(zhàn)電子視頻教程	朱有鵬老師：海思HI3518e教程，HI3518e視頻教程
李增老師：信號(hào)完整性教程，高速電路仿真教程	華為鴻蒙系統(tǒng)教程，HarmonyOS視頻教程
賽盛：EMC設(shè)計(jì)教程，EMC視頻教程	杜洋老師：STM32教程，STM32視頻教程
唐佐林：c語言基礎(chǔ)教程，c語言基礎(chǔ)視頻教程	張飛：BUCK電源教程，BUCK電源視頻教程
正點(diǎn)原子：FPGA教程，F(xiàn)PGA視頻教程	韋東山老師：嵌入式教程，嵌入式視頻教程
張先鳳老師：C語言基礎(chǔ)視頻教程	許孝剛老師：Modbus通訊視頻教程
王振濤老師：NB-IoT開發(fā)視頻教程	Mill老師：FPGA教程，Zynq視頻教程
C語言視頻教程	RK3566芯片資料合集
朱有鵬老師：U-Boot源碼分析視頻教程	開源硬件專題