低比特量化技術(shù)如何幫助LLM提升性能

針對(duì)大語(yǔ)言模型 (LLM) 在部署過程中的性能需求，低比特量化技術(shù)一直是優(yōu)化效果最佳的方案之一，本文將探討低比特量化技術(shù)如何幫助 LLM 提升性能，以及...

2023-12-08 標(biāo)簽：輕量化技術(shù)大模型LLM 1532 0

一文詳解6G內(nèi)生AI架構(gòu)及關(guān)鍵技術(shù)

6G作為下一代移動(dòng)通信技術(shù)，正在成為全球范圍內(nèi)通信行業(yè)的重要研究熱點(diǎn)。6G內(nèi)生AI架構(gòu)，將人工智能與無線網(wǎng)絡(luò)緊密結(jié)合，有望為未來的通信帶來革命性的改變。

2023-09-18 標(biāo)簽：無線網(wǎng)絡(luò)AI人工智能 1517 0

RISC -V跑大模型（一）

去年，ChatGPT的出現(xiàn)震驚了全世界，在短短幾個(gè)月的時(shí)間內(nèi)，ChatGPT的月活躍用戶達(dá)到了1億。ChatGPT的成功讓許多人第一次知道了大語(yǔ)言模型（...

2023-07-17 標(biāo)簽：RISC-VRISC-V處理器ChatGPT 1517 0

Intel跑步進(jìn)入AI PC時(shí)代！13代酷睿支持160億參數(shù)大模型、Arc顯卡提速54％

生成式AI(AIGC)無疑是當(dāng)下最熱門的話題和應(yīng)用，各家軟硬件廠商都在全力投入。 作為擁有強(qiáng)大硬件、廣泛生態(tài)的行業(yè)領(lǐng)袖，Intel也正在大力推動(dòng)PC A...

2023-08-21 標(biāo)簽：intelAI大模型 1513 0

對(duì)于大模型RAG技術(shù)的一些思考

大模型或者句向量在訓(xùn)練時(shí)，使用的語(yǔ)料都是較為通用的語(yǔ)料。這導(dǎo)致了這些模型，對(duì)于垂直領(lǐng)域的知識(shí)識(shí)別是有缺陷的。它們沒有辦法理解企業(yè)內(nèi)部的一些專用術(shù)語(yǔ)，縮寫...

2023-12-07 標(biāo)簽：向量檢索大模型 1512 0

如何快速下載OpenVINO Notebooks中的AI大模型

OpenVINO Notebooks是Jupyter Notebook形式的OpenVINO范例程序大集合，方便開發(fā)者快速學(xué)習(xí)并掌握OpenVINO推理...

2023-12-12 標(biāo)簽：Linux大模型OpenVINO 1511 0

大象機(jī)器人開源協(xié)作機(jī)械臂機(jī)械臂接入GPT4o大模型！

本文已經(jīng)或者同濟(jì)子豪兄作者授權(quán)對(duì)文章進(jìn)行編輯和轉(zhuǎn)載 引言 隨著人工智能和機(jī)器人技術(shù)的快速發(fā)展，機(jī)械臂在工業(yè)、醫(yī)療和服務(wù)業(yè)等領(lǐng)域的應(yīng)用越來越廣泛。通過結(jié)合...

2024-07-03 標(biāo)簽：人工智能開源機(jī)械臂 1491 0

基于大模型的遙感圖像變化檢測(cè)新網(wǎng)絡(luò)

高分辨率遙感圖像已經(jīng)成為復(fù)雜變化檢測(cè)的有力工具。然而，在復(fù)雜場(chǎng)景中執(zhí)行穩(wěn)健的變化檢測(cè)仍然是一個(gè)艱巨的挑戰(zhàn)。變化檢測(cè)聚焦“非語(yǔ)義變化”中的“有效變化”，即...

2024-01-12 標(biāo)簽：SAM遙感圖像深度學(xué)習(xí) 1485 0

基于AI框架的智能工廠設(shè)計(jì)

在當(dāng)今的智能制造業(yè)中，智能化和數(shù)字化的發(fā)展已經(jīng)成為制造業(yè)的主要趨勢(shì)。隨著人工智能（AI）技術(shù)的不斷發(fā)展和進(jìn)步，智能制造的智慧工廠已經(jīng)成為制造業(yè)的一個(gè)重要...

2024-01-26 標(biāo)簽：物聯(lián)網(wǎng)AI智能制造 1475 0

大模型Reward Model的trick應(yīng)用技巧

借助對(duì)比學(xué)習(xí)和元學(xué)習(xí)的方法。增加對(duì)比學(xué)習(xí)的loss，對(duì)比學(xué)習(xí)通過增強(qiáng)模型區(qū)分能力，來增強(qiáng)RM的對(duì)好壞的區(qū)分水平。元學(xué)習(xí)則使獎(jiǎng)勵(lì)模型能夠維持區(qū)分分布外樣本...

2024-01-25 標(biāo)簽：二極管大模型 1465 0

大模型壓縮首篇綜述來啦

模型壓縮涉及將大型資源密集型模型轉(zhuǎn)化為適合在受限移動(dòng)設(shè)備上存儲(chǔ)的緊湊版本。此外，它還可以優(yōu)化模型以實(shí)現(xiàn)更快的執(zhí)行速度和最小的延遲，或在這些目標(biāo)之間取得平衡。

2023-09-26 標(biāo)簽：模型數(shù)據(jù)集nlp 1433 0

多任務(wù)微調(diào)框架MFTCoder詳細(xì)技術(shù)解讀

MFTCoder具備高效訓(xùn)練特征，包括提供高效的數(shù)據(jù)Tokenization模式和支持PEFT微調(diào)，能有效提升微調(diào)訓(xùn)練速度并降低對(duì)資源的需求。

2023-11-17 標(biāo)簽：函數(shù)pythonGPT 1413 0

1-2B參數(shù)規(guī)模大模型的使用心得

大模型時(shí)代，根據(jù)大模型縮放定律，大家通常都在追求模型的參數(shù)規(guī)模更大、訓(xùn)練的數(shù)據(jù)更多，從而使得大模型涌現(xiàn)出更多的智能。但是，模型參數(shù)越大部署壓力就越大。即...

2023-12-28 標(biāo)簽：手機(jī)gpu參數(shù) 1411 0

基于AX650N芯片部署MiniCPM-V 2.0高效端側(cè)多模態(tài)大模型

今年4月份，面壁智能&清華大學(xué)自然語(yǔ)言處理實(shí)驗(yàn)室推出MiniCPM系列的最新多模態(tài)版本MiniCPM-V 2.0。該模型基于MiniCPM 2....

2024-07-15 標(biāo)簽：自然語(yǔ)言處理愛芯元智大模型 1406 0

OneLLM：對(duì)齊所有模態(tài)的框架！

OneLLM 是第一個(gè)在單個(gè)模型中集成八種不同模態(tài)的MLLM。通過統(tǒng)一的框架和漸進(jìn)式多模態(tài)對(duì)齊pipelines，可以很容易地?cái)U(kuò)展OneLLM以包含更多...

2024-01-04 標(biāo)簽：編碼器路由器大模型 1397 0

專補(bǔ)大模型短板的RAG有哪些新進(jìn)展？這篇綜述講明白了

然而，盡管它們的能力令人印象深刻，但它們并非無懈可擊。這些模型可能會(huì)產(chǎn)生誤導(dǎo)性的 “幻覺”，依賴的信息可能過時(shí)，處理特定知識(shí)時(shí)效率不高，缺乏專業(yè)領(lǐng)域的深...

2024-01-17 標(biāo)簽：人工智能語(yǔ)言模型大模型 1390 0

中科大提出：LLMs的個(gè)性化綜述，詳述大模型與個(gè)性化的挑戰(zhàn)與機(jī)遇

因此，我們認(rèn)為現(xiàn)在是時(shí)候?qū)徱晜€(gè)性化服務(wù)的挑戰(zhàn)以及用大型語(yǔ)言模型來解決它們的機(jī)會(huì)了。特別是，我們?cè)谶@篇展望性論文中專門討論了以下幾個(gè)方面：現(xiàn)有個(gè)性化系統(tǒng)的...

2023-08-21 標(biāo)簽：人工智能語(yǔ)言模型大模型 1388 0

小紅書搜索團(tuán)隊(duì)研究新框架：負(fù)樣本在大模型蒸餾中的重要性

在思維鏈（CoT）提示的幫助下，大語(yǔ)言模型（LLMs）展現(xiàn)出強(qiáng)大的推理能力。然而，思維鏈已被證明是千億級(jí)參數(shù)模型才具有的涌現(xiàn)能力。

2024-01-30 標(biāo)簽：算法OpenAI大模型 1387 0

大模型微調(diào)開源項(xiàng)目全流程

對(duì)于所有“基座”（Base）模型，–template 參數(shù)可以是 default, alpaca, vicuna 等任意值。但“對(duì)話”（Chat）模型請(qǐng)...

2024-03-13 標(biāo)簽：機(jī)器學(xué)習(xí)大模型 1383 0