近日,Meta在開源Llama 3.2的1B與3B模型后,再次為人工智能領域帶來了新進展。10月24日,Meta正式推出了這兩個模型的量化版本,旨在進一步優化模型性能,拓寬其應用場景。
據Meta介紹,量化后的Llama 3.2模型在大小上平均減少了56%,RAM使用量也平均降低了41%。這一顯著的優化使得模型在運行過程中能夠占用更少的資源,同時速度提高了2至4倍。此外,量化后的模型還降低了功耗,這對于將其部署到移動設備上具有重要意義。
此次Meta推出的量化版Llama 3.2模型,不僅展示了其在人工智能領域的持續創新能力,也為更多開發者提供了高效、便捷的工具。隨著這些模型在移動設備上的廣泛應用,人工智能將更深入地融入人們的日常生活,為社會帶來更多的便利和可能性。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
人工智能
+關注
關注
1803文章
48400瀏覽量
244547 -
開源
+關注
關注
3文章
3526瀏覽量
43260 -
Meta
+關注
關注
0文章
298瀏覽量
11646
發布評論請先 登錄
相關推薦
無法在OVMS上運行來自Meta的大型語言模型 (LLM),為什么?
無法在 OVMS 上運行來自 Meta 的大型語言模型 (LLM),例如 LLaMa2。
從 OVMS GitHub* 存儲庫運行 llama_chat Python* Demo 時
發表于 03-05 08:07
Meta組建四大專研小組,深入探索DeepSeek模型
近日,據報道,臉書母公司Meta為了提升其大模型Llama的性能,專門成立了四個研究小組,深入探索量化巨頭幻方量化旗下的國產大
Meta重磅發布Llama 3.3 70B:開源AI模型的新里程碑
?在人工智能領域,Meta的最新動作再次引起了全球的關注。今天,我們見證了Meta發布的 Llama 3.3 70B 模型,這是一個開源的人

用Ollama輕松搞定Llama 3.2 Vision模型本地部署
Ollama的安裝。 一,Llama3.2 Vision簡介 Llama 3.2 Vision是一個多模態大型語言模型(LLMs)的集合,它包括預訓練和指令調整的圖像推理生成

使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型
前面我們分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日,Meta又發布了Llama3.2:一個多語言大型語言

亞馬遜云科技上線Meta Llama 3.2模型
亞馬遜云科技近日宣布,Meta公司的新一代模型Llama 3.2已在其平臺上正式上線。該模型包括Meta
亞馬遜云科技正式上線Meta Llama 3.2模型
亞馬遜云科技宣布,Meta的新一代模型Llama 3.2,包括其首款多模態模型,現已在Amazon Bedrock和Amazon SageM
Meta發布多模態LLAMA 3.2人工智能模型
Meta Platforms近日宣布了一項重要技術突破,成功推出了多模態LLAMA 3.2人工智能模型。這一創新模型不僅能夠深度解析文本信息
Meta Llama 3.1系列模型可在Google Cloud上使用
我們很高興宣布,Llama 3.1 系列模型已添加到 Vertex AI Model Garden,這包括全新的 405B,即 Meta 迄今為止功能最強大、用途最廣泛的模型。這些
Meta發布全新開源大模型Llama 3.1
科技巨頭Meta近期震撼發布了其最新的開源人工智能(AI)模型——Llama 3.1,這一舉措標志著Meta在AI領域的又一重大突破。
Meta即將發布超強開源AI模型Llama 3-405B
在人工智能領域的激烈競爭中,Meta公司再次擲出重磅炸彈,宣布將于7月23日正式發布其最新力作——Llama 3-405B,一個擁有驚人4050億參數的開源大模型。這一舉措不僅標志著
Meta發布基于Code Llama的LLM編譯器
近日,科技巨頭Meta在其X平臺上正式宣布推出了一款革命性的LLM編譯器,這一模型家族基于Meta Code Llama構建,并融合了先進的代碼優化和編譯器功能。LLM編譯器的推出,標
Meta Llama 3基礎模型現已在亞馬遜云科技正式可用
亞馬遜云科技近日宣布,Meta公司最新發布的兩款Llama 3基礎模型——Llama 3 8B和Llam
英特爾AI產品助力其運行Meta新一代大語言模型Meta Llama 3
英特爾豐富的AI產品——面向數據中心的至強處理器,邊緣處理器及AI PC等產品為開發者提供最新的優化,助力其運行Meta新一代大語言模型Meta Llama 3
評論