Meta公司的Llama2語言模型4項測試通過率低，幻覺率高
據(jù)了解，人工智能安全企業(yè) DeepKeep日前發(fā)表了一份評估報告。報告指出，Meta公司旗下LlamA 2大型語言模型在13個風(fēng)險評估類別中的表現(xiàn)僅為4項合格。
報告特別強調(diào)，擁有70億參數(shù)的LlamA 2 7B模型存在嚴重的幻覺現(xiàn)象，其回答的真實性和準(zhǔn)確性令人堪憂，幻覺率高達48%。
DeepKeep對此表示擔(dān)憂，認為該模型存在明顯的幻覺傾向，可能會導(dǎo)致大量錯誤信息的傳播。
此外，LlamA 2模型還存在注入和操縱的潛在風(fēng)險。報告顯示，在80%的情況下，通過“提示注入”的手段，攻擊者可輕易操控LlamA的輸出，從而將用戶引流至惡意網(wǎng)站。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
人工智能
+關(guān)注
關(guān)注
1805文章
48843瀏覽量
247428 -
Meta
+關(guān)注
關(guān)注
0文章
302瀏覽量
11776 -
語言模型
+關(guān)注
關(guān)注
0文章
561瀏覽量
10710
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
無法在OVMS上運行來自Meta的大型語言模型 （LLM），為什么?
無法在 OVMS 上運行來自 Meta 的大型語言模型 （LLM），例如 LLaMa2。
從 OVMS GitHub* 存儲庫運行 llama
發(fā)表于 03-05 08:07
Meta重磅發(fā)布Llama 3.3 70B：開源AI模型的新里程碑
?在人工智能領(lǐng)域，Meta的最新動作再次引起了全球的關(guān)注。今天，我們見證了Meta發(fā)布的 Llama 3.3 70B 模型，這是一個開源的人工智能模
Meta推出Llama 3.3 70B，AI大模型競爭白熱化
在今年的AI領(lǐng)域，Meta也不甘落后，推出了其壓軸之作——Llama 3.3 70B大模型。與此同時，馬斯克的xAI也宣布其Grok模型從今天起全球免費開放(但存在一定的使用限制)。
使用NVIDIA TensorRT提升Llama 3.2性能
Llama 3.2 模型集擴展了 Meta Llama 開源模型集的模型陣容，包含視覺
Meta發(fā)布Llama 3.2量化版模型
近日，Meta在開源Llama 3.2的1B與3B模型后，再次為人工智能領(lǐng)域帶來了新進展。10月24日，Meta正式推出了這兩個模型的量化版
Llama 3 語言模型應(yīng)用
在人工智能領(lǐng)域，語言模型的發(fā)展一直是研究的熱點。隨著技術(shù)的不斷進步，我們見證了從簡單的關(guān)鍵詞匹配到復(fù)雜的上下文理解的轉(zhuǎn)變。 一、Llama 3 語言
扎克伯格:聯(lián)想運用Meta Llama大模型打造個人AI助手AI Now
美國西部時間10月15日，聯(lián)想集團于美國西雅圖盛大舉辦了一年一度的Tech World大會。會上，聯(lián)想集團首席執(zhí)行官楊元慶攜手Meta創(chuàng)始人兼首席執(zhí)行官馬克·扎克伯格，共同揭曉了一項重大合作成果——基于Meta的
使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型
前面我們分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日，Meta又發(fā)布了Llama3.2：一個多語言大型語言
亞馬遜云科技上線Meta Llama 3.2模型
亞馬遜云科技近日宣布，Meta公司的新一代模型Llama 3.2已在其平臺上正式上線。該模型包括Meta
亞馬遜云科技正式上線Meta Llama 3.2模型
亞馬遜云科技宣布，Meta的新一代模型Llama 3.2，包括其首款多模態(tài)模型，現(xiàn)已在Amazon Bedrock和Amazon SageMaker中正式可用。
Meta發(fā)布多模態(tài)LLAMA 3.2人工智能模型
Meta Platforms近日宣布了一項重要技術(shù)突破，成功推出了多模態(tài)LLAMA 3.2人工智能模型。這一創(chuàng)新模型不僅能夠深度解析文本信息
Meta Llama 3.1系列模型可在Google Cloud上使用
我們很高興宣布，Llama 3.1 系列模型已添加到 Vertex AI Model Garden，這包括全新的 405B，即 Meta 迄今為止功能最強大、用途最廣泛的模型。這些
Meta發(fā)布全新開源大模型Llama 3.1
科技巨頭Meta近期震撼發(fā)布了其最新的開源人工智能（AI）模型——Llama 3.1，這一舉措標(biāo)志著Meta在AI領(lǐng)域的又一重大突破。Meta
Meta不會在歐盟提供新的多模態(tài)AI模型
科技巨頭Meta近日宣布了一項重要決策，其即將推出的創(chuàng)新多模態(tài)Llama模型將不會在歐盟地區(qū)發(fā)布。這一決定背后，是Meta對歐洲復(fù)雜且不可預(yù)
Meta即將發(fā)布超強開源AI模型Llama 3-405B
在人工智能領(lǐng)域的激烈競爭中，Meta公司再次擲出重磅炸彈，宣布將于7月23日正式發(fā)布其最新力作——Llama 3-405B，一個擁有驚人4050億參數(shù)的開源大模型。這一舉措不僅標(biāo)志著
工商網(wǎng)監(jiān)
評論