Meta公司的Llama2語(yǔ)言模型4項(xiàng)測(cè)試通過(guò)率低，幻覺(jué)率高
據(jù)了解，人工智能安全企業(yè) DeepKeep日前發(fā)表了一份評(píng)估報(bào)告。報(bào)告指出，Meta公司旗下LlamA 2大型語(yǔ)言模型在13個(gè)風(fēng)險(xiǎn)評(píng)估類別中的表現(xiàn)僅為4項(xiàng)合格。
報(bào)告特別強(qiáng)調(diào)，擁有70億參數(shù)的LlamA 2 7B模型存在嚴(yán)重的幻覺(jué)現(xiàn)象，其回答的真實(shí)性和準(zhǔn)確性令人堪憂，幻覺(jué)率高達(dá)48%。
DeepKeep對(duì)此表示擔(dān)憂，認(rèn)為該模型存在明顯的幻覺(jué)傾向，可能會(huì)導(dǎo)致大量錯(cuò)誤信息的傳播。
此外，LlamA 2模型還存在注入和操縱的潛在風(fēng)險(xiǎn)。報(bào)告顯示，在80%的情況下，通過(guò)“提示注入”的手段，攻擊者可輕易操控LlamA的輸出，從而將用戶引流至惡意網(wǎng)站。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
人工智能
+關(guān)注
關(guān)注
1791文章
47314瀏覽量
238625 -
Meta
+關(guān)注
關(guān)注
0文章
271瀏覽量
11394 -
語(yǔ)言模型
+關(guān)注
關(guān)注
0文章
526瀏覽量
10277
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
使用NVIDIA TensorRT提升Llama 3.2性能
Llama 3.2 模型集擴(kuò)展了 Meta Llama 開(kāi)源模型集的模型陣容，包含視覺(jué)
Meta發(fā)布Llama 3.2量化版模型
近日，Meta在開(kāi)源Llama 3.2的1B與3B模型后，再次為人工智能領(lǐng)域帶來(lái)了新進(jìn)展。10月24日，Meta正式推出了這兩個(gè)模型的量化版
Llama 3 語(yǔ)言模型應(yīng)用
在人工智能領(lǐng)域，語(yǔ)言模型的發(fā)展一直是研究的熱點(diǎn)。隨著技術(shù)的不斷進(jìn)步，我們見(jiàn)證了從簡(jiǎn)單的關(guān)鍵詞匹配到復(fù)雜的上下文理解的轉(zhuǎn)變。 一、Llama 3 語(yǔ)言
亞馬遜云科技上線Meta Llama 3.2模型
亞馬遜云科技近日宣布，Meta公司的新一代模型Llama 3.2已在其平臺(tái)上正式上線。該模型包括Meta
亞馬遜云科技正式上線Meta Llama 3.2模型
亞馬遜云科技宣布，Meta的新一代模型Llama 3.2，包括其首款多模態(tài)模型，現(xiàn)已在Amazon Bedrock和Amazon SageMaker中正式可用。
Meta發(fā)布多模態(tài)LLAMA 3.2人工智能模型
Meta Platforms近日宣布了一項(xiàng)重要技術(shù)突破，成功推出了多模態(tài)LLAMA 3.2人工智能模型。這一創(chuàng)新模型不僅能夠深度解析文本信息
Meta發(fā)布全新開(kāi)源大模型Llama 3.1
科技巨頭Meta近期震撼發(fā)布了其最新的開(kāi)源人工智能（AI）模型——Llama 3.1，這一舉措標(biāo)志著Meta在AI領(lǐng)域的又一重大突破。Meta
Meta Llama 3基礎(chǔ)模型現(xiàn)已在亞馬遜云科技正式可用
亞馬遜云科技近日宣布，Meta公司最新發(fā)布的兩款Llama 3基礎(chǔ)模型——Llama 3 8B和Llam
高通支持Meta Llama 3在驍龍終端上運(yùn)行
高通與Meta攜手合作，共同推動(dòng)Meta的Llama 3大語(yǔ)言模型（LLM）在驍龍驅(qū)動(dòng)的各類終端
英特爾AI產(chǎn)品助力其運(yùn)行Meta新一代大語(yǔ)言模型Meta Llama 3
英特爾豐富的AI產(chǎn)品——面向數(shù)據(jù)中心的至強(qiáng)處理器，邊緣處理器及AI PC等產(chǎn)品為開(kāi)發(fā)者提供最新的優(yōu)化，助力其運(yùn)行Meta新一代大語(yǔ)言模型Meta L
高通與Meta合作優(yōu)化Meta Llama 3，實(shí)現(xiàn)終端側(cè)運(yùn)行
高通技術(shù)公司高級(jí)副總裁兼技術(shù)規(guī)劃和邊緣解決方案業(yè)務(wù)總經(jīng)理馬德嘉表示：“我們對(duì)Meta開(kāi)放Meta Llama 3的策略表示贊賞，
高通支持Meta Llama 3大語(yǔ)言模型在驍龍旗艦平臺(tái)上實(shí)現(xiàn)終端側(cè)執(zhí)行
高通和Meta合作優(yōu)化Meta Llama 3大語(yǔ)言模型，支持在未來(lái)的驍龍旗艦平臺(tái)上實(shí)現(xiàn)終端側(cè)執(zhí)
Meta推出最強(qiáng)開(kāi)源模型Llama 3 要挑戰(zhàn)GPT
公司這次開(kāi)源了Llama 3 8B與70B兩款不同規(guī)模的模型，開(kāi)發(fā)者可以免費(fèi)使用，而Meta公司還將陸續(xù)推出一系列具備多模態(tài)、多
LLaMA 2是什么？LLaMA 2背后的研究工作
Meta 發(fā)布的 LLaMA 2，是新的 sota 開(kāi)源大型語(yǔ)言模型 (LLM)。LLaMA
Meta發(fā)布開(kāi)源大模型Code Llama 70B
近日，Meta宣布推出了一款新的開(kāi)源大模型Code Llama 70B，這是其“Code Llama家族中體量最大、性能最好的模型版本”。這
工商網(wǎng)監(jiān)
評(píng)論