浪潮信息近日推出了革命性的“源2.0-M32”開源大模型。該模型在源2.0系列基礎(chǔ)上,引入了“基于注意力機(jī)制的門控網(wǎng)絡(luò)”技術(shù),構(gòu)建了一個(gè)包含32個(gè)專家的混合專家模型(MoE),有效提升了模型算力效率。
M32模型憑借其獨(dú)特且優(yōu)化的架構(gòu),在僅激活37億參數(shù)的情況下,便展現(xiàn)出了與700億參數(shù)LLaMA3模型相媲美的性能。更令人矚目的是,它實(shí)現(xiàn)的這一性能所消耗的算力僅為L(zhǎng)LaMA3的1/19,極大降低了運(yùn)行成本。
此次浪潮信息的創(chuàng)新,不僅展示了其在人工智能領(lǐng)域的深厚實(shí)力,也為整個(gè)行業(yè)樹立了新的標(biāo)桿。隨著“源2.0-M32”的發(fā)布,我們有理由期待人工智能領(lǐng)域?qū)⒂瓉砀嗤黄婆c發(fā)展。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
相關(guān)推薦
近日,浪潮信息與北京智源人工智能研究院正式簽署戰(zhàn)略合作協(xié)議,雙方將緊密合作,共同構(gòu)建大模型多元算力開源創(chuàng)新生態(tài)。 此次合作旨在提升大模型創(chuàng)新
發(fā)表于 12-31 11:49
?245次閱讀
近日,浪潮信息與智源研究院達(dá)成戰(zhàn)略合作協(xié)議,雙方將緊密協(xié)作共建大模型多元算力開源創(chuàng)新生態(tài),提升大模型創(chuàng)新研發(fā)的算力效率,降低大
發(fā)表于 12-26 10:25
?186次閱讀
近日,浪潮信息在AI領(lǐng)域取得了重大突破,成功發(fā)布了其嵌入模型"源"Yuan-EB(Yuan-embedding-1.0)。在備受矚目的C-MTEB榜單中,"
發(fā)表于 12-25 15:54
?149次閱讀
近日,浪潮信息發(fā)布 “源”Yuan-EB(Yuan-embedding-1.0,嵌入模型),在C-MTEB榜單中斬獲檢索任務(wù)第一名,以78.41的平均精度刷新大
發(fā)表于 11-26 13:54
?204次閱讀
近日,浪潮信息宣布其開源大模型源2.0已全面適配百度PaddleNLP。這一舉措標(biāo)志著大模型開發(fā)
發(fā)表于 10-17 18:15
?537次閱讀
北京2024年8月23日?/美通社/ -- 近日,浪潮信息發(fā)布源2.0-M32大模型4bit和8bit量化版,性能比肩700億參數(shù)的LLaM
發(fā)表于 08-25 22:06
?330次閱讀
近日,在科技創(chuàng)新的浪潮中,浪潮信息成功舉辦了“元腦中國行”全國巡展的杭州站活動(dòng),此次盛會(huì)不僅匯聚了業(yè)界的精英與目光,更見證了浪潮信息在AIGC(人工智能生成內(nèi)容)領(lǐng)域的一次重大突破。會(huì)上,浪潮
發(fā)表于 07-03 11:16
?742次閱讀
浪潮信息近日發(fā)布了一款全新的開源大模型——“源2.0-M32”。這款大
發(fā)表于 06-05 14:50
?796次閱讀
北京2024年6月5日?/美通社/ -- 近日,畢昇大模型應(yīng)用開發(fā)平臺(tái)與浪潮信息AIStation智能業(yè)務(wù)生產(chǎn)創(chuàng)新平臺(tái)完成兼容性互認(rèn)證?;诋厱N和浪潮信息AIStation,用戶通過預(yù)置的畢昇助手
發(fā)表于 06-05 11:58
?480次閱讀
5月28日,浪潮信息發(fā)布“源2.0-M32”開源大模型?!?b class='flag-5'>源
發(fā)表于 05-29 09:34
?445次閱讀
北京2024年5月10日?/美通社/ -- 近日,浪潮信息發(fā)布為大模型專門優(yōu)化的分布式全閃存儲(chǔ)AS13000G7-N系列。該系列依托浪潮信息自研分布式文件系統(tǒng),搭載新一代數(shù)據(jù)加速引擎
發(fā)表于 05-10 16:37
?443次閱讀
近日,浪潮信息發(fā)布為大模型專門優(yōu)化的分布式全閃存儲(chǔ)AS13000G7-N系列。該系列依托浪潮信息自研分布式文件系統(tǒng),搭載新一代數(shù)據(jù)加速引擎DataTurbo,
發(fā)表于 05-08 09:38
?579次閱讀
4月17日,在2024浪潮信息生態(tài)伙伴大會(huì)(IPF2024)上,浪潮信息重磅發(fā)布企業(yè)大模型開發(fā)平臺(tái)“元腦企智”EPAI(Enterprise Platform of AI),為企業(yè)AI
發(fā)表于 04-18 10:12
?405次閱讀
北京2024年3月27日 /美通社/ -- 3月26日, 浪潮信息與英特爾正式宣布,浪潮信息"源2.0系列基礎(chǔ)大模型"已和最新的英特爾? 酷
發(fā)表于 03-27 22:52
?528次閱讀
3月26日,浪潮信息與英特爾正式宣布,浪潮信息“源2.0系列基礎(chǔ)大模型”已和最新的英特爾? 酷睿? Ultra處理器平臺(tái)完成適配,本地推理速
發(fā)表于 03-27 13:50
?652次閱讀
評(píng)論