北京最著名的橋是哪座?這個問題有很多答案,但頤和園昆明湖上的玉帶橋絕對榜上有名。有趣的是,全國各地有無數座橋叫做“玉帶橋”。這或許是因為,古人非常喜歡將貫通兩岸,聯接彼此的橋想象成一道由天而降的“玉帶”。
就這樣,在無數玉帶橋聯成的網絡中,貨能通南北,人可行天下。在今天,當AI大模型走向行業成為共識,以大模型推進產業智能化成為趨勢。而此時迫切需要的,就是大模型和行業之間建起一座“玉帶橋”。
同樣是在北京,我們剛剛就見證了這樣一座AI大模型之橋的奠基。
今年的華為開發者大會(Cloud)當中,華為云盤古大模型3.0正式發布,同時公布了其為行業而生的價值定位。而想讓大模型走向行業,不能僅僅依靠技術體系,還需要一連貫的工作作為配合。
8月30日,主題為“開放同飛,共贏行業AI新時代”的華為云盤古大模型主題論壇在北京召開,就AI大模型發展趨勢、技術創新實踐、產業發展機會展開了交流。
(華為云EI服務產品部部長尤鵬)
會上,華為云EI服務產品部部長尤鵬表示,大模型正在重塑千行百業,華為云將充分發揮大模型領域積累的技術和工程能力優勢,讓客戶、伙伴快速構建起盤古大模型的開發和應用能力,讓盤古大模型成為每個企業實現戰略轉型和智能升級的核心動力。
打個比方,大模型的技術能力只是橋柱,大模型的價值真正走向行業,還需要筑起工程化的橋身,開通生態體系的橋路。而這次論壇的核心信息,就在于分享了華為云如何基于盤古大模型的技術架構,連續構筑其工程化平臺與生態策略。
這些動作聯接起來,一座大模型通往行業的玉帶橋正在建成。
盤古大模型,以此通天下。
大模型到行業,究竟有多遠?
目前階段,全球范圍內大模型風起云涌,國內也已經來到了“百模大戰”的火爆階段。而這些大模型發揮價值的最終路徑無非兩種,一種是孵化C端的大模型原生應用,另一則就是走向行業,帶來產業智能化價值。
但作為大模型未來核心出路的B端需求,實際卻距離大模型非常遙遠。總結起來,從大模型到行業,需要跨越三道河:
第一道河,通用能力和專業需求不匹配。
大語言模型火爆全球,靠的是通用性很強的內容理解與生成能力。但具體到某個行業,通用大模型的知識專業度與需求滿足度卻并不強。這就造成了大模型走向行業時,技術層面的供需不匹配。
第二道河,缺乏應用落地能力。
大模型雖好,但行業用戶最終需要的是以我為主,打造自己需要的模型、應用、解決方案。這就需要一系列工程化能力,讓行業用戶能夠根據需求和自身能力來實現大模型落地。但業界目前普遍更關心大模型算法本身,而較少注意工程化的配合。
第三道河,產業生態依舊薄弱。
無論是行業數字化還是軟件開發,歸根結底都需要繁榮的生態來配合。就像大模型形成具體的用戶解決方案,需要有專業的集成商、軟硬件供應商、ISV來參與。但大模型走向行業屬于新生事物,生態中各個角色都還需要補充。這導致很多大模型在行業落地時,出現了想法很好,但大量需求根本無法滿足的尷尬。
總而言之,大模型走向行業看起來很近,其實很遠。因為它絕不僅僅是個技術問題,而是一系列因素編織成的產業問題。
而盤古大模型已經在建起一座橋,跨越這些橫亙在大模型與行業之間的江河。
筑橋基:為落地而生的大模型體系
大模型行業落地,首先需要解決的是大模型體系與行業需求之間,“共性與個性”不匹配的問題。
想要解決這個問題,就需要在大模型基礎能力與個性方案之間找到一個平衡點,既不能困守于基礎技術,也不能在無盡的個性需求中大量消耗研發成本。
盤古大模型采取了一個極具創新性與實用主義的解決方案,構建了一個從底層開始即面向行業的大模型體系。這個體系,就是盤古大模型筑造的橋基,以此承托起大模型和行業之間的通衢。
具體而言,盤古大模型采取了5+N+X的三層架構。
L0層提供五大基礎模型,包括語言大模型、視覺大模型、多模態大模型、預測大模型、科學計算大模型,以此來提供行業場景中具有通用價值的模型與技能需求,奠定整個大模型行業落地體系的基礎。
接下來,在L1層則基于基礎大模型+行業知識,提供適配行業特征的行業大模型,包括政務、金融、制造、藥物分子、礦山、鐵路、氣象等,滿足重點行業的訂制化模型需求,打通大模型的行業接駁點。
而在L2層,則提供大量細分的場景模型,做到開發AI應用時開箱即用,以此來滿足大量垂直行業的海量大模型應用。
這樣的三層解耦架構,天然具備良好的生態開放性。基于分層解耦設計,盤古大模型可以提供調用集成和定制聯創兩種應用模式,進而快速適配和滿足場景訴求。首先在調用集成模式下,華為云L0盤古基礎大模型可以提供超過100個能力集,這些能力集可以通過API直接調用。企業可以根據自身需求使用盤古大模型工作流,快速開發行業場景應用。在定制聯創模式下,企業可以在L0或L1盤古大模型的基礎上,通過對自有數據二次訓練,快速訓練出專屬的行業大模型。 舉個例子,某行業用戶在引入盤古大模型時,既可以通過獨立數據集的模式微調基礎模型,也可以直接復用行業模型、場景模型,完全根據自身需求來勾勒大模型落地方案。
同時,根據用戶不同的數據安全與合規訴求,盤古大模型還提供了公有云、大模型云專區、混合云多樣化的部署形態,從而讓大模型成為行業的“零部件”,而非高不可攀的技術務虛。
這樣的體系設計,還僅僅是基礎。想要筑橋過河,盤古大模型還需要做出更多努力。
鋪橋路:以工程化能力加速大模型落地
在實際的產業智能化發展中,企業需要秉持的是工程師思維,要考慮到一切智能化創新是否可信、可靠、可持續,是否能夠在成本與價值間取得最優解。
以這樣的判斷方式為核心,行業就不能僅僅獲得大模型的基礎支持,然后一切開發、調參工作都自己來完成,那會帶來過大的技術與資源成本,對于絕大部分企業來說都是不現實的。因此,想要將大模型引入行業,必須考慮工程化問題,盡量降低行業對大模型的使用門檻,加速行業應用大模型的效率。
在這方面,華為云不僅提供深耕行業的盤古大模型,更提供盤古大模型工程套件,包括數據工程、模型開發和應用開發三大套件。在論壇中我們可以看到,通過盤古大模型工程套件,用戶可以實現5倍速開發行業大模型,從而達成在引入大模型過程中的降本增效。
其中,盤古大模型的數據工程套件相比傳統標注平臺,專門為SFT訓練提供了基于模板的Prompt在線輔助撰寫功能,為RLHF訓練提供了多人Rank在線標注和任務分撥功能。與離線對比,這兩種任務實測效率可提升3倍。同時針對數據清洗,數據工程套件內置了50+數據清洗算子,能夠覆蓋90%以上的清洗場景,大幅提升清洗效率。
模型開發套件,則可以為用戶提供自監督預訓練、有監督微調、強化學習訓練3種工作流,覆蓋了從超參配置到模型訓練、評測、管理、部署的全流程。套件中凝結了華為大模型專家的實踐經驗,從而可以幫助行業用戶一站式開發專屬大模型。同時通過模型量化和多種推理加速手段將模型吞吐量提升10倍,大幅優化模型推理性能。模型開發套件,可以極大提升模型開發效率,讓行業用戶更高效完成模型開發的核心工作。
應用開發套件,則將傳統軟件工程與大模型相結合,提供靈活的基于SDK的開發方式,2行代碼即可完成大模型接入,5分鐘完成大模型應用開發,支撐企業分鐘級構建大模型原生應用,且支持更加廣泛的兼容能力。行業用戶對大模型的最終訴求是應用化,而應用開發套件則為此提供了豐富的工具與技能。
整體而言,盤古大模型工程套件關注到了大模型落地中的各個環節,重視實踐性解決每個關鍵環節中冗長、耗時、開發難度大等挑戰。這條工程化之路,讓大模型的玉帶橋順利建成,但想讓這座橋深度發揮價值,還是離不開生態的車水馬龍。
通車馬:建設大模型全域協同生態
大模型的出現,可以改變AI的行業應用范式,極大提升產業智能化的水平。但這項全新的事業,不是僅僅依靠最終用戶與模型提供方。其中從算力、算法、平臺,到應用、服務、人才培養,全鏈條都需要不同角色、不同能力定位的企業參與。大模型行業落地,必須以生態繁榮作為前提。
為此,華為云宣布將全面建設盤古大模型全域協同的生態系統,與千行百業的客戶、伙伴攜手,共創共享盤古大模型帶來的行業AI新機遇。
為了實現這個目標,華為云基于盤古大模型、昇騰AI云服務,構建算力、算法黑土地,對生態伙伴發展也提供配套的支持。以此為基礎,面向軟件伙伴、服務伙伴、數字化轉型咨詢與系統集成伙伴開放了模型聯創、解決方案構建和插件集成等多樣的生態合作模式。
比如說,針對軟件伙伴,華為云開放了三種生態合作路徑,包括模型聯創、解決方案構建和插件集成。對于有數據沉淀和行業經驗的企業來說,可以選擇與華為云一起構建行業模型、場景模型;對于有行業實踐經驗大模型集成和開發技術的企業,可以與華為云一起構建面向行業的細分場景模型,提供可復制的軟件解決方案;對于企業服務軟件、工具軟件領域的企業,則可以用豐富的插件完善盤古大模型技能集,拓寬大模型的能力邊界。
針對服務伙伴,華為云開放項目機會,通過賦能、認證、技術支持、激勵等各種權益,幫助專業服務伙伴快速提升大模型服務能力,構建新的業務模式,獲得可持續性的快速發展,通過服務來推進和實現大模型的商業閉環。
針對數字化轉型咨詢與系統集成伙伴,華為云與具備系統資質的伙伴進行BP互鎖和Offering共建,讓盤古大模型成為用戶系統集成的更優選擇。
論壇中,高等教育出版社、今日人才、陽光云視等客戶、伙伴先后分享了與華為云基于盤古大模型的合作歷程與合作價值,充分展示了華為云在大模型時代的生態打造決心與客戶、伙伴賦能意愿。
在盤古大模型通往行業的這座橋上,如今已經能夠看到車水馬龍的生態盛景。
如今,華為云秉承著AI for Industries方向,盤古大模型深耕行業,已經打造出了金融、政務、制造、礦山、氣象、鐵路等領域行業的大模型和能力集,將行業知識know-how與大模型能力結合,為每個企業、每個人提供專家助手。
回顧盤古大模型能夠走通這條路,筑起這座橋的原因,會發現站在用戶角度考慮問題,是決定此后所有動作的根源。
為天下行業思考,為天下客戶努力。所以盤古大模型這座玉帶橋,才能讓智能通天下。
審核編輯 黃宇
-
華為
+關注
關注
216文章
34524瀏覽量
252546 -
AI
+關注
關注
87文章
31429瀏覽量
269831 -
大模型
+關注
關注
2文章
2524瀏覽量
2998 -
盤古大模型
+關注
關注
1文章
109瀏覽量
328
發布評論請先 登錄
相關推薦
評論