人工智能在21世紀(jì)以后,經(jīng)歷了PC、互聯(lián)網(wǎng)以及移動(dòng)互聯(lián)網(wǎng)這幾波浪潮之后,又進(jìn)入了新一波浪潮,從2012年人工智能神經(jīng)網(wǎng)絡(luò)取得很好的成績(jī)開(kāi)始,快速發(fā)展,預(yù)計(jì)2025年AI產(chǎn)業(yè)市場(chǎng)規(guī)模將達(dá)到7.44萬(wàn)億美金,未來(lái)五年年均增長(zhǎng)30%
近兩年人工智能正從單點(diǎn)技術(shù)走向真正通用技術(shù),一是從大模型走向超大模型,從GPT-2的15億參數(shù),到GPT-3的1750億參數(shù),鵬程·盤(pán)古的2000億參數(shù),再Switch Transformer的16000億參數(shù)。二是從單模態(tài)走向多模態(tài)。簡(jiǎn)單來(lái)說(shuō)就是容量需要更大,學(xué)習(xí)的領(lǐng)域需要更豐富,這帶來(lái)的趨勢(shì)就是更智能化。
華為昇騰計(jì)算業(yè)務(wù)副總裁金穎日前在某論壇上表示,這也給人工智能的發(fā)展帶來(lái)挑戰(zhàn):一是隨著模型越來(lái)越大訓(xùn)練花費(fèi)越來(lái)昂貴,比如GPT-3需要花費(fèi)460萬(wàn)美金,BERT平均需花費(fèi)1.5萬(wàn)美金;二是訓(xùn)練更大的模型,對(duì)算法、系統(tǒng)的難度要求更高,未來(lái)開(kāi)發(fā)難度會(huì)加大,包括算法開(kāi)發(fā)難、應(yīng)用開(kāi)發(fā)難、業(yè)務(wù)部署難;三是人才本就稀缺,人才缺口很大,目前中國(guó)人工智能人才供需比為10%,中國(guó)人才缺口超過(guò)500萬(wàn)。
金穎認(rèn)為,面對(duì)上述新趨勢(shì)、新挑戰(zhàn)、新問(wèn)題,異構(gòu)計(jì)算架構(gòu)對(duì)上適配多框架,對(duì)下適配多異構(gòu)芯片,同時(shí)針對(duì)多樣化應(yīng)用場(chǎng)景,提供高效易用的編程方式,是突破AI產(chǎn)業(yè)平臺(tái)的關(guān)鍵。
為此華為發(fā)布了AI全棧硬件架構(gòu),包括底層的系列硬件、芯片,以及異構(gòu)計(jì)算架構(gòu),AI框架,行業(yè)應(yīng)用等,跟絕大多數(shù)的AI硬件架構(gòu)一樣,其中華為昇騰AI全棧的核心是異構(gòu)計(jì)算架構(gòu)CANN,發(fā)揮承上啟下的關(guān)鍵作用。AI異構(gòu)計(jì)算架構(gòu)CANN是華為針對(duì)AI場(chǎng)景推出的異構(gòu)計(jì)算架構(gòu),通過(guò)提供多層次的編程接口,支持用戶快速構(gòu)建基于Asend平臺(tái)的AI應(yīng)用和業(yè)務(wù)。
CANN包含統(tǒng)一APP編程語(yǔ)言,提供一套標(biāo)準(zhǔn)的ACL編程接口,對(duì)應(yīng)用程序開(kāi)發(fā)者屏蔽底層多種芯片差異,提升用戶APP編程易用性;統(tǒng)一網(wǎng)絡(luò)構(gòu)圖接口,提供了標(biāo)準(zhǔn)的昇騰計(jì)算AIR,支持多框架,支持用戶在昇騰芯片上快速部署神經(jīng)網(wǎng)絡(luò)業(yè)務(wù);高性能計(jì)算引擎以及算子庫(kù),通過(guò)高性能編譯引擎、執(zhí)行引擎、調(diào)優(yōu)引擎和預(yù)置高性能算子庫(kù),支撐客戶快速部署神經(jīng)網(wǎng)絡(luò)業(yè)務(wù)、降低部署成本并最大程度發(fā)揮昇騰計(jì)算能力;以及驅(qū)動(dòng)、虛擬化、媒體、集合通信等基礎(chǔ)服務(wù)能力。
華為即將發(fā)布最新發(fā)的CANN5.0版本,通過(guò)軟硬件協(xié)同,相比之前的版本性能再翻倍,該架構(gòu)支持多種AI框架,包括Mindspore、TensorFlow、飛槳、Pytorch、ONNX等。而且性能還在持續(xù)提升中,金穎表示,該版本ResNet-50訓(xùn)練速度保持業(yè)界領(lǐng)先,最新的數(shù)據(jù)已經(jīng)小于16s。完善生態(tài)滿足度方面,親和昇騰的圖編譯技術(shù)已經(jīng)超過(guò)1300高性能算子,支持ModeZoo 400+模型全面覆蓋典型場(chǎng)景應(yīng)用。
華為以開(kāi)放社區(qū)的方式運(yùn)營(yíng),從目前的成績(jī)來(lái)看,CANN已經(jīng)達(dá)到支持40萬(wàn)昇騰開(kāi)發(fā)者,各項(xiàng)數(shù)據(jù)全面翻倍,社區(qū)已經(jīng)成為開(kāi)發(fā)者大本營(yíng),預(yù)計(jì)到2022年將發(fā)展到百萬(wàn)開(kāi)發(fā)者級(jí)別。科研合作超過(guò)200家,華為與國(guó)內(nèi)多所高校有很好的合作,北京大學(xué)田永鴻教授表示,使用華為人工智能全棧解決方案,在今年的MLPerf評(píng)測(cè)中之所以能夠取得如此優(yōu)異的成績(jī),其中關(guān)鍵因素就是CANN。
金穎表示,未來(lái)在異構(gòu)計(jì)算架構(gòu)領(lǐng)域,希望更多提供極致性能、極簡(jiǎn)開(kāi)發(fā)、開(kāi)放生態(tài),推動(dòng)這個(gè)產(chǎn)業(yè)進(jìn)入各個(gè)行業(yè)貢獻(xiàn)我們的力量,也希望未來(lái)在更多的標(biāo)準(zhǔn)領(lǐng)域,匯聚產(chǎn)業(yè)的力量,推動(dòng)AI產(chǎn)業(yè)的發(fā)展。
責(zé)任編輯:haq
-
華為
+關(guān)注
關(guān)注
216文章
34530瀏覽量
252664 -
AI
+關(guān)注
關(guān)注
87文章
31490瀏覽量
269980 -
人工智能
+關(guān)注
關(guān)注
1795文章
47642瀏覽量
239771
原文標(biāo)題:華為昇騰異構(gòu)計(jì)算架構(gòu)CANN 助力應(yīng)對(duì)AI發(fā)展挑戰(zhàn)!
文章出處:【微信號(hào):elecfans,微信公眾號(hào):電子發(fā)燒友網(wǎng)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論