電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))自研芯片在當(dāng)下似乎已經(jīng)成了一種潮流,無論是消費(fèi)電子廠商、互聯(lián)網(wǎng)公司還是汽車廠商,都在拿自研芯片做文章。作為時(shí)刻都在與計(jì)算打交道的云端,自然也參與其中,甚至是先進(jìn)工藝自研芯片的主力軍。
自研芯片能省下多少錢?
早在芯片產(chǎn)業(yè)有布局,或者以收購來掌握芯片設(shè)計(jì)實(shí)力的云服務(wù)廠商,幾乎都選擇了自研服務(wù)器芯片這條路線,比如亞馬遜、谷歌、阿里巴巴等等。自研芯片的范圍也從網(wǎng)絡(luò)芯片到通用計(jì)算的CPU,再到用于AI計(jì)算的ASIC芯片。
亞馬遜就靠著自研芯片省下了一大筆成本,這也是其他云服務(wù)廠商目前都沒能復(fù)制的成功。首先自研芯片通過架構(gòu)上的創(chuàng)新,為其定制化實(shí)例提供了更高的性能,比如Nitro芯片靠卸載任務(wù)可以多省出兩個(gè)CPU內(nèi)核;其次,對于某些特定的工作負(fù)載來說,自研芯片帶來了更容易把握的戰(zhàn)略控制以及硬件鎖定;最后,自然也省去了找第三方fabless設(shè)計(jì)公司的成本。
考慮到云服務(wù)廠商在硬件投入上的規(guī)模,以及亞馬遜作為全球第一大云服務(wù)廠商的體量,其中省下的成本還是相當(dāng)龐大的。這也是亞馬遜走自研芯片可行的原因,其他云服務(wù)廠商或許能通過自研把設(shè)計(jì)成本壓下去,但制造成本絕對沒法像亞馬遜一樣壓這么低,這也是為何AWS過去能做到頻繁降價(jià)。
AI時(shí)代下自研芯片優(yōu)勢有,但不多
亞馬遜在收購后,接連推出了Trainium和Inferentia這兩大訓(xùn)練和推理加速器,并將其集成到自己的云端實(shí)例中去,以優(yōu)異的性能為客戶提供高性價(jià)比的AI硬件方案。但這似乎并沒有為其在最近的AI熱潮中帶來優(yōu)勢,反倒是微軟憑借英偉達(dá)的GPU率先以ChatGPT開啟了這場惡戰(zhàn),谷歌的Bard也緊隨其后。
亞馬遜則選擇了與Hugging Face合作,作為其首選云供應(yīng)商,用戶可以借助AWS上的先進(jìn)工具,比如SageMaker托管服務(wù),以及Trainium和Inferentia硬件,去訓(xùn)練、微調(diào)和部署模型,從而為社區(qū)創(chuàng)造更加開放易用的AI。
但事實(shí)上是,這一合作激起的水花很快就被淹沒在了如傾盆大雨般落地的AI應(yīng)用中。而且對于Hugging Face來說,他們想要打造的是開放式的生成式AI模型,也就是說其他廠商也都能從中獲益,也就是兩家共同提到的機(jī)器學(xué)習(xí)民主化。
況且在部署上,早在與亞馬遜合作之前,Hugging Face就已經(jīng)在2022年與微軟Azure達(dá)成合作,在Azure的ML終結(jié)點(diǎn)上部署Hugging Face的機(jī)器學(xué)習(xí)推理服務(wù)。所以這次合作即便充分利用了亞馬遜的自研AI芯片,但給其帶來的優(yōu)勢并不算大。無論是在性能還是在軟件生態(tài)上,現(xiàn)有的自研芯片都存在如鯁在喉的地方,而這不僅局限于亞馬遜這樣的大廠,不少初創(chuàng)AI芯片公司也都或多或少面臨這樣的困境。
結(jié)語
其實(shí)自研芯片也并非真的毫無靈活性可言,比如亞馬遜的Graviton和阿里的倚天710,雖說是自研芯片,但用到的畢竟還是Arm的Neoverse公版方案,還有不少第三方方案也是如此,比如英偉達(dá)的Grace、Ampere Computing的Altra等等。
這樣一來其實(shí)開發(fā)靈活性依然很高,比如英偉達(dá)為了給Grace做鋪墊,也對同類產(chǎn)品的軟件棧提供了支持。比如英偉達(dá)的HPC SDK全面支持AWS的Graviton 3,也支持對SVE和NEON的自動(dòng)矢量化。而英偉達(dá)推出的Arm HPC開發(fā)套件,也是由Ampere的Altra Q80-30 CPU與A100 GPU組合打造的,與Grace芯片共用同一套軟件環(huán)境。
只不過在AI領(lǐng)域,這樣的自研路線優(yōu)勢會(huì)更小一點(diǎn),畢竟現(xiàn)在AI模型與算法發(fā)展迅速,自研GPU有著各種難以突破的專利壁壘,自研ASIC又存在迭代適應(yīng)和軟件生態(tài)移植的問題。而這對于云服務(wù)廠商這種為客戶賦能更快產(chǎn)品上市速度的企業(yè)來說,或許在AI仍在快速演進(jìn)的當(dāng)下,GPU會(huì)是更優(yōu)解,這也是云服務(wù)廠商即便選擇了自研AI芯片,主打的卻依然是GPU實(shí)例的原因。
自研芯片能省下多少錢?
早在芯片產(chǎn)業(yè)有布局,或者以收購來掌握芯片設(shè)計(jì)實(shí)力的云服務(wù)廠商,幾乎都選擇了自研服務(wù)器芯片這條路線,比如亞馬遜、谷歌、阿里巴巴等等。自研芯片的范圍也從網(wǎng)絡(luò)芯片到通用計(jì)算的CPU,再到用于AI計(jì)算的ASIC芯片。
亞馬遜就靠著自研芯片省下了一大筆成本,這也是其他云服務(wù)廠商目前都沒能復(fù)制的成功。首先自研芯片通過架構(gòu)上的創(chuàng)新,為其定制化實(shí)例提供了更高的性能,比如Nitro芯片靠卸載任務(wù)可以多省出兩個(gè)CPU內(nèi)核;其次,對于某些特定的工作負(fù)載來說,自研芯片帶來了更容易把握的戰(zhàn)略控制以及硬件鎖定;最后,自然也省去了找第三方fabless設(shè)計(jì)公司的成本。
考慮到云服務(wù)廠商在硬件投入上的規(guī)模,以及亞馬遜作為全球第一大云服務(wù)廠商的體量,其中省下的成本還是相當(dāng)龐大的。這也是亞馬遜走自研芯片可行的原因,其他云服務(wù)廠商或許能通過自研把設(shè)計(jì)成本壓下去,但制造成本絕對沒法像亞馬遜一樣壓這么低,這也是為何AWS過去能做到頻繁降價(jià)。
AI時(shí)代下自研芯片優(yōu)勢有,但不多
亞馬遜在收購后,接連推出了Trainium和Inferentia這兩大訓(xùn)練和推理加速器,并將其集成到自己的云端實(shí)例中去,以優(yōu)異的性能為客戶提供高性價(jià)比的AI硬件方案。但這似乎并沒有為其在最近的AI熱潮中帶來優(yōu)勢,反倒是微軟憑借英偉達(dá)的GPU率先以ChatGPT開啟了這場惡戰(zhàn),谷歌的Bard也緊隨其后。
亞馬遜則選擇了與Hugging Face合作,作為其首選云供應(yīng)商,用戶可以借助AWS上的先進(jìn)工具,比如SageMaker托管服務(wù),以及Trainium和Inferentia硬件,去訓(xùn)練、微調(diào)和部署模型,從而為社區(qū)創(chuàng)造更加開放易用的AI。
但事實(shí)上是,這一合作激起的水花很快就被淹沒在了如傾盆大雨般落地的AI應(yīng)用中。而且對于Hugging Face來說,他們想要打造的是開放式的生成式AI模型,也就是說其他廠商也都能從中獲益,也就是兩家共同提到的機(jī)器學(xué)習(xí)民主化。
況且在部署上,早在與亞馬遜合作之前,Hugging Face就已經(jīng)在2022年與微軟Azure達(dá)成合作,在Azure的ML終結(jié)點(diǎn)上部署Hugging Face的機(jī)器學(xué)習(xí)推理服務(wù)。所以這次合作即便充分利用了亞馬遜的自研AI芯片,但給其帶來的優(yōu)勢并不算大。無論是在性能還是在軟件生態(tài)上,現(xiàn)有的自研芯片都存在如鯁在喉的地方,而這不僅局限于亞馬遜這樣的大廠,不少初創(chuàng)AI芯片公司也都或多或少面臨這樣的困境。
結(jié)語
其實(shí)自研芯片也并非真的毫無靈活性可言,比如亞馬遜的Graviton和阿里的倚天710,雖說是自研芯片,但用到的畢竟還是Arm的Neoverse公版方案,還有不少第三方方案也是如此,比如英偉達(dá)的Grace、Ampere Computing的Altra等等。
這樣一來其實(shí)開發(fā)靈活性依然很高,比如英偉達(dá)為了給Grace做鋪墊,也對同類產(chǎn)品的軟件棧提供了支持。比如英偉達(dá)的HPC SDK全面支持AWS的Graviton 3,也支持對SVE和NEON的自動(dòng)矢量化。而英偉達(dá)推出的Arm HPC開發(fā)套件,也是由Ampere的Altra Q80-30 CPU與A100 GPU組合打造的,與Grace芯片共用同一套軟件環(huán)境。
只不過在AI領(lǐng)域,這樣的自研路線優(yōu)勢會(huì)更小一點(diǎn),畢竟現(xiàn)在AI模型與算法發(fā)展迅速,自研GPU有著各種難以突破的專利壁壘,自研ASIC又存在迭代適應(yīng)和軟件生態(tài)移植的問題。而這對于云服務(wù)廠商這種為客戶賦能更快產(chǎn)品上市速度的企業(yè)來說,或許在AI仍在快速演進(jìn)的當(dāng)下,GPU會(huì)是更優(yōu)解,這也是云服務(wù)廠商即便選擇了自研AI芯片,主打的卻依然是GPU實(shí)例的原因。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報(bào)投訴
-
服務(wù)器
+關(guān)注
關(guān)注
12文章
9293瀏覽量
85850
發(fā)布評論請先 登錄
相關(guān)推薦
美國大帶寬服務(wù)器租用有哪些優(yōu)勢呢
美國大帶寬服務(wù)器租用具有多方面的優(yōu)勢,以下是具體的優(yōu)勢分析,主機(jī)推薦小編為您整理發(fā)布美國大帶寬服務(wù)器租用有哪些優(yōu)勢。
進(jìn)迭時(shí)空服務(wù)器芯片發(fā)布:64 位RISC-V架構(gòu)、12nm
。據(jù)介紹,V100服務(wù)器芯片采用了公司自研的RISC-VCPU核心X100、支持中斷虛擬化的AIA和APLIC、支持內(nèi)存虛擬化的IOMMU、支持安全功能的IOPMP、支
國外多ip服務(wù)器核心優(yōu)勢
國外多IP服務(wù)器是指配備有多個(gè)獨(dú)立IP地址的服務(wù)器,這些服務(wù)器通常位于國外。主機(jī)推薦小編為您整理發(fā)布國外多ip服務(wù)器核心優(yōu)勢,以下是對國外多
美國云服務(wù)器主機(jī)優(yōu)勢和缺點(diǎn)
美國云服務(wù)器主機(jī)在全球云計(jì)算市場中占據(jù)重要地位,美國云服務(wù)器主機(jī)優(yōu)勢和缺點(diǎn)都是什么?主機(jī)推薦小編為您整理發(fā)布美國云服務(wù)器主機(jī)優(yōu)勢和缺點(diǎn),其優(yōu)
云服務(wù)器主要應(yīng)用行業(yè)及優(yōu)勢
云服務(wù)器作為一種基于云計(jì)算技術(shù)的虛擬化計(jì)算資源,正逐漸成為眾多行業(yè)數(shù)字化轉(zhuǎn)型的重要支撐。它不僅提供了靈活的資源配置,還帶來了諸多傳統(tǒng)物理服務(wù)器難以比擬的優(yōu)勢。以下是云服務(wù)器的主要應(yīng)用行
比亞迪最快于11月實(shí)現(xiàn)自研算法量產(chǎn),推進(jìn)智駕芯片自研進(jìn)程
10月21日市場傳出消息,比亞迪正計(jì)劃整合其新技術(shù)院下的自研智能駕駛團(tuán)隊(duì),目標(biāo)是在今年11月實(shí)現(xiàn)自研智能駕駛算法的量產(chǎn),并持續(xù)推進(jìn)智能駕駛芯片
美國硅谷RAKsmart服務(wù)器的優(yōu)勢
RAKsmart是一家總部位于美國加州硅谷的全球領(lǐng)先的IDC服務(wù)提供商,以其高性能、高可靠性和定制化的服務(wù)器托管及云服務(wù)聞名。以下幾點(diǎn)概述了RAKsmart服務(wù)器的主要
什么是AI服務(wù)器?AI服務(wù)器的優(yōu)勢是什么?
AI服務(wù)器是一種專門為人工智能應(yīng)用設(shè)計(jì)的服務(wù)器,它采用異構(gòu)形式的硬件架構(gòu),通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來滿足高吞吐量互聯(lián)的需求,為自然語言處
硅谷物理服務(wù)器有哪些關(guān)鍵優(yōu)勢和特點(diǎn)
硅谷的物理服務(wù)器設(shè)施全球知名,為各類企業(yè)提供了卓越的IT基礎(chǔ)設(shè)施支持。下面將逐一探討硅谷物理服務(wù)器的關(guān)鍵優(yōu)勢和特點(diǎn),rak小編為您整理發(fā)布硅谷物理服務(wù)器有哪些關(guān)鍵
IaaS云服務(wù)器的優(yōu)勢是什么?
云計(jì)算的基本定義是,使用部署在遠(yuǎn)程機(jī)器/系統(tǒng)上的計(jì)算資源(硬件/軟件),并通過網(wǎng)絡(luò)(私人/公共)作為服務(wù)交付給最終用戶。 IaaS云計(jì)算(云服務(wù)器)的優(yōu)勢 1、節(jié)省成本。云服務(wù)器有助于
洛杉磯裸機(jī)云大寬帶服務(wù)器的特性和優(yōu)勢
洛杉磯裸機(jī)云大寬帶服務(wù)器是結(jié)合了物理服務(wù)器性能和云服務(wù)靈活性的高性能計(jì)算服務(wù),為用戶提供高效、安全的計(jì)算和存儲(chǔ)能力。在了解如何使用洛杉磯裸機(jī)云大寬帶
美國云服務(wù)器的優(yōu)勢
很多用戶會(huì)選擇美國云服務(wù)器,那么美國云服務(wù)器有哪些美國云服務(wù)器的優(yōu)勢,rak部落小編為您整理發(fā)布美國云服
服務(wù)器遠(yuǎn)程不上服務(wù)器怎么辦?服務(wù)器無法遠(yuǎn)程的原因是什么?
訪問服務(wù)器
PS:檢查端口是否能正常通信,可以通過命令tcping ip端口來確定,如果端口不通,檢查防火墻遠(yuǎn)程端口策略有沒有把現(xiàn)在
的遠(yuǎn)程端口加入策略之中,如果防火墻策略正常,那么檢查服務(wù)器
發(fā)表于 02-27 16:21
linux服務(wù)器和windows服務(wù)器
,這在滿足個(gè)性化需求和增強(qiáng)服務(wù)器安全
性上具有優(yōu)勢。
Linux服務(wù)器還具有出色的性能和穩(wěn)定性。相比之下,Windows服務(wù)器在性能和穩(wěn)定性方面稍有不足。特別是在處理高負(fù)載和
大數(shù)據(jù)量
發(fā)表于 02-22 15:46
美國硅谷服務(wù)器的優(yōu)勢
諸多用戶會(huì)優(yōu)先選擇美國硅谷服務(wù)器,那么美國硅谷服務(wù)器的優(yōu)勢有哪些?小編為您整理美國硅谷服務(wù)器的優(yōu)勢
評論