2017年圖靈獎得主、現任谷歌工程師以及計算機體系結構宗師David Patterson表示我們正處于“后摩爾定律時代”。谷歌、英偉達、微軟、英特爾等各家公司都在探索不同的機器學習專用架構,最終市場會決定一切。對于硬件和軟件工程師而言,正有無數能獲得圖靈獎的機遇在前面。
2017年圖靈獎得主之一、加州大學教授、Google工程師和RISC先驅David Patterson表示,沒有什么是比現在從事計算機系統結構更好的時候了。
那是因為,摩爾定律真的結束了,他說:“如果摩爾定律仍然有效,那我們現在就落后了15倍。我們正處于后摩爾定律時代(post-Moore’s Law era)。”
上周,在圣何塞舉行的2018年@Scale會議上,Patterson表示,“我們已經處于性能增長的最后階段。當性能每18個月翻一番時,人們就會丟掉用得好好的臺式電腦,因為他們朋友的新電腦速度要快得多得多。”
但去年,Patterson曾說,“運行單個程序的性能只增長了3%,因此它是每20年翻一番。如果你只是坐在那里等著芯片變得更快,你將不得不等待很長的時間。”
對于像Patterson這樣的計算機架構師來說,這實際上是個好消息。他同時指出,這也是軟件工程師創新的好機會。“專為處理特定類型計算問題而定制的革命性的新硬件架構和新軟件語言,正等待我們去開發,”Patterson說:“這些事情你只要去做,就有機會拿圖靈獎。”
作為軟件方面的一個例子,Patterson表示將Python重寫為C可以使性能提高50倍。加上其他一些優化方法,速度會急劇增加,與原始Python程序相比性能提高1000倍也是完全有可能的。
在硬件方面,Patterson認為特定領域架構(domain-specific architectures,DSA)運行得更好。他說:“這不是魔術,只是我們能做的一些事情。”例如,應用程序并不都需要用同樣精度的計算。他說,對于有些應用,你可以使用比常規的IEEE 754標準更低精度的浮點運算。
Patterson說,機器學習是現在應用這種新架構和語言的最大機會。“如果你是做硬件的,”他說,“你希望你的朋友都恨不得要更多更多的計算機。”而機器學習對于計算來說是“貪婪的,我們太喜歡了”。
他說,如今,關于哪種類型的計算機架構最適合機器學習,業界有很多爭議,有很多公司在不同的架構上下注。谷歌擁有張量處理單元(TPU),每個芯片有一個核心和用軟件控制的內存(而非緩存),英偉達的GPU則擁有80多個內核;微軟正在走FPGA的路線。
至于英特爾,Patterson表示他們“在所有的賽道上都下了注”,為機器學習推銷傳統的CPU,收購Altera(這家公司向微軟提供FPGA),并且收購Nervana,后者專注于開發神經網絡專用處理器(類似于谷歌的TPU)。
除了這些大公司外,Patterson表示至少還有45家硬件初創公司都在解決這個問題,即設計機器學習專用架構。最終,他說,市場將決定一切。
“現在,”他說,“是計算機系統結構的黃金時代。”
-
芯片
+關注
關注
459文章
51602瀏覽量
429921 -
摩爾定律
+關注
關注
4文章
637瀏覽量
79375 -
機器學習
+關注
關注
66文章
8460瀏覽量
133437
原文標題:圖靈獎得主David Patterson:將Python重寫為C,性能最高提升1000倍!
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
擊碎摩爾定律!英偉達和AMD將一年一款新品,均提及HBM和先進封裝

混合鍵合中的銅連接:或成摩爾定律救星

石墨烯互連技術:延續摩爾定律的新希望
摩爾定律是什么 影響了我們哪些方面

寧德時代回應磷酸鐵鋰砍單傳聞
后摩爾定律時代,提升集成芯片系統化能力的有效途徑有哪些?
邵逸夫獎得主圓桌論壇于香港科學館舉行

聚焦EDA AI和3D IC等創新技術,西門子EDA全面賦能系統級創新

高算力AI芯片主張“超越摩爾”,Chiplet與先進封裝技術迎百家爭鳴時代

評論