車馬先行,糧草呢?
據外泄的消息顯示,OpenAI CEO山姆·阿爾特曼上個月在倫敦與軟件開發者召開的閉門會議上表示,缺少專用計算機芯片打亂了公司的經營計劃。
OpenAI的人工智能軟件必須使用專用計算機芯片,而芯片荒阻礙了該公司的業務,并且除了ChatGPT以外,該公司并不打算發布面向消費者的產品。據報道,OpenAI聯合創始人兼首席執行官山姆·阿爾特曼兩周前在倫敦與軟件開發者和初創公司CEO們召開了一次非公開會議。一位與會者的博客爆料稱,阿爾特曼在會上披露了許多信息,以上的信息只是其中的兩條。據稱此次會議約有20人參會。最初發表這篇博客的頁面顯示,應OpenAI的要求,爆料此次閉門會議的賬號已經關閉,但這并沒有阻止人工智能界深入分析這位有影響力的CEO的(所謂的)言論。
一個互聯網存檔網站已經保存了一份原博客的副本,之后文章內容在社交媒體和程序員聚集的多個論壇上廣泛傳播。人工智能專家拉扎·哈畢比在博客中寫道,阿爾特曼表示,OpenAI無法買到足夠多運行人工智能應用需要使用的專用計算機芯片圖形處理單元(GPU),這阻礙了公司的短期計劃,也為使用OpenAI服務的開發者帶來了麻煩。哈畢比是Humanloop公司的聯合創始人兼CEO。哈畢比的初創公司位于倫敦,該公司率先提出了提高大語言模型訓練效率的方法。大語言模型是OpenAI ChatGPT使用的基礎技術。
GPU荒導致OpenAI更難支持用戶通過大語言模型推送更多數據,并延緩了公司發布更多功能和服務的計劃。該公司的ChatGPT等產品均以大語言模型作為核心。此外,博客中表示,芯片荒還降低了OpenAI現有服務的速度和可靠性,這會令客戶不滿,使他們不愿意基于OpenAI的技術開發企業應用。OpenAI在生成式人工智能繁榮中的先行者優勢,也會因為芯片供應緊張而面臨威脅,因為谷歌(Google)和其他知名度較低的競爭對手都有能力推出競爭性服務,而且開源競爭對手已經進一步站穩腳跟。
關于“語境窗口”
阿爾特曼列舉了OpenAI因為硬件(如芯片)短缺無法開展的多項業務。哈畢比在博客中寫道,其中包括向其GPT大語言模型的大多數客戶提供更長的“語境窗口”。語境窗口決定了在模型中輸入一條提示詞可以調用的數據數量,以及模型的響應時間。大多數GPT-4用戶的語境窗口支持的標記數量為8,000個(一個標記是人工智能模型進行預測所依據的一段數據,相當于約一個半英文單詞)。OpenAI在3月宣布為其模型的精選客戶提供支持32,000個標記的語境窗口,但很少有用戶能夠使用該功能,哈畢比的博客稱,阿爾特曼將此歸咎于GPU短缺。
全球大多數人工智能應用在GPU上訓練和運行。GPU作為一種計算機芯片,通過高速并行處理進行數據分析。大多數GPU芯片來自一家公司,那就是英偉達(Nvidia),而且售價可能高達數千甚至數十萬美元。市場觀察家已經發現,由于英偉達與生成式人工智能繁榮的關聯,其股價暴漲,而且其市值最近突破了1萬億美元。
哈畢比在博客中爆料,OpenAI聯合創始人兼CEO還向開發者保證,除了ChatGPT以外,OpenAI沒有計劃發布任何面向消費者的產品。哈畢比稱,許多參會的開發者告訴阿爾特曼,他們對于使用OpenAI的人工智能模型進行開發感到擔心,因為無法確定OpenAI是否會發布競爭性產品。阿爾特曼表示,ChatGPT將是其唯一一款面向消費者的產品,而且公司的未來愿景是成為一款“超級智能的工作助手”,但OpenAI“不會涉足”許多需要使用GPT大語言模型的行業特定應用。
阿爾特曼還表示,他一個月前所說的“超大規模模型的時代”將要結束的觀點被錯誤解讀。他對開發者表示,他想要表達的意思是,OpenAI最強大的大語言模型GPT-4的規模已經足夠龐大,因此公司不可能繼續快速擴大人工智能系統的規模。他在倫敦會議上表示,OpenAI會繼續創建更大的模型,但它們的規模只會有GPT-4的兩倍或三倍,而不是擴大數百萬倍。
爆料稱,阿爾特曼在與開發者的對話中,還分享了OpenAI的近期發展規劃。哈畢比的博客稱,阿爾特曼表示,在2023年,OpenAI的目標是提高GPT-4的運行速度和降低其成本,提供更長的“語境窗口”以支持用戶向OpenAI的GPT模型中輸入更多數據并獲得更長的輸出結果,推出更方便客戶根據具體使用案例調整GPT-4的方法,并支持ChatGPT及其大語言模型能夠保留歷史對話記憶,從而使用戶想要繼續未完成的對話或重復與模型的互動時,不需要每次都要重復按照相同的順序輸入提示。
阿爾特曼表示,公司明年的工作重點是發布GPT-4根據輸入的圖片輸出結果的能力。OpenAI在3月發布該模型時演示了這項功能,但尚未向大多數客戶開放。
哈畢比寫道,在監管方面,阿爾特曼對開發者表示,他并不認為現有模型帶來了任何嚴重的風險,而且“對現有模型進行監管或者禁用將是嚴重的錯誤”。阿爾特曼重申了他公開的立場,即OpenAI認同開源人工智能軟件的重要性,并證實了科技刊物《The Information》關于OpenAI正在將其某一款模型開源的報道。博客稱,阿爾特曼表示,公司可能將其GPT-3模型開源,但到目前為止之所以沒有這樣做,是因為阿爾特曼“懷疑有多少個人和公司有能力托管和服務”大語言模型。
據稱阿爾特曼在閉門會議上表示,OpenAI仍在分析OpenAI Plus的用戶希望如何使用這款插件。該插件支持大語言模型使用其他軟件。哈畢比在博客中表示,這可能意味著這款插件尚未達到產品與市場契合的程度,因此在短期內不會通過OpenAI的API向企業客戶發布。
哈畢比和OpenAI并未立即回復置評請求。
哈畢比的博客在社交媒體和開發者論壇上引起了激烈討論。許多人表示,阿爾特曼的言論證明了GPU荒問題對于釋放大語言模型的商業潛力的重要性。也有人表示,這證明了來自開源人工智能社區的許多創新對于人工智能未來的重要性。開源社區開發的創新途徑,可以使用更少算力和更少數據,實現與規模最大的專有人工智能模型類似的性能。
Signal基金會(Signal Foundation)的總裁、大型科技公司的主要批評者梅雷迪思·惠特克在柏林召開的一次會議上接受場邊采訪時表示,這篇博客表明,全球最大的科技公司扼制了當前人工智能軟件的基礎,因為只有這些大公司有實力提供訓練最大規模的人工智能模型所需要的計算資源和數據。她說到:“看得出來,盡管OpenAI能夠使用微軟(Microsoft)的基礎設施,但對其約束最大的因素是GPU。”她提到的是OpenAI與微軟的合作。到目前為止,微軟在來自舊金山的人工智能初創公司OpenAI投資了130億美元。 “你必須有超級昂貴的基礎設施才能這樣做。”她表示,人們不要誤以為開源人工智能社區存在,就代表“行業格局是真正民主化和競爭性的”。
-
GPU芯片
+關注
關注
1文章
303瀏覽量
5880 -
計算機芯片
+關注
關注
0文章
43瀏覽量
3540 -
OpenAI
+關注
關注
9文章
1123瀏覽量
6636 -
ChatGPT
+關注
關注
29文章
1566瀏覽量
7953
原文標題:OpenAI恐遭遇芯片荒
文章出處:【微信號:ICViews,微信公眾號:半導體產業縱橫】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論