在未來十年,我們將見證大多數經典計算向邊緣轉移,為機器人、無人機、汽車、醫療保健和制造以及其他重要行業的突破性創新注入活力。盡管許多組織都明白追求機器學習和人工智能是保持競爭力的必要條件,但隨著這場邊緣創新競賽的展開,利用人工智能力量的旅程面臨著巨大的挑戰。SiMa.ai是一家機器學習公司,專門構建了任何公司入門和擴展邊緣人工智能和計算機視覺所需的硬件和軟件平臺。
Edge ML的崛起
人工智能創新并不局限于數據中心或智能手機,但半導體行業還沒有創造出高效驅動兩者之間一切的技術。將生成式AI、LLM和視覺變壓器擴展到物聯網、工業物聯網、安全、國防、汽車以及智能手機和數據中心之間的任何機器,需要一種新的外形規格,其中硬件和軟件經過優化以提高性能并節省能源,從而滿足邊緣要求。
云雖然是許多人工智能應用程序的寶貴工具,但在提供實時人工智能和人工智能功能方面存在不足。該行業現在正試圖將為數據中心、個人計算和手機制造的相同芯片應用于從自動駕駛汽車到智能制造、機器人技術到無人機送貨的所有領域。這些芯片從來不是為這些使用場景設計的,也不是為了在邊緣或低功耗設備的限制下運行如此龐大的算法。為了實現創新者正在努力實現的智能汽車和機器人助手的未來,必須并行設計軟件和硬件,以優化低延遲,而距離其運行的技術數英里遠的云倉庫根本無法承諾這一點。
想象一下生產線上的機器人技術,以前,運輸傳送帶上的產品未對準會使生產線出現故障,現在可以優化和處理任何配置。這是實時推斷。或者一家在有缺陷的產品上浪費供應和資源的消費品公司,現在可以在運送數百萬美元無法實現收入的產品之前確定質量控制問題的確切點。或者更智能的醫療設備,幫助識別潛在疾病并補充醫生的即時診斷能力。在所有這些情況下,都沒有在云延遲上花費時間的空間。
邊緣的關鍵真實生活ML應用要求實時推理;傳統的基于云的方法無法滿足邊緣的延遲限制。人類生活在邊緣,這只是人工智能如何改變日常機器的開始。
嵌入式邊緣的新ML性能標準
為了實現edge ML的潛力,組織需要配備一種全新的方法,使機器和設備具有現實環境的視覺、速度、效率和推理能力。SiMa.ai是 m阿奇內l盈利公司為邊緣產品提供專門構建的解決方案,并為其設定新的性能和效率標準。該公司成立的前提是通過一鍵體驗將性能功耗比提高10倍,從而解決任何計算機視覺應用挑戰。
在性能和能效都至關重要的邊緣人工智能領域,最突出的指標是FPS/瓦特。這個指標不僅僅是一個數字;這是一個關鍵指標,表明系統每瓦耗電量可以處理多少幀。這對于邊緣人工智能工作負載至關重要,因為能源限制通常會帶來重大挑戰。SiMa.ai專門構建的MLSoc是SiMa成功實現無與倫比的電源效率的關鍵。SiMa.ai經過精密設計,在不影響性能的情況下針對低功耗進行了優化。這不僅僅是做更多的事情;它是關于用更少的資源做更多的事情—更少的能源、更低的成本和更少的環境影響。SiMa.ai專注于電源效率以滿足客戶的需求,客戶越來越關注可持續、高效和高性能的計算。
在客戶測試中,SiMa在FPS/功耗方面始終優于傳統競爭對手的解決方案,并在2023年ML Perf基準測試中獲得了封閉邊緣功耗類別的最高分數,這兩項測試均于4月舉行(參見:SiMa.ai贏得MLPerf封閉邊緣ResNet50基準測試,超越行業ML領導者)和八月(見:開辟新天地:SiMa.ai在MLPerf基準測試中的空前進步)今年的。
SiMa.ai的ML Perf基準測試評級有力地證明了SiMa.ai對卓越性能和電源效率的堅定承諾,驗證了SiMa.ai MLSoc提供軟件用戶體驗的能力SiMa.ai調色板?這很容易“按下按鈕”。
在邊緣簡化計算,無需代碼ML
SiMa.ai調色板軟件專為完整的ML堆棧應用程序開發而設計。該平臺支持客戶計劃在邊緣上部署的任何ML工作流,而不會影響性能和易用性。調色板邊緣是SiMa.ai的Palette軟件平臺的可視化擴展,是一個新的基于瀏覽器的開發環境,可供任何希望在邊緣免費創建、評估和微調ML應用程序的組織使用。
調色板邊緣支持“拖放式”無代碼方法,用戶可以在幾分鐘內(而不是幾個月內)自動創建、構建和部署自己的模型并完成計算機視覺管道,同時實時評估其edge ML應用的性能和功耗需求。使用Palette Edgematic開發的ML應用程序以后可以通過購買SiMa開發人員或生產板.
來自SiMa.ai的調色板Edgematic
借助Palette Edgematic,任何具有計算機視覺管道概念的人都可以直接在邊緣設備上進行評估,而無需在云中進行中間模擬,從而提供了在邊緣實現的直接途徑。使用Palette Edgematic,開發人員可以:
在幾分鐘內快速原型化和評估邊緣設備上的ML管線;
使用實時數據流來衡量KPI,然后使用調色板Edgematic new visual canvas快速迭代設計以提高管道性能,從而消除了edge ML實現的專門嵌入式編碼轉換;
利用Palette的自動構建功能,只需按一下按鈕即可將管道的可視化表示轉換為可執行代碼;
在短短五分鐘內將ML管道轉換為可演示的概念證明,從而加快概念的生產部署并縮短上市時間。
Palette Edgematic的初始版本由SiMa.ai MLSoC遠程提供支持,可提供基于GUI的視覺體驗來評估五個優化的管道和40個不同的模型,涵蓋對象檢測、跟蹤、分類、語義分割和實例分割用例。
Palette Edgematic使任何個人、開發人員或組織能夠在幾分鐘內而不是幾個月內創建生產就緒的ML應用程序-使他們擺脫在邊緣執行ML的復雜性、如何開始的不確定性以及如何為其產品或服務提供人工智能的焦慮。
隨著Palette Edgematic的推出,SiMa.ai現在比以往任何時候都更像是一家構建自己芯片的軟件公司,將ML的潛力放在每個人、其客戶、合作伙伴和ML社區的手中。
使用SiMa.ai在5分鐘內構建您的計算機視覺ML應用程序調色板邊緣今天。
審核編輯 黃宇
-
AI
+關注
關注
87文章
31028瀏覽量
269384 -
EDGE
+關注
關注
0文章
181瀏覽量
42680 -
代碼
+關注
關注
30文章
4797瀏覽量
68712 -
ML
+關注
關注
0文章
149瀏覽量
34669 -
計算機視覺
+關注
關注
8文章
1698瀏覽量
46027
發布評論請先 登錄
相關推薦
評論