作者：Jean-Jaques （JJ） DeLisle

機器學習 （ML） 和人工智能 （AI） 技術（通常稱為 AI）是現代投資最多的領域之一。預計在短短幾年內，人工智能技術和功能將被集成到大量的邊緣設備和自治系統中，以及基于云的和生成式人工智能服務的增長格局中。

然而，人工智能無處不在并非沒有成長的痛苦。在許多方面，大型語言模型 （LLM）、自然語言處理、語音識別、強化學習和其他系統背后的深度神經網絡 （DNN） 技術使用大量存儲、內存和處理作為創建有效 AI 技術的捷徑。

這里的前提是，與依賴數學效率和優化的早期ML / AI模型開發相比，可以使用更大的訓練集和計算資源來創建更準確和有用的模型。OpenAI發布的一項分析顯示，AI開發中使用的計算資源每3.4個月翻一番，而摩爾定律在計算能力方面的進步每2年僅翻一番。因此，在某個點上，計算能力的改進將被當前AI訓練和推理范式的需求所超越。

為了保持競爭力并在邊緣實現 AI 技術，這種方法需要妥協以滿足邊緣系統的尺寸、重量、成本和能源使用要求。其中一些折衷包括降低數字AI模型中使用的數據的分辨率。此外，降低分辨率對AI能源和復雜性的節省存在實際限制。GPU 已成為執行 AI 訓練和推理任務所需的大型矩陣操作的流行選擇，因為 GPU 在執行大型矩陣計算方面比 CPU 更強大、更節能。

然而，對于基于馮諾依曼架構的數字計算方法，這些系統的處理速度不可避免地存在實際限制。這是一種稱為馮諾依曼瓶頸的現象，其中處理速度受到從內存到處理單元的數據傳輸速率的限制。

圖1以下是傳統的馮·諾依曼架構如何受到大量數據移動的瓶頸。來源：IBM

輸入模擬

上述事實是IBM和其他AI技術公司（如Mythic AI）押注模擬AI用于邊緣AI訓練和推理的未來的基礎。一些行業消息人士聲稱，模擬人工智能技術可能比數字人工智能技術快幾十到幾百倍，效率更高，這將允許在能源受限的邊緣設備中大幅提高人工智能處理能力。

圖2該圖表比較了 2014 年至 2026 年當前和近期的數字 AI 和模擬 AI 硬件技術及其每瓦性能。來源：IBM

數字處理技術依賴于打包為離散值的數據，每個位存儲在指定的晶體管或存儲單元中，而模擬處理技術可以利用存儲在單個晶體管或存儲單元中的連續信息。僅此功能就允許模擬處理技術在更小的空間內存儲更多數據，但通過隨機錯誤注入犧牲了存儲數據的可變性。

模擬存儲的可變性可能導致前向傳播（推理）失配誤差，以及反向傳播（訓練計算誤差）。兩者都不是可取的，但可以使用數字電路和模擬電路來解釋這種誤差，以確保最小的誤差，以及其他人工智能訓練技術來減輕反向傳播誤差。

對于人工神經網絡（ANN），現在可以管理這種可變性。從歷史上看，模擬存儲的可變性是數字計算技術最初在半個多世紀前取代模擬計算技術的原因，因為大多數計算系統都需要更高的精度。

模擬人工智能的優點

ANN模擬計算的其他優點包括乘法累加運算，這是ANN計算中最常用的運算，可以使用電動力學的物理特性來完成，例如用于乘法的歐姆定律和用于求和的基爾霍夫定律。這允許模擬計算機將輸入作為數組處理并并行執行全矩陣操作。這可能比使用 CPU 甚至 GPU 的矩陣計算更快、更高效。

圖3圍繞Pytorch，Caffe和TensorFlow等標準框架構建的AI工作流程使用模擬矩陣處理器進行部署。

模擬計算技術的另一個優點是，這些解決方案可以利用不同的存儲單元技術，例如相變材料（PCM）和數字閃存，作為可變電阻而不是開關運行。這些模擬存儲方法允許在同一位置進行計算和存儲，而無需持續使用電源來維護數據存儲。

這些因素意味著模擬計算/存儲中不存在馮諾依曼瓶頸，模擬數據存儲本質上是被動的，隨著時間的推移，與主動數字數據存儲相比，使用的能量要少得多。例如，PCM的工作原理是材料的電導率是PCM存儲單元內無定形與結晶狀態之比的函數。

對于IBM的PCM技術，較低的電流編程狀態導致更低的電阻和更多的晶體結構，其中較高的編程電流導致更多的非晶材料在更高的電阻下。這就是為什么PCM數據存儲相對非易失性的原因，以及ANN突觸權重如何存儲為單個PCM單元的電導上限和電導下限之間的連續統一體，而不是幾個晶體管或其他數字存儲單元上的多個位。

因此，毫不奇怪，對于能源/處理受限系統上的邊緣計算推理和 AI 培訓，模擬 AI 技術正在成為一種解決方案，無需訪問廣泛的云 AI 基礎設施和互聯網連接即可帶來 DNN 的優勢。這將導致響應更快、更高效、更有能力的邊緣人工智能更適合自主應用，如機器人、完全自動駕駛、安全，甚至認知無線電/通信。

編輯：黃飛