SynSense時識科技于近日提出一種基于神經元時序編碼的全新ANN-SNN轉換方法，克服了類腦芯片上因傳統頻率編碼造成突觸操作數過多而導致的較高能耗問題，能夠大大降低類腦芯片上有效突觸操作和存儲訪問，從而顯著降低了類腦芯片的實時推理功耗及延遲。這一全新方案提供了一種可行的、代價極低的脈沖神經網絡訓練方法，為構建大規模深層類腦芯片鋪平了道路。

該方法由SynSense時識科技瑞士團隊及創始人兼CEO喬寧博士提出，目前已獲得發明專利授權。自成立以來，SynSense時識科技多項成果獲得發明專利授權。以市場需求為導向，SynSense時識科技在啟發自大腦的高能效計算基礎上，通過全方位創新，保證了類腦芯片的超低延遲、超低功耗潛力，不僅進一步凸顯了知識產權市場價值及自主技術競爭力，還將有助于設備性能的大幅提升，并使用戶最終受益。

基于神經元時序編碼的全新ANN-SNN轉換方法

顯著降低芯片功耗

“為了充分發揮類腦芯片事件驅動、低功耗的潛力，SynSense時識科技提出利用TTFS的神經元脈沖編碼方式和增加額外的1或2個突觸，即可實現10-50倍網絡運算稀疏度的提升?！?/p>

脈沖神經網絡（SNN）是一種高度仿生的第三代神經網絡，通過利用時間和空間稀疏性而實現超低功耗應用。在類腦硬件上執行時，其功耗與脈沖的數量/突觸操作數成比例。目前，將ANN轉換SNN的方案中，對于神經元的轉換，大多數轉換方法依賴于頻率編碼來表示ANN的ReLU激活，需要大量的脈沖以及用于編碼信息的精度表達。對于類腦硬件而言，其消耗的能量與脈沖發放數量呈正相關關系。頻率編碼導致的神經元頻繁發放脈沖，這顯然會導致較高的能量消耗。因此，更為稀疏的神經元編碼轉換機制是迫切亟需的。

目前，常見的脈沖編碼方法有頻率編碼（rate coding）、首個脈沖時間編碼（TTFS）、群編碼（Population Coding）等。

頻率編碼

主要考察脈沖發放率，刺激的強弱程度由神經元發放脈沖的頻率反映，強烈的刺激導致高頻脈沖序列。頻率編碼的主要缺點是信息傳輸效率不高但魯棒性好，因此是一種廣泛使用的編碼方案。這也目前ANN轉SNN方案，使用SNN中的脈沖頻率近似代替ANN中ReLU激活值的理論基礎。

首個脈沖時間編碼

關注從接受刺激到發放首個脈沖的時間，一般刺激越強，脈沖發放越早。TTFS中每個神經元僅使用一個脈沖，是一種高效簡潔的編碼方案。但TTFS方案面臨神經元激活過早進而導致SNN精度降低的困境。多數TTFS方案會采用動態膜電壓閾值以阻止神經元過早被激活。

對此，SynSense時識科技提出了一種名為Quartz的全新ANN-SNN方法：

為了充分發揮類腦芯片事件驅動、低功耗的潛力，SynSense時識科技提出利用TTFS的神經元脈沖編碼方式和增加額外的1或2個突觸，即可實現10-50倍網絡運算稀疏度的提升。

與需要復雜的神經元模型或計算操作的方法不同，該方法使用簡單的神經元和突觸模型，依賴額外的突觸連接來維持神經元激活的穩定性：

突觸1有助于防止早期發放并減少量化誤差。突觸2則在特定時間點上強制神經元發放脈沖，作為時間等效的整流操作。其目標是在保持脈沖數量和能量消耗最小的情況下，縮小ANN和轉換后的SNN之間的準確性差距。 這一方案為芯片實現提供諸多顯著優勢。在CIFAR10數據集上，配置預訓練的VGG?11網絡、Tmax =64參數，使用本發明方案的SNN精度相比于ANN網絡精度，僅下降0.01%，而突觸操作數為180萬次，相比于傳統頻率編碼下降1?2個數量級。在Loihi芯片上驗證，尤其當核心數量占用少時，該方案明顯勝于頻率編碼方案，動態功耗更低。 這一方案支持高效地將已有ANN低損地轉化為SNN，且無需復雜的神經元模型或高資源消耗的計算操作，功耗及帶寬需求更小，成本代價更低，為構建大規模深層類腦芯片鋪好了低功耗實施路徑。為使類腦技術的獨特優勢在實際的運用過程中得以發揮，一直以來，SynSense時識科技持續技術創新，從而使類腦芯片功耗降低100-1000倍、實時性提升10-100倍且成本降低10倍成為現實，最終為置入SynSense時識科技類腦芯片的電子設備帶來超低功耗、永遠在線的智能信息處理能力。