當您將模擬計算的優點應用于 ML 時會發生什么?據 Aspinity 稱,這種芯片可將系統功耗降低多達 95%。
在為像 TinyML 這樣的應用程序尋求更節能的計算時,正在開發的更有前途的技術之一是模擬計算。如果處理得當,模擬可以帶來更節能的計算,從而為邊緣計算節省大量能源。
今天,模擬計算公司 Aspinity 發布了新的模擬 TinyML 芯片 AML100,成為頭條新聞。
Aspinity 稱 AML100 是“世界上第一款模擬 ML 芯片”。 該公司聲稱,其新產品是業界第一個也是唯一一個“完全在模擬域內”運行的 TinyML 解決方案,其結果是為邊緣應用節省了能源。該公司在模擬計算市場上有著開創性的記錄,兩年前發布了具有“選擇性聽力”功能的 ML 模擬芯片。
All About Circuits 有機會與 Aspinity 的創始人兼首席執行官 Tom Doyle 交談,以直接了解新產品。
Aspinity 對傳統模擬計算的改進
今天的大多數模擬計算解決方案在很大程度上仍然存在于數字領域。數據(權重)存儲在數字域中,但使用 DAC 轉換回模擬量以進行計算。
當嘗試在諸如始終在線喚醒字檢測等應用中實現低功耗時,這種從原生模擬到數字、再到模擬的持續數據轉換可能會限制原始模擬計算提供的節能效果。
“許多利用‘模擬’和‘模擬計算’這個詞的人通常試圖解決數字領域內的問題,”Doyle 說。“如果你閱讀他們的網站并深入挖掘,你會發現他們實際上是數字域處理器,這意味著他們實際上是在使用數字數據。他們試圖用模擬做的是通過在內存中進行模擬計算來實際節省數字內核中的功率。這很棒,我們都支持它,但它非常有限。”
Aspinity 的永遠在線架構與傳統計算的對比。 Aspinity 的 AML100 采用了不同的方法。Doyle 解釋說:“相反,我們能夠將機器學習能力從數字領域直接轉移到模擬領域。我們能夠分析來自本機模擬的原始傳感器數據,然后我們能夠關閉 ADC 和數字處理器。”
通過這種方式,AML100 保留數據并完全在模擬域中執行 AI/ML 計算。由于工程師現在可以在檢測到重要數據之前將數字組件保持在低功耗模式,因此這可以節省整體系統功耗,同時最大限度地減少總數據量,從而消除數字化、數字處理和無關數據傳輸的功耗損失。
Aspinity AML100
據介紹,Aspinity 的新 AML100 芯片利用這種新架構為客戶提供顯著的節能效果。
該芯片的模擬計算基于一組獨立的、可配置的模擬模塊 (CAB),每個模塊都可以在軟件內完全進行現場編程,從而實現廣泛的功能、傳感器輸入和應用。在這些 CAB 的更深處,人們會發現模擬非易失性存儲器陣列以及模擬信號處理模塊。該芯片還利用專有的模擬壓縮技術,允許預卷收集和喚醒詞檢測等應用的準確性。
AML100 的框圖。 Aspinity 還表示,該芯片支持多種模型架構和機器學習應用。
“在我們對喚醒詞檢測等應用的大多數測試中,我們發現 AML100 使用了大約四分之一的可用資源,”Doyle 解釋說。“我們發現有大量剩余資源,這表明如果需要,我們可以切實支持各種模型和新的 ML 架構。”
總體而言,據說該芯片在執行始終開啟感應時消耗不到 20uA。據 Aspinity 稱,AML100 使工程師始終在線的系統功耗降低了 95%。
切割數據和功率
雖然市場上存在其他模擬解決方案,但 Aspinity 聲稱其方法是新穎的——它帶來了可衡量的好處。AML100 據稱可將數據減少多達 100 倍,同時節省多達 95% 的電力,可能會對邊緣計算和 TinyML 世界產生顯著影響。