作者：彭昭（智次方創始人、云和資本聯合創始合伙人）
這是我的第365篇專欄文章。
在上篇文章《巨頭入局TinyML，端側與邊緣AI迎來新拐點》中，我曾提到TinyML基金會進行了品牌重塑，已更名為邊緣智能（Edge AI）基金會。
近日，邊緣智能基金會發布了2025年度最新版本的《2025邊緣AI技術報告》。該報告對邊緣智能以及微型機器學習TinyML的發展趨勢進行了全面掃描和總結。
從報告內容來看，TinyML的成熟度可能超出了很多人的預期，已經在現實場景中產生了眾多應用案例。
報告的亮點如下：
邊緣AI的技術推動因素：報告深入探討了支持邊緣AI部署的軟硬件進步，重點關注了專用處理器和超低功耗設備的創新，這些創新正在克服資源受限環境中處理能力和可擴展性的限制。
邊緣AI在行業轉型中的作用：報告揭示了邊緣AI如何通過實現實時分析和決策能力，影響各個行業的運營模式。
未來技術與創新：報告的最后章節展望了可能影響邊緣AI未來發展的新興技術，例如聯合學習、量子神經網絡和神經形態計算等。
因此，在今天這篇文章中，我們將一起梳理《2025邊緣AI技術報告》的精華內容，全面了解TinyML以及邊緣AI的最新進展和發展全貌。
實時、在地、高效：邊緣AI在六大行業的創新應用
隨著市場對低延遲、實時處理的需求日益增長，邊緣AI正在各個行業掀起一場風潮，尤其是在汽車、制造業、醫療、零售、物流和智慧農業領域。邊緣AI通過在數據源處進行實時分析和決策，極大地提升了效率，優化了資源配置，改善了用戶體驗。
首先來看自動駕駛汽車領域。
隨著攝像頭分辨率達到千兆像素，激光雷達系統每秒可發射數百萬個激光脈沖，邊緣人工智能可加快反應時間，并增強安全性。例如，Waymo已擴展模擬訓練和評估，以處理罕見的駕駛情況。與此同時，理想汽車預計其端到端模型將在今年年底前從超過500萬個駕駛數據片段中學習。
同樣，隨著人工智能市場的快速增長，實時邊緣人工智能已成為提高效率和減少停機時間的關鍵。在繁忙的汽車生產車間：智能傳感器會立即標記溫度峰值或機械應力，使團隊能夠在問題升級之前防止中斷。從汽車行業汲取靈感，蔚來的NWM（NIO世界模型）展示了超快速AI預測的強大功能。同樣，基于邊緣AI的分析可以以驚人的精度檢測生產線上的微缺陷。
通過結合速度、可靠性和設備智能，實時數據處理正在改變自動駕駛汽車的標準實踐，為全面更具適應性、更高效的未來鋪平了道路。
邊緣AI之所以對自動駕駛汽車如此重要，主要有三個原因：
邊緣系統減少了對云中繼的依賴，實現了50ms以下的防撞響應時間，這對于處理行人突然橫穿馬路，或高速公路突發事件尤為關鍵。
邊緣AI使得自動駕駛汽車或半自動駕駛汽車即使在蜂窩盲區，也能保持安全功能（例如車道保持、自適應巡航控制）。5G汽車協會（5GAA）更新的蜂窩車聯網（C-V2X）技術路線圖，強調了混合V2X架構，該架構將邊緣處理與5G-V2X直接通信相結合。邊緣AI硬件和傳感器融合算法，使自動駕駛汽車能夠將決策延遲縮短30-40%，實現低至20-50毫秒的響應時間。
集成來自攝像頭、激光雷達和雷達等邊緣設備的數據可以提高感知可靠性，實現安全導航。例如，Innoviz的2024年激光雷達升級版采用了邊緣優化的神經網絡，以每秒20幀的速度處理點云數據，最大限度地減少了障礙物檢測的延遲。
接著來看制造業。
生產線每天可以生成大量數據，有研究顯示，智能工廠每周生成超過5PB的數據。邊緣AI系統可以在本地處理這些信息，提供即時洞察和自動響應。邊緣AI的影響體現在三個關鍵領域：預測性維護、質量控制系統和流程優化。
據報道，利用實時傳感器數據分析的預測性維護系統可將維護成本降低30%，并將停機時間減少45%。通過持續監控設備性能，邊緣AI算法可以在細微異常和潛在故障發生之前檢測到它們，從而實現主動維護并最大限度地減少意外停機時間。
在質量方面，邊緣AI通過實時檢查和缺陷檢測增強了質量控制。例如，一家大型食品飲料制造商在邊緣部署了視覺AI，用于質量檢查和閉環質量控制。該系統持續監控產品差異并建議調整設備設置，將檢查周期縮短50-75%，并提高準確性。
第三，在醫療保健領域，本地化AI可通過直接在設備中處理醫療數據，加速診斷并改善患者治療效果。
例如，邊緣AI驅動的遠程患者監測設備（如便攜式心電圖和血壓監測儀）可以實時分析心律和生命體征。這些設備（例如由AliveCor和Biobeat開發的設備）使臨床醫生無需等待基于云的分析即可檢測心律失常和其他異常情況，從而縮短危急情況下的響應時間。
第四，邊緣AI正在通過實時行為分析優化店內運營并增強客戶體驗，從而改變零售業。
AI驅動的智能貨架和結算系統可在本地處理客戶互動，分析購買模式并調整庫存預測，而無需依賴云同步。零售商正在部署AI驅動的視頻分析來檢測客流量異常、監控庫存水平并減少結賬時間，從而提高效率并降低運營成本。
在運營方面，基于人工智能的智慧零售已經在2025年展現出應用前景。人工智能驅動的計算機視覺可以實現完全的非接觸式交易，將平均結賬時間縮短30%。Amazon Fresh已經通過在貨架或手推車上安裝攝像頭，在顧客離開時自動結賬，并提供實時消費預覽。
亞馬遜的Just Walk Out（JWO）系統是零售業邊緣AI的典范，它集成了傳感器陣列、設備分析和高級機器學習模型。所有計算都在定制邊緣硬件上本地處理，實現實時決策，并提高客戶便利性和運營效率。
第五，邊緣AI與物聯網傳感器集成，通過直接在配送中心、倉庫和運輸樞紐處理物流數據，增強了物流的智能化。
智能傳感器無需將大量信息傳輸到集中式服務器，而是現場分析溫度波動、運動異常和庫存短缺，并在出現偏差時觸發即時警報。例如，P&O Ferry masters使用人工智能驅動的船舶裝載程序將貨運能力優化了10%，從而保持了整個供應鏈的實時可見性。此外，人工智能驅動的預測有助于減少20%的物流費用。
最后，邊緣AI正在幫助智慧農業擴大精準種植，以滿足全球不斷增長的糧食需求。
預計到2050年，全球人口將達到98億，農業必須智能地擴大規模，以滿足不斷增長的糧食需求，同時最大限度地減少對環境的影響。邊緣人工智能使農場能夠在不增加復雜性的情況下擴大其技術覆蓋范圍，分析土壤條件，監測天氣模式，并實施自動化灌溉系統。
先進的傳感器和AI模型無需將數據發送到遠程服務器，而是在檢測到土壤濕度或害蟲活動等因素時對其進行評估，從而迅速采取干預措施。CrackSense等項目展示了實時傳感如何確保柑橘、石榴和葡萄等作物的果實質量，減少災害和浪費。
配備邊緣人工智能的智能灌溉系統已顯示出成效，可根據局部土壤水分分析動態調整水分配，減少25%的用水量。同樣，人工智能驅動的害蟲檢測可減少30%的農藥使用量，確保精準農業，最大限度地減少浪費。
邊緣AI生態系統：三層架構下的協同創新
當今的邊緣AI生態系統正處于一個關鍵階段：項目的成功取決于硬件供應商、軟件開發商、云提供商和行業利益相關者的共同協作。這種狀態可能將會持續較長的一段時間，因此企業之間的互相協同成為重點。
如果沒有互操作性標準、可擴展的部署模型和共享的研發工作，邊緣AI就有可能出現碎片化，從而限制其在制造業、醫療保健和物流等關鍵領域的應用。
邊緣AI的生態系統普遍公認采用三層架構，將計算工作負載分配到邊緣設備、邊緣服務器和云平臺。這種結構允許AI模型在邊緣執行實時推理，同時在需要時利用更高的計算能力。每一層在處理、匯總和優化數據以進行智能決策方面發揮著獨特的作用。
邊緣設備與終端設備是與現實世界數據交互的第一個點。這些設備包括部署在制造業、醫療保健、汽車和零售環境中的物聯網傳感器、工業機器人、智能攝像頭和嵌入式計算系統。它們的主要功能是低延遲AI推理——無需依賴持續的云連接即可在現場處理數據。
邊緣服務器充當邊緣設備和云之間的計算中介。這些服務器通常部署在工廠、醫院、零售店和自動駕駛汽車網絡中，用于匯總來自多個來源的數據，并執行更為復雜的AI工作負載。邊緣服務器的一個關鍵優勢是本地化AI推理：無需將數據卸載到遠程數據中心即可運行更重的模型。這減少了與云依賴相關的延遲、帶寬成本和安全風險。
這里需要區分邊緣計算和終端設備，盡管從整體上他們可以歸為一類，但由于功耗、尺寸和算力等約束條件截然不同，“邊緣”和“終端”具有顯著區別，不能使用同一個思路處理。邊緣設備（例如嵌入式攝像頭或工業傳感器）專為低功耗AI推理而設計，而功能更強大的邊緣服務器則充當中介，在將數據轉發到云端之前，處理復雜的AI工作負載。
云對于模型開發、大規模數據分析和存儲仍然至關重要。它是深度學習模型在優化和部署到邊緣之前進行訓練的支柱。經過訓練后，AI模型將部署到邊緣設備和邊緣服務器，在生產環境中執行推理任務。云還充當AI模型監控、分析和集中編排的骨干，確保部署在數千甚至數百萬個邊緣端點上保持高效。
雖然三層架構涵蓋了邊緣AI的全貌，但是企業之間的跨界合作正在更加密切的進行。
半導體公司正在與AI開發人員合作以提高專用硬件上的模型效率；云提供商正在集成邊緣原生計算解決方案；研究機構正在與行業領導者合作推進可擴展架構。
在硬件和云協作方面，英特爾通過其邊緣AI合作伙伴支持包推動邊緣AI的采用，該計劃為企業提供工具、框架和技術資源，以加速邊緣AI的部署。
另一項值得注意的合作涉及高通和Meta，他們致力于將Meta的Llama大型語言模型直接集成到高通的邊緣處理器上。這種合作關系減少了對基于云的LLM的依賴，使設備能夠在現場執行生成AI工作負載。
MemryX和Variscite也宣布建立了合作伙伴關系，旨在提高邊緣AI效率。通過將MemryX的AI加速器與Variscite的系統模塊（SoM）解決方案相結合，簡化了邊緣設備上的AI部署，尤其針對工業自動化和醫療保健的應用。
Google與Synaptics合作開發了邊緣人工智能系統。Google的Kelvin MLIR兼容機器學習核心將集成到Synaptics Astra AI-Native IoT計算平臺中。兩家公司將共同努力，為可穿戴設備、家電、娛樂和監控等應用定義IoT Edge情境感知計算多模式處理的最佳實現。
政產學研合作在推進邊緣AI研究和部署方面發揮著至關重要的作用，一些國家推出了邊緣AI的試點項目和協作平臺。
在英國，國家邊緣人工智能中心是一個協作平臺，聯合學術界、工業界和公共部門推進邊緣人工智能技術。該中心由紐卡斯爾大學牽頭，匯集了來自英國各地機構的多學科團隊，其使命是提高醫療保健和自動駕駛電動汽車等時間關鍵型應用的數據質量和決策準確性。
同樣，美國國家科學基金會的NAIRR試點項目是一項旨在實現AI普及的大型計劃。英特爾、英偉達、微軟、Meta、OpenAI和IBM等行業參與者為開發安全節能的AI應用程序的研究人員貢獻了計算能力和AI工具。
從聯邦學習到神經形態計算：邊緣AI的5大前沿趨勢
技術的發展日新月異，邊緣AI的5個新興趨勢正在重塑人工智能系統，包括聯邦學習、邊緣原生AI模型、量子增強智能和邊緣生成AI。這些趨勢彼此結合，讓自動駕駛汽車可以相互訓練，無需依賴集中式數據集；醫院可以部署基于患者數據實時演進的AI模型，確保高度個性化的治療；工業機器人將以預測智能運行，在故障發生之前檢測并修復。
神經形態計算、多智能體強化學習和后量子密碼學等領域的新興創新也在重新定義邊緣AI的各種可能性，使人工智能系統變得更快、更安全、效率更高。
聯邦學習：邊緣的去中心化智能
聯邦學習（FL）正在從隱私保護發展成為去中心化智能的基石。未來5年，聯邦框架有望積極增強模型適應性、自主性和跨行業協作。市場預測到2030年，聯邦學習有望實現近3億美元的市場價值，預計復合年增長率為12.7%。
聯邦學習演進的另一個主要驅動力是與6G等下一代網絡的集成。隨著邊緣部署規模的擴大，超低延遲網絡將使AI模型能夠更有效地在分布式設備之間同步，從而減少優化和部署更新所需的時間。量子聯邦學習（QFL）的出現也正在被探索，以減少設備之間的通信負擔，使大規模物聯網網絡的通信過程更加高效。
邊緣量子計算和量子神經網絡
量子計算將重新定義邊緣AI的功能。雖然當今的邊緣AI依賴于優化的深度學習模型和低功耗硬件加速器，但量子計算引入了一種完全不同的方法：利用量子態來處理指數級增大的數據集，并以傳統方法無法達到的速度優化決策。隨著量子處理單元（QPU）超越基于云的基礎設施，混合量子-經典AI將在邊緣出現，增強金融、醫療保健、能源和工業自動化等行業的實時決策能力。
量子神經網絡（QNN）是一種新型AI模型，它利用量子特性來檢測數據中的模式和關系，而“傳統AI”則難以做到這一點。與需要增加功率和內存來提高性能的現有神經網絡不同，QNN可以以更緊湊、更高效的方式處理信息。
到目前為止，量子計算由于其硬件要求（包括極端冷卻）而僅限于基于云的數據中心。然而，移動QPU的最新進展很可能使在室溫下運行量子算法成為可能。在未來幾年，量子計算將不僅限于云端，還可以嵌入到邊緣的自主系統、工業機器人和物聯網設備中。
自主人形機器人的邊緣人工智能
人形機器人的下一階段將由具身智能定義，其中人工智能模型變得更具適應性、響應性，并能夠自我改進。
在零售環境中，人形機器人可以通過回答口頭詢問、分析面部表情和瀏覽商店布局來協助消費者。同時，在醫院和養老院中，人工智能機器人可以監測患者、協助行動并檢測可能預示醫療緊急情況的細微行為變化，所有這些都通過設備端處理來確保數據隱私和安全。
人工智能驅動的AR/VR：下一個進化方向
增強現實（AR）和虛擬現實（VR）已不再局限于游戲和娛樂，邊緣AI是這一發展的關鍵推動因素。下一代AR/VR設備將在本地處理信息，從而實現實時響應并提高能源效率。
AI驅動的空間計算將允許AR眼鏡和VR耳機根據上下文動態調整疊加、深度感知和環境交互。
在工業環境中，這意味著AR驅動的工作空間將為工程師提供免提、AI生成的指令，這些指令可實時適應現實世界的情況。在醫療保健領域，AR輔助手術將集成AI能力，以提高精度，根據外科醫生的動作在幾毫秒內更新，而不會出現云引起的延遲。
神經形態計算：低功耗人工智能的未來
通過引入大腦啟發式架構，神經形態計算有望在邊緣AI領域變得越來越流行，這些架構在能源效率和處理能力方面具有顯著優勢。與將內存和處理單元分開的傳統計算系統不同，神經形態系統集成了這些功能，模仿了人腦的并行和事件驅動特性。這種設計使它們能夠以最小的能耗處理復雜的實時數據處理任務，使其成為邊緣應用的理想選擇。
例如，2022年《自然》雜志的一項研究中推出的NeuRRAM芯片模擬計算架構的能效，是最先進的“內存計算”芯片的兩倍，可以在沒有云連接的情況下在邊緣設備上執行復雜的認知任務。這一飛躍反映了從臺式電腦到智能手機的轉變，解鎖了曾經被認為不可能的便攜式應用程序。
研究和早期商業部署表明，神經形態芯片可以重新定義智能在邊緣的部署方式。
寫在最后
邊緣AI正在重塑各行各業，從自動駕駛汽車到智能制造，從醫療保健到零售物流，再到智慧農業。通過將人工智能的力量帶到數據源頭，邊緣AI實現了前所未有的實時洞察、自主決策和資源優化。
它的崛起標志著人工智能從集中式云模型向分布式智能的根本性轉變。
隨著邊緣AI生態系統的不斷成熟，創新的步伐正在加快。從聯邦學習到神經形態計算，從量子增強智能到人工智能驅動的增強現實，前沿技術正在重新定義邊緣AI的可能性。展望未來，邊緣AI有望成為推動行業變革和社會進步的關鍵力量。
最后，附上報告的下載鏈接https://www.ceva-ip.cn/，歡迎感興趣的朋友獲取。
