人工智能大模型與硬件的融合正在如火如荼地進行，但在B2C消費端似乎遇到了阻力。
據The Information報道，蘋果前設計總監Jony Ive和OpenAI的CEO Sam Altman已聯手設計一款AI驅動的個人設備，并正在尋求至少10億美元的融資。然而，過去幾周發布的基于最新AI大模型驅動的B2C智能硬件卻受到了諷刺和批評，如Humane Pin和Rabbit R1。第一批購買者認為，這些設備的易用性明顯不如智能手機。
盡管大模型硬件在B2C領域遇阻，但在B2B領域，大模型與邊緣計算的結合卻取得了突破性進展，推進了智能物聯2.0的演進，朝著“通感智值一體化”邁出了堅實一步。
隨著越來越多企業開始將傳感器、通信網關、控制器、執行器等整合，形成了“通感智值一體化”，即通信、感知、智能、價值的一體化。
本文將探索大模型與邊緣計算結合的最新進展，以及“通感智值一體化”如何創造更大價值。
邊緣智能三大趨勢：云訓練下放、NPU加速、Tiny AI賦能
邊緣計算是指在數據產生或消費源附近部署智能計算資源。根據計算能力和部署位置的不同，邊緣可分為基礎設施邊緣（厚邊緣）、設備邊緣（薄邊緣）和終端邊緣（微邊緣）三種類型。
基礎設施邊緣（厚邊緣）：通常位于數據中心內，配備了高性能的中央處理器(CPU)或圖形處理器(GPU)，專門用于處理計算密集型任務，如數據存儲和分析。典型的厚邊緣設備包括蜂窩無線基站、區域性數據中心和某些特定的中央機房。
設備邊緣（薄邊緣）：包括智能控制器、網絡設備和計算機，它們負責聚合來自傳感器和其他數據生成設備的數據。常見的薄邊緣設備有物聯網網關、交換機、路由器和本地服務器。
終端邊緣（微邊緣）：指那些直接生成數據的智能傳感器和設備。
邊緣智能是指將人工智能模型部署在邊緣設備上，使其能夠在無需持續連接云端的情況下實現AI推理和決策。
當前，邊緣智能正呈現出三大發展趨勢：厚邊緣AI訓練、薄邊緣和微邊緣NPU加速，以及微邊緣Tiny AI賦能。
云端重擔下放，AI模型訓練遷移至厚邊緣
隨著高性能CPU和GPU的集成，人工智能模型訓練正在從集中式云端向邊緣服務器或微型數據中心轉移。這不僅降低了對云基礎設施的依賴和成本，還增強了數據隱私保護，提高了邊緣設備上人工智能應用的響應速度。
這一趨勢有助于實現數據的就地處理和分析，減少了數據在網絡中的傳輸，從而降低了延遲和安全風險，提高了AI應用的實時性和可靠性。
例如MAINGEAR公司和Phison公司聯合推出的PRO AI工作站，以及Aetina公司的AIP-FR68邊緣AI訓練平臺，都體現了這一趨勢。
NPU芯片加持，微邊緣和薄邊緣AI推理加速
在微邊緣和薄邊緣設備中集成專用的神經網絡處理器(NPU)，可以顯著增強其AI推理能力，同時節省功耗、優化熱管理，實現高效的多任務處理。這使得AI能夠在可穿戴設備和傳感器節點等對功耗和延遲敏感的應用中得到廣泛部署。
NPU的加入使得邊緣設備具備了強大的AI計算能力，可以在本地完成復雜的推理任務，大大減少了對云端的依賴，提高了數據處理的實時性和隱私性。
NXP的新型MCX N系列微控制器(MCU)和ARM的Cortex A55+Ethos U65 NPU設置，展示了NPU集成帶來的性能提升。NXP的MCU機器學習推理速度比單獨的CPU內核快42倍；ARM則通過設置將70%的AI推理從CPU卸載到NPU，推理性能提高了11倍。
Tiny AI注智，傳統設備秒變微邊緣AI
微型人工智能/機器學習(Tiny AI/ML)則進一步將AI能力引入資源受限的微邊緣設備。通過將小型AI/ML模型集成到日常物品和工具中，使其能夠自主執行決策功能，無需云端連接，既增強了數據隱私和安全，又賦予了傳統設備智能化的能力。
Tiny AI的出現大大拓展了AI的應用場景和范圍，使得傳統的“啞”設備也能夠變得智能化，具備一定的感知、學習和決策能力，為萬物智聯2.0時代的到來奠定了基礎。
例如MY VOICE AI的NANOVOICE語音驗證方案、SensiML的智能鉆頭異常檢測模型，以及Nordic Semiconductor的Thingy:53原型設備，都是微型AI/ML在微邊緣設備上的創新應用。比如Thingy:53使用嵌入式微型機器學習模型來感測設備振動，該系統可以在檢測到異常情況時切斷設備或機器的電源。
蜂窩物聯網模組邁向新階段，AI算力成關鍵驅動力
隨著人工智能與蜂窩物聯網的不斷融合，將支持AI的芯片組直接集成到物聯網設備中已成為一種新興趨勢。這標志著智能、自主的物聯網系統正在崛起，能夠在本地進行實時決策。
這一趨勢有望為智慧城市和工業制造等領域帶來革命性的變革，不僅可以實現實時數據處理、降低延遲，還能通過更小巧的設備尺寸提高效率。
在這股浪潮中，智能模組和AI蜂窩物聯網模組成為推動市場增長的重要引擎。這類模組搭載了嵌入式計算資源，能夠直接在物聯網設備上執行復雜的數據分析，甚至是AI推理任務。預計到2027年，這些先進模組的出貨量將以76%的年復合增長率持續攀升。
事實上，業界常提及的”算力模組”概念與智能模組和AI蜂窩物聯網模組高度重合，代表了蜂窩物聯網技術的最新發展方向。市場研究機構Counterpoint也發現，2023年模組廠商出貨的產品中，約12%在軟硬件層面具備AI功能。這些模組在汽車、路由器/CPE和PC等高端市場越來越受青睞，有助于應對這些領域日益增長的數據負載。
總體而言，蜂窩物聯網模組的發展歷程可劃分為三個重疊的階段：傳統模組、智能模組和AI使能模組。
傳統物聯網模組作為基本的連接模塊，主要功能是實現蜂窩通信，僅包含支持通信的芯片組，無需額外功能。
智能物聯網模組在提供連接功能的同時，還集成了額外的計算硬件，如中央處理器(CPU)和圖形處理器(GPU)。
AI使能物聯網模組則在智能模組的基礎上，進一步集成了專用的AI加速芯片組，如神經處理單元(NPU)、張量處理單元(TPU)或并行處理單元(PPU)等。
相比傳統模組和智能模組，AI使能的蜂窩物聯網模組問世時間相對較短。但它有望徹底改變各行各業的面貌。通過將AI直接集成到物聯網模組中，AI推理可以在邊緣側實時執行，實現快速、自主的本地決策。這不僅減少了蜂窩網絡上的數據傳輸，節省了帶寬和成本，還能滿足時間敏感型應用的即時決策需求。
此外，在連接模組中嵌入AI芯片組可以節省空間，簡化物聯網設備的外形尺寸。簡而言之，這些模組正從單純的數據通信推進器，演變為能夠獨立處理工作負載的智能邊緣節點。
例如廣和通公司的智能割草機器人解決方案，就是AI蜂窩物聯網模組的一個典型應用。它利用高通智能模塊實現強大的設備端計算，不僅能繪制環境圖、避開障礙物，還能經濟高效地識別割草范圍，而無需持續連接云端。這充分展示了支持AI芯片組在物聯網設備中的實際價值。
創通聯達公司的EB3G2物聯網邊緣網關，則利用高通SoC執行設備上的AI模型。該SoC可實現即時數據分析，減少延遲和云依賴。網關內置的算法能夠進行人體檢測和跟蹤，對安全和流量管理等場景大有裨益。
通感智值一體化的未來：泛在智能、極致體驗、生態共榮
隨著邊緣智能的不斷發展和蜂窩物聯網模組的升級迭代，通感智值一體化正迎來更加廣闊的發展前景。未來，我們有望看到泛在智能、極致體驗和生態共榮成為這一領域的主旋律。
泛在智能：從感知到決策的全面智能化
未來，通感智值一體化將實現從感知到決策的全面智能化。得益于Tiny AI等技術的進步，越來越多的傳統傳感器和設備將具備微邊緣AI能力，能夠在本地完成初步的數據分析和決策，真正實現”智慧感知”。
同時，在薄邊緣和厚邊緣側，NPU等專用芯片的加持將進一步提升AI推理和訓練的速度與效率，推動更多復雜AI應用的落地。隨著AI能力向邊緣側的不斷下沉，未來的通感智值系統將呈現出無所不在、無時不在的泛在智能特征。
極致體驗：實時響應、高效協同的用戶體驗
通感智值一體化的另一重要發展方向，是為用戶帶來實時響應、高效協同的極致體驗。當前，邊緣智能已經能夠顯著降低數據傳輸延遲，但仍難以滿足工業元宇宙、無人駕駛等延遲敏感型應用的苛刻要求。
未來，通過引入5G/6G等新一代通信技術，并進一步升級邊緣側的計算、存儲架構，有望將端到端時延降至毫秒級，甚至是微秒級，從而實現真正的實時交互。
此外，隨著異構算力的協同能力不斷增強，不同層級的智能設備之間將能夠更加高效地協作，提供無縫銜接的沉浸式體驗。
生態共榮：開放融合、多方共贏的發展格局
隨著通感智值一體化生態日趨成熟，開放融合、多方共贏將成為行業的主旋律。一方面，軟硬件開源平臺的興起，將加速邊緣智能技術的普及和迭代，讓更多中小企業和創新團隊參與到生態建設中來。
另一方面，跨界融合將成為常態，芯片廠商、設備制造商、通信運營商、軟件服務商等產業鏈各方將加強合作，充分發揮各自優勢，共同推動行業的良性發展。
此外，邊緣智能與云計算、區塊鏈等技術的融合創新，也將催生出更多全新的應用場景和商業模式，為通感智值一體化注入新的活力。
總而言之，通感智值一體化正處于從量變到質變的關鍵時期。隨著泛在智能、極致體驗、生態共榮等趨勢的不斷深入，邊緣側智能化將進入一個全新的發展階段。
寫在最后
縱觀全文，我們不難發現，通感智值一體化正以前所未有的速度和廣度重塑著智能物聯網的發展格局。
從云端到邊緣，從感知到決策，從芯片到模組，從算法到應用，智能正在滲透和重構物聯網的方方面面。這一切，無不昭示著一個全新時代的到來。
在這個時代，邊緣不再是云的附庸，而是智能的重要載體和源泉；感知不再是盲目的數據采集，而是具備分析和決策能力的智慧行為；連接不再是簡單的數據傳輸，而是智能協同與融合的紐帶。通感、智能、價值，正在深度交融，共同編織出一張覆蓋全球的智能物聯2.0大網。
