作者：彭昭（智次方創(chuàng)始人、云和資本聯(lián)合創(chuàng)始合伙人）
這是我的第364篇專欄文章。
近期，微型機(jī)器學(xué)習(xí)TinyML領(lǐng)域取得了里程碑式的進(jìn)展，跨越了一個(gè)重要的分水嶺。這一技術(shù)的成熟度和發(fā)展?jié)摿Χ紝⑦~上新的臺(tái)階。
其中最具代表性的事件是3月11日高通宣布收購(gòu)Edge Impulse。
Edge Impulse是TinyML領(lǐng)域的代表性公司，此次收購(gòu)預(yù)計(jì)將在數(shù)周內(nèi)完成。在此之前，該公司曾發(fā)布了一份題為《邊緣AI終極指南：邊緣智能業(yè)務(wù)轉(zhuǎn)型手冊(cè)》的報(bào)告，這份報(bào)告對(duì)于理解TinyML的發(fā)展趨勢(shì)和商業(yè)價(jià)值有重要參考意義。
在我此前的多篇文章中，例如《從LLM大模型到SLM小模型再到TinyML，這個(gè)領(lǐng)域有望增長(zhǎng)31倍并催生新的商業(yè)模式》，我曾對(duì)TinyML進(jìn)行過(guò)深入的介紹和分析。
TinyML作為一種優(yōu)化機(jī)器學(xué)習(xí)模型的技術(shù)，使其能夠在資源受限的設(shè)備（如微控制器）上高效運(yùn)行。盡管這些模型的體積小巧，運(yùn)算高效，但卻足以勝任語(yǔ)音識(shí)別、傳感器數(shù)據(jù)分析等任務(wù)。與運(yùn)行大型語(yǔ)言模型LLM等AI技術(shù)的芯片相比，TinyML設(shè)備的成本更低，功耗更小，但性能表現(xiàn)依然出色。
TinyML的崛起，將極大地推動(dòng)端側(cè)AI和邊緣智能的發(fā)展。
當(dāng)前，人們對(duì)生成式AI的認(rèn)知正在發(fā)生微妙的轉(zhuǎn)變。過(guò)去，人們普遍認(rèn)為模型參數(shù)越多，性能就越好；而現(xiàn)在，越來(lái)越多的人開(kāi)始認(rèn)識(shí)到，小模型也能發(fā)揮出巨大的潛力。
隨著AI工具庫(kù)變得越來(lái)越強(qiáng)大，編程方式也變得越來(lái)越簡(jiǎn)單（例如使用自然語(yǔ)言），AI技術(shù)的使用正變得更加平民化。此外，業(yè)界正在努力將推理過(guò)程盡可能地靠近數(shù)據(jù)源，因此邊緣AI正受到越來(lái)越多的關(guān)注。
鑒于此，本文將深入探討高通收購(gòu)Edge Impulse的意義，分析值得關(guān)注的邊緣AIoT平臺(tái)，并提煉《邊緣AI終極指南》中的精華內(nèi)容，以期為讀者全面解析TinyML的技術(shù)趨勢(shì)和商業(yè)前景。
Edge Impulse并入高通，簡(jiǎn)化邊緣AI開(kāi)發(fā)流程
高通公司于3月11日宣布收購(gòu)邊緣AI技術(shù)公司Edge Impulse。
此次收購(gòu)將整合Edge Impulse的邊緣AI開(kāi)發(fā)平臺(tái)，增強(qiáng)高通在AIoT領(lǐng)域的能力，推動(dòng)高通在工業(yè)自動(dòng)化、智慧醫(yī)療等領(lǐng)域的智能化滲透。
Edge Impulse是一家成立僅6年的公司，由芬蘭企業(yè)家扎克·謝爾比與荷蘭工程師揚(yáng)·瓊布姆于2019年共同創(chuàng)立。
兩位創(chuàng)始人在ARM公司從事物聯(lián)網(wǎng)系統(tǒng)工作時(shí)相識(shí)，他們共同發(fā)現(xiàn)了一片藍(lán)海市場(chǎng)—TinyML微型機(jī)器學(xué)習(xí)。他們意識(shí)到，隨著微控制器計(jì)算能力的發(fā)展，已經(jīng)能夠直接在板上運(yùn)行特定領(lǐng)域的人工智能模型。如果將人工智能從云端轉(zhuǎn)移到邊緣，將有無(wú)數(shù)的應(yīng)用場(chǎng)景受益。
自成立之初，Edge Impulse的使命就是簡(jiǎn)化邊緣設(shè)備的機(jī)器學(xué)習(xí)開(kāi)發(fā)流程，幫助開(kāi)發(fā)者快速構(gòu)建和部署嵌入式AI應(yīng)用，推動(dòng)智能設(shè)備的普及。
Edge Impulse構(gòu)建的AIoT平臺(tái)，可以大大縮短為傳感器、微控制器和攝像機(jī)等小型設(shè)備創(chuàng)建機(jī)器學(xué)習(xí)模型所需的時(shí)間。
Edge Impulse為開(kāi)發(fā)人員提供了一套完整的工具，可以自動(dòng)收集數(shù)據(jù)、簡(jiǎn)化模型訓(xùn)練、提供高級(jí)優(yōu)化功能，并支持一鍵部署到多種類型的硬件，從MCU微控制器到CPU中央處理器、GPU圖形處理器和NPU神經(jīng)網(wǎng)絡(luò)處理器。
目前，Edge Impulse的平臺(tái)已支持超過(guò)17萬(wàn)開(kāi)發(fā)者，覆蓋25萬(wàn)個(gè)機(jī)器學(xué)習(xí)項(xiàng)目，客戶包括全球頂級(jí)芯片供應(yīng)商（如意法半導(dǎo)體、恩智浦）和終端企業(yè)。
迄今為止，Edge Impulse已籌集了5430萬(wàn)美元的資金。2021年，該公司在B輪融資中獲得了3400萬(wàn)美元，估值達(dá)到2.34億美元。兩年后，該公司報(bào)告的收入為1470萬(wàn)美元。
高通收購(gòu)Edge Impulse可以彌補(bǔ)其在端側(cè)和邊緣AI領(lǐng)域的技術(shù)短板，并加速向AIoT轉(zhuǎn)型。
Edge Impulse的平臺(tái)能夠與高通的芯片組和軟件架構(gòu)形成互補(bǔ)，幫助開(kāi)發(fā)者在低功耗設(shè)備上快速部署AI應(yīng)用。
據(jù)悉，預(yù)計(jì)本次收購(gòu)將于數(shù)周內(nèi)完成。收購(gòu)?fù)瓿珊螅咄▽⒛軌驗(yàn)殚_(kāi)發(fā)者提供更高效的AI開(kāi)發(fā)工具，加速物聯(lián)網(wǎng)應(yīng)用的商業(yè)化進(jìn)程。在工業(yè)、醫(yī)療和零售等領(lǐng)域，邊緣AI的普及將推動(dòng)智能化轉(zhuǎn)型，提升運(yùn)營(yíng)效率和決策能力。
上圖展示了兩者結(jié)合后的優(yōu)勢(shì)，Edge Impulse平臺(tái)與高通的邊緣AI工作流程和高通AI Hub、Foundries.io等工具配合使用，可以更廣泛地訪問(wèn)新模型、測(cè)試環(huán)境和部署選項(xiàng)。
在一篇博文中，Edge Impulse創(chuàng)始人謝爾比介紹了并入高通的意義。
對(duì)Edge Impulse用戶而言，這意味著邊緣人工智能將變得更加簡(jiǎn)單、易于使用。與高通的合作將加速對(duì)功能強(qiáng)大的Dragonwing處理器的計(jì)算機(jī)視覺(jué)、音頻、語(yǔ)音識(shí)別和生成式人工智能的支持。除了支持高通的硬件，Edge Impulse還將繼續(xù)支持來(lái)自廣泛合作伙伴的邊緣硬件，包括MCU、CPU、GPU和NPU。用戶可以像往常一樣，使用Edge Impulse將模型部署到自己喜歡的硬件上。
對(duì)高通而言，Edge Impulse將為其物聯(lián)網(wǎng)戰(zhàn)略方針增添重要組成部分。無(wú)論經(jīng)驗(yàn)水平如何，用戶都可以從完整且直觀的邊緣AI開(kāi)發(fā)工作流程中受益。從數(shù)據(jù)準(zhǔn)備和AI實(shí)驗(yàn)，到在各種邊緣硬件（包括Dragonwing處理器）上優(yōu)化和部署AI模型，用戶都可以立即開(kāi)始嘗試。此外，企業(yè)和工業(yè)應(yīng)用可以利用全新Edge Impulse與高通AI Hub的集成，分析并提升針對(duì)高通硬件的模型性能，加速高性能物聯(lián)網(wǎng)設(shè)備的創(chuàng)新。
TinyML設(shè)備：麻雀雖小五臟俱全的開(kāi)發(fā)挑戰(zhàn)
TinyML模型運(yùn)行于微控制器芯片，這類芯片常見(jiàn)于洗衣機(jī)、冰箱、汽車安全氣囊等各種設(shè)備中。
最初設(shè)想的TinyML消耗的電量非常少（不到1毫瓦），因此設(shè)備可以使用紐扣電池運(yùn)行一年或更長(zhǎng)時(shí)間，并且?guī)缀蹩梢杂肋h(yuǎn)使用太陽(yáng)能供電。雖然目前尚未廣泛達(dá)到這一閾值，但TinyML設(shè)備已經(jīng)可以使用AA電池運(yùn)行數(shù)周甚至數(shù)月。
芯片本身價(jià)格低廉，可從多家制造商處購(gòu)買。因此，大多數(shù)TinyML設(shè)備的價(jià)格從幾美元到幾十美元不等，具體取決于其功能的強(qiáng)大程度。
這些設(shè)備通常不僅包括芯片，還包括攝像頭和傳感器，用于檢測(cè)圖像和聲音，以供AI模型進(jìn)行分析。目前工程師們使用的TinyML軟件、硬件和數(shù)據(jù)集都是開(kāi)源的，這意味著它們可以被自由訪問(wèn)和修改。
盡管TinyML設(shè)備看似簡(jiǎn)單，但開(kāi)發(fā)起來(lái)卻充滿挑戰(zhàn)。
首先，它需要多種技能的專業(yè)知識(shí)，包括硬件、軟件和機(jī)器學(xué)習(xí)，很少有人能夠全面掌握，其次，結(jié)合所有這些技能也需要時(shí)間。因此，能夠簡(jiǎn)化開(kāi)發(fā)、有效部署的端側(cè)和邊緣AI開(kāi)發(fā)平臺(tái)成為了必選項(xiàng)。
Edge Impulse提供了《邊緣AI終極指南：邊緣AI業(yè)務(wù)轉(zhuǎn)型手冊(cè)》，其中包含了關(guān)于邊緣AI如何改變業(yè)務(wù)的關(guān)鍵要點(diǎn)，以及如何利用這項(xiàng)突破性技術(shù)的實(shí)用見(jiàn)解。
全球邊緣人工智能的增長(zhǎng)和預(yù)測(cè)顯示，預(yù)計(jì)到2033年，全球邊緣AI市場(chǎng)規(guī)模將從2023年的190億美元增至約1630億美元。
為邊緣AI提供支持的軟件和硬件市場(chǎng)也在不斷增長(zhǎng)。邊緣AI軟件解決方案正在成為現(xiàn)代數(shù)字基礎(chǔ)設(shè)施不可或缺的一部分。這個(gè)不斷增長(zhǎng)的市場(chǎng)涵蓋了各種工具和平臺(tái)，旨在實(shí)現(xiàn)從物聯(lián)網(wǎng)傳感器到工業(yè)設(shè)備等邊緣硬件的AI推理和訓(xùn)練。邊緣AI軟件的全球市場(chǎng)規(guī)模預(yù)計(jì)將從2023年的11億美元增長(zhǎng)到2028年的41億美元。
在硬件方面，根據(jù)Markets and Markets的數(shù)據(jù)，到2029年，全球邊緣AI硬件市場(chǎng)價(jià)值預(yù)計(jì)將達(dá)到547億美元。
邊緣設(shè)備和處理器構(gòu)成了邊緣AI實(shí)現(xiàn)的支柱，支持在各種應(yīng)用中進(jìn)行本地處理和決策。這些設(shè)備包括專用的AI加速器和神經(jīng)處理單元NPU，以及針對(duì)邊緣計(jì)算優(yōu)化的更通用的片上系統(tǒng)SoC。
《邊緣AI終極指南》還提供了如何評(píng)估邊緣AI的準(zhǔn)備情況、如何制定邊緣AI的發(fā)展路線圖，以及如何測(cè)算投資回報(bào)率等內(nèi)容，具有參考價(jià)值。
邊緣AI成熟度評(píng)估清單可以幫助組織評(píng)估是否已為成功的邊緣AI之旅做好準(zhǔn)備。此清單將指導(dǎo)評(píng)估實(shí)施和擴(kuò)展邊緣AI計(jì)劃所必需的關(guān)鍵要素。
邊緣AI路線圖旨在指導(dǎo)完成規(guī)劃、實(shí)施和優(yōu)化邊緣AI戰(zhàn)略的關(guān)鍵步驟。通過(guò)探索有效的邊緣AI路線圖的關(guān)鍵組成部分，組織可以更好地構(gòu)建未來(lái)。
測(cè)算ROI也是關(guān)鍵步驟之一，因?yàn)樵S多組織將面臨邊緣AI戰(zhàn)略的關(guān)鍵決策：自建還是購(gòu)買。在邊緣AI的早期，DIY方法通常是唯一的選擇，需要公司組裝復(fù)雜的組件、工具和資源。然而DIY也是一種具有挑戰(zhàn)性的方法，需要廣泛領(lǐng)域的專業(yè)知識(shí)才能實(shí)現(xiàn)。
感興趣的朋友可以點(diǎn)擊鏈接下載：
https://pages.edgeimpulse.com/the-ultimate-guide-to-edge-ai
邊緣AIoT平臺(tái)巡禮：高通、英偉達(dá)、谷歌等巨頭參與角逐
隨著邊緣AI的不斷發(fā)展，支持AIoT的新型平臺(tái)也應(yīng)運(yùn)而生。
任何旨在支持AIoT連接的平臺(tái)都必須有效地結(jié)合人工智能和物聯(lián)網(wǎng)平臺(tái)領(lǐng)域的功能。這頗具挑戰(zhàn)性，因?yàn)槿斯ぶ悄艿奶攸c(diǎn)是軟件的快速迭代和更新，而物聯(lián)網(wǎng)的特點(diǎn)是設(shè)備的資源受限、分散部署、而且需要在無(wú)人干預(yù)的情況下運(yùn)行多年。
在一份新報(bào)告《AIoT需要什么樣的平臺(tái)？》中，Transforma Insights確定了支持AIoT所需的軟件平臺(tái)必備功能。
雖然許多功能已經(jīng)存在，然而，現(xiàn)有的物聯(lián)網(wǎng)平臺(tái)通常尚未針對(duì)支持分布式人工智能進(jìn)行優(yōu)化，而人工智能平臺(tái)通常沒(méi)有考慮到物聯(lián)網(wǎng)環(huán)境的所有約束。目前能夠兼顧物聯(lián)網(wǎng)和人工智能的AIoT平臺(tái)仍屬少數(shù)。
通過(guò)收購(gòu)Edge Impulse，高通將成為邊緣AIoT平臺(tái)的有力參與者之一。
其他知名的邊緣AIoT開(kāi)發(fā)平臺(tái)還包括：
英偉達(dá)Jetson
Jetson是一個(gè)強(qiáng)大的邊緣AIoT應(yīng)用平臺(tái)，提供一系列針對(duì)AI和深度學(xué)習(xí)任務(wù)量身定制的硬件和軟件解決方案。它以緊湊的外形提供高性能計(jì)算能力，使其成為機(jī)器人、智能城市和醫(yī)療保健等應(yīng)用的選擇。
谷歌Coral
Coral致力于將AI處理擴(kuò)展到邊緣設(shè)備。為此，它提供了Coral Dev Board和USB Accelerator等模塊，以及用于AI推理的TPU。谷歌Coral與TensorFlow Lite配合使用，使開(kāi)發(fā)人員能夠更輕松地部署模型。
AWS IoT Greengrass
AWS IoT Greengrass是一種將AWS云服務(wù)擴(kuò)展到邊緣設(shè)備的技術(shù)，使它們能夠在本地對(duì)其生成的數(shù)據(jù)采取行動(dòng)。它支持機(jī)器學(xué)習(xí)推理、數(shù)據(jù)處理和設(shè)備之間的安全通信。
Microsoft Azure IoT Edge
Microsoft Azure IoT Edge是一項(xiàng)完全托管的服務(wù)，通過(guò)在IoT設(shè)備上直接部署和運(yùn)行AI、Azure服務(wù)和自定義邏輯，在本地提供云智能。它采用了一系列開(kāi)發(fā)應(yīng)用程序，并且還與Azure機(jī)器學(xué)習(xí)兼容以進(jìn)行模型部署。
英特爾OpenVINO
英特爾OpenVINO（開(kāi)放式視覺(jué)推理和神經(jīng)網(wǎng)絡(luò)優(yōu)化）工具包通過(guò)其設(shè)計(jì)加速了英特爾硬件上的AI工作負(fù)載。它專注于深度學(xué)習(xí)模型，并能夠分發(fā)到各種邊緣設(shè)備。OpenVINO支持計(jì)算機(jī)視覺(jué)和自然語(yǔ)言處理應(yīng)用程序，因此，它也可以被視為醫(yī)療保健、零售和工業(yè)自動(dòng)化等行業(yè)進(jìn)行AI開(kāi)發(fā)的多功能工具。
IBM Edge應(yīng)用程序管理器
IBM邊緣應(yīng)用程序管理器是用于安裝和運(yùn)行基于AI的邊緣設(shè)備應(yīng)用程序的全套解決方案。此工具是自我管理的，用戶可以在出現(xiàn)新版本或更新時(shí)進(jìn)行部署。IBM的Edge Cluster Manager平臺(tái)提供了各種用例場(chǎng)景，例如工業(yè)自動(dòng)化、能源管理和遠(yuǎn)程生產(chǎn)力工具。
索尼Spresense
Spresense是一款專為邊緣計(jì)算應(yīng)用而設(shè)計(jì)的小型開(kāi)發(fā)板。它由多核微控制器構(gòu)建，支持多個(gè)AI框架，因此非常適合音頻處理、計(jì)算機(jī)視覺(jué)操作和其他AI用途。
寫在最后
隨著邊緣AI的迅速發(fā)展，TinyML正迎來(lái)一個(gè)全新的時(shí)代。
高通對(duì)Edge Impulse的收購(gòu)，不僅彰顯了行業(yè)巨頭對(duì)TinyML和AIoT的高度重視，更預(yù)示著邊緣AIoT平臺(tái)競(jìng)爭(zhēng)的加劇。未來(lái)，隨著5G、IoT等技術(shù)的進(jìn)一步普及，邊緣AI將在更多領(lǐng)域大放異彩。
最后，值得一提的是隨著TinyML已成為許多嵌入式邊緣用例的常態(tài)，TinyML基金會(huì)進(jìn)行了品牌重塑。該基金會(huì)已更名為Edge AI基金會(huì)，以便更好地與生態(tài)系統(tǒng)合作伙伴一起，實(shí)踐在邊緣提供可擴(kuò)展、低功耗AI的承諾。
參考資料：
1.Our Next Chapter: Edge Impulse is Joining Forces with Qualcomm Technologies，作者：Zach Shelby，來(lái)源：Edge Impulse2.The Ultimate Guide to Edge AI，來(lái)源：Edge Impulse
