隨著人工智能技術(shù)從云端向終端遷移，端側(cè)AI直接在終端設(shè)備上運(yùn)行AI模型算法，實(shí)現(xiàn)本地化數(shù)據(jù)處理，具有低延遲、高隱私性、低成本等優(yōu)勢(shì)。端側(cè)AI正成為推動(dòng)終端設(shè)備向更高階智能革新的核心力量。當(dāng)AI開(kāi)始擁抱終端設(shè)備，端側(cè)AI以實(shí)體的方式切實(shí)讓消費(fèi)者感受到AI技術(shù)與終端硬件結(jié)合后帶來(lái)的功能變革。
自今年開(kāi)年以來(lái)，端側(cè)AI的發(fā)展勢(shì)頭可謂如火如荼。終端廠商擁抱AI的態(tài)度非常積極，上游芯片、模組廠商也紛紛加碼端側(cè)AI布局，能很明顯感受到產(chǎn)業(yè)鏈上下游都在追趕端側(cè)AI趨勢(shì)，想利用今年端側(cè)AI落地發(fā)展周期將用戶(hù)生態(tài)培養(yǎng)起來(lái)。端側(cè)AI，可以說(shuō)正在成為數(shù)字經(jīng)濟(jì)時(shí)代的智能新引擎，今年亦是端側(cè)AI落地元年。
站在端側(cè)AI產(chǎn)業(yè)爆發(fā)前夕，如何科學(xué)解構(gòu)端側(cè)AI發(fā)展全景？又該如何把握新機(jī)遇，引領(lǐng)行業(yè)變革？物聯(lián)網(wǎng)智庫(kù)特發(fā)起《端側(cè)AI領(lǐng)袖之聲：中國(guó)端側(cè)AI企業(yè)深度訪談專(zhuān)欄》計(jì)劃，邀請(qǐng)端側(cè)AI上下游企業(yè)參與訪談，為推動(dòng)端側(cè)AI行業(yè)發(fā)展提供有益參考借鑒和指導(dǎo)。
本期《端側(cè)AI領(lǐng)袖之聲：中國(guó)端側(cè)AI企業(yè)深度訪談專(zhuān)欄》，物聯(lián)網(wǎng)智庫(kù)邀請(qǐng)到中國(guó)移動(dòng)拔尖計(jì)劃專(zhuān)家、比鄰智聯(lián)首席專(zhuān)家，產(chǎn)品和研發(fā)負(fù)責(zé)人——孔棟，就端側(cè)AI產(chǎn)業(yè)發(fā)展以及比鄰智聯(lián)目前的端側(cè)AI布局進(jìn)行了深入交流。
端側(cè)部署帶來(lái)獨(dú)特價(jià)值，比鄰智聯(lián)深度布局端側(cè)AI
隨著端側(cè)AI不斷取得進(jìn)展，配套的芯片、模組與終端設(shè)備在探索場(chǎng)景落地的協(xié)同上融合得更加深入，目前我們已經(jīng)看到很多AI功能不再只是淺嘗輒止地嵌入進(jìn)設(shè)備，而是開(kāi)始深度整合到終端設(shè)備的內(nèi)核中，端側(cè)智能實(shí)時(shí)性與低延遲、隱私與數(shù)據(jù)安全、網(wǎng)絡(luò)獨(dú)立性、成本優(yōu)化、個(gè)性化與自適應(yīng)等多方面優(yōu)勢(shì)，也得以進(jìn)一步顯現(xiàn)。
比鄰智聯(lián)也認(rèn)為“端側(cè)AI正逐步成為推動(dòng)智能技術(shù)普適化與場(chǎng)景化落地的關(guān)鍵力量，相較于依賴(lài)云端集中式處理的傳統(tǒng)模式，端側(cè)AI通過(guò)本地化推理實(shí)現(xiàn)了低時(shí)延響應(yīng)、隱私保護(hù)和網(wǎng)絡(luò)獨(dú)立性三大核心價(jià)值突破”。
首先，本地化計(jì)算能夠?qū)崿F(xiàn) 10 毫秒級(jí)響應(yīng)速度，在自動(dòng)駕駛等場(chǎng)景中，可完成道路障礙物識(shí)別、行人軌跡預(yù)判等關(guān)鍵操作，將系統(tǒng)決策延遲降低90%；其次，用戶(hù)生物特征、工業(yè)現(xiàn)場(chǎng)數(shù)據(jù)等敏感信息無(wú)需離端傳輸，從技術(shù)架構(gòu)層面構(gòu)建數(shù)據(jù)安全屏障，避免云端存儲(chǔ)帶來(lái)的隱私泄漏風(fēng)險(xiǎn)；再者，網(wǎng)絡(luò)離線(xiàn)狀態(tài)下仍可維持核心AI功能運(yùn)行，保障智能設(shè)備在礦井、海上等弱網(wǎng)環(huán)境的穩(wěn)定服務(wù)能力。值得關(guān)注的是，端側(cè)大模型并非取代云端，而是形成協(xié)同架構(gòu)，端側(cè)大模型和云端大模型在不同應(yīng)用場(chǎng)景下結(jié)合使用才能讓大模型的價(jià)值充分發(fā)揮。
可以說(shuō)端側(cè)部署帶來(lái)的獨(dú)特價(jià)值，正在為整個(gè)智能硬件行業(yè)，帶來(lái)前所未有的智能化升級(jí)空間。
而在端側(cè)AI落地中，AI模組提供了合理的算力并預(yù)先集成部署客戶(hù)所需要的大模型，是終端廠商快速實(shí)現(xiàn)端側(cè)智能的最佳技術(shù)選擇。物聯(lián)網(wǎng)智庫(kù)的《端側(cè)AI爆發(fā)，AI模組破局DeepSeek在實(shí)體產(chǎn)業(yè)落地最后一公里》中也表達(dá)過(guò)相應(yīng)觀點(diǎn)，對(duì)于端側(cè)AI產(chǎn)業(yè)鏈下游的中小型終端廠商，如何便捷快速高效地為終端產(chǎn)品賦予本地智能是一道難題，作為與終端設(shè)備關(guān)系最緊密的模組廠商，將AI模組與模型技術(shù)融合，為下游提供高效的端側(cè)AI模組產(chǎn)品將大幅縮短端側(cè)智能相關(guān)產(chǎn)品的落地周期，賦能終端設(shè)備享受AI帶來(lái)的變革。
比鄰智聯(lián)作為中國(guó)移動(dòng)首批專(zhuān)精特新重點(diǎn)培育團(tuán)隊(duì)，于2023年12月28日在重慶兩江新區(qū)注冊(cè)成立，是中國(guó)移動(dòng)的模組專(zhuān)業(yè)公司，致力于為構(gòu)建智能互聯(lián)的全球物聯(lián)網(wǎng)生態(tài)作出卓越貢獻(xiàn)。比鄰智聯(lián)已打造“通用+新型+行業(yè)模組”完善的產(chǎn)品體系，涵蓋NB-IoT、4G、5G、車(chē)載、AI、衛(wèi)星模組及方案板產(chǎn)品，能夠滿(mǎn)足各類(lèi)物聯(lián)網(wǎng)細(xì)分場(chǎng)景的需求。當(dāng)前，比鄰智聯(lián)已在能源表計(jì)、金融支付、定位追蹤、共享經(jīng)濟(jì)等行業(yè)實(shí)現(xiàn)千萬(wàn)級(jí)銷(xiāo)量，蜂窩模組銷(xiāo)量份額穩(wěn)居全球第二。
在AI模組方面，比鄰智聯(lián)已推出MS351A、MS372Q、MS373Q等系列產(chǎn)品，覆蓋1T～48T多種算力配置，支持AI算法和模型部署，確保實(shí)時(shí)、安全、可靠的端側(cè)AI推理應(yīng)用，并提供深度定制化開(kāi)發(fā)服務(wù)以滿(mǎn)足多樣化的應(yīng)用場(chǎng)景需求。同時(shí)，比鄰智聯(lián)也針對(duì)工業(yè)質(zhì)檢等細(xì)分場(chǎng)景打造了一體化解決方案，提供“AI+網(wǎng)絡(luò)”算網(wǎng)融合服務(wù)，幫助客戶(hù)加速產(chǎn)品AI升級(jí)。未來(lái)，比鄰智聯(lián)將持續(xù)豐富高低算力搭配的端側(cè)AI模組系列，擴(kuò)展更多場(chǎng)景的應(yīng)用方案，進(jìn)一步推動(dòng)AI能力與IoT場(chǎng)景的深度融合。
中國(guó)移動(dòng)“AI模組+九天大模型”雙輪驅(qū)動(dòng)，重構(gòu)AI全場(chǎng)景滲透力
AI如何在端側(cè)運(yùn)行起來(lái)，最終實(shí)現(xiàn)終端設(shè)備的高階智能化，是產(chǎn)業(yè)鏈突破的方向。當(dāng)前端側(cè)AI發(fā)展的主要技術(shù)障礙集中在硬件算力、模型優(yōu)化與處理復(fù)雜任務(wù)能力之間的平衡。首先，端側(cè)設(shè)備通常體積小巧、功耗受限，難以配備數(shù)據(jù)中心使用的高性能算力芯片。其次，模型壓縮與性能之間的權(quán)衡也面臨挑戰(zhàn)，盡管當(dāng)前主流的模型蒸餾技術(shù)能夠減少參數(shù)量，但往往伴隨著明顯的精度下降。最后，端側(cè)設(shè)備在處理視覺(jué)、語(yǔ)音、傳感器等多種異構(gòu)數(shù)據(jù)時(shí)，現(xiàn)有的端側(cè)AI框架在跨模態(tài)對(duì)齊能力上存在顯著的不足。
在端側(cè)AI的產(chǎn)業(yè)落地發(fā)展過(guò)程中，需要基于垂直行業(yè)優(yōu)化的算力模組以及適配的端側(cè)優(yōu)質(zhì)模型來(lái)解決這些困擾。
比鄰智聯(lián)表示今年會(huì)推出更多款不同算力配置的AI模組，搭配DeepSeek、千問(wèn)、豆包、九天等主流端側(cè)大模型及行業(yè)端側(cè)小模型，為不同場(chǎng)景提供精準(zhǔn)匹配的解決方案，并為客戶(hù)提供從模型優(yōu)化到部署的全流程支持。
目前比鄰智聯(lián)已經(jīng)全面對(duì)接中移九天基座大模型和九天深度思考大模型，在自然語(yǔ)言推理與邏輯處理方面表現(xiàn)卓越。九天大模型是由中國(guó)移動(dòng)九天智能團(tuán)隊(duì)研發(fā)的大規(guī)模預(yù)訓(xùn)練模型，旨在成為人工智能領(lǐng)域的核心引擎。該模型技術(shù)路線(xiàn)更注重多模態(tài)能力、全棧國(guó)產(chǎn)化適配以及垂直行業(yè)深度優(yōu)化，以實(shí)現(xiàn)高性能和更貼近行業(yè)需求的應(yīng)用前景。九天已經(jīng)發(fā)布1B和3B參數(shù)量的端側(cè)語(yǔ)言大模型，下半年還會(huì)發(fā)布2B參數(shù)的多模態(tài)端側(cè)大模型。此外，比鄰智聯(lián)在聯(lián)合生態(tài)伙伴積極探索RISC-V國(guó)產(chǎn)計(jì)算芯片在端側(cè)AI模組上的應(yīng)用。比鄰智聯(lián)依托中國(guó)移動(dòng)強(qiáng)大的科研實(shí)力，實(shí)現(xiàn)從模組硬件到大模型應(yīng)用的全鏈路自主可控，為行業(yè)提供安全可靠的智能化基座。
“國(guó)產(chǎn)模組+場(chǎng)景定制”雙軸賦能，開(kāi)啟端側(cè)智能新時(shí)代
當(dāng)前一些表現(xiàn)突出的端側(cè)AI細(xì)分市場(chǎng)包括智能手機(jī)、AI PC、智能座艙與自動(dòng)駕駛、AI眼鏡等智能穿戴設(shè)備。未來(lái)值得關(guān)注的潛力市場(chǎng)還包括工業(yè)制造中的設(shè)備故障預(yù)測(cè)和質(zhì)量檢測(cè)、智能家居與智能生活物聯(lián)網(wǎng)、醫(yī)療健康便攜智能設(shè)備等。不同應(yīng)用場(chǎng)景對(duì)模組算力、功耗、尺寸以及模型的需求有著差異，因此針對(duì)不同的垂直行業(yè)細(xì)分應(yīng)用，對(duì)模組進(jìn)行適當(dāng)?shù)墓こ袒涮罪@得尤為重要。
在工業(yè)質(zhì)檢領(lǐng)域，比鄰智聯(lián)就已經(jīng)推出了一套完整的解決方案，包括機(jī)器視覺(jué)相關(guān)算法，可以在產(chǎn)線(xiàn)上進(jìn)行全方位檢測(cè)。“中低速端側(cè)AI模組在金融支付領(lǐng)域發(fā)貨量很大，POS這種端側(cè)設(shè)備也有智能化升級(jí)的需求，目前我們正在和客戶(hù)一起設(shè)計(jì)解決方案，實(shí)現(xiàn)風(fēng)險(xiǎn)防控、防欺詐實(shí)時(shí)檢測(cè)、多模態(tài)模型身份認(rèn)證等功能。”比鄰智聯(lián)表示。
通過(guò)在模組設(shè)計(jì)上的工程化能力，基于不同行業(yè)客戶(hù)不同垂直應(yīng)用領(lǐng)域，對(duì)端側(cè)AI模組做定制化開(kāi)發(fā)，模組廠商讓終端廠商能夠快速應(yīng)用到前沿AI技術(shù)，為硬件終端賦予本地智能。傳統(tǒng)的行業(yè)應(yīng)用也在本地智能的加持下，重構(gòu)出新的應(yīng)用范式。
比鄰智聯(lián)特別強(qiáng)調(diào)，隨著國(guó)產(chǎn)化模組在算力密度（如異構(gòu)計(jì)算架構(gòu)優(yōu)化）與算法適配性（如輕量化模型部署）上的持續(xù)突破，中國(guó)端側(cè) AI 產(chǎn)業(yè)鏈將從單點(diǎn)替代轉(zhuǎn)向系統(tǒng)性創(chuàng)新，形成從芯片設(shè)計(jì)、算法開(kāi)發(fā)到行業(yè)應(yīng)用的全閉環(huán)生態(tài)。
展望2025端側(cè)AI
展望今年的端側(cè)AI發(fā)展，比鄰智聯(lián)認(rèn)為，“2025年是端側(cè)AI爆發(fā)之年，端側(cè)AI將深刻重塑整個(gè)行業(yè)生態(tài)。從技術(shù)發(fā)展來(lái)看，多模態(tài)技術(shù)將進(jìn)一步推動(dòng)終端設(shè)備從單一感知向一個(gè)多維交互演進(jìn)；其次端側(cè)AI芯片現(xiàn)在正向異構(gòu)計(jì)算架構(gòu)演進(jìn)；存算一體架構(gòu)也是技術(shù)發(fā)展的重要演進(jìn)方向”。
“在模組端，比鄰智聯(lián)聚焦于通用端側(cè)AI平臺(tái)，再加上垂直行業(yè)定制策略來(lái)構(gòu)建生態(tài)競(jìng)爭(zhēng)力。通過(guò)AI模組加上預(yù)植入的模型實(shí)現(xiàn)端側(cè)的智能化，將不斷深入挖掘出端側(cè)AI各垂直領(lǐng)域的應(yīng)用潛力”。
