人工智能大模型與硬件的融合正在如火如荼地進(jìn)行，但在B2C消費(fèi)端似乎遇到了阻力。
據(jù)The Information報(bào)道，蘋果前設(shè)計(jì)總監(jiān)Jony Ive和OpenAI的CEO Sam Altman已聯(lián)手設(shè)計(jì)一款A(yù)I驅(qū)動(dòng)的個(gè)人設(shè)備，并正在尋求至少10億美元的融資。然而，過去幾周發(fā)布的基于最新AI大模型驅(qū)動(dòng)的B2C智能硬件卻受到了諷刺和批評(píng)，如Humane Pin和Rabbit R1。第一批購(gòu)買者認(rèn)為，這些設(shè)備的易用性明顯不如智能手機(jī)。
盡管大模型硬件在B2C領(lǐng)域遇阻，但在B2B領(lǐng)域，大模型與邊緣計(jì)算的結(jié)合卻取得了突破性進(jìn)展，推進(jìn)了智能物聯(lián)2.0的演進(jìn)，朝著“通感智值一體化”邁出了堅(jiān)實(shí)一步。
隨著越來越多企業(yè)開始將傳感器、通信網(wǎng)關(guān)、控制器、執(zhí)行器等整合，形成了“通感智值一體化”，即通信、感知、智能、價(jià)值的一體化。
本文將探索大模型與邊緣計(jì)算結(jié)合的最新進(jìn)展，以及“通感智值一體化”如何創(chuàng)造更大價(jià)值。
邊緣智能三大趨勢(shì)：云訓(xùn)練下放、NPU加速、Tiny AI賦能
邊緣計(jì)算是指在數(shù)據(jù)產(chǎn)生或消費(fèi)源附近部署智能計(jì)算資源。根據(jù)計(jì)算能力和部署位置的不同，邊緣可分為基礎(chǔ)設(shè)施邊緣（厚邊緣）、設(shè)備邊緣（薄邊緣）和終端邊緣（微邊緣）三種類型。
基礎(chǔ)設(shè)施邊緣（厚邊緣）：通常位于數(shù)據(jù)中心內(nèi)，配備了高性能的中央處理器(CPU)或圖形處理器(GPU)，專門用于處理計(jì)算密集型任務(wù)，如數(shù)據(jù)存儲(chǔ)和分析。典型的厚邊緣設(shè)備包括蜂窩無線基站、區(qū)域性數(shù)據(jù)中心和某些特定的中央機(jī)房。
設(shè)備邊緣（薄邊緣）：包括智能控制器、網(wǎng)絡(luò)設(shè)備和計(jì)算機(jī)，它們負(fù)責(zé)聚合來自傳感器和其他數(shù)據(jù)生成設(shè)備的數(shù)據(jù)。常見的薄邊緣設(shè)備有物聯(lián)網(wǎng)網(wǎng)關(guān)、交換機(jī)、路由器和本地服務(wù)器。
終端邊緣（微邊緣）：指那些直接生成數(shù)據(jù)的智能傳感器和設(shè)備。
邊緣智能是指將人工智能模型部署在邊緣設(shè)備上，使其能夠在無需持續(xù)連接云端的情況下實(shí)現(xiàn)AI推理和決策。
當(dāng)前，邊緣智能正呈現(xiàn)出三大發(fā)展趨勢(shì)：厚邊緣AI訓(xùn)練、薄邊緣和微邊緣NPU加速，以及微邊緣Tiny AI賦能。
云端重?fù)?dān)下放，AI模型訓(xùn)練遷移至厚邊緣
隨著高性能CPU和GPU的集成，人工智能模型訓(xùn)練正在從集中式云端向邊緣服務(wù)器或微型數(shù)據(jù)中心轉(zhuǎn)移。這不僅降低了對(duì)云基礎(chǔ)設(shè)施的依賴和成本，還增強(qiáng)了數(shù)據(jù)隱私保護(hù)，提高了邊緣設(shè)備上人工智能應(yīng)用的響應(yīng)速度。
這一趨勢(shì)有助于實(shí)現(xiàn)數(shù)據(jù)的就地處理和分析，減少了數(shù)據(jù)在網(wǎng)絡(luò)中的傳輸，從而降低了延遲和安全風(fēng)險(xiǎn)，提高了AI應(yīng)用的實(shí)時(shí)性和可靠性。
例如MAINGEAR公司和Phison公司聯(lián)合推出的PRO AI工作站，以及Aetina公司的AIP-FR68邊緣AI訓(xùn)練平臺(tái)，都體現(xiàn)了這一趨勢(shì)。
NPU芯片加持，微邊緣和薄邊緣AI推理加速
在微邊緣和薄邊緣設(shè)備中集成專用的神經(jīng)網(wǎng)絡(luò)處理器(NPU)，可以顯著增強(qiáng)其AI推理能力，同時(shí)節(jié)省功耗、優(yōu)化熱管理，實(shí)現(xiàn)高效的多任務(wù)處理。這使得AI能夠在可穿戴設(shè)備和傳感器節(jié)點(diǎn)等對(duì)功耗和延遲敏感的應(yīng)用中得到廣泛部署。
NPU的加入使得邊緣設(shè)備具備了強(qiáng)大的AI計(jì)算能力，可以在本地完成復(fù)雜的推理任務(wù)，大大減少了對(duì)云端的依賴，提高了數(shù)據(jù)處理的實(shí)時(shí)性和隱私性。
NXP的新型MCX N系列微控制器(MCU)和ARM的Cortex A55+Ethos U65 NPU設(shè)置，展示了NPU集成帶來的性能提升。NXP的MCU機(jī)器學(xué)習(xí)推理速度比單獨(dú)的CPU內(nèi)核快42倍；ARM則通過設(shè)置將70%的AI推理從CPU卸載到NPU，推理性能提高了11倍。
Tiny AI注智，傳統(tǒng)設(shè)備秒變微邊緣AI
微型人工智能/機(jī)器學(xué)習(xí)(Tiny AI/ML)則進(jìn)一步將AI能力引入資源受限的微邊緣設(shè)備。通過將小型AI/ML模型集成到日常物品和工具中，使其能夠自主執(zhí)行決策功能，無需云端連接，既增強(qiáng)了數(shù)據(jù)隱私和安全，又賦予了傳統(tǒng)設(shè)備智能化的能力。
Tiny AI的出現(xiàn)大大拓展了AI的應(yīng)用場(chǎng)景和范圍，使得傳統(tǒng)的“啞”設(shè)備也能夠變得智能化，具備一定的感知、學(xué)習(xí)和決策能力，為萬物智聯(lián)2.0時(shí)代的到來奠定了基礎(chǔ)。
例如MY VOICE AI的NANOVOICE語(yǔ)音驗(yàn)證方案、SensiML的智能鉆頭異常檢測(cè)模型，以及Nordic Semiconductor的Thingy:53原型設(shè)備，都是微型AI/ML在微邊緣設(shè)備上的創(chuàng)新應(yīng)用。比如Thingy:53使用嵌入式微型機(jī)器學(xué)習(xí)模型來感測(cè)設(shè)備振動(dòng)，該系統(tǒng)可以在檢測(cè)到異常情況時(shí)切斷設(shè)備或機(jī)器的電源。
蜂窩物聯(lián)網(wǎng)模組邁向新階段，AI算力成關(guān)鍵驅(qū)動(dòng)力
隨著人工智能與蜂窩物聯(lián)網(wǎng)的不斷融合，將支持AI的芯片組直接集成到物聯(lián)網(wǎng)設(shè)備中已成為一種新興趨勢(shì)。這標(biāo)志著智能、自主的物聯(lián)網(wǎng)系統(tǒng)正在崛起，能夠在本地進(jìn)行實(shí)時(shí)決策。
這一趨勢(shì)有望為智慧城市和工業(yè)制造等領(lǐng)域帶來革命性的變革，不僅可以實(shí)現(xiàn)實(shí)時(shí)數(shù)據(jù)處理、降低延遲，還能通過更小巧的設(shè)備尺寸提高效率。
在這股浪潮中，智能模組和AI蜂窩物聯(lián)網(wǎng)模組成為推動(dòng)市場(chǎng)增長(zhǎng)的重要引擎。這類模組搭載了嵌入式計(jì)算資源，能夠直接在物聯(lián)網(wǎng)設(shè)備上執(zhí)行復(fù)雜的數(shù)據(jù)分析，甚至是AI推理任務(wù)。預(yù)計(jì)到2027年，這些先進(jìn)模組的出貨量將以76%的年復(fù)合增長(zhǎng)率持續(xù)攀升。
事實(shí)上，業(yè)界常提及的”算力模組”概念與智能模組和AI蜂窩物聯(lián)網(wǎng)模組高度重合，代表了蜂窩物聯(lián)網(wǎng)技術(shù)的最新發(fā)展方向。市場(chǎng)研究機(jī)構(gòu)Counterpoint也發(fā)現(xiàn)，2023年模組廠商出貨的產(chǎn)品中，約12%在軟硬件層面具備AI功能。這些模組在汽車、路由器/CPE和PC等高端市場(chǎng)越來越受青睞，有助于應(yīng)對(duì)這些領(lǐng)域日益增長(zhǎng)的數(shù)據(jù)負(fù)載。
總體而言，蜂窩物聯(lián)網(wǎng)模組的發(fā)展歷程可劃分為三個(gè)重疊的階段：傳統(tǒng)模組、智能模組和AI使能模組。
傳統(tǒng)物聯(lián)網(wǎng)模組作為基本的連接模塊，主要功能是實(shí)現(xiàn)蜂窩通信，僅包含支持通信的芯片組，無需額外功能。
智能物聯(lián)網(wǎng)模組在提供連接功能的同時(shí)，還集成了額外的計(jì)算硬件，如中央處理器(CPU)和圖形處理器(GPU)。
AI使能物聯(lián)網(wǎng)模組則在智能模組的基礎(chǔ)上，進(jìn)一步集成了專用的AI加速芯片組，如神經(jīng)處理單元(NPU)、張量處理單元(TPU)或并行處理單元(PPU)等。
相比傳統(tǒng)模組和智能模組，AI使能的蜂窩物聯(lián)網(wǎng)模組問世時(shí)間相對(duì)較短。但它有望徹底改變各行各業(yè)的面貌。通過將AI直接集成到物聯(lián)網(wǎng)模組中，AI推理可以在邊緣側(cè)實(shí)時(shí)執(zhí)行，實(shí)現(xiàn)快速、自主的本地決策。這不僅減少了蜂窩網(wǎng)絡(luò)上的數(shù)據(jù)傳輸，節(jié)省了帶寬和成本，還能滿足時(shí)間敏感型應(yīng)用的即時(shí)決策需求。
此外，在連接模組中嵌入AI芯片組可以節(jié)省空間，簡(jiǎn)化物聯(lián)網(wǎng)設(shè)備的外形尺寸。簡(jiǎn)而言之，這些模組正從單純的數(shù)據(jù)通信推進(jìn)器，演變?yōu)槟軌颡?dú)立處理工作負(fù)載的智能邊緣節(jié)點(diǎn)。
例如廣和通公司的智能割草機(jī)器人解決方案，就是AI蜂窩物聯(lián)網(wǎng)模組的一個(gè)典型應(yīng)用。它利用高通智能模塊實(shí)現(xiàn)強(qiáng)大的設(shè)備端計(jì)算，不僅能繪制環(huán)境圖、避開障礙物，還能經(jīng)濟(jì)高效地識(shí)別割草范圍，而無需持續(xù)連接云端。這充分展示了支持AI芯片組在物聯(lián)網(wǎng)設(shè)備中的實(shí)際價(jià)值。
創(chuàng)通聯(lián)達(dá)公司的EB3G2物聯(lián)網(wǎng)邊緣網(wǎng)關(guān)，則利用高通SoC執(zhí)行設(shè)備上的AI模型。該SoC可實(shí)現(xiàn)即時(shí)數(shù)據(jù)分析，減少延遲和云依賴。網(wǎng)關(guān)內(nèi)置的算法能夠進(jìn)行人體檢測(cè)和跟蹤，對(duì)安全和流量管理等場(chǎng)景大有裨益。
通感智值一體化的未來：泛在智能、極致體驗(yàn)、生態(tài)共榮
隨著邊緣智能的不斷發(fā)展和蜂窩物聯(lián)網(wǎng)模組的升級(jí)迭代，通感智值一體化正迎來更加廣闊的發(fā)展前景。未來，我們有望看到泛在智能、極致體驗(yàn)和生態(tài)共榮成為這一領(lǐng)域的主旋律。
泛在智能：從感知到?jīng)Q策的全面智能化
未來，通感智值一體化將實(shí)現(xiàn)從感知到?jīng)Q策的全面智能化。得益于Tiny AI等技術(shù)的進(jìn)步，越來越多的傳統(tǒng)傳感器和設(shè)備將具備微邊緣AI能力，能夠在本地完成初步的數(shù)據(jù)分析和決策，真正實(shí)現(xiàn)”智慧感知”。
同時(shí)，在薄邊緣和厚邊緣側(cè)，NPU等專用芯片的加持將進(jìn)一步提升AI推理和訓(xùn)練的速度與效率，推動(dòng)更多復(fù)雜AI應(yīng)用的落地。隨著AI能力向邊緣側(cè)的不斷下沉，未來的通感智值系統(tǒng)將呈現(xiàn)出無所不在、無時(shí)不在的泛在智能特征。
極致體驗(yàn)：實(shí)時(shí)響應(yīng)、高效協(xié)同的用戶體驗(yàn)
通感智值一體化的另一重要發(fā)展方向，是為用戶帶來實(shí)時(shí)響應(yīng)、高效協(xié)同的極致體驗(yàn)。當(dāng)前，邊緣智能已經(jīng)能夠顯著降低數(shù)據(jù)傳輸延遲，但仍難以滿足工業(yè)元宇宙、無人駕駛等延遲敏感型應(yīng)用的苛刻要求。
未來，通過引入5G/6G等新一代通信技術(shù)，并進(jìn)一步升級(jí)邊緣側(cè)的計(jì)算、存儲(chǔ)架構(gòu)，有望將端到端時(shí)延降至毫秒級(jí)，甚至是微秒級(jí)，從而實(shí)現(xiàn)真正的實(shí)時(shí)交互。
此外，隨著異構(gòu)算力的協(xié)同能力不斷增強(qiáng)，不同層級(jí)的智能設(shè)備之間將能夠更加高效地協(xié)作，提供無縫銜接的沉浸式體驗(yàn)。
生態(tài)共榮：開放融合、多方共贏的發(fā)展格局
隨著通感智值一體化生態(tài)日趨成熟，開放融合、多方共贏將成為行業(yè)的主旋律。一方面，軟硬件開源平臺(tái)的興起，將加速邊緣智能技術(shù)的普及和迭代，讓更多中小企業(yè)和創(chuàng)新團(tuán)隊(duì)參與到生態(tài)建設(shè)中來。
另一方面，跨界融合將成為常態(tài)，芯片廠商、設(shè)備制造商、通信運(yùn)營(yíng)商、軟件服務(wù)商等產(chǎn)業(yè)鏈各方將加強(qiáng)合作，充分發(fā)揮各自優(yōu)勢(shì)，共同推動(dòng)行業(yè)的良性發(fā)展。
此外，邊緣智能與云計(jì)算、區(qū)塊鏈等技術(shù)的融合創(chuàng)新，也將催生出更多全新的應(yīng)用場(chǎng)景和商業(yè)模式，為通感智值一體化注入新的活力。
總而言之，通感智值一體化正處于從量變到質(zhì)變的關(guān)鍵時(shí)期。隨著泛在智能、極致體驗(yàn)、生態(tài)共榮等趨勢(shì)的不斷深入，邊緣側(cè)智能化將進(jìn)入一個(gè)全新的發(fā)展階段。
寫在最后
縱觀全文，我們不難發(fā)現(xiàn)，通感智值一體化正以前所未有的速度和廣度重塑著智能物聯(lián)網(wǎng)的發(fā)展格局。
從云端到邊緣，從感知到?jīng)Q策，從芯片到模組，從算法到應(yīng)用，智能正在滲透和重構(gòu)物聯(lián)網(wǎng)的方方面面。這一切，無不昭示著一個(gè)全新時(shí)代的到來。
在這個(gè)時(shí)代，邊緣不再是云的附庸，而是智能的重要載體和源泉；感知不再是盲目的數(shù)據(jù)采集，而是具備分析和決策能力的智慧行為；連接不再是簡(jiǎn)單的數(shù)據(jù)傳輸，而是智能協(xié)同與融合的紐帶。通感、智能、價(jià)值，正在深度交融，共同編織出一張覆蓋全球的智能物聯(lián)2.0大網(wǎng)。
