AI大火，關(guān)工業(yè)制造、智慧城市等傳統(tǒng)行業(yè)什么事?答案還要從邊緣AI技術(shù)中找起。
當(dāng)下AI潮涌，邊緣AI也正逐步推動技術(shù)格局進(jìn)行重大轉(zhuǎn)變。
相比中心化的AI大模型+接口范式，邊緣AI使計算能力更接近數(shù)據(jù)源——
它允許在設(shè)備上進(jìn)行數(shù)據(jù)處理，并實現(xiàn)實時、上下文感知(context-aware)的決策。同時，邊緣AI并不依賴基于云的處理，而是利用傳感器、攝像頭、智能手機(jī)和其他緊湊型設(shè)備等邊緣設(shè)備，在“邊緣側(cè)”上執(zhí)行AI計算推理。
這種方法具有多種優(yōu)勢，包括：更好的響應(yīng)能力、更高帶寬效率、更高數(shù)據(jù)隱私，以及在連接有限或間歇性情況下提高可靠性等。
這兩天，工程與技術(shù)門戶Wevolver新發(fā)布一份《2023年邊緣人工智能技術(shù)報告》。
在報告中，他們詳細(xì)介紹了邊緣AI目前的行業(yè)概況、應(yīng)用場景、邊緣AI優(yōu)勢、平臺、軟硬件、傳感方式、算法及展望。
其中要點(diǎn)，智次方?物聯(lián)網(wǎng)智庫整理如下。相信任何想跟上AI浪潮的技術(shù)從業(yè)者及負(fù)責(zé)人，都值得一看。
如需免費(fèi)領(lǐng)取完整版報告，請掃描下方二維碼添加智次方?物聯(lián)網(wǎng)智庫“小智慧”微信獲取。
行業(yè)概況及邊緣AI優(yōu)勢
近年來，數(shù)據(jù)已經(jīng)從集中式云數(shù)據(jù)中心，向更靠近數(shù)據(jù)源的本地數(shù)據(jù)中心或邊緣設(shè)備轉(zhuǎn)移，同時，基于本地化計算需求日益高漲，這導(dǎo)致了邊緣AI的出現(xiàn)和崛起。
據(jù) Fortune Business Insights預(yù)測，邊緣AI市場預(yù)計將從2022年的156億美元，增長到2029年的1074.7億美元，復(fù)合年增長率(CAGR)為31.7%。
以工業(yè)制造業(yè)為例，工業(yè)現(xiàn)代化正逐步向智能制造加速轉(zhuǎn)變，并引發(fā)自動化、機(jī)器人以及工業(yè)物聯(lián)網(wǎng)(IIoT)的創(chuàng)新。
Cyber-Physical Production Systems (CPPS)
在生產(chǎn)車間快速的數(shù)字化轉(zhuǎn)型中，通過引入信息物理生產(chǎn)系統(tǒng)(CPPS)，收集和分析相關(guān)數(shù)據(jù)，如生產(chǎn)排程、質(zhì)量檢驗以及設(shè)備維護(hù)，可獲得相關(guān)的生產(chǎn)流程優(yōu)化見解，以此大幅提升自動化生產(chǎn)裝配、質(zhì)量監(jiān)控的效率和速度。
然而，基于云的數(shù)據(jù)處理方式，實現(xiàn)實時控制會產(chǎn)生明顯的延遲。為打破云計算對于實時控制的限制，越來越多的制造業(yè)企業(yè)開始嘗試邊緣AI。
此外，醫(yī)療健康服務(wù)、消費(fèi)品、物流運(yùn)輸、智慧城市、智慧家居……幾乎都需要邊緣AI，或處于體驗升級需要，或數(shù)據(jù)安全考量，諸如此類的原因。
報告指出，位于邊緣側(cè)的AI優(yōu)勢明顯，具體來看：
降低時延，邊緣AI應(yīng)用數(shù)據(jù)處理集中于數(shù)據(jù)源，不依賴網(wǎng)絡(luò)傳輸，能大幅降低數(shù)據(jù)處理時延問題。這對一些低時延應(yīng)用尤為關(guān)鍵，比如工業(yè)機(jī)器人、無人駕駛汽車。
實時性能，可以在特定場景發(fā)揮作用，比如質(zhì)檢，像生產(chǎn)線上的質(zhì)量檢測、安全應(yīng)用中異常行為檢測等。
安全和數(shù)據(jù)保護(hù)，邊緣AI應(yīng)用暴露數(shù)據(jù)量很少，極大減少惡意攻擊和數(shù)據(jù)襲擊的可能性。
提升隱私控制，很多AI應(yīng)用涉及敏感數(shù)據(jù)，如安全數(shù)據(jù)、知識產(chǎn)權(quán)、病患信息等。邊緣AI減少了數(shù)據(jù)對外傳輸和分享嗎，創(chuàng)建了一個比云更可信的數(shù)據(jù)管理環(huán)境。
能源效率，基于云的數(shù)據(jù)傳輸和處理需要不斷輸入輸出，還涉及大量GPU和TSU數(shù)據(jù)處理。邊緣AI無需I/O操作，且數(shù)據(jù)處理基于邊緣側(cè)，能有效降低碳排放和減少碳足跡。
節(jié)約成本，相比云端處理，邊緣AI不會過于依賴數(shù)據(jù)傳輸和處理，同時，它消耗更少的能量。其部署成本和操作成本遠(yuǎn)低于云端AI。
設(shè)備智能，一些邊緣AI應(yīng)用可以在單個設(shè)備上執(zhí)行，比如物聯(lián)網(wǎng)設(shè)備、微型控制器等。這會助力性能更強(qiáng)、更加智能化設(shè)備開發(fā)，但基于云端這是幾乎無法實現(xiàn)的。
可擴(kuò)展性，在AI應(yīng)用中集成邊緣AI系統(tǒng)，可以提供幾年前沒有的能力。例如，在運(yùn)輸、工廠以及其他工業(yè)場景中新增典型的實時性。
框架、工具與軟硬件選擇
對于邊緣AI來說，深度學(xué)習(xí)平臺、工具選擇要考慮的因素可能更多，這當(dāng)中包括延遲、數(shù)據(jù)處理能力、功耗、尺寸、重量和散熱等等。
除此之外，使用的難易度也是問題，尤其邊緣AI面向千行百業(yè)，更為友好的平臺工具對技術(shù)服務(wù)企業(yè)及客戶都更為便捷。
最后，工具支持能力、生態(tài)兼容性及釋放開源免費(fèi)也在考慮范圍內(nèi)。
較為著名的框架及工具包括有TensorFlow Lite、PyTorch Mobile、OpenVINO、NVIDIA Jetson、Caffe2 和MXNet等。
篇幅有限，重點(diǎn)介紹如下幾個框架及工具：
TensorFlow Lite
TensorFlow Lite是一種用于設(shè)備端推斷的開源深度學(xué)習(xí)框架，號稱強(qiáng)大而多功能，專為邊緣設(shè)備部署ML模型設(shè)計，具備低延遲、跨平臺兼容性、用戶友好等特征，在樹莓派4微控制器板上，TensorFlow Lite實現(xiàn)了2.5毫秒的中位推理延遲。
此外，TensorFlow Lite還提供了全面的開發(fā)工具和API，支持多種編程語言，包括Python、C++和Java，增強(qiáng)了其多功能性和易用性。
PyTorch Mobile
該工具是PyTorch的移動設(shè)備拓展版本，PyTorch作為AI框架本就擁有很廣覆蓋，自帶靈活、易用性，經(jīng)過速度、效率優(yōu)化后，更適合部署在資源有限的低功耗設(shè)備上。
根據(jù)PyTorch的說法，用該平臺的模型，可在移動設(shè)備上實現(xiàn)低于10毫秒的延遲推理，當(dāng)然，實際情況也取決于硬件能力、模型復(fù)雜度及輸入數(shù)據(jù)量級。其支持硬件平臺，包括CPU、GPU 和 DSP。
Caffe2
Caffe2是一個開源深度學(xué)習(xí)框架，其突出的優(yōu)勢在于其高性能，能夠快速、準(zhǔn)確地處理大型數(shù)據(jù)集。Caffe2針對CPU和GPU進(jìn)行了精心優(yōu)化，其與分布式計算環(huán)境的兼容性確保了輕松的可擴(kuò)展性。
Caffe2以其推理低延遲而聞名，特別適合實時邊緣AI應(yīng)用。需要注意的是，Caffe2由于大量使用GPU資源，其功耗往往較高。
值得一提的是，Caffe2核心作者之一是AI大牛賈揚(yáng)清，今年他已離開阿里，投身大模型基礎(chǔ)設(shè)施創(chuàng)業(yè)。
MXNet
這也是一個開源深度學(xué)習(xí)軟件框架，用于訓(xùn)練及部署深度神經(jīng)網(wǎng)絡(luò)。MXNet顯著優(yōu)勢之一是它對多種編程語言的廣泛支持，包括Python、C++和Julia，可與TensorFlow和PyTorch等其他深度學(xué)習(xí)框架無縫集成。
該框架數(shù)據(jù)處理能力也很高效，支持?jǐn)?shù)據(jù)和模型并行性，使開發(fā)人員能夠跨多個GPU或機(jī)器擴(kuò)展他們的模型。
此外，MXNet憑借輕量特性，能在樹莓派等低功耗設(shè)備上高效運(yùn)行，對于追求緊湊便攜的邊緣AI系統(tǒng)，吸引力也很強(qiáng)。
OpenVINO
這是一個用于優(yōu)化和部署AI推理的開源工具包，來自英特爾，可實現(xiàn)跨不同平臺的高效部署，包括CPU、GPU和FPGA。
面向TensorFlow、PyTorch和Caffe等流行的深度學(xué)習(xí)框架，OpenVINO提供了優(yōu)化的庫和工具，其使用成本取決于模型大小、復(fù)雜性和所使用的硬件平臺等因素。此外，OpenVINO提供與多種編程語言的無縫集成，包括C++、Python和Java。
介紹完AI框架及工具，再來看看其他硬件硬件選擇的注意。
由于終端設(shè)備的處理、存儲、電池壽命有限，模型必須進(jìn)行優(yōu)化，以適應(yīng)有限的資源。盡管如此，硬件處理能力依然重要，此外，還要考慮功耗、可用內(nèi)存量及類型。
軟件選擇上，兼容性、可拓展性、數(shù)據(jù)處理精度及可解釋性對于諸多傳統(tǒng)行業(yè)也是重要因素。
值得一提的是，安全性同樣是邊緣AI落地應(yīng)用很看重的方向，報告建議，采用SSL/TLS、SSH等安全通信協(xié)議，建立邊緣AI系統(tǒng)與其他系統(tǒng)之間數(shù)據(jù)傳輸?shù)陌踩ǖ馈?/p>
此外，還建議實施訪問控制和身份驗證機(jī)制，并對重要數(shù)據(jù)進(jìn)行加密。
物聯(lián)網(wǎng)加密系統(tǒng)及攻擊路徑
值得重點(diǎn)一提的，是TinyML。
這是一種新型的嵌入式機(jī)器學(xué)習(xí)系統(tǒng)技術(shù)，可在微芯片和微控制器 (MCU) 上部署 AI 模型，以實現(xiàn)極低功耗的設(shè)備上數(shù)據(jù)分析。
此前物聯(lián)網(wǎng)智庫對其進(jìn)行過介紹，該技術(shù)面向終端和邊緣側(cè)的微處理器，是一種在mW功率范圍以下的設(shè)備上，實現(xiàn)機(jī)器學(xué)習(xí)的方法、工具和技術(shù)。
MIT電子工程學(xué)院副教授韓松，今年剛獲得斯隆獎，被譽(yù)為TinyML開創(chuàng)者，其參與創(chuàng)立的AI公司OmniML，今年剛被英偉達(dá)收購。
TinyML是ML與嵌入式的結(jié)合
該技術(shù)優(yōu)勢在于——
優(yōu)化延遲、節(jié)能、節(jié)約帶寬、更強(qiáng)的數(shù)據(jù)隱私安全及更好的效率及靈活性。
前文提及TensorFlow Lite，本身就可結(jié)合TinyML。其另一個版本，TensorFlow Lite Micro，其核心運(yùn)在Arm Cortex M3上行時，模型大小僅為16KB。
TinyML的應(yīng)用，包括了終端設(shè)備上圖像識別、對象跟蹤和安全應(yīng)用程序的實時事件檢測。
在物聯(lián)網(wǎng)傳感器應(yīng)用中，TinyML用于解析圖像、聲音或振動等數(shù)據(jù)。在設(shè)備上進(jìn)行推理，可將大量數(shù)據(jù)減少為壓縮元數(shù)據(jù)，減少功耗提升安全性。TinyML 還用于消費(fèi)電子設(shè)備，例如耳塞的噪音濾除。
邊緣AI算法與傳感方式
算法方面，相比AI大模型，甚至幾年前的GPT-2，邊緣AI因計算設(shè)備資源有限，更多考慮的是算法是否能在硬件上流暢運(yùn)行。平衡，成為落地中的關(guān)鍵詞。
當(dāng)前，最流行、最適合部署在邊緣設(shè)備上的算法是：分類、檢測、分割和跟蹤算法。
這四種算法類型為從對象識別和跟蹤到質(zhì)量控制和預(yù)測性維護(hù)的各種應(yīng)用提供了實用的解決方案。
當(dāng)然，上面幾類中，還可以介紹很多具體算法，比如分類算法中的支持向量機(jī)(SVM)、決策樹、隨機(jī)森林和卷積神經(jīng)網(wǎng)絡(luò)(CNN)。再比如目標(biāo)檢測算法中的大名鼎鼎的YOLO和何愷明參與的Faster R-CNN，這里不逐一展開。
基于 YOLOv4 直方圖的乳房X光片異常檢測模型
但值得提一提的，是視覺Transformer算法(ViT)。該技術(shù)與ChatGPT同源，此后，還有DeiT 和 SWIN-Transformers等算法出現(xiàn)，并能部署在邊緣端，其背后是邊緣算力的不斷演進(jìn)。
另需要補(bǔ)充的是，對于邊緣場景，數(shù)據(jù)壓縮技術(shù)可能導(dǎo)致AI模型表現(xiàn)不準(zhǔn)確，因此該方向也在近些年成為熱門話題之一。
說完AI軟硬件相關(guān)，報告還介紹了邊緣AI的傳感方式。
目前較為典型的邊緣AI傳感設(shè)備為攝像頭、麥克風(fēng)、溫度傳感器和運(yùn)動傳感器。設(shè)計領(lǐng)域包括自動駕駛、工業(yè)自動化和醫(yī)療保健。
其他傳感器還包括觸摸傳感器、壓力傳感器、接近傳感器等。
基于音頻的傳感系統(tǒng)
典型案例介紹
憑借輕量級的系統(tǒng)集成和靠近數(shù)據(jù)源的處理能力，邊緣AI正加速與各行各業(yè)深度融合，帶來天馬行空的想象力。
智慧城市
NoTraffic是一個基于AI的交通實時管理平臺，依托于英偉達(dá)技術(shù)，融合傳感器、軟件等，可以快速且全程響應(yīng)交通狀況。
結(jié)合攝像機(jī)與雷達(dá)的NoTraffic物聯(lián)網(wǎng)傳感器，圖源：NoTraffic
基于邊緣AI技術(shù)，NoTraffic可以檢測、標(biāo)記以及追蹤道路使用者，包括他們臨近路口時的速度、方向，并以此調(diào)整交通信號。
NoTraffic已與加州運(yùn)輸部和亞利桑那州運(yùn)輸部建立合作伙伴關(guān)系。該平臺被證明，可以減少超50%的交通等待時間，同時可能還對減少汽車排放有貢獻(xiàn)。
NoTraffic的另一個好處就是，基于邊緣AI能力構(gòu)建的交通系統(tǒng)，可以助力智慧城市快速分析交通流量數(shù)據(jù)并提供決策。
綠色工業(yè)
Fero Labs研發(fā)出一套應(yīng)用工業(yè)流程優(yōu)化的邊緣AI軟件，據(jù)證實，該軟件可以在生產(chǎn)中實現(xiàn)提質(zhì)降本，減少工廠浪費(fèi)，實現(xiàn)碳排放量平均減少35%。
圖源：Fero Labs
實現(xiàn)方式上，該公司將機(jī)器學(xué)習(xí)模型部署于工廠中現(xiàn)有的邊緣設(shè)備中，通過軟件連接到標(biāo)準(zhǔn)工業(yè)數(shù)據(jù)庫，并通過本地化數(shù)據(jù)處理。
基于Fero Labs軟件解決方案，制造車間可以通過現(xiàn)有裝置進(jìn)行生產(chǎn)預(yù)測、設(shè)備追蹤和維護(hù)，避免產(chǎn)品瑕疵，提高過程穩(wěn)定性。
智慧醫(yī)療
Medtronic是一家在醫(yī)療領(lǐng)域應(yīng)用邊緣AI的公司，該公司最近與英偉達(dá)合作，實現(xiàn)將英偉達(dá)全息掃描平臺集成于AI系統(tǒng)，以應(yīng)用于醫(yī)療設(shè)備。
應(yīng)用GIGenius智能內(nèi)鏡模塊的結(jié)直腸癌檢測設(shè)備，圖源：Medtronic
Medtronic將全息掃描平臺集成進(jìn)旗下的AI內(nèi)鏡模塊，GIGenius，通過邊緣AI技術(shù)加持，醫(yī)生可以檢測出結(jié)直腸癌的早期跡象。
Medtronic同樣還將邊緣AI應(yīng)用于其他醫(yī)療領(lǐng)域，比如一個連續(xù)血糖監(jiān)測系統(tǒng)。通過將傳感器植入到皮下組織，就能起到血糖管理的作用，同時，利用AI能有優(yōu)化且創(chuàng)建個性化糖尿病管理方案;還有Medtronic的起搏器，采用傳感算法來檢測并提醒患者心律失常的風(fēng)險。
據(jù)該公司稱，他們將邊緣AI集成到醫(yī)療傳感器當(dāng)中，極大提升醫(yī)療服務(wù)和檢測的個性化程度。
寫在最后
以上是報告的要點(diǎn)介紹，值得補(bǔ)充的是，盡管邊緣AI優(yōu)勢盡顯，但仍有許多用例，需要云端數(shù)據(jù)中心參與。
比如報告提及，一些深度學(xué)習(xí)應(yīng)用，需要大量數(shù)據(jù)點(diǎn)訓(xùn)練，這類用例通常需要結(jié)合云AI和邊緣AI兩方面優(yōu)勢。
基于邊緣和云處理的混合解決方案，圖源：Wevolver
巧合的是，上個月，高通技術(shù)公司同樣發(fā)布了一份白皮書——《混合AI是AI的未來》，當(dāng)中提出類似的觀點(diǎn)：
“隨著生成式AI的飛速普及和計算需求的日益增長，混合處理的重要性空前凸顯。與僅在云端進(jìn)行處理不同，混合AI架構(gòu)的云端和邊緣終端之間分配并協(xié)同處理AI工作負(fù)載。云端和邊緣終端(如智能手機(jī)、汽車、個人電腦和物聯(lián)網(wǎng)終端)協(xié)同工作，能夠?qū)崿F(xiàn)更強(qiáng)大、更高效且更普及的AI應(yīng)用?！?/p>
但可以預(yù)見，邊緣AI及ChatGPT為代表的中心化的AI大模型+接口范式，仍在以日新月異速度發(fā)展，一個萬物智能的時代已經(jīng)不遠(yuǎn)。
欲了解更多案例內(nèi)容，請掃描下方二維碼添加智次方?物聯(lián)網(wǎng)智庫“小智慧”微信獲取完整版報告。
參考資料：
1.Wevolver 2023年邊緣人工智能技術(shù)報告
2.https://www.wevolver.com/article/2023-edge-ai-technology-report?utm_source=edge-ai-report&utm_medium=edgeimpulse
3.https://mp.weixin.qq.com/s/Llqc6Elz1xY1ukN77EJFxw
