在過去十幾年中，云計算已經(jīng)成為主流技術(shù)，改變了很多工業(yè)、政府和組織的IT服務(wù)的運營模式，也帶來了包括商業(yè)模式和技術(shù)上的諸多革新。但是，云計算面對現(xiàn)在和未來的IoT的應(yīng)用，也有一些不足之處。IoT起源于1999年，當(dāng)時RFID技術(shù)剛剛興起，英國一名從事智能家居產(chǎn)業(yè)科學(xué)家Kevin Ashton預(yù)見到，如果RFID聯(lián)接到每一個物件上，或者說家里的每一個家具、電器上，就會形成一個新的網(wǎng)絡(luò)。這樣的網(wǎng)絡(luò)可以和當(dāng)時興起的Internet相媲美，所以給它取名叫 IoT。
20多年后的今天，IoT已經(jīng)遠遠超越了智慧家庭、智能家居的應(yīng)用，成為了一個集成物理世界和計算機世界的廣闊應(yīng)用領(lǐng)域。它不僅可以感知，還可以進行計算和控制，我們可以看到智慧城市里出現(xiàn)了更多IoT的應(yīng)用，包括工業(yè)物聯(lián)網(wǎng)(Industry IoT)，自主駕駛和車載網(wǎng)，以及大規(guī)模的視頻監(jiān)控和現(xiàn)在興起的元宇宙的底層VR、AR。這些新型的應(yīng)用帶來了新的需求，比如如何識別、感知、進行網(wǎng)絡(luò)傳輸、計算和控制。這些需求都必須在非常智能化的方式下進行，而傳統(tǒng)的IoT技術(shù)無法勝任。因此，要支持先進的IoT應(yīng)用，就需要新的IoT技術(shù)。IoT產(chǎn)生大量的數(shù)據(jù)，而AI的發(fā)展正是基于數(shù)據(jù)，兩者自然而然地結(jié)合在一起，誕生了人工智能物聯(lián)網(wǎng)AIoT。大規(guī)模的物聯(lián)網(wǎng)數(shù)據(jù)使得AI在物聯(lián)網(wǎng)領(lǐng)域的應(yīng)用是非常蓬勃的，這樣的數(shù)據(jù)也給IoT的應(yīng)用帶來很多新的發(fā)展。
那么，AI進入IoT的每一個領(lǐng)域之后會帶來什么?首先，分布式的IoT數(shù)據(jù)可以得到廣泛應(yīng)用;其次，過去我們講的“Internet of Things”中的”Things”本身是沒有智能的，但是有了AIoT后，它可以嵌入到物聯(lián)網(wǎng)里的每一個元素中，使得”Things“變成了”Smart Things“，這樣它就不是一個簡單的設(shè)備，而是嵌入到計算和智能的一個系統(tǒng)，這使得實時地在局部做一些智能的決策成為了可能。那么，AIoT是如何發(fā)展起來的呢?AIoT的使能技術(shù)有很多，本次主要講云計算和分布式云，即Edge cloud，它帶來了實時性。同時Edge cloud上面的AI應(yīng)用也變成了Edge AI，帶來了智能性。由于能被用戶直接存取，IoT設(shè)備將智能和計算帶給了用戶，所以邊緣計算也成為各個產(chǎn)業(yè)競爭的戰(zhàn)場。
眾所周知，邊緣計算主要作用是把互聯(lián)網(wǎng)所需要的數(shù)據(jù)和計算，從云端推廣到邊緣側(cè)來實現(xiàn)，讓實時數(shù)據(jù)處理和智能化成為可能。邊緣計算不僅減少了對網(wǎng)絡(luò)的需求，還降低了計算和決策所帶來的延遲，增加了實時的反饋。正因為有著諸多好處，邊緣云也叫做分布式云，成為了現(xiàn)在的主流技術(shù)。2021年Gartner把邊緣云稱作十大技術(shù)趨勢之一，各個主要的云服務(wù)廠商包括華為、微軟、Google和亞馬遜都在推廣分布式云技術(shù)，其中包含各自的平臺和開源的軟件，包括KubeEdge、Beatyl和OpenYurt，把在云上的Kubernetes技術(shù)推廣到邊緣，并能夠無縫地從云到邊緣實現(xiàn)任務(wù)的執(zhí)行。
邊緣計算最開始是將云上資源受限的IoT設(shè)備的計算放到邊緣服務(wù)器上，主要還是做計算;有了AIoT之后，邊緣服務(wù)器除了做計算，還可以做AI方面的智能化決策和模型;下一步，邊緣的服務(wù)器和節(jié)點將互相配合，即合作式的邊緣計算，各個合作式的邊緣服務(wù)器上的智能將變成分布式的智能，這將成為邊緣計算的一個趨勢。
以定位為例，過去使用無線定位，如Wifi、藍牙，都是模型驅(qū)動，但是物理模型受到很多限制。其中最大的限制就是干擾，特別是在室外的環(huán)境下，在多人、多物件的情況下會很不準(zhǔn)確。AI的興起讓數(shù)據(jù)驅(qū)動的方式變得非常流行，這種方式的好處是可以把AI模型放在一個邊緣節(jié)點上，獲得極佳的實時性。根據(jù)深度學(xué)習(xí)或深度神經(jīng)網(wǎng)絡(luò)估算距離，可以推出信號強度和距離之間的一個非線性關(guān)系。同時因為受到大量數(shù)據(jù)的訓(xùn)練，抗干擾性增強，減少誤差。
在食品安全領(lǐng)域，我們可以把一些比較昂貴的設(shè)備和技術(shù)通過EdgeAI部署到低成本的邊緣節(jié)點上。例如真假紅酒的檢測，通過普通的聲波技術(shù)，如揚聲器和麥克風(fēng)，基于真實液體和假液體具有不同的深阻抗這一特征，來檢測出模型異常的假液體，這個方法的準(zhǔn)確度可以達到92%-95%。另一個例子是食物新鮮度和真假比較，通過把手機上的低成本的照片傳送到昂貴的高頻光譜的圖像上，通過機器學(xué)習(xí)的方法來辨別和識別。這些技術(shù)都已經(jīng)被廣泛應(yīng)用，所以AI在邊緣計算領(lǐng)域的應(yīng)用是一個非常重要的領(lǐng)域。
那么，如何把AI推廣到分布式的Edge AI上?可以通過合作式的邊緣計算，即邊緣的節(jié)點之間共享數(shù)據(jù)和計算資源，合作完成任務(wù)。在這個過程當(dāng)中，節(jié)點要合作完成分布式任務(wù)，產(chǎn)生分布式智能。在過去的幾年當(dāng)中，分布式智能的研究主要集中在三個方面，一是分布式的任務(wù)調(diào)度和任務(wù)執(zhí)行，二是分布式機器學(xué)習(xí)，即分布式Edge AI，三是如何讓邊緣節(jié)點和分布式IoT設(shè)備在自主合作的情況下，用分布式的方法來解決問題。
分布式任務(wù)的執(zhí)行，是對分布式智能最基礎(chǔ)的一個研究領(lǐng)域，即怎樣把在不同的邊緣服務(wù)器上執(zhí)行的任務(wù)，通過分布式的調(diào)度共享在這些邊緣的服務(wù)器上來執(zhí)行。一個復(fù)雜的任務(wù)，比如說車載網(wǎng)，需要識別交通流量和道路情況，要先分解成若干子任務(wù)，再部署到不同的邊緣服務(wù)器上，或者是部署到云上執(zhí)行。在協(xié)作式邊緣計算場景中做任務(wù)調(diào)度，對任務(wù)調(diào)度系統(tǒng)和算法可伸縮性提出了新的挑戰(zhàn)：首先，和傳統(tǒng)的并行和分布式計算比較，邊緣計算任務(wù)是由終端設(shè)備提交，是從下往上的，且任務(wù)執(zhí)行時產(chǎn)生的數(shù)據(jù)也是由邊緣節(jié)點產(chǎn)生的分布式數(shù)據(jù);其次，邊緣網(wǎng)絡(luò)由不同的節(jié)點組成，是不穩(wěn)定的、帶寬受限的，因此在任務(wù)執(zhí)行方面的通信和計算資源也是耦合在一起的。
第二個是現(xiàn)在大家都在進行研究的分布式機器學(xué)習(xí)。眾所周知，分布式機器學(xué)習(xí)實際上不是一個新的領(lǐng)域，那如何將分布式學(xué)習(xí)推廣到在邊緣網(wǎng)絡(luò)上來進行?這就需要利用分散在各個邊緣節(jié)點上的本地數(shù)據(jù)和資源，來共同完成機器學(xué)習(xí)過程，主要分成模型訓(xùn)練和模型推理。模型訓(xùn)練，是指多個邊緣節(jié)點利用本地數(shù)據(jù)，協(xié)同訓(xùn)練一個AI模型，然后聚合這些邊緣節(jié)點的模型參數(shù);模型推理，是指單個和多個邊緣節(jié)點執(zhí)行AI模型。在實時的邊緣場景下如何保證訓(xùn)練和推理的性能、速度和準(zhǔn)確度，實際上將面臨很多挑戰(zhàn)，下圖是在云上、數(shù)據(jù)中心進行分布學(xué)習(xí)和在邊緣網(wǎng)絡(luò)上進行分布學(xué)習(xí)的對比。
舉一個分布式合作的視頻監(jiān)控的例子，現(xiàn)在的AI使能的視頻應(yīng)用往往比較復(fù)雜，需要訓(xùn)練和部署很多模型，組成一個pipeline，比如怎么定義、定位物體，怎么追蹤、重新識別、塑性識別、動作識別等。所以它需要多個網(wǎng)絡(luò)服務(wù)器之間的合作。下圖是一個合作式的視頻監(jiān)控的框架，最底下是多個邊緣的服務(wù)器，服務(wù)器上的資源能夠被統(tǒng)一使用，形成一個統(tǒng)一的資源庫。通過資源管理和任務(wù)調(diào)度，對資源進行合理、有效地使用，從而加速開發(fā)和優(yōu)化視頻應(yīng)用的AI模型的性能。平臺層可以提供機器學(xué)習(xí)的服務(wù)、數(shù)據(jù)服務(wù)和可視化的服務(wù)，應(yīng)用層可以實現(xiàn)視頻、監(jiān)控的這些應(yīng)用的調(diào)度。將上述框架部署在校園場景，可以監(jiān)控校園里面的人流量、用電量等，同時也可以做一些資源感知的分布式的Egde，學(xué)習(xí)更好地利用邊緣資源去降低時延，保護隱私和數(shù)據(jù)分析。
第三方面就是自主的合作，即邊緣節(jié)點(如機器人、車)在動態(tài)的環(huán)境下能自主地做出決定并執(zhí)行自己的任務(wù)，但又進行統(tǒng)一的合作。過去的研究中邊緣節(jié)點受限于一個集中的控制，即在發(fā)出指令之后，再進行統(tǒng)一的行動，感知并匯報它們的狀態(tài)。而在分布式控制場景中沒有集中控制，每一個邊緣節(jié)點都是自主的，它們的感知作用于環(huán)境，而環(huán)境是共享的，且環(huán)境變化也會帶給邊緣節(jié)點反饋，邊緣節(jié)點根據(jù)反饋進行進一步的學(xué)習(xí)和調(diào)配。這個時候我們要做的主要就是分布式的強化學(xué)習(xí)。就像人學(xué)習(xí)一樣，通過強化學(xué)習(xí)，車或者機器人就可以觀察周圍的環(huán)境，和其他的機器人彼此間共享這個環(huán)境和狀態(tài)來學(xué)會協(xié)作的策略。具體來說，分布式強化學(xué)習(xí)主要分為分布式的訓(xùn)練和分布式的執(zhí)行。我們采用的是全分布式，強化學(xué)習(xí)本身已經(jīng)非常困難，需要降維和學(xué)習(xí)策略，那么要進行分布式的強化學(xué)習(xí)就變得更加困難。因為它不僅需要考慮同環(huán)境本身的交互，還需要考慮在這個環(huán)境當(dāng)中各個機器人之間的相互影響。相互影響也對學(xué)習(xí)帶來許多挑戰(zhàn)：機器人策略的改變會帶來環(huán)境的不穩(wěn)定性;機器人的分布式訓(xùn)練需要單獨的獎勵反饋，環(huán)境給出的反饋怎么分解成對單個機器人的反饋，如何量化每個機器人對團隊合作的貢獻;機器人的數(shù)量增多會給學(xué)習(xí)過程帶來維數(shù)災(zāi)難問題。
我們在多機器人協(xié)作方面做了很多研究和工作。我們用強化學(xué)習(xí)來訓(xùn)練單個機器人跟蹤不同的規(guī)則的車道線。我們使用不同的顏色畫出車道線的邊緣，通過采用機器學(xué)習(xí)算法從圖像中去提取特征，并根據(jù)這些特征用強化學(xué)習(xí)來控制機器人按照軌跡來行走。針對多機器人合作場景，我們采用層級強化學(xué)習(xí)的方法來解決協(xié)作變道的問題。首先，把機器人的策略學(xué)習(xí)分成上下兩層，上層是機器人和機器人之間的合作策略怎么進行學(xué)習(xí)，包括去預(yù)測其他機器人的動作，比如說它要超車的時候，就要來預(yù)測前一個機器人會不會也超車，一旦它學(xué)習(xí)到做出決策之后，下層主要是通過單個機器人的動作執(zhí)行，包括機器人的具體的速度和方向。那么和傳統(tǒng)的強化學(xué)習(xí)來比較，這樣分層的強化區(qū)域具有更快的訓(xùn)練速度，也更適合分布式多機器人的協(xié)作。
在未來的邊緣計算當(dāng)中，分布式智能的進行將依賴于合作式的邊緣計算。合作式邊緣計算目前的三大研究方向為任務(wù)調(diào)度、分布式的機器學(xué)習(xí)和分布式的自主學(xué)習(xí)。具體來說，我們將研究如何在實時的情況下做到可靠的機器學(xué)習(xí)，可靠的任務(wù)調(diào)度，乃至容錯等方面;如何在不同的機器人，不同的車、物體中進行個性化，并保護數(shù)據(jù)隱私;如何提升邊緣節(jié)點的決策速度，并通過離線計算和離線智能方面的研究減少邊緣節(jié)點對云或集中控制的依賴。
