2022年12月5日, 邊緣云創(chuàng)新Lab在國(guó)際開(kāi)源頂會(huì)Open Source Summit (OSS) Japan分享邊云協(xié)同AI應(yīng)用成果，演講題目為From Groud to Space: Cloud-Native Edge Machine-Learning Case Studies with Kubeedge-Sedna，主要講解KubeEdge-Sedna邊云協(xié)同終身學(xué)習(xí)和邊云協(xié)同推理的創(chuàng)新應(yīng)用。

智能機(jī)器人感知

四足機(jī)器人被越來(lái)越多地用于現(xiàn)代生活，尤其在巡檢、遞送場(chǎng)景中發(fā)揮重要作用，幫助充分減少人工投入。眾所周知，機(jī)器人的室外任務(wù)依賴(lài)Simultaneous localization and mapping(SLAM)技術(shù)實(shí)現(xiàn)導(dǎo)航和定位，其中激光SLAM最為廣泛應(yīng)用。但激光SLAM技術(shù)的缺點(diǎn)是無(wú)法探測(cè)低矮障礙物，比如馬路牙子和斜坡等，導(dǎo)致機(jī)器人容易被低矮障礙物絆倒，甚至導(dǎo)致任務(wù)中斷。因此視覺(jué)SLAM，尤其AI視覺(jué)SLAM能夠增強(qiáng)機(jī)器人對(duì)環(huán)境的感知能力，識(shí)別出低矮障礙，使機(jī)器人做出正確的避讓決策。

但在實(shí)際的遞送實(shí)踐中，四足機(jī)器人AI視覺(jué)感知遭遇以下挑戰(zhàn)：

?機(jī)器人本體資源不足。比如無(wú)法部署GPU，導(dǎo)致推理速度慢，機(jī)器人來(lái)不及做避讓決策；

?數(shù)據(jù)異構(gòu)問(wèn)題導(dǎo)致AI模型失效。比如，當(dāng)機(jī)器人進(jìn)入新環(huán)境，推理圖片和訓(xùn)練圖片存在較大程度異構(gòu)，AI模型無(wú)法很好地識(shí)別到前方低矮障礙；

?邊側(cè)數(shù)據(jù)不足，無(wú)法訓(xùn)練一個(gè)高精度AI模型。比如，機(jī)器狗從新環(huán)境收集了一些新樣本，由于自身存儲(chǔ)資源限制導(dǎo)致新樣本數(shù)目較少，樣本質(zhì)量差，無(wú)法支撐新環(huán)境AI模型的訓(xùn)練。

為了解決以上挑戰(zhàn)，我們?cè)谘葜v中分享了基于Kubeedge-Sedna的邊云協(xié)同終身學(xué)習(xí)系統(tǒng)，創(chuàng)新性地實(shí)現(xiàn)未知任務(wù)識(shí)別和處理。解決思路如下：

?邊側(cè)（四足機(jī)器人）

未知任務(wù)識(shí)別：識(shí)別出未知任務(wù)樣本（異構(gòu)數(shù)據(jù)），通知機(jī)器人暫停（避免摔倒），同時(shí)將未知任務(wù)樣本上云；

未知任務(wù)在線(xiàn)處理：實(shí)時(shí)處理未知任務(wù)樣本，而不是讓機(jī)器人原地等待新模型訓(xùn)練完畢再往前走?？刹扇〉奶幚矸椒ㄓ校和ㄖ斯そ槿?、遙操作等。

?云側(cè)

未知任務(wù)訓(xùn)練：將上云的未知任務(wù)樣本打標(biāo)并訓(xùn)練。采用多任務(wù)學(xué)習(xí)和遷移學(xué)習(xí)方法，以少樣本實(shí)現(xiàn)高精度模型，減少人工打標(biāo)工作量，使未知樣本變成已知樣本。

Demo表明，對(duì)比不配置未知任務(wù)識(shí)別和未知任務(wù)處理的方案，Kubeedge-Sedna的邊云協(xié)同終身學(xué)習(xí)系統(tǒng)顯著提升了機(jī)器人的任務(wù)質(zhì)量，減少機(jī)器人摔倒。

云原生衛(wèi)星農(nóng)田檢測(cè)

遙感衛(wèi)星執(zhí)行農(nóng)田資產(chǎn)盤(pán)點(diǎn)任務(wù)時(shí)，需基于觀測(cè)的圖像，估算農(nóng)田作物在全國(guó)的實(shí)際種植面積。但實(shí)際部署遇到以下挑戰(zhàn)

? 帶寬利用率低：由于誤碼存在需3倍數(shù)據(jù)的冗余傳輸。衛(wèi)星下行帶寬有限，邊側(cè)部署能支持更多應(yīng)用；

? 能量利用率低：數(shù)據(jù)傳輸是衛(wèi)星上最耗電的部分，邊側(cè)部署有助于降低數(shù)據(jù)傳輸并節(jié)約能量；

? 檢測(cè)精度低：衛(wèi)星上受限于空間、能耗等因素，無(wú)法部署GPU卡（或者會(huì)對(duì)衛(wèi)星的體積和能耗提出更高要求）。當(dāng)前計(jì)算性能較弱、推理時(shí)間慢，針對(duì)衛(wèi)星的高清圖片無(wú)法很好的進(jìn)行識(shí)別。

為了解決遙感衛(wèi)星執(zhí)行AI推理任務(wù)的以上挑戰(zhàn)，我們?cè)谘葜v中分享了基于Sedna的邊云協(xié)同推理系統(tǒng)。解決思路如下：

? 部署邊云協(xié)同AI模型。邊側(cè)（遙感衛(wèi)星）部署小模型，云側(cè)（地面GPU服務(wù)器）部署大模型；

? 難例上云。邊側(cè)小模型推理置信度不滿(mǎn)足要求，則將樣本送到云上大模型推理。

測(cè)試結(jié)果表明，模型精準(zhǔn)率和召回率高達(dá)99%，實(shí)現(xiàn)以下業(yè)務(wù)收益：提升面積統(tǒng)計(jì)率、降低衛(wèi)星能耗、降低星地傳輸通信量、降低傳輸成本等。

Open Source Summit Japan 介紹

Open Source Summit（前身為L(zhǎng)inuxCon）是Linux基金會(huì)自2009年以來(lái)每年組織的一系列年度大會(huì)，峰會(huì)舉辦地主要在北美、歐洲和日本。越來(lái)越多的開(kāi)源專(zhuān)家、技術(shù)專(zhuān)家和信息技術(shù)領(lǐng)域的開(kāi)發(fā)人員在該峰會(huì)討論對(duì)技術(shù)領(lǐng)域的計(jì)劃，并宣布重大新聞，使得該峰會(huì)在技術(shù)領(lǐng)域擁有強(qiáng)大號(hào)召力和影響力。據(jù)統(tǒng)計(jì)，每年OSS proposal錄用率約為30%。

OSS演講視頻：https://www.youtube.com/watch?v=bIaeWGelsJE

Sedna項(xiàng)目地址：https://github.com/kubeedge/sedna