傳統(tǒng)的云計算習慣將算 力和數(shù)據存儲部 署在大型數(shù)據中心，而與之相對的邊緣計算則強調讓計算和數(shù)據存儲更接近數(shù)據源。 邊緣人工智能（Edge AI）顧名思義結合了邊緣計算和人工智能兩個領域的技術優(yōu)勢，在過去幾年中迅速發(fā)展為一個新興的技術應用領域。 由Gartner人工智能發(fā)展周期預測圖中可以看到，Edge AI技術當前已經處于其發(fā)展周期中的預期峰值。

Gartner人工智能發(fā)展周期預測如下圖所示：

Edge AI 可以直接在邊緣或客戶端設備上實現(xiàn) AI 計算、提高能效、支持低延遲、解決數(shù)據隱私問題。那么，邊緣場景下傳統(tǒng)深度學習算法該如何設計或改進呢？

為了解答上述問題，哈索普拉特納計算機系統(tǒng)工程院（HPI）多媒體和機器學習研究組負責人楊浩進，協(xié)同華為云邊緣云創(chuàng)新Lab、華為慕尼黑研究所錄制了邊緣AI在線課程。課程從算法、軟件框架以及硬件三個層面帶大家學習Edge AI相關知識。它介紹了深度模型壓縮和加速技術、云端和邊緣協(xié)同式訓練和推理技術，以及帶大家基于目前開源社區(qū)中流行的Edge AI軟件框架Sedna實踐了聯(lián)邦學習和協(xié)同推理等應用案例。課程為期六周，除了傳統(tǒng)的線上視頻和作業(yè)外，還基于Kaggle平臺每周為學員準備了和主題相關的編程和模型訓練任務。

課程涵蓋“深度學習基礎知識及發(fā)展簡史”、“卷積神經網絡架構的演進”、“高性能小模型設計、知識蒸餾技術”、“經典深度模型壓縮技術”、“Edge AI簡介及其技術挑戰(zhàn)解析”、“Edge AI進階技術路線和應用場景”等邊緣AI領域相關內容。

邊緣AI課程首頁如下圖所示：

AI campus平臺邊緣AI課程封面與目錄如下圖所示：

第openHPI平臺邊緣AI課程簡介如下圖所示：

3.1基于Sedna的聯(lián)邦學習實踐課

在本實踐課中，使用聯(lián)邦學習來優(yōu)化基于二值神經網絡的BNN基礎模型。通過Sedna聯(lián)邦學習框架，每個學生客戶端作為邊緣的TrainingWorker，只訪問自己本地的訓練集，通過將每輪本地訓練的權重共享到云端AggregationWorker進行聚合。這樣通過聯(lián)合不同參與課程的學生所被分配的數(shù)據集，多輪循環(huán)迭代訓練，在客戶端原始數(shù)據不互相共享的情況下，提升各自模型的精度。

實踐課Kaggle地址：https://www.kaggle.com/jopyth/edge-ai-w5-federated-learning

基于Sedna的聯(lián)邦學習實踐課課程截圖如下所示：

3.2 基于Sedna的協(xié)同推理實踐課

在本實踐課中，基于已訓練好的圖像分類的小模型和大模型，在本地和云端分別部署，利用Sedna框架的通信、難例識別等能力協(xié)同進行推理。本地客戶端部署小模型，負責處理簡單樣本，云端大模型利用較為充足計算資源處理困難樣本。這樣通過對樣本的分流和模型的協(xié)作，在保證吞吐量、時延不明顯降低的情況下，實現(xiàn)整體推理精度的提升。

實踐課Kaggle地址：https://www.kaggle.com/jopyth/edge-ai-w6-collaborative-inference

基于Sedna的協(xié)同推理實踐課課程截圖如下所示：

KubeEdge 是一個開源的邊緣計算平臺，它在Kubernetes原生的容器編排和調度能力之上，擴展實現(xiàn)了邊云協(xié)同、計算下沉、海量邊緣設備管理、邊緣自治等能力。KubeEdge還將通過插件的形式支持5G MEC、AI云邊協(xié)同等場景，目前在很多領域都已落地應用[2]。

Sedna基于KubeEdge提供的邊云協(xié)同能力，實現(xiàn)AI的跨邊云協(xié)同訓練和協(xié)同推理。支持現(xiàn)有AI類應用無縫下沉到邊緣，快速實現(xiàn)跨邊云的協(xié)同推理、增量學習、聯(lián)邦學習、終身學習等，最終降低邊云協(xié)同機器學習服務構建與部署成本、提升模型性能、保護數(shù)據隱私等[1][3]。

Sedna項目由華為云邊緣云創(chuàng)新Lab孵化，于20年12月在KubeEdge SIG AI社區(qū)發(fā)布開源，華為慕尼黑研究所、中國電信研究院目前主要參與新特性的貢獻，并吸引了來自清華大學、南洋理工大學、北京交通大學、西安電子科技大學、香港理工大學等各大高校的貢獻者，共同研究與探索邊緣AI領域未來的技術方向。

Sedna整體架構圖如下所示：

歡迎更多對邊緣計算感興趣的同學們加入KubeEdge社區(qū)，參與AI SIG，一起建設云原生邊緣計算生態(tài)。

項目地址：

https://github.com/kubeedge/sedna

例會時間和地址：

時間：每周四上午10: 00

地址：https://zoom.us/my/kubeedge

SIG AI工作目標和運作方式：

https://github.com/kubeedge/community/tree/master/sig-ai

[1] “加速AI邊云協(xié)同創(chuàng)新！KubeEdge社區(qū)建立Sedna子項目,” 2021. Available: https://mp.weixin.qq.com/s/FX2DOsctS_Z7CKHndFByRw.

[2] “KubeEdge架構解讀：云原生的邊緣計算平臺,” 2020. Available: https://mp.weixin.qq.com/s/8AvkgupCQpI_JCL2P7x8jw.

[3] “kubeedge/Sedna,” 2021. Available: https://github.com/kubeedge/sedna.