五月婷婷丁香性爱|j久久一级免费片|久久美女福利视频|中文观看在线观看|加勒比四区三区二|亚洲裸女视频网站|超碰97AV在线69网站免费观看|有码在线免费视频|久久青青日本视频|亚洲国产AAAA

KubeEdge-Sedna邊云協(xié)同終身學(xué)習(xí):邁向次時代AI范式

來源微信公眾號:KubeEdge

摘要:面向KubeEdge-Sedna邊云協(xié)同終身學(xué)習(xí)范式的相關(guān)文章日前刊登于中國自動化學(xué)會主辦的《自動化博覽》邊緣計(jì)算2022特輯。文章指出,當(dāng)前阻礙邊緣AI規(guī)模復(fù)制的技術(shù)挑戰(zhàn)主要是邊側(cè)小樣本與邊緣數(shù)據(jù)異構(gòu)。同時,邊緣AI客戶往往存在數(shù)據(jù)安全合規(guī)與邊緣AI服務(wù)離線自治需求。

基于學(xué)界終身學(xué)習(xí)方法,文章首次正式地定義邊云協(xié)同終身學(xué)習(xí)問題,介紹業(yè)界首個開源邊云協(xié)同終身學(xué)習(xí)范式及相關(guān)案例。邊云協(xié)同終身學(xué)習(xí)通過:

1)多任務(wù)遷移學(xué)習(xí)適應(yīng)不同邊緣局點(diǎn)數(shù)據(jù)異構(gòu),實(shí)現(xiàn)“千人千面”精準(zhǔn)預(yù)測;

2)未知任務(wù)增量處理在小樣本下越學(xué)越聰明,逐步實(shí)現(xiàn)AI工程化與自動化;

3)借助云側(cè)知識庫來記憶新情景知識,避免災(zāi)難性遺忘;

4)邊云協(xié)同架構(gòu)使得在應(yīng)用云上資源同時保證數(shù)據(jù)安全合規(guī)與邊緣AI服務(wù)離線自治,希望從根本上解決上述邊云協(xié)同機(jī)器學(xué)習(xí)的挑戰(zhàn)。

方法背景

在云上執(zhí)行機(jī)器學(xué)習(xí)是傳統(tǒng)而廣泛為人所知的方法,基于云側(cè)大規(guī)模算力,大部分大型云平臺提供商均已提供機(jī)器學(xué)習(xí)服務(wù)。然而,機(jī)器學(xué)習(xí)所需的數(shù)據(jù)卻往往并非直接從云平臺中產(chǎn)生,而是來自傳感器、手機(jī)、網(wǎng)關(guān)等邊緣設(shè)備。隨著邊緣設(shè)備的廣泛使用和性能提升,將機(jī)器學(xué)習(xí)相關(guān)的部分任務(wù)遷移到邊緣,也即邊緣AI技術(shù),已成為必然趨勢,甚至能夠同時結(jié)合云側(cè)算力和邊側(cè)數(shù)據(jù)來完成機(jī)器學(xué)習(xí)任務(wù)。2018年,VMware發(fā)布了云環(huán)境擴(kuò)展到邊緣的框架。微軟除Azure云外,也在物聯(lián)網(wǎng)上投資50億美元,因?yàn)椤拔锫?lián)網(wǎng)最終正在發(fā)展成為新的智能邊緣”。Garner預(yù)測,到2022年,50%的企業(yè)生成數(shù)據(jù)將在傳統(tǒng)集中式數(shù)據(jù)中心或云之外創(chuàng)建和處理,高于2018年的不到10%,比如工廠內(nèi)、飛機(jī)或石油鉆井平臺上、零售店或醫(yī)療器械中。

KubeEdge社區(qū)一直密切關(guān)注邊緣AI相關(guān)挑戰(zhàn)。KubeEdge是業(yè)界首個云原生邊緣計(jì)算框架、云原生計(jì)算基金會內(nèi)部唯一孵化級邊緣計(jì)算開源項(xiàng)目。KubeEdge在全球已擁有800+貢獻(xiàn)者和60+貢獻(xiàn)組織,在Github獲得4.5k+Stars和1.3k+Forks。作為KubeEdge中唯一的AI特別興趣小組(Special Interest Group),KubeEdge社區(qū)SIG AI致力于使能AI應(yīng)用在邊緣更好地運(yùn)行,聚焦邊緣AI技術(shù)討論、API定義、參考架構(gòu)、開源實(shí)現(xiàn)等。為全球開發(fā)者提供相關(guān)研發(fā)支持并孵化繁榮生態(tài),當(dāng)前已開源邊緣智能平臺KubeEdge-Sedna及其跨邊云的協(xié)同推理、聯(lián)邦學(xué)習(xí)、增量學(xué)習(xí)和終身學(xué)習(xí)特性。

華為云邊緣云創(chuàng)新實(shí)驗(yàn)室ECIL(Edge Cloud Innovation Lab,Huawei Cloud)致力于分布式協(xié)同AI技術(shù)與業(yè)務(wù)創(chuàng)新,提供KubeEdge SIG AI系列文章(參見文末附錄一歷史工作一覽)中邊云協(xié)同推理、聯(lián)邦學(xué)習(xí)、增量學(xué)習(xí)和終身學(xué)習(xí)范式。日前中國自動化學(xué)會主辦的《自動化博覽》邊緣計(jì)算2022特輯(參見文末附錄二刊物介紹)已刊登其中面向KubeEdge-Sedna邊云協(xié)同終身學(xué)習(xí)范式的相關(guān)文章(下稱刊登文章)。

刊登文章介紹當(dāng)前阻礙邊緣AI規(guī)模復(fù)制的兩個技術(shù)挑戰(zhàn):邊側(cè)小樣本與邊緣數(shù)據(jù)異構(gòu)。在邊緣云背景下:

1)不同邊側(cè)數(shù)據(jù)分布總是不斷變化

2)而邊側(cè)標(biāo)注樣本也往往由于成本較高導(dǎo)致數(shù)量稀少。

因而封閉學(xué)習(xí)需不停標(biāo)注樣本并重新訓(xùn)練,這顯然給服務(wù)落地帶來巨大挑戰(zhàn)。這種數(shù)據(jù)分布和數(shù)據(jù)量上的挑戰(zhàn)分別稱為數(shù)據(jù)異構(gòu)和小樣本。

熱舒適預(yù)測中機(jī)器學(xué)習(xí)模型隨邊側(cè)環(huán)境變化示意圖如下所示:

同時,邊緣AI客戶往往存在數(shù)據(jù)安全合規(guī)與邊緣AI服務(wù)離線自治需求?;?995年學(xué)界提出的終身學(xué)習(xí)概念 [3] ,文章進(jìn)一步定義邊云協(xié)同終身學(xué)習(xí)為邊云協(xié)同的多機(jī)器學(xué)習(xí)任務(wù)持續(xù)學(xué)習(xí),正式定義如下:

邊云協(xié)同終身學(xué)習(xí):給定云側(cè)知識庫中N個歷史訓(xùn)練任務(wù),推理持續(xù)到來的當(dāng)前任務(wù)和未來M個邊側(cè)任務(wù),并持續(xù)更新云側(cè)知識庫。其中,M趨向于無窮大,同時邊側(cè)M個推理任務(wù)不一定在云側(cè)知識庫N個歷史訓(xùn)練任務(wù)當(dāng)中。其中機(jī)器學(xué)習(xí)任務(wù)是指在特定情境下的機(jī)器學(xué)習(xí)模型相關(guān)運(yùn)算工作,如中譯英(給定漢語翻譯為英語)、亞洲植物分類等。

邊云協(xié)同終身學(xué)習(xí)流程示意圖如下所示:

方法介紹

KubeEdge-Sedna發(fā)布業(yè)界首個開源邊云協(xié)同終身學(xué)習(xí)范式流程。KubeEdge-Sedna邊云協(xié)同終身學(xué)習(xí)通過:

1)多任務(wù)遷移學(xué)習(xí)適應(yīng)不同邊緣局點(diǎn)數(shù)據(jù)異構(gòu),實(shí)現(xiàn)“千人千面”精準(zhǔn)預(yù)測;

2)未知任務(wù)增量處理在小樣本下越學(xué)越聰明,逐步實(shí)現(xiàn)AI工程化與自動化;

3)借助云側(cè)知識庫來記憶新情景知識,避免災(zāi)難性遺忘;

4)邊云協(xié)同架構(gòu)使得在應(yīng)用云上資源同時保證數(shù)據(jù)安全合規(guī)與邊緣AI服務(wù)離線自治,希望從根本上解決上述邊云協(xié)同機(jī)器學(xué)習(xí)的挑戰(zhàn)。

其中,當(dāng)前Sedna選用的模塊化方案和遷移學(xué)習(xí)方案使得開源的邊云協(xié)同終身學(xué)習(xí)特性能夠?qū)崿F(xiàn)模型無關(guān):

1)同一個特性能夠同時支持結(jié)構(gòu)化和非結(jié)構(gòu)化不同模型,在特性中模型可插拔;

2)同一個特性能夠同時支持分類、回歸、目標(biāo)檢測、異常檢測等。

文章提供了一個樓宇空調(diào)控制驅(qū)動的熱舒適預(yù)測案例,基于開源Ashrae Thermal Comfort II數(shù)據(jù)集。在這個開源數(shù)據(jù)集中,收錄了全球28個國家99個城市1995~2015年之間樓宇內(nèi)人員熱舒適真實(shí)數(shù)據(jù),目標(biāo)是構(gòu)建一個機(jī)器學(xué)習(xí)分類模型,給定環(huán)境特征,預(yù)測人群的熱傾向(Thermal Preference)。熱傾向分為三類,希望更冷(覺得熱)、不希望變更(覺得舒適)、希望更熱(覺得冷)。

由于人員個體差異、房間與城市差異等,不同個體、不同地點(diǎn)對于熱舒適的感受是不一樣的,那么就會導(dǎo)致相同的環(huán)境溫度和空調(diào)設(shè)定下對應(yīng)的人員的熱舒適度標(biāo)簽值不一樣,從而導(dǎo)致較為突出的數(shù)據(jù)異構(gòu)問題。熱舒適度預(yù)測主要針對樓宇中的房間人員個體,具有個性化的特點(diǎn)。在環(huán)境因素變化較多的情況下,邊側(cè)房間人員個體的熱舒適度樣本通常有限,往往不足以支撐對單個人員進(jìn)行個性化模型的訓(xùn)練,從而導(dǎo)致較為突出的小樣本問題。

邊云協(xié)同終身學(xué)習(xí)的熱舒適預(yù)測方案架構(gòu)圖如下所示:

案例初步結(jié)果的整體分類精度與單任務(wù)增量學(xué)習(xí)對比,相對提升5.12%(其中多任務(wù)提升1.16%)。其中,在Kota Kinabalu和Athens兩個任務(wù),在使用終身學(xué)習(xí)前后預(yù)測效果在Kota Kinabalu數(shù)據(jù)中預(yù)測率相對提升24.04%,在Athens數(shù)據(jù)中預(yù)測率相對提升13.73%。

ATCII各城市Sedna終身學(xué)習(xí)預(yù)測精度一覽圖如下所示:

附錄:《自動化博覽》刊物介紹

中國自動化學(xué)會(Chinese Association of Automation,縮寫CAA)是我國成立的國家一級學(xué)術(shù)群眾團(tuán)體,初始籌備委員會由錢學(xué)森等29人組成?!蹲詣踊┯[》是由中國自動化學(xué)會主辦、國內(nèi)外公開發(fā)行的大型刊物,創(chuàng)刊于1983年10月。集大中型控制系統(tǒng)、工廠信息化、先進(jìn)控制與優(yōu)化軟件、工業(yè)通訊等于一體,特別關(guān)注人工智能、工業(yè)互聯(lián)網(wǎng)、云計(jì)算、邊緣計(jì)算等領(lǐng)域,理論與實(shí)踐并重、產(chǎn)研結(jié)合、面向工程、突出實(shí)用。其邊緣計(jì)算2022專輯由《自動化博覽》聯(lián)合邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟共同出版,從產(chǎn)業(yè)、技術(shù)、應(yīng)用三大角度展現(xiàn)邊緣計(jì)算領(lǐng)域的最新進(jìn)展,共同探討智能數(shù)字化時代加速到來之際,如何把握邊緣計(jì)算產(chǎn)業(yè)未來方向和發(fā)展機(jī)遇,促進(jìn)行業(yè)數(shù)字化轉(zhuǎn)型,共同邁向快速增長之路。