在此演講中，楊老師首先介紹了AI和邊緣計(jì)算交叉領(lǐng)域的發(fā)展現(xiàn)狀并對邊緣AI發(fā)展趨勢做了分析。然后總結(jié)了邊緣AI領(lǐng)域的重要技術(shù)挑戰(zhàn)，并詳細(xì)介紹了他和團(tuán)隊(duì)近期在三個(gè)方向上的工作進(jìn)展。

基于二值模型架構(gòu)的低功耗 AI加速器

楊老師和清華大學(xué)集成電路領(lǐng)域?qū)＜彝粲窭蠋焾F(tuán)隊(duì)合作開發(fā)了一種基于二值模型架構(gòu)的低功耗 AI加速器。這種新型架構(gòu)設(shè)計(jì)在ASIC和FPGA上通過驗(yàn)證都達(dá)到比當(dāng)前的SOTA二值模型降低4倍功耗并能維持同等水平精度。

二值神經(jīng)網(wǎng)絡(luò)架構(gòu)BNext

楊老師介紹的第二個(gè)工作是研發(fā)中的下一代極高精度二值神經(jīng)網(wǎng)絡(luò)架構(gòu)BNext，目前已成為第一個(gè)在ImageNet數(shù)據(jù)集上精度超過80%的二值神經(jīng)網(wǎng)絡(luò)。他認(rèn)為這種低功耗AI技術(shù)未來將有望落地在邊緣AI、AIoT、自動(dòng)駕駛、機(jī)器人等需要電池供電的智能設(shè)備中。在達(dá)到精度大幅提升后，團(tuán)隊(duì)同時(shí)積極在GPU等硬件上進(jìn)行效率驗(yàn)證和進(jìn)一步優(yōu)化。

在演講的第二部分，做為KubeEdge SIG AI成員，楊老師著重介紹了業(yè)界第一個(gè)基于KubeEdge的分布式協(xié)同AI框架 Sedna。Sedna的核心理念是基于KubeEdge提供的邊云協(xié)同基礎(chǔ)框架，打造中間服務(wù)以支持現(xiàn)有AI應(yīng)用無縫下沉到邊緣。負(fù)責(zé)打通AI應(yīng)用和云邊協(xié)同計(jì)算能力的通路。讓邊緣計(jì)算和AI社區(qū)的開發(fā)者們都能夠獲益。它能夠有效降低分布式協(xié)同機(jī)器學(xué)習(xí)服務(wù)構(gòu)建與部署成本、提升模型性能、保護(hù)數(shù)據(jù)隱私。楊老師重點(diǎn)為聽眾介紹了Sedna的基礎(chǔ)架構(gòu)，已推出的特性，例如協(xié)同推理，聯(lián)邦學(xué)習(xí)，增量學(xué)習(xí)終身學(xué)習(xí)等等。

協(xié)同推理ReID

展示了協(xié)同推理ReID特性今年在新冠流調(diào)中成功應(yīng)用，能大幅提升流調(diào)工作效率、幫助實(shí)現(xiàn)快速有效的防疫。目前特性已被集成進(jìn)入華為時(shí)空伴隨搜索解決方案中。

在演講后的問答環(huán)節(jié)，Sedna成為被提問最多的部分，成功收獲極大的關(guān)注。通過此次分享，成功提升了KubeEdge/Sedna在計(jì)算機(jī)視覺社區(qū)的能見度，將為KubeEdge SIG AI社區(qū)吸引更多優(yōu)秀的合作者。