現(xiàn)在大多數(shù)的AI模型,尤其是計算視覺領(lǐng)域的AI模型,都是通過深度神經(jīng)網(wǎng)絡(luò)來進行構(gòu)建的,從2015年開始,學(xué)術(shù)界已經(jīng)開始注意到現(xiàn)有的神經(jīng)網(wǎng)絡(luò)模型都是需要較高算力和能好的。并且有大量的研究論文集中于如何將這些AI模型從云上部署到端側(cè),為AI模型創(chuàng)造更多的應(yīng)用場景和產(chǎn)業(yè)價值。
課程簡介
為了解決真實世界中的問題,我們的深度學(xué)習(xí)算法需要巨量的數(shù)據(jù),同時也需要機器擁有處理龐 大數(shù)據(jù) 的能力,在現(xiàn)實世界中部署神經(jīng)網(wǎng)絡(luò)需要平衡效率和能耗以及成本的關(guān)系。本課程介紹了能耗高效的深度學(xué)習(xí)。
課程目標(biāo)
通過本課程的學(xué)習(xí),使學(xué)員了解如下知識:
1、高效的結(jié)構(gòu)設(shè)計。
2、用NAS搜索輕量級網(wǎng)絡(luò)。
3、數(shù)據(jù)高效的模型壓縮。
4、1bit量化。
課程大綱
第1章 能耗高效的深度學(xué)習(xí)的背景
第2章 高效的神經(jīng)元和結(jié)構(gòu)設(shè)計
第3章 基于NAS的輕量級神經(jīng)網(wǎng)絡(luò)
第4章 數(shù)據(jù)高效的神經(jīng)網(wǎng)絡(luò)壓縮
第5章 1-bit等價性研究