模型轉(zhuǎn)換，即將開源框架的網(wǎng)絡模型（如Caffe、TensorFlow等），通過ATC（Ascend Tensor Compiler）模型轉(zhuǎn)換工具，將其轉(zhuǎn)換成昇騰AI處理器支持的離線模型，模型轉(zhuǎn)換過程中可以實現(xiàn)算子調(diào)度的優(yōu)化、權(quán)值數(shù)據(jù)重排、內(nèi)存使用優(yōu)化等，可以脫離設備完成模型的預處理。
另外，離線模型轉(zhuǎn)換過程中，80%左右的問題，集中在算子不支持。
1、新網(wǎng)絡，其中算子未開發(fā)或發(fā)布；
2、原框架自定義算子，需要在新框架重新適配開發(fā)；
3、算子泛化不夠，某些數(shù)據(jù)大小不支持。
在模型轉(zhuǎn)換過程中出現(xiàn)了算子不支持的情況，例如昇騰AI軟件棧不支持模型中的算子、開發(fā)者想修改現(xiàn)有算子中的計算邏輯、或者開發(fā)者想自己開發(fā)算子來提高計算性能，這時就需要進行自定義算子的開發(fā)了。
猜你喜歡
