TBE(Tensor Boost Engine)提供了昇騰AI處理器自定義算子開發(fā)能力,通過TBE提供的API和自定義算子編程開發(fā)界面可以完成相應(yīng)神經(jīng)網(wǎng)絡(luò)算子的開發(fā)。
張量(Tensor)是TBE算子中的數(shù)據(jù),包括輸入數(shù)據(jù)與輸出數(shù)據(jù),TensorDesc(Tensor描述符)是對輸入數(shù)據(jù)與輸出數(shù)據(jù)的描述,TensorDesc數(shù)據(jù)結(jié)構(gòu)包含如下屬性:
- 名稱(name):用于對Tensor進行索引,不同Tensor的name需要保持唯一。
- 形狀(shape):Tensor的形狀,比如(10,)或者(1024,1024)或者(2,3,4)等;
默認值為無;形式為(i1, i2,…in),其中i1,i2,in為正整數(shù)。
- 數(shù)據(jù)類型(dtype)
功能描述:指定Tensor對象的數(shù)據(jù)類型。
默認值:無
取值范圍:float16, float32, int8, int16, int32, uint8, uint16, bool。
不同計算操作支持的數(shù)據(jù)類型不同
- 數(shù)據(jù)排布格式(format):多個維度的排布順序。