華為云計算 云知識 TBE基本概念之張量
TBE基本概念之張量

TBE(Tensor Boost Engine)提供了昇騰AI處理器自定義算子開發(fā)能力,通過TBE提供的API和自定義算子編程開發(fā)界面可以完成相應(yīng)神經(jīng)網(wǎng)絡(luò)算子的開發(fā)。

張量(Tensor)是TBE算子中的數(shù)據(jù),包括輸入數(shù)據(jù)與輸出數(shù)據(jù),TensorDesc(Tensor描述符)是對輸入數(shù)據(jù)與輸出數(shù)據(jù)的描述,TensorDesc數(shù)據(jù)結(jié)構(gòu)包含如下屬性:

  1. 名稱(name):用于對Tensor進行索引,不同Tensor的name需要保持唯一。
  2. 形狀(shape):Tensor的形狀,比如(10,)或者(1024,1024)或者(2,3,4)等;

默認值為無;形式為(i1, i2,…in),其中i1,i2,in為正整數(shù)。

  1. 數(shù)據(jù)類型(dtype)

功能描述:指定Tensor對象的數(shù)據(jù)類型。

默認值:無

取值范圍:float16, float32, int8, int16, int32, uint8, uint16, bool。

不同計算操作支持的數(shù)據(jù)類型不同

  1. 數(shù)據(jù)排布格式(format):多個維度的排布順序。