aclopInferShape【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况Ascend 950PR/Ascend 950DT不支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品支持Atlas 推理系列产品支持Atlas 训练系列产品支持IPV350不支持功能说明根据算子的输入Shape、输入值推导出算子的输出Shape。推导算子的输出Shape包含三种场景根据Shape推导可以得到算子的准确输出Shape则返回准确输出Shape根据Shape推导无法得到算子的准确输出Shape但可以得到输出Shape的范围则在输出参数outputDesc中将算子输出tensor描述中的动态维度的维度值记为-1。该场景下用户可调用aclGetTensorDescDimRange接口获取tensor描述中指定维度的范围值。该场景预留根据Shape推导无法得到算子的准确输出Shape以及Shape范围则在输出参数outputDesc中将算子输出tensor描述中的动态维度的维度值记为-2。函数原型aclError aclopInferShape(const char *opType, int numInputs, aclTensorDesc *inputDesc[], aclDataBuffer *inputs[], int numOutputs, aclTensorDesc *outputDesc[], aclopAttr *attr)参数说明参数名输入/输出说明opType输入算子类型名称的指针。numInputs输入算子输入tensor的数量。inputDesc输入算子输入tensor描述的指针数组。类型定义请参见aclTensorDesc。需提前调用aclCreateTensorDesc接口创建aclTensorDesc类型。inputDesc数组中的元素个数必须与numInputs参数值保持一致。inputs输入算子输入tensor的指针数组。类型定义请参见aclDataBuffer。需提前调用aclCreateDataBuffer接口创建aclDataBuffer类型的数据。numOutputs输入算子输出tensor的数量。outputDesc输出算子输出tensor描述的指针数组。类型定义请参见aclTensorDesc。需提前调用aclCreateTensorDesc接口创建aclTensorDesc类型。outputDesc数组中的元素个数必须与numOutputs参数值保持一致attr输入算子属性。类型定义请参见aclopAttr。返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明Ascend EP形态下inputs参数处算子输入tensor数据的内存需申请Host上的内存。Ascend RC形态下inputs参数处算子输入tensor数据的内存需申请Device上的内存。Control CPU开放形态下inputs参数处算子输入tensor数据的内存需申请Device上的内存。如果算子有动态输入DYNAMIC_INPUT或动态输出DYNAMIC_OUTPUT在调用aclopInferShape接口推导算子的输出Shape前需先调用aclSetTensorDescName接口设置所有输入和输出的tensor描述的名称且名称必须按照如下要求对于必选输入、可选输入、必选输出名称必须与算子IR原型中定义的输入/输出名称保持一致。对于动态输入、动态输出名称必须是算子IR原型中定义的输入/输出名称编号。编号根据动态输入/输出的个数确定从0开始0对应第一个动态输入/输出1对应第二个动态输入/输出以此类推。例如某个算子有2个输入第1个是必选输入x第二个是动态输入y且输入个数为2、1个必选输出z则调用aclSetTensorDescName接口设置名称的代码示例如下aclSetTensorDescName(inputTensorDesc[0], x); aclSetTensorDescName(inputTensorDesc[1], y0); aclSetTensorDescName(inputTensorDesc[2], y1); aclSetTensorDescName(outputTensorDesc[0], z);【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 CANN/ge ACL算子形状推断API
aclopInferShape【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况Ascend 950PR/Ascend 950DT不支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品支持Atlas 推理系列产品支持Atlas 训练系列产品支持IPV350不支持功能说明根据算子的输入Shape、输入值推导出算子的输出Shape。推导算子的输出Shape包含三种场景根据Shape推导可以得到算子的准确输出Shape则返回准确输出Shape根据Shape推导无法得到算子的准确输出Shape但可以得到输出Shape的范围则在输出参数outputDesc中将算子输出tensor描述中的动态维度的维度值记为-1。该场景下用户可调用aclGetTensorDescDimRange接口获取tensor描述中指定维度的范围值。该场景预留根据Shape推导无法得到算子的准确输出Shape以及Shape范围则在输出参数outputDesc中将算子输出tensor描述中的动态维度的维度值记为-2。函数原型aclError aclopInferShape(const char *opType, int numInputs, aclTensorDesc *inputDesc[], aclDataBuffer *inputs[], int numOutputs, aclTensorDesc *outputDesc[], aclopAttr *attr)参数说明参数名输入/输出说明opType输入算子类型名称的指针。numInputs输入算子输入tensor的数量。inputDesc输入算子输入tensor描述的指针数组。类型定义请参见aclTensorDesc。需提前调用aclCreateTensorDesc接口创建aclTensorDesc类型。inputDesc数组中的元素个数必须与numInputs参数值保持一致。inputs输入算子输入tensor的指针数组。类型定义请参见aclDataBuffer。需提前调用aclCreateDataBuffer接口创建aclDataBuffer类型的数据。numOutputs输入算子输出tensor的数量。outputDesc输出算子输出tensor描述的指针数组。类型定义请参见aclTensorDesc。需提前调用aclCreateTensorDesc接口创建aclTensorDesc类型。outputDesc数组中的元素个数必须与numOutputs参数值保持一致attr输入算子属性。类型定义请参见aclopAttr。返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明Ascend EP形态下inputs参数处算子输入tensor数据的内存需申请Host上的内存。Ascend RC形态下inputs参数处算子输入tensor数据的内存需申请Device上的内存。Control CPU开放形态下inputs参数处算子输入tensor数据的内存需申请Device上的内存。如果算子有动态输入DYNAMIC_INPUT或动态输出DYNAMIC_OUTPUT在调用aclopInferShape接口推导算子的输出Shape前需先调用aclSetTensorDescName接口设置所有输入和输出的tensor描述的名称且名称必须按照如下要求对于必选输入、可选输入、必选输出名称必须与算子IR原型中定义的输入/输出名称保持一致。对于动态输入、动态输出名称必须是算子IR原型中定义的输入/输出名称编号。编号根据动态输入/输出的个数确定从0开始0对应第一个动态输入/输出1对应第二个动态输入/输出以此类推。例如某个算子有2个输入第1个是必选输入x第二个是动态输入y且输入个数为2、1个必选输出z则调用aclSetTensorDescName接口设置名称的代码示例如下aclSetTensorDescName(inputTensorDesc[0], x); aclSetTensorDescName(inputTensorDesc[1], y0); aclSetTensorDescName(inputTensorDesc[2], y1); aclSetTensorDescName(outputTensorDesc[0], z);【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考