拓冰网站定制 
CANN ops-nn HardSigmoid 算子深度解析接口调用、源码实现与 NPU 加速原理【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nnHardSigmoid 是 CANN 神经网络算子库ops-nn中激活函数家族的一员以「分段线性 截断」的近似方式平滑模拟 Sigmoid在移动端网络与量化场景中广泛用于替代计算开销较高的标准 Sigmoid。本文以activation/hard_sigmoid目录下的 README.md 为主线结合算子定义、Host 侧 Shape 推导与 Tiling 逻辑、Kernel 侧向量计算实现、aclnn 两段式 API 与图模式 IR 原型等仓库源码系统讲解 HardSigmoid 的算子功能、参数约束、产品支持情况、aclnn / 图模式两种调用方式以及底层执行原理帮助读者在 Atlas 系列产品上正确完成算子的接入、验证与性能调优。算子功能与数学定义HardSigmoid 是对输入张量self逐元素进行激活变换的算子输出与输入 shape 相同的张量。其核心计算公式为$$ HardSigmoid(self)clip(\alpha \times self \beta, 0, 1) $$默认取 $\alpha\frac{1}{6}$$\beta\frac{1}{2}$等价于如下分段函数$$ HardSigmoid(self)\begin{cases} 1, if(self\gt3) \ 0, if(self\le-3) \ \frac{self}{6} \frac{1}{2}, otherwise \end{cases} $$即输入小于等于 -3 时输出 0大于 3 时输出 1中间区间做线性变换后截断到 [0, 1]。这一分段特性决定了 HardSigmoid 相比指数运算的 Sigmoid 具有更低的计算复杂度在 NPU 上可通过向量指令的 Muls/Adds/Mins/Maxs 组合直接完成无需查表或多项式近似。文档同时明确输入为 INT32 时计算结果截断后转换为 INT32 输出。关于这一语义op_kernel/arch35/hard_sigmoid.cpp 给出了精确的实现解释INT32 输入先以CAST_RINT舍入方式升为 fp32 参与 affine clamp 计算最后以CAST_TRUNC截断转回 INT32。从算子原型 op_graph/hard_sigmoid_proto.h 的注释可以看到该算子在设计上兼容 PyTorch 的torch.nn.Hardsigmoid且alpha默认 0.16666666、beta默认 0.5均为可选属性允许在构图时覆盖默认斜率与偏移。产品支持情况HardSigmoid 算子在当前 CANN 版本中支持以下产品系列对应 README.md 中的产品支持表产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√Atlas 200I/500 A2 推理产品√Atlas 推理系列产品√Atlas 训练系列产品√需要注意的是数据类型存在产品差异Atlas 训练系列产品仅支持 FLOAT、FLOAT16、INT32 三种类型不含 BFLOAT16其余产品支持 FLOAT、FLOAT16、INT32、BFLOAT16 四种类型。这一差异在 Host 侧算子定义 op_host/hard_sigmoid_def.cpp 与 API 层 dtype 支持列表 op_api/aclnn_hardsigmoid.cpp 中均有对应体现——后者针对 910 与 910B 平台分别维护了ASCEND910_DTYPE_SUPPORT_LIST与ASCEND910B_DTYPE_SUPPORT_LIST两个支持列表。参数说明与约束算子输入输出参数名输入/输出/属性描述数据类型数据格式self输入激活函数的输入公式中的输入 self支持空 Tensorshape 维度不超过 8 维FLOAT、FLOAT16、INT32、BFLOAT16NDout输出激活函数的输出即 HardSigmoid(self)数据类型与 shape 均与输入 self 一致FLOAT、FLOAT16、INT32、BFLOAT16ND约束说明文档给出的约束为「无」。但从源码实现可以确认以下隐含约束与参数表一致shape 一致性self 与 out 的 shape 必须一致Shape 推导在 op_host/hard_sigmoid_infershape.cpp 中实现为*outputShape *inputShape的直接拷贝dtype 同理由SetOutputDataType(0, GetInputDataType(0))透传。维度上限shape 维度不超过 8 维超过时 aclnn 首段接口返回ACLNN_ERR_PARAM_INVALID。格式要求仅支持 ND 格式FORMAT_ND且支持非连续 Tensoraclnn 层通过Contiguous与ViewCopy处理。aclnn 两段式接口调用aclnn 调用方式提供两个功能相同的接口aclnnHardsigmoid需新建一个输出张量对象存储计算结果aclnnInplaceHardsigmoid无需新建输出张量对象直接在输入张量的内存中原地写回计算结果。两者均为 CANN 标准的两段式接口必须先调用aclnnHardsigmoidGetWorkspaceSize或aclnnInplaceHardsigmoidGetWorkspaceSize获取计算所需 workspace 大小与包含算子计算流程的执行器 executor再调用第二段aclnnHardsigmoid或aclnnInplaceHardsigmoid真正执行计算。完整接口说明可参考 docs/aclnnHardsigmoidaclnnInplaceHardsigmoid.md。函数原型aclnnStatus aclnnHardsigmoidGetWorkspaceSize( const aclTensor* self, aclTensor* out, uint64_t* workspaceSize, aclOpExecutor** executor) aclnnStatus aclnnHardsigmoid( void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, const aclrtStream stream) aclnnStatus aclnnInplaceHardsigmoidGetWorkspaceSize( const aclTensor* self, uint64_t* workspaceSize, aclOpExecutor** executor) aclnnStatus aclnnInplaceHardsigmoid( void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, const aclrtStream stream)首段接口参数说明aclnnHardsigmoidGetWorkspaceSize参数名输入/输出描述使用说明数据类型数据格式维度(shape)非连续TensorselfaclTensor*输入激活函数的输入公式中的输入 selfself 与 out 的 shape 一致支持空 TensorFLOAT、FLOAT16、INT32、BFLOAT16ND0-8√outaclTensor*输出激活函数的输出即 Hardsigmoid(self)self 与 out 的数据类型和 shape 一致FLOAT、FLOAT16、INT32、BFLOAT16ND0-8√workspaceSizeuint64_t*输出返回需要在 Device 侧申请的 workspace 大小-----executoraclOpExecutor**输出返回 op 执行器包含算子计算流程-----返回码与错误场景首段接口完成入参校验aclnnHardsigmoidGetWorkspaceSize在以下场景返回错误对应 aclnn 返回码详见 aclnn 返回码说明返回码错误码描述ACLNN_ERR_PARAM_NULLPTR161001传入的 self 或 out 为空指针ACLNN_ERR_PARAM_INVALID161002self 或 out 的数据类型/数据格式不在支持范围内ACLNN_ERR_PARAM_INVALID161002self 与 out 的数据类型不一致ACLNN_ERR_PARAM_INVALID161002self 与 out 的 shape 不一致ACLNN_ERR_PARAM_INVALID161002self 或 out 的 shape 超过 8 维aclnnInplaceHardsigmoidGetWorkspaceSize的校验场景更少仅空指针、dtype/format 不支持、shape 超 8 维因为该接口只有 self 一个张量参数。这些校验逻辑在 op_api/aclnn_hardsigmoid.cpp 的CheckParams/CheckShape/CheckDtypeValid中有完整实现。第二段接口参数说明aclnnHardsigmoid / aclnnInplaceHardsigmoid参数名输入/输出描述workspace输入在 Device 侧申请的 workspace 内存地址workspaceSize输入workspace 大小由第一段接口获取executor输入op 执行器包含算子计算流程stream输入指定执行任务的 Stream调用示例以下以aclnnHardsigmoid为例展示完整调用流程源码位于 examples/test_aclnn_hard_sigmoid.cpp#include iostream #include vector #include acl/acl.h #include aclnnop/aclnn_hardsigmoid.h #define CHECK_RET(cond, return_expr) \ do { \ if (!(cond)) { \ return_expr; \ } \ } while (0) #define LOG_PRINT(message, ...) \ do { \ printf(message, ##__VA_ARGS__); \ } while (0) int64_t GetShapeSize(const std::vectorint64_t shape) { int64_t shape_size 1; for (auto i : shape) { shape_size * i; } return shape_size; } int Init(int32_t deviceId, aclrtStream* stream) { // 固定写法资源初始化 auto ret aclInit(nullptr); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclInit failed. ERROR: %d\n, ret); return ret); ret aclrtSetDevice(deviceId); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtSetDevice failed. ERROR: %d\n, ret); return ret); ret aclrtCreateStream(stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtCreateStream failed. ERROR: %d\n, ret); return ret); return 0; } template typename T int CreateAclTensor(const std::vectorT hostData, const std::vectorint64_t shape, void** deviceAddr, aclDataType dataType, aclTensor** tensor) { auto size GetShapeSize(shape) * sizeof(T); // 调用aclrtMalloc申请device侧内存 auto ret aclrtMalloc(deviceAddr, size, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtMalloc failed. ERROR: %d\n, ret); return ret); // 调用aclrtMemcpy将host侧数据拷贝到device侧内存上 ret aclrtMemcpy(*deviceAddr, size, hostData.data(), size, ACL_MEMCPY_HOST_TO_DEVICE); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtMemcpy failed. ERROR: %d\n, ret); return ret); // 计算连续tensor的strides std::vectorint64_t strides(shape.size(), 1); for (int64_t i shape.size() - 2; i 0; i--) { strides[i] shape[i 1] * strides[i 1]; } // 调用aclCreateTensor接口创建aclTensor *tensor aclCreateTensor(shape.data(), shape.size(), dataType, strides.data(), 0, aclFormat::ACL_FORMAT_ND, shape.data(), shape.size(), *deviceAddr); return 0; } int main() { // 1. 固定写法device/stream初始化 int32_t deviceId 0; // 根据自己的实际device填写 aclrtStream stream; auto ret Init(deviceId, stream); CHECK_RET(ret 0, LOG_PRINT(Init acl failed. ERROR: %d\n, ret); return ret); // 2. 构造输入与输出 std::vectorint64_t selfShape {4, 2}; std::vectorint64_t outShape {4, 2}; void* selfDeviceAddr nullptr; void* outDeviceAddr nullptr; aclTensor* self nullptr; aclTensor* out nullptr; // 覆盖 x-3、x3 以及中间线性区间的典型取值 std::vectorfloat selfHostData {-4, -3, -2, 0, 1, 2, 4, 5}; std::vectorfloat outHostData {0, 0, 0, 0, 0, 0, 0, 0}; ret CreateAclTensor(selfHostData, selfShape, selfDeviceAddr, aclDataType::ACL_FLOAT, self); CHECK_RET(ret ACL_SUCCESS, return ret); ret CreateAclTensor(outHostData, outShape, outDeviceAddr, aclDataType::ACL_FLOAT, out); CHECK_RET(ret ACL_SUCCESS, return ret); // 3. 调用CANN算子库API两段式 uint64_t workspaceSize 0; aclOpExecutor* executor; ret aclnnHardsigmoidGetWorkspaceSize(self, out, workspaceSize, executor); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclnnHardsigmoidGetWorkspaceSize failed. ERROR: %d\n, ret); return ret); void* workspaceAddr nullptr; if (workspaceSize 0) { ret aclrtMalloc(workspaceAddr, workspaceSize, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(allocate workspace failed. ERROR: %d\n, ret); return ret;); } ret aclnnHardsigmoid(workspaceAddr, workspaceSize, executor, stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclnnHardsigmoid failed. ERROR: %d\n, ret); return ret); // 4. 固定写法同步等待任务执行结束 ret aclrtSynchronizeStream(stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtSynchronizeStream failed. ERROR: %d\n, ret); return ret); // 5. 将device侧结果拷贝回host侧并打印 auto size GetShapeSize(outShape); std::vectorfloat resultData(size, 0); ret aclrtMemcpy(resultData.data(), resultData.size() * sizeof(resultData[0]), outDeviceAddr, size * sizeof(float), ACL_MEMCPY_DEVICE_TO_HOST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(copy result from device to host failed. ERROR: %d\n, ret); return ret); for (int64_t i 0; i size; i) { LOG_PRINT(result[%ld] is: %f\n, i, resultData[i]); } // 6. 释放aclTensor aclDestroyTensor(self); aclDestroyTensor(out); // 7. 释放device资源 aclrtFree(selfDeviceAddr); aclrtFree(outDeviceAddr); if (workspaceSize 0) { aclrtFree(workspaceAddr); } aclrtDestroyStream(stream); aclrtResetDevice(deviceId); aclFinalize(); return 0; }对照分段公式可推得上述样例的期望输出{-4,-3,-2,0,1,2,4,5}依次映射为{0, 0, 0.1667, 0.5, 0.6667, 0.8333, 1, 1}其中 -4、-3 落入饱和区输出 04、5 落入饱和区输出 1。完整的aclnnInplaceHardsigmoid调用示例见 examples/test_aclnn_inplace_hard_sigmoid.cpp其核心区别在于无需创建 out 张量GetWorkspaceSize只接收 self执行完成后直接从 self 所在 Device 内存读取结果。具体编译与执行流程可参考 编译与运行样例。API 层内部执行链路从 op_api/aclnn_hardsigmoid.cpp 可以看到 aclnn 层的实现要点首段接口先完成空指针、dtype、shape 校验对空 Tensor 直接返回workspaceSize 0并释放 executor通过l0op::Contiguous将非连续输入规整为连续 Tensor调用 op_api/hardsigmoid.cpp 中注册的l0op::HardSigmoidOP_TYPE_REGISTER(HardSigmoid)该函数携带kHardSigmoidAlpha 1.0f/6.0f、kHardSigmoidBeta 0.5f两个属性构造 AICore 算子发射ADD_TO_LAUNCHER_LIST_AICORE最后通过l0op::ViewCopy将中间结果拷贝到用户输出 out支持非连续输出aclnnInplaceHardsigmoidGetWorkspaceSize的实现即self与out指向同一 Tensor 后复用非原地路径。图模式调用算子 IR 构图除 aclnn 接口外HardSigmoid 还支持图模式GEIR调用通过算子 IR 构图方式使用。图模式示例位于 examples/arch35/test_geir_hard_sigmoid.cpp算子原型定义在 op_graph/hard_sigmoid_proto.h。图模式下的算子描述为输入input_xND 格式张量维度 0~8支持 float16、float32、int32、bfloat16输出output_y与input_x同 dtype、同 shape 的 ND 张量属性alphafloat默认 0.16666666、betafloat默认 0.5。该原型与 Host 侧算子定义 op_host/hard_sigmoid_def.cpp 完全对应Input(input_x)/Output(output_y)均声明DT_FLOAT, DT_FLOAT16, DT_BF16, DT_INT32四种类型与FORMAT_ND格式Attr(alpha).Float(1.0f/6.0f)与Attr(beta).Float(0.5f)为可选属性并显式开启了DynamicShapeSupportFlag(true)、DynamicRankSupportFlag(true)等动态编译开关。此外framework/hard_sigmoid_onnx_plugin.cpp 提供了 ONNX 框架侧的插件支持便于 ONNX 模型中的 HardSigmoid 节点直接映射到本算子。Kernel 实现原理源码级HardSigmoid 的 AICore Kernel 位于 op_kernel/arch35/hard_sigmoid.cpparch35 / DAV_3510非模板 regbase 手写实现采用 EnQue/DeQue 三级流水CopyIn / Compute / CopyOut跨管道同步由 Queue 自动管理缓冲深度HARD_SIGMOID_BUFFER_NUM 2Double Buffer定义在 Host/Kernel 共享的 op_kernel/arch35/hard_sigmoid_tiling_data.h 中。计算部分针对不同数据类型采取了差异化的精度策略FLOAT原生 fp32 计算直接执行Muls(alpha)→Adds(beta)→Mins(1.0)→Maxs(0.0)四条向量指令完成 affine clamp全程无精度损失INT32先用CAST_RINT将整型提升为 fp32 计算完成 affine clamp 后再用CAST_TRUNC截断转回 INT32与文档中「计算结果截断后转换为 INT32」的语义一致FLOAT16/BFLOAT16先用CAST_NONE升为 fp32 计算 affine 部分再按目标类型舍入BFLOAT16 用CAST_ROUNDFLOAT16 用CAST_RINT降回半精度最后在原生 dtype 上执行 clamp——因为 0.0/1.0 在 fp16/bf16 中均可精确表示先降后 clamp 与 golden 计算fp32 域内 clamp 后再降等价同时省去 2 个 fp32 域 clamp 算子利用原生 dtype 更高的向量吞吐。Tiling 逻辑位于 op_host/arch35/hard_sigmoid_tiling_arch35.cpp按平台 AIV 核数GetCoreNumAiv与 UB 大小GetCoreMemSize(CoreMemType::UB)计算ubFactor单次 UB 搬运/计算的元素数按 UB block size 与向量寄存器宽度对齐与blockFactor单核处理元素数并据此设置SetBlockDim完成多核切分alpha/beta属性在 tiling 阶段由SetAttrs写入HardSigmoidTilingData默认 1/6、0.5Kernel 侧Init时读出后参与计算空张量场景由 tiling 层单核占位返回Kernel 不申请 UB每元素 UB 占用FLOAT16、FLOAT16/BFLOAT1612、INT3220 字节由 Host 侧按 Kernel buffer 布局严格推导二者共享头文件避免静默失配。测试与验证资源仓库为该算子提供了完整的测试体系可用于功能验证与回归UT 单元测试tests/ut/op_host/test_hard_sigmoid_infershape.cppShape/DataType 推导、tests/ut/op_host/op_api/test_aclnn_hardsigmoid.cppaclnn 接口、tests/ut/op_host/arch35/test_hard_sigmoid_tiling.cppTiling 计算以及 tests/ut/op_kernel/test_hard_sigmoid.cppKernelST 系统测试tests/st/aclnnHardsigmoid/executor_aclnnHardsigmoid.py 配合atk_aclnnHardsigmoid.json用例描述tests/st/arch35/ttk_kernel_hard_sigmoid.csv 覆盖 Kernel 级用例数据生成与比对tests/ut/op_kernel/hard_sigmoid_data/gen_data.py 与 compare_data.py 负责测试数据生成与 golden 比对tests/assets/golden.py 提供基于公式的参考实现是验证精度与边界语义饱和区、截断、半精度舍入的关键依据。总结HardSigmoid 是 ops-nn 中结构简洁但实现考究的激活算子对外提供 aclnn普通 / 原地与图模式GEIR / ONNX 插件多条调用路径对内则由 Host 侧 Shape 推导、多核 Tiling 切分与 Kernel 侧三级流水向量计算协同完成。理解其分段公式、按 dtype 区分的计算精度策略与两段式 API 的 workspace 管理方式是在 Atlas 系列产品上正确使用并深度优化该算子的前提。后续可结合各产品系列的算子清单与编译运行样例将本文中的调用模板直接落地到实际业务代码中。【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nn创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 CANN ops-nn HardSigmoid 算子深度解析：接口调用、源码实现与 NPU 加速原理
CANN ops-nn HardSigmoid 算子深度解析接口调用、源码实现与 NPU 加速原理【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nnHardSigmoid 是 CANN 神经网络算子库ops-nn中激活函数家族的一员以「分段线性 截断」的近似方式平滑模拟 Sigmoid在移动端网络与量化场景中广泛用于替代计算开销较高的标准 Sigmoid。本文以activation/hard_sigmoid目录下的 README.md 为主线结合算子定义、Host 侧 Shape 推导与 Tiling 逻辑、Kernel 侧向量计算实现、aclnn 两段式 API 与图模式 IR 原型等仓库源码系统讲解 HardSigmoid 的算子功能、参数约束、产品支持情况、aclnn / 图模式两种调用方式以及底层执行原理帮助读者在 Atlas 系列产品上正确完成算子的接入、验证与性能调优。算子功能与数学定义HardSigmoid 是对输入张量self逐元素进行激活变换的算子输出与输入 shape 相同的张量。其核心计算公式为$$ HardSigmoid(self)clip(\alpha \times self \beta, 0, 1) $$默认取 $\alpha\frac{1}{6}$$\beta\frac{1}{2}$等价于如下分段函数$$ HardSigmoid(self)\begin{cases} 1, if(self\gt3) \ 0, if(self\le-3) \ \frac{self}{6} \frac{1}{2}, otherwise \end{cases} $$即输入小于等于 -3 时输出 0大于 3 时输出 1中间区间做线性变换后截断到 [0, 1]。这一分段特性决定了 HardSigmoid 相比指数运算的 Sigmoid 具有更低的计算复杂度在 NPU 上可通过向量指令的 Muls/Adds/Mins/Maxs 组合直接完成无需查表或多项式近似。文档同时明确输入为 INT32 时计算结果截断后转换为 INT32 输出。关于这一语义op_kernel/arch35/hard_sigmoid.cpp 给出了精确的实现解释INT32 输入先以CAST_RINT舍入方式升为 fp32 参与 affine clamp 计算最后以CAST_TRUNC截断转回 INT32。从算子原型 op_graph/hard_sigmoid_proto.h 的注释可以看到该算子在设计上兼容 PyTorch 的torch.nn.Hardsigmoid且alpha默认 0.16666666、beta默认 0.5均为可选属性允许在构图时覆盖默认斜率与偏移。产品支持情况HardSigmoid 算子在当前 CANN 版本中支持以下产品系列对应 README.md 中的产品支持表产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√Atlas 200I/500 A2 推理产品√Atlas 推理系列产品√Atlas 训练系列产品√需要注意的是数据类型存在产品差异Atlas 训练系列产品仅支持 FLOAT、FLOAT16、INT32 三种类型不含 BFLOAT16其余产品支持 FLOAT、FLOAT16、INT32、BFLOAT16 四种类型。这一差异在 Host 侧算子定义 op_host/hard_sigmoid_def.cpp 与 API 层 dtype 支持列表 op_api/aclnn_hardsigmoid.cpp 中均有对应体现——后者针对 910 与 910B 平台分别维护了ASCEND910_DTYPE_SUPPORT_LIST与ASCEND910B_DTYPE_SUPPORT_LIST两个支持列表。参数说明与约束算子输入输出参数名输入/输出/属性描述数据类型数据格式self输入激活函数的输入公式中的输入 self支持空 Tensorshape 维度不超过 8 维FLOAT、FLOAT16、INT32、BFLOAT16NDout输出激活函数的输出即 HardSigmoid(self)数据类型与 shape 均与输入 self 一致FLOAT、FLOAT16、INT32、BFLOAT16ND约束说明文档给出的约束为「无」。但从源码实现可以确认以下隐含约束与参数表一致shape 一致性self 与 out 的 shape 必须一致Shape 推导在 op_host/hard_sigmoid_infershape.cpp 中实现为*outputShape *inputShape的直接拷贝dtype 同理由SetOutputDataType(0, GetInputDataType(0))透传。维度上限shape 维度不超过 8 维超过时 aclnn 首段接口返回ACLNN_ERR_PARAM_INVALID。格式要求仅支持 ND 格式FORMAT_ND且支持非连续 Tensoraclnn 层通过Contiguous与ViewCopy处理。aclnn 两段式接口调用aclnn 调用方式提供两个功能相同的接口aclnnHardsigmoid需新建一个输出张量对象存储计算结果aclnnInplaceHardsigmoid无需新建输出张量对象直接在输入张量的内存中原地写回计算结果。两者均为 CANN 标准的两段式接口必须先调用aclnnHardsigmoidGetWorkspaceSize或aclnnInplaceHardsigmoidGetWorkspaceSize获取计算所需 workspace 大小与包含算子计算流程的执行器 executor再调用第二段aclnnHardsigmoid或aclnnInplaceHardsigmoid真正执行计算。完整接口说明可参考 docs/aclnnHardsigmoidaclnnInplaceHardsigmoid.md。函数原型aclnnStatus aclnnHardsigmoidGetWorkspaceSize( const aclTensor* self, aclTensor* out, uint64_t* workspaceSize, aclOpExecutor** executor) aclnnStatus aclnnHardsigmoid( void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, const aclrtStream stream) aclnnStatus aclnnInplaceHardsigmoidGetWorkspaceSize( const aclTensor* self, uint64_t* workspaceSize, aclOpExecutor** executor) aclnnStatus aclnnInplaceHardsigmoid( void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, const aclrtStream stream)首段接口参数说明aclnnHardsigmoidGetWorkspaceSize参数名输入/输出描述使用说明数据类型数据格式维度(shape)非连续TensorselfaclTensor*输入激活函数的输入公式中的输入 selfself 与 out 的 shape 一致支持空 TensorFLOAT、FLOAT16、INT32、BFLOAT16ND0-8√outaclTensor*输出激活函数的输出即 Hardsigmoid(self)self 与 out 的数据类型和 shape 一致FLOAT、FLOAT16、INT32、BFLOAT16ND0-8√workspaceSizeuint64_t*输出返回需要在 Device 侧申请的 workspace 大小-----executoraclOpExecutor**输出返回 op 执行器包含算子计算流程-----返回码与错误场景首段接口完成入参校验aclnnHardsigmoidGetWorkspaceSize在以下场景返回错误对应 aclnn 返回码详见 aclnn 返回码说明返回码错误码描述ACLNN_ERR_PARAM_NULLPTR161001传入的 self 或 out 为空指针ACLNN_ERR_PARAM_INVALID161002self 或 out 的数据类型/数据格式不在支持范围内ACLNN_ERR_PARAM_INVALID161002self 与 out 的数据类型不一致ACLNN_ERR_PARAM_INVALID161002self 与 out 的 shape 不一致ACLNN_ERR_PARAM_INVALID161002self 或 out 的 shape 超过 8 维aclnnInplaceHardsigmoidGetWorkspaceSize的校验场景更少仅空指针、dtype/format 不支持、shape 超 8 维因为该接口只有 self 一个张量参数。这些校验逻辑在 op_api/aclnn_hardsigmoid.cpp 的CheckParams/CheckShape/CheckDtypeValid中有完整实现。第二段接口参数说明aclnnHardsigmoid / aclnnInplaceHardsigmoid参数名输入/输出描述workspace输入在 Device 侧申请的 workspace 内存地址workspaceSize输入workspace 大小由第一段接口获取executor输入op 执行器包含算子计算流程stream输入指定执行任务的 Stream调用示例以下以aclnnHardsigmoid为例展示完整调用流程源码位于 examples/test_aclnn_hard_sigmoid.cpp#include iostream #include vector #include acl/acl.h #include aclnnop/aclnn_hardsigmoid.h #define CHECK_RET(cond, return_expr) \ do { \ if (!(cond)) { \ return_expr; \ } \ } while (0) #define LOG_PRINT(message, ...) \ do { \ printf(message, ##__VA_ARGS__); \ } while (0) int64_t GetShapeSize(const std::vectorint64_t shape) { int64_t shape_size 1; for (auto i : shape) { shape_size * i; } return shape_size; } int Init(int32_t deviceId, aclrtStream* stream) { // 固定写法资源初始化 auto ret aclInit(nullptr); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclInit failed. ERROR: %d\n, ret); return ret); ret aclrtSetDevice(deviceId); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtSetDevice failed. ERROR: %d\n, ret); return ret); ret aclrtCreateStream(stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtCreateStream failed. ERROR: %d\n, ret); return ret); return 0; } template typename T int CreateAclTensor(const std::vectorT hostData, const std::vectorint64_t shape, void** deviceAddr, aclDataType dataType, aclTensor** tensor) { auto size GetShapeSize(shape) * sizeof(T); // 调用aclrtMalloc申请device侧内存 auto ret aclrtMalloc(deviceAddr, size, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtMalloc failed. ERROR: %d\n, ret); return ret); // 调用aclrtMemcpy将host侧数据拷贝到device侧内存上 ret aclrtMemcpy(*deviceAddr, size, hostData.data(), size, ACL_MEMCPY_HOST_TO_DEVICE); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtMemcpy failed. ERROR: %d\n, ret); return ret); // 计算连续tensor的strides std::vectorint64_t strides(shape.size(), 1); for (int64_t i shape.size() - 2; i 0; i--) { strides[i] shape[i 1] * strides[i 1]; } // 调用aclCreateTensor接口创建aclTensor *tensor aclCreateTensor(shape.data(), shape.size(), dataType, strides.data(), 0, aclFormat::ACL_FORMAT_ND, shape.data(), shape.size(), *deviceAddr); return 0; } int main() { // 1. 固定写法device/stream初始化 int32_t deviceId 0; // 根据自己的实际device填写 aclrtStream stream; auto ret Init(deviceId, stream); CHECK_RET(ret 0, LOG_PRINT(Init acl failed. ERROR: %d\n, ret); return ret); // 2. 构造输入与输出 std::vectorint64_t selfShape {4, 2}; std::vectorint64_t outShape {4, 2}; void* selfDeviceAddr nullptr; void* outDeviceAddr nullptr; aclTensor* self nullptr; aclTensor* out nullptr; // 覆盖 x-3、x3 以及中间线性区间的典型取值 std::vectorfloat selfHostData {-4, -3, -2, 0, 1, 2, 4, 5}; std::vectorfloat outHostData {0, 0, 0, 0, 0, 0, 0, 0}; ret CreateAclTensor(selfHostData, selfShape, selfDeviceAddr, aclDataType::ACL_FLOAT, self); CHECK_RET(ret ACL_SUCCESS, return ret); ret CreateAclTensor(outHostData, outShape, outDeviceAddr, aclDataType::ACL_FLOAT, out); CHECK_RET(ret ACL_SUCCESS, return ret); // 3. 调用CANN算子库API两段式 uint64_t workspaceSize 0; aclOpExecutor* executor; ret aclnnHardsigmoidGetWorkspaceSize(self, out, workspaceSize, executor); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclnnHardsigmoidGetWorkspaceSize failed. ERROR: %d\n, ret); return ret); void* workspaceAddr nullptr; if (workspaceSize 0) { ret aclrtMalloc(workspaceAddr, workspaceSize, ACL_MEM_MALLOC_HUGE_FIRST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(allocate workspace failed. ERROR: %d\n, ret); return ret;); } ret aclnnHardsigmoid(workspaceAddr, workspaceSize, executor, stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclnnHardsigmoid failed. ERROR: %d\n, ret); return ret); // 4. 固定写法同步等待任务执行结束 ret aclrtSynchronizeStream(stream); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(aclrtSynchronizeStream failed. ERROR: %d\n, ret); return ret); // 5. 将device侧结果拷贝回host侧并打印 auto size GetShapeSize(outShape); std::vectorfloat resultData(size, 0); ret aclrtMemcpy(resultData.data(), resultData.size() * sizeof(resultData[0]), outDeviceAddr, size * sizeof(float), ACL_MEMCPY_DEVICE_TO_HOST); CHECK_RET(ret ACL_SUCCESS, LOG_PRINT(copy result from device to host failed. ERROR: %d\n, ret); return ret); for (int64_t i 0; i size; i) { LOG_PRINT(result[%ld] is: %f\n, i, resultData[i]); } // 6. 释放aclTensor aclDestroyTensor(self); aclDestroyTensor(out); // 7. 释放device资源 aclrtFree(selfDeviceAddr); aclrtFree(outDeviceAddr); if (workspaceSize 0) { aclrtFree(workspaceAddr); } aclrtDestroyStream(stream); aclrtResetDevice(deviceId); aclFinalize(); return 0; }对照分段公式可推得上述样例的期望输出{-4,-3,-2,0,1,2,4,5}依次映射为{0, 0, 0.1667, 0.5, 0.6667, 0.8333, 1, 1}其中 -4、-3 落入饱和区输出 04、5 落入饱和区输出 1。完整的aclnnInplaceHardsigmoid调用示例见 examples/test_aclnn_inplace_hard_sigmoid.cpp其核心区别在于无需创建 out 张量GetWorkspaceSize只接收 self执行完成后直接从 self 所在 Device 内存读取结果。具体编译与执行流程可参考 编译与运行样例。API 层内部执行链路从 op_api/aclnn_hardsigmoid.cpp 可以看到 aclnn 层的实现要点首段接口先完成空指针、dtype、shape 校验对空 Tensor 直接返回workspaceSize 0并释放 executor通过l0op::Contiguous将非连续输入规整为连续 Tensor调用 op_api/hardsigmoid.cpp 中注册的l0op::HardSigmoidOP_TYPE_REGISTER(HardSigmoid)该函数携带kHardSigmoidAlpha 1.0f/6.0f、kHardSigmoidBeta 0.5f两个属性构造 AICore 算子发射ADD_TO_LAUNCHER_LIST_AICORE最后通过l0op::ViewCopy将中间结果拷贝到用户输出 out支持非连续输出aclnnInplaceHardsigmoidGetWorkspaceSize的实现即self与out指向同一 Tensor 后复用非原地路径。图模式调用算子 IR 构图除 aclnn 接口外HardSigmoid 还支持图模式GEIR调用通过算子 IR 构图方式使用。图模式示例位于 examples/arch35/test_geir_hard_sigmoid.cpp算子原型定义在 op_graph/hard_sigmoid_proto.h。图模式下的算子描述为输入input_xND 格式张量维度 0~8支持 float16、float32、int32、bfloat16输出output_y与input_x同 dtype、同 shape 的 ND 张量属性alphafloat默认 0.16666666、betafloat默认 0.5。该原型与 Host 侧算子定义 op_host/hard_sigmoid_def.cpp 完全对应Input(input_x)/Output(output_y)均声明DT_FLOAT, DT_FLOAT16, DT_BF16, DT_INT32四种类型与FORMAT_ND格式Attr(alpha).Float(1.0f/6.0f)与Attr(beta).Float(0.5f)为可选属性并显式开启了DynamicShapeSupportFlag(true)、DynamicRankSupportFlag(true)等动态编译开关。此外framework/hard_sigmoid_onnx_plugin.cpp 提供了 ONNX 框架侧的插件支持便于 ONNX 模型中的 HardSigmoid 节点直接映射到本算子。Kernel 实现原理源码级HardSigmoid 的 AICore Kernel 位于 op_kernel/arch35/hard_sigmoid.cpparch35 / DAV_3510非模板 regbase 手写实现采用 EnQue/DeQue 三级流水CopyIn / Compute / CopyOut跨管道同步由 Queue 自动管理缓冲深度HARD_SIGMOID_BUFFER_NUM 2Double Buffer定义在 Host/Kernel 共享的 op_kernel/arch35/hard_sigmoid_tiling_data.h 中。计算部分针对不同数据类型采取了差异化的精度策略FLOAT原生 fp32 计算直接执行Muls(alpha)→Adds(beta)→Mins(1.0)→Maxs(0.0)四条向量指令完成 affine clamp全程无精度损失INT32先用CAST_RINT将整型提升为 fp32 计算完成 affine clamp 后再用CAST_TRUNC截断转回 INT32与文档中「计算结果截断后转换为 INT32」的语义一致FLOAT16/BFLOAT16先用CAST_NONE升为 fp32 计算 affine 部分再按目标类型舍入BFLOAT16 用CAST_ROUNDFLOAT16 用CAST_RINT降回半精度最后在原生 dtype 上执行 clamp——因为 0.0/1.0 在 fp16/bf16 中均可精确表示先降后 clamp 与 golden 计算fp32 域内 clamp 后再降等价同时省去 2 个 fp32 域 clamp 算子利用原生 dtype 更高的向量吞吐。Tiling 逻辑位于 op_host/arch35/hard_sigmoid_tiling_arch35.cpp按平台 AIV 核数GetCoreNumAiv与 UB 大小GetCoreMemSize(CoreMemType::UB)计算ubFactor单次 UB 搬运/计算的元素数按 UB block size 与向量寄存器宽度对齐与blockFactor单核处理元素数并据此设置SetBlockDim完成多核切分alpha/beta属性在 tiling 阶段由SetAttrs写入HardSigmoidTilingData默认 1/6、0.5Kernel 侧Init时读出后参与计算空张量场景由 tiling 层单核占位返回Kernel 不申请 UB每元素 UB 占用FLOAT16、FLOAT16/BFLOAT1612、INT3220 字节由 Host 侧按 Kernel buffer 布局严格推导二者共享头文件避免静默失配。测试与验证资源仓库为该算子提供了完整的测试体系可用于功能验证与回归UT 单元测试tests/ut/op_host/test_hard_sigmoid_infershape.cppShape/DataType 推导、tests/ut/op_host/op_api/test_aclnn_hardsigmoid.cppaclnn 接口、tests/ut/op_host/arch35/test_hard_sigmoid_tiling.cppTiling 计算以及 tests/ut/op_kernel/test_hard_sigmoid.cppKernelST 系统测试tests/st/aclnnHardsigmoid/executor_aclnnHardsigmoid.py 配合atk_aclnnHardsigmoid.json用例描述tests/st/arch35/ttk_kernel_hard_sigmoid.csv 覆盖 Kernel 级用例数据生成与比对tests/ut/op_kernel/hard_sigmoid_data/gen_data.py 与 compare_data.py 负责测试数据生成与 golden 比对tests/assets/golden.py 提供基于公式的参考实现是验证精度与边界语义饱和区、截断、半精度舍入的关键依据。总结HardSigmoid 是 ops-nn 中结构简洁但实现考究的激活算子对外提供 aclnn普通 / 原地与图模式GEIR / ONNX 插件多条调用路径对内则由 Host 侧 Shape 推导、多核 Tiling 切分与 Kernel 侧三级流水向量计算协同完成。理解其分段公式、按 dtype 区分的计算精度策略与两段式 API 的 workspace 管理方式是在 Atlas 系列产品上正确使用并深度优化该算子的前提。后续可结合各产品系列的算子清单与编译运行样例将本文中的调用模板直接落地到实际业务代码中。【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nn创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考