拓冰网站定制 
pyasc 中 asc.language.basic.relu 接口详解count / mask 两种模式调用 ReLU 向量算子的完整指南【免费下载链接】pyasc本项目为Python用户提供算子编程接口支持在昇腾AI处理器上加速计算接口与Ascend C一一对应并遵守Python原生语法。项目地址: https://gitcode.com/cann/pyasc在昇腾 AI 处理器上使用 pyasc 编写向量计算算子时asc.language.basic.relu是实现按元素线性整流ReLU的核心接口它与 Ascend C 的Relu向量接口一一对应。本文以该接口的 API 文档为主体完整覆盖其三种重载原型、全部参数语义与官方调用示例并结合 relu 的 Python 实现、UnaryRepeatParams 的定义 以及 MLIR 到 C 代码生成的测试用例讲清从 Python 调用到底层 Ascend C 函数AscendC::Relu的完整链路。读完后你可以熟练地在 kernel 中按 count、标量 mask 或逐 bit mask 三种方式调用 relu并正确设置UnaryRepeatParams的步长参数处理高维切分数据。一、三种重载原型与对应的 Ascend C 函数asc.language.basic.relu提供三种重载形式分别对应「按元素个数计算」「mask 连续模式」「mask 逐 bit 模式」三种调用方式# 原型 1按 count 直接计算前 count 个元素 asc.language.basic.relu(dst: LocalTensor, src: LocalTensor, count: int) → None # 原型 2mask 为单个 int连续模式 asc.language.basic.relu(dst: LocalTensor, src: LocalTensor, mask: int, repeat_times: int, repeat_params: UnaryRepeatParams, is_set_mask: bool True) → None # 原型 3mask 为 List[int]逐 bit 模式 asc.language.basic.relu(dst: LocalTensor, src: LocalTensor, mask: List[int], repeat_times: int, repeat_params: UnaryRepeatParams, is_set_mask: bool True) → None其中LocalTensor类型定义见 core.md。这三种原型分别映射到 Ascend C 中三个签名的Relu函数// 对应原型 1按 calCount 计算 template typename T __aicore__ inline void Relu(const LocalTensorT dstLocal, const LocalTensorT srcLocal, const int32_t calCount)// 对应原型 3mask 为 uint64_t 数组逐 bit template typename T, bool isSetMask true __aicore__ inline void Relu(const LocalTensorT dstLocal, const LocalTensorT srcLocal, uint64_t mask[], const uint8_t repeatTimes, const UnaryRepeatParams repeatParams)// 对应原型 2mask 为单个 uint64_t连续 template typename T, bool isSetMask true __aicore__ inline void Relu(const LocalTensorT dstLocal, const LocalTensorT srcLocal, uint64_t mask, const uint8_t repeatTimes, const UnaryRepeatParams repeatParams)从源码结构看这种「一个 Python 函数对应三个 C 模板函数」的映射关系在 pyasc 中是统一的向量一元算子设计Relu与Abs、Exp、Ln、Reciprocal、Rsqrt、Sqrt等算子共用同一套 L0/L1/L2 三级 IR 操作与代码生成逻辑可参考 vec_unary.py 中并列的各算子实现。二、参数说明参数说明dst目的操作数。类型为LocalTensor支持的TPosition为 VECIN/VECCALC/VECOUTsrc源操作数。类型为LocalTensor支持的TPosition为 VECIN/VECCALC/VECOUTcount参与计算的元素个数仅原型 1 使用mask用于控制每次迭代内参与计算的元素。可以是单个int连续模式也可以是List[int]逐 bit 模式repeat_times重复迭代次数仅 mask 模式使用repeat_params控制操作数地址步长的参数类型为UnaryRepeatParams仅 mask 模式使用is_set_mask是否在接口内部设置 mask默认值为True仅 mask 模式使用两点值得注意dst/src 位置约束两个操作数都只能放在向量计算的片上内存位置VECIN/VECCALC/VECOUT说明 relu 是纯向量算子不涉及 Cube 或 Matrix 域。is_set_mask模板参数在底层 C 原型中它是模板参数bool isSetMask true。pyasc 在代码生成时会将其作为模板实参输出——从 vec_unary.mlir 的 FileCheck 断言 可以看到Python 端默认传入的调用最终生成AscendC::Relufloat, 0(...)即isSetMask模板实参为0不重复设置具体模板实参语义由printIsSetMaskTemplate处理实现见 VecUnary.h。UnaryRepeatParams迭代步长参数mask 模式下必需的repeat_params定义在 types.py构造签名为asc.UnaryRepeatParams(dst_blk_stride: int 1, src_blk_stride: int 1, dst_rep_stride: int 8, src_rep_stride: int 8)dst_blk_stride/src_blk_stride底层为 uint16单次迭代内数据读取和写入的块步长取 1 表示单次迭代内数据连续读取和写入dst_rep_stride/src_rep_stride底层为 uint8相邻迭代间数据读取和写入的重复步长取 8 表示相邻迭代间数据依然连续衔接。其构造函数会调用builder.create_asc_ConstructOp将四个步长打包为!ascendc.unary_repeat_params类型的 IR 值随 relu 操作一起参与后续代码生成。三、官方调用示例详解文档给出了三类典型场景全部保留如下并补充语义说明。1. tensor 高维切分计算样例 —— mask 连续模式mask 256 // asc.half.sizeof() # repeat_times 4一次迭代计算128个数共计算512个数 # dst_blk_stride, src_blk_stride 1单次迭代内数据连续读取和写入 # dst_rep_stride, src_rep_stride 8相邻迭代间数据连续读取和写入 params asc.UnaryRepeatParams(1, 1, 8, 8) asc.relu(dst, src, maskmask, repeat_times4, repeat_paramsparams)要点asc.half.sizeof()为 halffloat16元素字节数2 字节256 // sizeof得出单次迭代可处理的元素数 128对应向量单元一次可算的 256 位 / 16 位元素宽度。repeat_times4使 4 次迭代累计处理 512 个元素适用于源数据在 UB 上按行/列分块存放、每块之间需要按固定步长跳转的高维切分场景。2. tensor 高维切分计算样例 —— mask 逐 bit 模式mask [uint64_max, uint64_max] # repeat_times 4一次迭代计算128个数共计算512个数 # dst_blk_stride, src_blk_stride 1单次迭代内数据连续读取和写入 # dst_rep_stride, src_rep_stride 8相邻迭代间数据连续读取和写入 params asc.UnaryRepeatParams(1, 1, 8, 8) asc.relu(dst, src, maskmask, repeat_times4, repeat_paramsparams)要点mask 传入List[int]此处为两个 64 位全 1 掩码时走「逐 bit」模式每个 bit 精确控制对应元素是否参与计算粒度比连续模式更细当所有 bit 均为 1 时行为等价于连续模式。3. tensor 前 n 个数据计算样例asc.relu(dst, src, count512)要点这是最简单的形态——不需要 mask 与迭代参数直接对 src 指向区域的前 512 个元素做 ReLU写入 dst 指向区域适用于数据在 UB 上连续存放、无越界风险的常规场景。四、源码级实现一次 relu 调用如何变成 Ascend C 代码1. Python 侧重载分派到三级 IR 操作vec_unary.py 中的 relu 实现 非常简洁require_jit set_unary_docstring(cpp_nameRelu, append_text按元素做线性整流Relu。) def relu(dst: LocalTensor, src: LocalTensor, *args, **kwargs) - None: builder global_builder.get_ir_builder() op_impl(relu, dst, src, args, kwargs, builder.create_asc_ReluL0Op, builder.create_asc_ReluL1Op, builder.create_asc_ReluL2Op)真正的重载分派在 op_impl 中完成它通过OverloadDispatcher按第三个参数的类型选择构建器mask: RuntimeInt单个 int→create_asc_ReluL0Opmask 按uint64物化、repeat_times按int8物化mask: list→create_asc_ReluL1Op列表中每个元素按uint64物化count: RuntimeInt自动注册的兜底分支→create_asc_ReluL2Opcount 按int32物化。这套物化逻辑解释了 API 文档中 C 原型里uint64_t mask、uint8_t repeatTimes、int32_t calCount的类型来源。2. IR 侧ascendc.relu_l0/l1/l2 操作三种 Python 原型分别落到ascendc.relu_l0、ascendc.relu_l1、ascendc.relu_l2三个 MLIR 操作上它们在 Translation.cpp 中注册进代码生成流水线。代码生成测试 vec_unary.mlir 验证了三种操作最终生成的 Ascend C 代码// L0mask 连续模式mask 为单个 i32 常量生成 uint64 mask 实参 ascendc.relu_l0 %dst, %src, %c1_i32, %c1_i32, %params // 生成: AscendC::Relufloat, 0(v2, v3, v1, v1, v4); // L1mask 逐 bit 模式两个 ui64 组成 mask 数组 ascendc.relu_l1 %dst, %src, %maskArray1_0, %maskArray1_1, %c1_i32, %params // 生成: uint64_t v2_mask_list0[] {v5, v6}; // AscendC::Relufloat, 0(v2, v3, v2_mask_list0, v1, v4); // L2count 模式 ascendc.relu_l2 %dst, %src, %c0_i32 // 生成: AscendC::Relu(v2, v3, v1);可以看到 L1 模式的生成器会自动把 Python 列表「展开」为 C 中的uint64_t局部数组再传入Relumask 数组输出逻辑见 printMask / printUnaryL1Params这正是「逐 bit 模式」在 C 层面对应uint64_t mask[]重载的原因。3. 单元测试单元测试 test_relu_kernel 在同一个asc.jitkernel 中完整覆盖了三种重载asc.jit def relu_kernel(): x_local asc.LocalTensor(dtypeasc.float16, posasc.TPosition.VECIN, addr0, tile_size512) z_local asc.LocalTensor(dtypeasc.float16, posasc.TPosition.VECOUT, addr0, tile_size512) asc.relu(z_local, x_local, count512) params asc.UnaryRepeatParams(1, 1, 8, 8) asc.relu(z_local, x_local, mask512, repeat_times1, repeat_paramsparams) uint64_max 2**64 - 1 mask [uint64_max, uint64_max] asc.relu(z_local, x_local, maskmask, repeat_times1, repeat_paramsparams)示例中 dst 用asc.TPosition.VECOUT、src 用asc.TPosition.VECIN符合文档对操作数位置的约束。五、约束说明操作数地址对齐要求请参见《Ascend C算子开发接口》中的“通用说明和约束-通用地址对齐约束”。操作数地址重叠约束请参考《Ascend C算子开发接口》中的“通用说明和约束-通用地址重叠约束”。也就是说虽然 pyasc 的接口与 Ascend C 一一对应但传入的LocalTensor地址在对齐与重叠上的责任仍由调用方保证文档中不再重复定义这些硬件层面的通用约束。六、小结与延伸阅读asc.language.basic.relu以三种 Python 重载完整对齐了 Ascend CRelu的三种函数原型count形式适合连续数据的最简调用mask: intrepeat_times形式适合固定宽度的迭代处理mask: List[int]形式提供逐 bit 的元素级控制能力三者通过UnaryRepeatParams的块步长/重复步长参数适配高维切分的数据布局。如需进一步扩展可继续阅读basic.mdasc.language.basic全量向量算子接口列表relu 与 abs、exp、ln、rsqrt、sqrt 等共用同一套 mask/repeat 调用范式core.mdLocalTensor等核心类型定义vec_unary.py向量一元算子的 Python 实现与重载分派逻辑vec_unary.mlir三种操作到 Ascend C 代码的生成对照测试。【免费下载链接】pyasc本项目为Python用户提供算子编程接口支持在昇腾AI处理器上加速计算接口与Ascend C一一对应并遵守Python原生语法。项目地址: https://gitcode.com/cann/pyasc创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 pyasc 中 asc.language.basic.relu 接口详解：count / mask 两种模式调用 ReLU 向量算子的完整指南
pyasc 中 asc.language.basic.relu 接口详解count / mask 两种模式调用 ReLU 向量算子的完整指南【免费下载链接】pyasc本项目为Python用户提供算子编程接口支持在昇腾AI处理器上加速计算接口与Ascend C一一对应并遵守Python原生语法。项目地址: https://gitcode.com/cann/pyasc在昇腾 AI 处理器上使用 pyasc 编写向量计算算子时asc.language.basic.relu是实现按元素线性整流ReLU的核心接口它与 Ascend C 的Relu向量接口一一对应。本文以该接口的 API 文档为主体完整覆盖其三种重载原型、全部参数语义与官方调用示例并结合 relu 的 Python 实现、UnaryRepeatParams 的定义 以及 MLIR 到 C 代码生成的测试用例讲清从 Python 调用到底层 Ascend C 函数AscendC::Relu的完整链路。读完后你可以熟练地在 kernel 中按 count、标量 mask 或逐 bit mask 三种方式调用 relu并正确设置UnaryRepeatParams的步长参数处理高维切分数据。一、三种重载原型与对应的 Ascend C 函数asc.language.basic.relu提供三种重载形式分别对应「按元素个数计算」「mask 连续模式」「mask 逐 bit 模式」三种调用方式# 原型 1按 count 直接计算前 count 个元素 asc.language.basic.relu(dst: LocalTensor, src: LocalTensor, count: int) → None # 原型 2mask 为单个 int连续模式 asc.language.basic.relu(dst: LocalTensor, src: LocalTensor, mask: int, repeat_times: int, repeat_params: UnaryRepeatParams, is_set_mask: bool True) → None # 原型 3mask 为 List[int]逐 bit 模式 asc.language.basic.relu(dst: LocalTensor, src: LocalTensor, mask: List[int], repeat_times: int, repeat_params: UnaryRepeatParams, is_set_mask: bool True) → None其中LocalTensor类型定义见 core.md。这三种原型分别映射到 Ascend C 中三个签名的Relu函数// 对应原型 1按 calCount 计算 template typename T __aicore__ inline void Relu(const LocalTensorT dstLocal, const LocalTensorT srcLocal, const int32_t calCount)// 对应原型 3mask 为 uint64_t 数组逐 bit template typename T, bool isSetMask true __aicore__ inline void Relu(const LocalTensorT dstLocal, const LocalTensorT srcLocal, uint64_t mask[], const uint8_t repeatTimes, const UnaryRepeatParams repeatParams)// 对应原型 2mask 为单个 uint64_t连续 template typename T, bool isSetMask true __aicore__ inline void Relu(const LocalTensorT dstLocal, const LocalTensorT srcLocal, uint64_t mask, const uint8_t repeatTimes, const UnaryRepeatParams repeatParams)从源码结构看这种「一个 Python 函数对应三个 C 模板函数」的映射关系在 pyasc 中是统一的向量一元算子设计Relu与Abs、Exp、Ln、Reciprocal、Rsqrt、Sqrt等算子共用同一套 L0/L1/L2 三级 IR 操作与代码生成逻辑可参考 vec_unary.py 中并列的各算子实现。二、参数说明参数说明dst目的操作数。类型为LocalTensor支持的TPosition为 VECIN/VECCALC/VECOUTsrc源操作数。类型为LocalTensor支持的TPosition为 VECIN/VECCALC/VECOUTcount参与计算的元素个数仅原型 1 使用mask用于控制每次迭代内参与计算的元素。可以是单个int连续模式也可以是List[int]逐 bit 模式repeat_times重复迭代次数仅 mask 模式使用repeat_params控制操作数地址步长的参数类型为UnaryRepeatParams仅 mask 模式使用is_set_mask是否在接口内部设置 mask默认值为True仅 mask 模式使用两点值得注意dst/src 位置约束两个操作数都只能放在向量计算的片上内存位置VECIN/VECCALC/VECOUT说明 relu 是纯向量算子不涉及 Cube 或 Matrix 域。is_set_mask模板参数在底层 C 原型中它是模板参数bool isSetMask true。pyasc 在代码生成时会将其作为模板实参输出——从 vec_unary.mlir 的 FileCheck 断言 可以看到Python 端默认传入的调用最终生成AscendC::Relufloat, 0(...)即isSetMask模板实参为0不重复设置具体模板实参语义由printIsSetMaskTemplate处理实现见 VecUnary.h。UnaryRepeatParams迭代步长参数mask 模式下必需的repeat_params定义在 types.py构造签名为asc.UnaryRepeatParams(dst_blk_stride: int 1, src_blk_stride: int 1, dst_rep_stride: int 8, src_rep_stride: int 8)dst_blk_stride/src_blk_stride底层为 uint16单次迭代内数据读取和写入的块步长取 1 表示单次迭代内数据连续读取和写入dst_rep_stride/src_rep_stride底层为 uint8相邻迭代间数据读取和写入的重复步长取 8 表示相邻迭代间数据依然连续衔接。其构造函数会调用builder.create_asc_ConstructOp将四个步长打包为!ascendc.unary_repeat_params类型的 IR 值随 relu 操作一起参与后续代码生成。三、官方调用示例详解文档给出了三类典型场景全部保留如下并补充语义说明。1. tensor 高维切分计算样例 —— mask 连续模式mask 256 // asc.half.sizeof() # repeat_times 4一次迭代计算128个数共计算512个数 # dst_blk_stride, src_blk_stride 1单次迭代内数据连续读取和写入 # dst_rep_stride, src_rep_stride 8相邻迭代间数据连续读取和写入 params asc.UnaryRepeatParams(1, 1, 8, 8) asc.relu(dst, src, maskmask, repeat_times4, repeat_paramsparams)要点asc.half.sizeof()为 halffloat16元素字节数2 字节256 // sizeof得出单次迭代可处理的元素数 128对应向量单元一次可算的 256 位 / 16 位元素宽度。repeat_times4使 4 次迭代累计处理 512 个元素适用于源数据在 UB 上按行/列分块存放、每块之间需要按固定步长跳转的高维切分场景。2. tensor 高维切分计算样例 —— mask 逐 bit 模式mask [uint64_max, uint64_max] # repeat_times 4一次迭代计算128个数共计算512个数 # dst_blk_stride, src_blk_stride 1单次迭代内数据连续读取和写入 # dst_rep_stride, src_rep_stride 8相邻迭代间数据连续读取和写入 params asc.UnaryRepeatParams(1, 1, 8, 8) asc.relu(dst, src, maskmask, repeat_times4, repeat_paramsparams)要点mask 传入List[int]此处为两个 64 位全 1 掩码时走「逐 bit」模式每个 bit 精确控制对应元素是否参与计算粒度比连续模式更细当所有 bit 均为 1 时行为等价于连续模式。3. tensor 前 n 个数据计算样例asc.relu(dst, src, count512)要点这是最简单的形态——不需要 mask 与迭代参数直接对 src 指向区域的前 512 个元素做 ReLU写入 dst 指向区域适用于数据在 UB 上连续存放、无越界风险的常规场景。四、源码级实现一次 relu 调用如何变成 Ascend C 代码1. Python 侧重载分派到三级 IR 操作vec_unary.py 中的 relu 实现 非常简洁require_jit set_unary_docstring(cpp_nameRelu, append_text按元素做线性整流Relu。) def relu(dst: LocalTensor, src: LocalTensor, *args, **kwargs) - None: builder global_builder.get_ir_builder() op_impl(relu, dst, src, args, kwargs, builder.create_asc_ReluL0Op, builder.create_asc_ReluL1Op, builder.create_asc_ReluL2Op)真正的重载分派在 op_impl 中完成它通过OverloadDispatcher按第三个参数的类型选择构建器mask: RuntimeInt单个 int→create_asc_ReluL0Opmask 按uint64物化、repeat_times按int8物化mask: list→create_asc_ReluL1Op列表中每个元素按uint64物化count: RuntimeInt自动注册的兜底分支→create_asc_ReluL2Opcount 按int32物化。这套物化逻辑解释了 API 文档中 C 原型里uint64_t mask、uint8_t repeatTimes、int32_t calCount的类型来源。2. IR 侧ascendc.relu_l0/l1/l2 操作三种 Python 原型分别落到ascendc.relu_l0、ascendc.relu_l1、ascendc.relu_l2三个 MLIR 操作上它们在 Translation.cpp 中注册进代码生成流水线。代码生成测试 vec_unary.mlir 验证了三种操作最终生成的 Ascend C 代码// L0mask 连续模式mask 为单个 i32 常量生成 uint64 mask 实参 ascendc.relu_l0 %dst, %src, %c1_i32, %c1_i32, %params // 生成: AscendC::Relufloat, 0(v2, v3, v1, v1, v4); // L1mask 逐 bit 模式两个 ui64 组成 mask 数组 ascendc.relu_l1 %dst, %src, %maskArray1_0, %maskArray1_1, %c1_i32, %params // 生成: uint64_t v2_mask_list0[] {v5, v6}; // AscendC::Relufloat, 0(v2, v3, v2_mask_list0, v1, v4); // L2count 模式 ascendc.relu_l2 %dst, %src, %c0_i32 // 生成: AscendC::Relu(v2, v3, v1);可以看到 L1 模式的生成器会自动把 Python 列表「展开」为 C 中的uint64_t局部数组再传入Relumask 数组输出逻辑见 printMask / printUnaryL1Params这正是「逐 bit 模式」在 C 层面对应uint64_t mask[]重载的原因。3. 单元测试单元测试 test_relu_kernel 在同一个asc.jitkernel 中完整覆盖了三种重载asc.jit def relu_kernel(): x_local asc.LocalTensor(dtypeasc.float16, posasc.TPosition.VECIN, addr0, tile_size512) z_local asc.LocalTensor(dtypeasc.float16, posasc.TPosition.VECOUT, addr0, tile_size512) asc.relu(z_local, x_local, count512) params asc.UnaryRepeatParams(1, 1, 8, 8) asc.relu(z_local, x_local, mask512, repeat_times1, repeat_paramsparams) uint64_max 2**64 - 1 mask [uint64_max, uint64_max] asc.relu(z_local, x_local, maskmask, repeat_times1, repeat_paramsparams)示例中 dst 用asc.TPosition.VECOUT、src 用asc.TPosition.VECIN符合文档对操作数位置的约束。五、约束说明操作数地址对齐要求请参见《Ascend C算子开发接口》中的“通用说明和约束-通用地址对齐约束”。操作数地址重叠约束请参考《Ascend C算子开发接口》中的“通用说明和约束-通用地址重叠约束”。也就是说虽然 pyasc 的接口与 Ascend C 一一对应但传入的LocalTensor地址在对齐与重叠上的责任仍由调用方保证文档中不再重复定义这些硬件层面的通用约束。六、小结与延伸阅读asc.language.basic.relu以三种 Python 重载完整对齐了 Ascend CRelu的三种函数原型count形式适合连续数据的最简调用mask: intrepeat_times形式适合固定宽度的迭代处理mask: List[int]形式提供逐 bit 的元素级控制能力三者通过UnaryRepeatParams的块步长/重复步长参数适配高维切分的数据布局。如需进一步扩展可继续阅读basic.mdasc.language.basic全量向量算子接口列表relu 与 abs、exp、ln、rsqrt、sqrt 等共用同一套 mask/repeat 调用范式core.mdLocalTensor等核心类型定义vec_unary.py向量一元算子的 Python 实现与重载分派逻辑vec_unary.mlir三种操作到 Ascend C 代码的生成对照测试。【免费下载链接】pyasc本项目为Python用户提供算子编程接口支持在昇腾AI处理器上加速计算接口与Ascend C一一对应并遵守Python原生语法。项目地址: https://gitcode.com/cann/pyasc创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考