CANN/pyasc向量乘加运算API

asc.language.basic.axpy

【免费下载链接】pyasc本项目为Python用户提供算子编程接口，支持在昇腾AI处理器上加速计算，接口与Ascend C一一对应并遵守Python原生语法。项目地址: https://gitcode.com/cann/pyasc

asc.language.basic.axpy(dst: LocalTensor, src: LocalTensor, scalar: int | float, mask: int, repeat_times: int, repeat_params: UnaryRepeatParams, is_set_mask: bool = True) → None

asc.language.basic.axpy(dst: LocalTensor, src: LocalTensor, scalar: int | float, mask: List[int], repeat_times: int, repeat_params: UnaryRepeatParams, is_set_mask: bool = True) → None

asc.language.basic.axpy(dst: LocalTensor, src: LocalTensor, scalar: int | float, count: int) → None

源操作数src中每个元素与标量求积后和目的操作数dst中的对应元素相加，计算公式如下： dst[i] = src[i] * scalar + dst[i]

对应的Ascend C函数原型

• tensor前n个数据计算

  template <typename T, typename U> __aicore__ inline void Axpy(const LocalTensor<T>& dst, const LocalTensor<U>& src, const U& scalarValue, const int32_t& count)

• tensor高维切分计算
  • mask逐bit模式

    template <typename T, typename U, bool isSetMask = true> __aicore__ inline void Axpy(const LocalTensor<T>& dst, const LocalTensor<U>& src, const U& scalarValue, uint64_t mask[], const uint8_t repeatTime, const UnaryRepeatParams& repeatParams)

  • mask连续模式

    template <typename T, typename U, bool isSetMask = true> __aicore__ inline void Axpy(const LocalTensor<T>& dst, const LocalTensor<U>& src, const U& scalarValue, uint64_t mask, const uint8_t repeatTime, const UnaryRepeatParams& repeatParams)

参数说明

• is_set_mask：是否在接口内部设置mask。
  • True，表示在接口内部设置mask。
  • False，表示在接口外部设置mask，开发者需要使用set_vector_mask接口设置mask值。这种模式下，本接口入参中的mask值必须设置为占位符MASK_PLACEHOLDER。
• dst：目的操作数。类型为LocalTensor，支持的TPosition为VECIN/VECCALC/VECOUT。LocalTensor的起始地址需要32字节对齐。
• src: 源操作数。类型为LocalTensor，支持的TPosition为VECIN/VECCALC/VECOUT。LocalTensor的起始地址需要32字节对齐。
• scalar：源操作数，scalar标量。scalar的数据类型需要和src保持一致。
• count：参与计算的元素个数。
• mask： 控制每次迭代内参与计算的元素。
  • 逐bit模式：mask为数组形式。数组长度和数组元素的取值范围和操作数的数据类型有关。可以按位控制哪些元素参与计算，bit位的值为1表示参与计算，0表示不参与。
    • 操作数 16 位：数组长度 2，mask[0], mask[1] ∈ [0, 2⁶⁴-1]，且不能同时为 0
    • 操作数 32 位：数组长度 1，mask[0] ∈ (0, 2⁶⁴-1]
    • 操作数 64 位：数组长度 1，mask[0] ∈ (0, 2³²-1]
    • 例如：mask = [8, 0]，表示仅第 4 个元素参与计算
  • 连续模式：mask为整数形式。表示前面连续多少个元素参与计算。取值范围和操作数的数据类型有关，数据类型不同，每次迭代内能够处理的元素个数最大值不同。
    • 操作数 16 位：mask ∈ [1, 128]
    • 操作数 32 位：mask ∈ [1, 64]
    • 操作数 64 位：mask ∈ [1, 32]
• repeat_time：重复迭代次数。矢量计算单元，每次读取连续的256Bytes数据进行计算，为完成对输入数据的处理， 必须通过多次迭代（repeat）才能完成所有数据的读取与计算。repeat_time表示迭代的次数。
• repeat_params：控制操作数地址步长的参数。UnaryRepeatParams类型，包含操作数相邻迭代间相同data_block的地址步长，操作数同一迭代内不同data_block的地址步长等参数。

约束说明

• 操作数地址对齐要求请参见 《Ascend C算子开发接口》 中的“通用说明和约束-通用地址对齐约束”。
• 操作数地址重叠约束请参考 《Ascend C算子开发接口》 中的“通用说明和约束-通用地址重叠约束”。

使用tensor高维切分计算接口时，src和scalar的数据类型为half、dst的数据类型为float的情况下， 一个迭代处理的源操作数元素个数需要和目的操作数保持一致，所以每次迭代选取前4个data_block参与计算。 设置repeat_stride参数和mask参数以及地址重叠时，需要考虑该限制。

调用示例

• tensor高维切分计算样例-mask连续模式

  params = asc.UnaryRepeatParams(1, 1, 8, 8) asc.axpy(dst, src, 2.0, mask=128, repeat_time=4, repeat_params=params)

• tensor高维切分计算样例-mask逐bit模式

  uint64_max = 2**64 - 1 mask = [uint64_max, uint64_max] params = asc.UnaryRepeatParams(1, 1, 8, 8) asc.axpy(dst, src, 2.0, mask=mask, repeat_time=4, repeat_params=params)

• tensor前n个数据计算样例

  asc.axpy(dst, src, 2.0, count=512)

【免费下载链接】pyasc本项目为Python用户提供算子编程接口，支持在昇腾AI处理器上加速计算，接口与Ascend C一一对应并遵守Python原生语法。项目地址: https://gitcode.com/cann/pyasc