Async
【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Ascend 950PR/Ascend 950DT | √ |
| Atlas A3 训练系列产品/Atlas A3 推理系列产品 | √ |
| Atlas A2 训练系列产品/Atlas A2 推理系列产品 | √ |
| Atlas 200I/500 A2 推理产品 | x |
| Atlas 推理系列产品AI Core | x |
| Atlas 推理系列产品Vector Core | x |
| Atlas 训练系列产品 | x |
功能说明
头文件路径为："basic_api/kernel_operator_utils_intf.h"。
基于分离模式（AIC和AIV分离）开发融合算子时，算子逻辑中通常同时包含AIV和AIC的处理逻辑，此时需要使用Ascend C提供的宏ASCEND_IS_AIV/ASCEND_IS_AIC实现如下硬件条件分支来对AIV和AIC的代码进行隔离：
if ASCEND_IS_AIV { // AIV处理逻辑 } if ASCEND_IS_AIC { // AIC处理逻辑 }Async通过模板函数的方式对这种隔离模式进行了封装，提供了一个统一的接口，用于在不同执行单元（AIC或AIV）下执行特定函数，从而避免在代码中使用硬件条件分支。
函数原型
template <EngineType engine, auto funPtr, class... Args> __aicore__ void Async(Args... args)参数说明
表 1模板参数说明
| 参数名 | 描述 |
|---|---|
| engine | EngineType枚举类型，可取值如下，对应不同的硬件执行单元： • AIC • AIV |
| funPtr | 函数指针，指定要执行的函数，函数签名和参数类型由class... Args决定。 |
| class... Args | 可变参数模板，表示函数参数的类型列表，用于传递给funPtr。 |
表 2参数说明
| 参数名 | 输入/输出 | 描述 |
|---|---|---|
| Args... args | 输入 | 与class... Args对应的参数列表，表示传递给funPtr的实际参数。 |
返回值说明
无
约束说明
无
调用示例
__aicore__ inline void cubeProcess(KernelMmad &op, GM_ADDR A, GM_ADDR B, GM_ADDR c) { op.InitAIC(A, B, c); op.ProcessAIC(); } __aicore__ inline void vectorProcess(KernelMmad &op, GM_ADDR a, GM_ADDR b, GM_ADDR A, GM_ADDR B, GM_ADDR c) { op.InitAIV(a, b, A, B, c); op.ProcessAIV(); } __global__ __mix__(1,2) void mmad_custom(GM_ADDR a, GM_ADDR b, GM_ADDR A, GM_ADDR B, GM_ADDR c) { AscendC::InitSocState(); KernelMmad op; AscendC::Async<AscendC::EngineType::AIC, cubeProcess>(op, A, B, c); AscendC::Async<AscendC::EngineType::AIV, vectorProcess>(op, a, b, A, B, c); }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
