news 2026/5/11 13:36:47

CANN Ascend C压缩索引加载API

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
CANN Ascend C压缩索引加载API

LoadUnzipIndex

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

产品

是否支持

Ascend 950PR/Ascend 950DT

x

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

x

Atlas A2 训练系列产品 / Atlas A2 推理系列产品

x

功能说明

加载GM上的压缩索引表到内部寄存器。

索引表为LoadDataUnzip压缩信息,例如压缩长度等,以获取压缩后的数据。

索引表由压缩工具根据对应的权重数据离线生成。一个LoadUnzipIndex指令可以加载多个索引表,而每个LoadDataUnzip指令只能消耗一个索引表。因此,索引表之间的顺序应该由用户来确定,以确保其与压缩数据的对应性。

函数原型

template <typename T = int8_t, typename Std::enable_if<Std::is_same<PrimT<T>, int8_t>::value, bool>::type = true> __aicore__ inline void LoadUnzipIndex(const GlobalTensor<T>& src, uint32_t numOfIndexTabEntry)

参数说明

表 1模板参数说明

参数名

描述

T

src的数据类型。

  • 当src使用基础数据类型时, 其数据类型必须为uint8_t,否则编译失败。
  • 当src使用TensorTrait类型时, src数据类型T的LiteType必须为int8_t,否则编译失败。

最后一个模板参数仅用于上述数据类型检查,用户无需关注。

表 2参数说明

参数名称

输入/输出

含义

src

输入

源操作数,索引表地址,类型为GlobalTensor。

src地址必须2字节对齐。src长度必须是512字节的整数倍,最大为32KB。

numOfIndexTabEntry

输入

输入数据,表示加载的索引表个数。索引表个数必须大于0。

返回值说明

约束说明

  • 操作数地址对齐要求请参见通用地址对齐约束。
  • LoadUnzipIndex必须在任何LoadDataUnzip指令之前执行。
  • LoadUnzipIndex加载的索引表个数必须大于或等于LoadDataUnzip指令执行的次数。

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/5/11 13:36:47

Inter字体性能优化终极指南:5个高效策略提升网页加载速度

Inter字体性能优化终极指南&#xff1a;5个高效策略提升网页加载速度 【免费下载链接】inter The Inter font family 项目地址: https://gitcode.com/gh_mirrors/in/inter Inter字体作为专为计算机屏幕设计的现代无衬线字体&#xff0c;凭借其出色的可读性和丰富的字重选…

作者头像 李华
网站建设 2026/5/11 13:34:42

终极指南:如何在Windows上快速搭建免费Syslog服务器

终极指南&#xff1a;如何在Windows上快速搭建免费Syslog服务器 【免费下载链接】visualsyslog Syslog Server for Windows with a graphical user interface 项目地址: https://gitcode.com/gh_mirrors/vi/visualsyslog 还在为分散的网络设备日志管理而烦恼吗&#xff…

作者头像 李华
网站建设 2026/5/11 13:32:47

如何轻松保存B站缓存视频:m4s转MP4的完整解决方案

如何轻松保存B站缓存视频&#xff1a;m4s转MP4的完整解决方案 【免费下载链接】m4s-converter 一个跨平台小工具&#xff0c;将bilibili缓存的m4s格式音视频文件合并成mp4 项目地址: https://gitcode.com/gh_mirrors/m4/m4s-converter 你是否曾经在B站收藏了珍贵的教学视…

作者头像 李华
网站建设 2026/5/11 13:32:38

深入cached:揭秘Rust中最强大的5种缓存结构实现原理

深入cached&#xff1a;揭秘Rust中最强大的5种缓存结构实现原理 【免费下载链接】cached Rust cache structures and easy function memoization 项目地址: https://gitcode.com/gh_mirrors/ca/cached 在高性能Rust应用开发中&#xff0c;缓存系统是提升数据访问速度的核…

作者头像 李华
网站建设 2026/5/11 13:32:10

AnsiWeather完整配置指南:如何自定义你的终端天气预报

AnsiWeather完整配置指南&#xff1a;如何自定义你的终端天气预报 【免费下载链接】ansiweather Weather in terminal, with ANSI colors and Unicode symbols 项目地址: https://gitcode.com/gh_mirrors/an/ansiweather AnsiWeather是一款能在终端中显示当前天气状况的…

作者头像 李华