ATC离线模型编译工具用户指南
【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge
学习向导
ATC概述
准备环境
快速入门
初级功能
高级功能
开启AIPP
- 什么是AIPP
- AIPP配置示例
- 如何开启AIPP
- 色域转换配置说明
- 归一化配置说明
- Crop/Padding配置说明
- 配置文件模板
- 典型场景样例参考
单算子模型转换
- 什么是单算子描述文件
- 配置文件样例
- 如何将算子描述文件转成离线模型
参数说明
- 定制网络修改(Caffe)
- 定制网络修改(TensorFlow)
- dump图详细信息
- 融合规则列表
- 支持量化的层及约束
- 量化简易配置文件
- 开启AI CPU Cast算子自动插入特性
FAQ
【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考