news 2026/9/10 10:41:40

CANN/ge获取推理上下文API

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
CANN/ge获取推理上下文API

GetInferenceContext

【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

产品支持情况

产品

是否支持

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

Atlas A2 训练系列产品 / Atlas A2 推理系列产品

头文件和库文件

  • 头文件:#include <graph/operator.h>
  • 库文件:libgraph.so

功能说明

获取当前算子传递infershape推导所需要的关联信息,比如前面算子的shape和DataType信息。

函数原型

InferenceContextPtr GetInferenceContext() const

参数说明

无。

返回值说明

返回当前operator的推理上下文。

InferenceContextPtr是指向InferenceContext类的指针的别名:

using InferenceContextPtr = std::shared_ptr<InferenceContext>;

异常处理

无。

约束说明

无。

【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/10 10:40:48

LEO卫星链路级仿真:从OFDM到多普勒补偿的完整实现

我第一次在MATLAB里把LEO卫星链路的完整仿真跑通&#xff0c;看到星座图从一团高速旋转的乱码恢复成清晰的16QAM点阵时&#xff0c;确实有种“终于把理论串起来”的踏实感。这个项目本身并不是什么高深的算法创新&#xff0c;而是一条面向6G星地融合NTN场景的完整物理层仿真链路…

作者头像 李华
网站建设 2026/9/10 10:36:28

木材缺陷检测YOLOV5数据集实战:标注格式与95%识别率复现

简介&#xff1a;面向木材表面缺陷检测任务的标注数据集&#xff0c;专为YOLOv5等目标检测框架设计&#xff0c;适用于木材加工质检、板材表面缺陷识别等场景&#xff0c;可帮助开发者解决人工目检效率低、缺少高质量训练数据的问题。压缩包共1897个文件&#xff0c;包含948张木…

作者头像 李华
网站建设 2026/9/10 10:35:47

Execution Lock

Execution Lock 【免费下载链接】ppt-master AI turns documents or topics into real, native PowerPoint decks—with native shapes, transitions and animations, data-backed charts and tables on demand, audio narration from speaker notes, and support for your own…

作者头像 李华
网站建设 2026/9/10 10:34:43

大连市区县Shapefile完整指南:从数据修复到空间计算与格式转换

简介&#xff1a;这份大连市区县级别行政区划SHP文件面向GIS学习者、城乡规划人员与地理数据分析师&#xff0c;可用于解决项目中缺少大连市区县边界矢量底图的常见问题。压缩包共18个文件&#xff0c;除.shp几何文件外&#xff0c;还包含.dbf属性数据、.shx空间索引、.prj坐标…

作者头像 李华