news 2026/9/3 3:43:29

MLIR 中最常用的方言

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
MLIR 中最常用的方言

MLIR 的强大之处在于它的多层方言栈。通过不同层级的方言,MLIR 可以从高级的算法描述一直转换到最底层的机器码。

按照从“高级/抽象”到“低级/具体”的顺序,以下是 MLIR 中最常用的方言:


1. 高层方言 (High-Level / Domain Specific)

这类方言通常靠近算法逻辑,比如深度学习。

  • TOSA(Tensor Operator Set Architecture):

  • 用途:提供了一套标准化的张量算子(如卷积、池化、激活)。

  • 地位:它是很多模型转换器的入口(如 TensorFlow/PyTorch 导入 MLIR 后通常先转为 TOSA)。

  • Linalg(Linear Algebra):

  • 用途:处理结构化控制流和线性代数。

  • 核心:它既可以表示张量计算,也可以表示内存计算。它能自动生成嵌套循环,是生成高性能代码的关键层。


2. 中层/通用方言 (Mid-Level / Infrastructure)

这类方言是 MLIR 的“粘合剂”,几乎在所有程序中都会用到。

  • Arith(Arithmetic):

  • 用途:基础算术运算。处理整数和浮点数的加减乘除、位运算、常量定义。

  • Func(Function):

  • 用途:处理函数定义、调用、返回。是构建程序结构的基础。

  • ControlFlow(CF):

  • 用途:处理分支跳转(br)、条件判断(cond_br)等原始控制流。

  • SCF(Structured Control Flow):

  • 用途:提供高级的结构化循环(scf.forscf.ifscf.while)。比起 CF 更加易于分析和优化。


3. 数据与内存方言 (Data Management)

决定了数据在硬件中是如何存放和访问的。

  • Tensor:

  • 特点:不可变(Immutable)的数据抽象。主要用于高层图优化,不涉及具体内存地址。

  • MemRef(Memory Reference):

  • 特点:可变(Mutable)的内存引用。它描述了数据在内存里的布局(形状、步长、偏移)。

  • 转换:通常由Tensor方言通过Bufferization(缓冲化)转换而来。

  • Index:

  • 用途:专门用于表示数组下标、循环索引的类型,屏蔽了不同硬件上 32 位或 64 位整数的区别。


4. 底层/硬件方言 (Low-Level / Target Specific)

这类方言已经非常接近汇编语言。

  • LLVM:

  • 用途:MLIR 的“最后一公里”。它几乎与 LLVM IR 对应,用于最后交给 LLVM 后端生成机器码。

  • Vector:

  • 用途:处理 SIMD(单指令多数据)指令。它是高性能计算的核心,负责把普通计算映射到 CPU 的专用向量寄存器(如 AVX512)。

  • GPU:

  • 用途:抽象了 GPU 的并行逻辑(如 Kernel 发射、线程块、共享内存)。它可以进一步转换为NVVM(NVIDIA) 或ROCDL(AMD)。


总结:一个典型的编译路线图

当你编译一个模型时,数据通常是这样“降级”(Lowering)的:

  1. 输入:PyTorch 模型
  2. TOSA/Linalg:描述“我要做一个卷积”。
  3. SCF / Affine:把卷积拆解成“几层for循环”。
  4. Vector / MemRef:把循环里的计算变成“向量加法”,并分配物理内存。
  5. LLVM:变成 LLVM IR。
  6. 输出:二进制可执行文件。
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/3 0:46:46

PaddlePaddle MobileNet轻量化模型部署指南

PaddlePaddle MobileNet轻量化模型部署实战指南 在移动设备、嵌入式终端和工业边缘场景中,AI模型的“落地难”问题长期困扰开发者:训练好的深度学习模型往往体积庞大、推理缓慢,难以在算力有限的设备上稳定运行。而与此同时,市场对…

作者头像 李华
网站建设 2026/9/2 23:26:43

PaddlePaddle公式识别LaTeX输出:学术论文数字化

PaddlePaddle公式识别LaTeX输出:学术论文数字化 在高校图书馆的档案室里,一摞泛黄的博士论文静静躺在角落——它们承载着数十年前的研究智慧,却因缺乏电子化手段而难以被检索、复用。类似场景在全球科研机构中屡见不鲜:大量珍贵知…

作者头像 李华
网站建设 2026/9/3 1:15:18

李跳跳自定义规则:手机弹窗终极解决方案

李跳跳自定义规则:手机弹窗终极解决方案 【免费下载链接】LiTiaoTiao_Custom_Rules 李跳跳自定义规则 项目地址: https://gitcode.com/gh_mirrors/li/LiTiaoTiao_Custom_Rules 还在为手机应用里不断弹出的广告、更新提示和权限请求而烦恼吗?李跳跳…

作者头像 李华
网站建设 2026/9/2 18:55:21

PaddlePaddle图像哈希感知Hash生成:查重与检索

PaddlePaddle图像哈希感知Hash生成:查重与检索 在短视频平台每天上传数百万条内容的今天,如何快速识别重复或高度相似的图片和视频帧?电商平台面对海量商品图,怎样实现“以图搜图”的流畅体验?这些问题背后&#xff0c…

作者头像 李华
网站建设 2026/9/2 21:11:56

LogicFlow节点缩放功能升级:告别插件时代的性能困境

LogicFlow节点缩放功能升级:告别插件时代的性能困境 【免费下载链接】LogicFlow A flow chart editing framework focusing on business customization. 专注于业务自定义的流程图编辑框架,支持实现脑图、ER图、UML、工作流等各种图编辑场景。 项目地址…

作者头像 李华
网站建设 2026/9/3 0:03:59

Vetur模板校验功能通俗解释

Vetur 模板校验:为什么你的.vue文件还没运行就知道错了?你有没有过这样的经历?刚写完一段 Vue 组件代码,还没保存、没刷新页面,VS Code 就已经用红色波浪线标出了一堆错误:“未知组件”、“指令拼错”、“变…

作者头像 李华