news 2026/5/10 1:22:46

卷积改进与轻量化:针对低算力平台:引入 AdderNet 加法卷积思想,用加法替代乘法,功耗直降

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
卷积改进与轻量化:针对低算力平台:引入 AdderNet 加法卷积思想,用加法替代乘法,功耗直降

写在前面

如果你正在做嵌入式AI部署,一定对这句话深有体会:算力永远不够,功耗永远太高,模型永远太大。

一个经典的 3×3 卷积层,每输出一个像素就需要执行 9 次乘法和 8 次加法。当你的网络有几百层、每层有几百个通道时,乘法的总次数会迅速膨胀到数十亿次。而对于单片机、FPGA、IoT传感器节点这类低算力平台来说,这种计算量完全不可承受——别说实时推理,连模型本身都放不进去。

乘法的能耗远高于加法。根据IEEE电路与系统协会发布的数据,一次INT32乘法所需的能量大约是加法的3-9倍。换句话说,神经网络推理中的大部分能量,都烧在了乘法上。

那么,一个看似“天真”却极其深刻的问题来了:神经网络真的需要乘法吗?

这个问题促使研究者们提出了一系列“免乘法”(Multiplication-Free)网络架构。其中,AdderNet(加法神经网络)是最具颠覆性的方向之一——它用 L1 距离(即绝对值差之和)直接替代卷积中的内积运算,把乘法全部换成加法和减法。这个大胆的想法提出于CVPR 2020 Oral论文,由华为诺亚方舟实验室与北京大学联合发表,至今已在学术和工业界引发持续关注。

进入2025年,AdderNet领域迎来了新一轮爆发:AdderNet 2.0加速器、基于STT-MRAM的存内计算方案、ShiftAddNet流水线FPGA实现、Ghost-AdderNet轻量化变体等成果密集发布。这些工作不仅解决了原始AdderNet在硬件效率上的瓶颈,更标志着加法神经网络正在从“学术概念”走

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/5/10 1:21:38

Talon语音与眼动追踪:重塑人机交互,打造高效工作流

1. 项目概述与核心价值如果你和我一样,长期在终端里摸爬滚打,那你一定对“效率”这个词有近乎偏执的追求。从cd到ls,从grep到awk,我们依赖命令行完成一切,但手指在键盘和鼠标间的反复横跳,以及记忆海量命令…

作者头像 李华
网站建设 2026/5/10 1:21:38

CANN/driver创建算力组API

dcmi_create_capability_group 【免费下载链接】driver 本项目是CANN提供的驱动模块,实现基础驱动和资源管理及调度等功能,使能昇腾芯片。 项目地址: https://gitcode.com/cann/driver 函数原型 int dcmi_create_capability_group(int card_id, …

作者头像 李华
网站建设 2026/5/10 1:19:50

CANN/catlass EVG API文档

EVG API 【免费下载链接】catlass 本项目是CANN的算子模板库,提供NPU上高性能矩阵乘及其相关融合类算子模板样例。 项目地址: https://gitcode.com/cann/catlass EVG(Epilogue Visitor Graph)是 CATLASS 当前用于组织 GEMM 尾处理的图…

作者头像 李华
网站建设 2026/5/10 1:18:36

联邦学习模型压缩实战指南:原理、场景与国产化工具全景

联邦学习模型压缩实战指南:原理、场景与国产化工具全景 引言 在数据隐私法规日益严格和边缘计算蓬勃发展的双重驱动下,联邦学习已成为打破“数据孤岛”的关键技术。然而,海量模型参数的频繁通信带来了巨大的带宽压力和延迟挑战。模型压缩技术…

作者头像 李华
网站建设 2026/5/10 1:12:44

量子最优控制与PGNC框架解决超导量子比特串扰问题

1. 量子最优控制基础与串扰挑战在超导量子计算系统中,实现高保真度的量子门操作是构建实用化量子计算机的核心挑战。量子最优控制理论通过数学优化方法设计控制脉冲波形,使量子系统在给定时间内精确演化到目标状态。传统方法如Krotov算法和GRAPE&#xf…

作者头像 李华
网站建设 2026/5/10 1:10:31

通用人工智能系统(GPAIS)架构、挑战与可信治理实践

1. 通用人工智能系统(GPAIS)究竟是什么?如果你关注AI领域,最近一定频繁听到“通用人工智能系统”(General-Purpose AI Systems, GPAIS)这个词。它听起来像是科幻电影里那种无所不能的AI,但现实中…

作者头像 李华