news 2026/5/1 6:21:47

Eckart-Young-Mirsky 定理

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Eckart-Young-Mirsky 定理

以下是对图片中Eckart-Young-Mirsky 定理(谱范数版本)的完整、透彻讲解。图片展示的是该定理在2-范数(谱范数)下的形式,即矩阵的最佳低秩逼近问题。我会先陈述定理,然后逐部分解释图片中的内容,并将所有公式用标准的 LaTeX 格式重新呈现,便于阅读。

定理陈述

是一个矩阵,其奇异值分解(SVD)为

​,

其中 p=min⁡(m,n) ,奇异值满足 σ1≥σ2≥⋯≥σp≥0 ,U 和 V 的列分别是左、右奇异向量(单位正交)。

Eckart-Young-Mirsky 定理(谱范数版本)

,

并且最小值由截断 SVD 达到:

这里的是谱范数(算子范数),即矩阵的最大奇异值。

图片内容逐部分解释

1. SVD 分解与截断逼近(上界)

图片左侧写出了矩阵的完整 SVD:

截断前 R 项得到低秩逼近:

误差计算(上界证明)

用矩阵形式写成:

这是一个对角矩阵(除前 R 行/列全零外),乘以酉矩阵 U 和不改变奇异值。因此误差矩阵的奇异值恰好是,最大奇异值是​,故谱范数

这证明了上界:存在一个秩至多 R R R 的矩阵使逼近误差等于

2. 下界证明(关键部分,图片右下黄色框)

要证明定理的完备性,还需说明任何秩 ≤ R 的矩阵 A′ 都满足

图片用一个极小化问题巧妙地给出了下界:

考虑子空间(由前 R+1 个右奇异向量张成),维度为 R+1

对任意秩 ≤ R 的矩阵 B (这里用 B 表示任意的 A′ ),由秩-零度定理,B 的像空间维度 ≤ R ,因此限制到 S 上的的像维度 ≤ R ,从而其核维度

于是存在单位向量 x∈S ,,使得 Bx=0

此时

因此谱范数

关键是:对任意这样的 B ,总存在这样的 x∈S ,,使上式成立。要得到对所有 B 都成立的统一下界,我们取最坏情况,即​ 在单位球面上的最小值

任意 x∈S ,可写成,则

图片中正是求这个最小值:

约束

由于,目标函数在单位球上的最小值在“最弱方向”取得:取,其余,得到最小值​.

因此,对任意 B (秩 ≤ R ),总有

这就证明了下界

总结

  • 上界:截断 SVD 给出误差恰好​。
  • 下界:利用前 R+1 个右奇异向量张成的子空间和秩-零度定理,证明任何低秩逼近误差至少​。

两者结合,截断 SVD 正是谱范数意义下最佳的秩 ≤ R 逼近,误差精确为第 R+1 个奇异值。

(注:存在另一个版本用 Frobenius 范数​,此时最佳误差是,证明更直接,但图片展示的是谱范数版本。)

这个证明非常经典且精炼,子空间维数比秩多 1 是关键,使得总能找到一个方向被低秩矩阵“抹平”,而在该方向上 A 的增益至少是​。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/21 14:04:44

Go 语言系统编程与云原生开发实战(第2篇):并发编程深度实战 —— Goroutine、Channel 与 Context 构建高并发 API 网关

第一章:Go 并发模型 —— CSP 与 Goroutine1.1 传统并发 vs Go 并发模型代表语言核心机制问题共享内存 | Java/C | 线程 锁(Mutex) | 死锁、竞态、调试困难消息传递 | Erlang | 进程 消息邮箱 | 进程创建开销大CSP(通信顺序进程…

作者头像 李华
网站建设 2026/5/1 3:28:55

USB Type-C:定义与功能全解析终极指南

目录 USB Type-C 端口定义全解析 一、物理结构与核心特性 1. 基础形态 2. 核心设计原则 二、完整引脚定义(A/B 排对照) 关键引脚详解 1. 电源系统(VBUS/GND) 2. 核心控制通道(CC1/CC2) 3. 数据传输…

作者头像 李华
网站建设 2026/5/1 7:33:36

骑行,说说各职业骑友的可爱特点。

骑友不问职业,但每个职业骑友都有各自的特点,这也是一个骑行的风景线。我们车队里什么人都有。程序员、老师、开小超市的、搞装修的。白天大家在各忙各的,晚上或周末聚在一起,就只有一个身份,骑车的。职业会悄悄改变你…

作者头像 李华
网站建设 2026/4/16 14:21:25

探索OPCClient_UA源码:C#打造的强大OPC客户端

OPCClient_UA源码OPC客户端 UA客户端源码(c#开发) 为opcClient_UA版本,由C#开发,可二次开发。 另外有opcserver,opcclient的da,ua版本出售的见其他链接。 本项目为VS2010开发,可用VS其他版本的编辑器打开源码。 已应用…

作者头像 李华