news 2026/5/1 10:03:09

4.6 显存和缓存

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
4.6 显存和缓存

1.显存和缓存简介

2.显存和缓存的关系

3.显存和缓存为什么会影响性能

4.显存和缓存优化思路


1.显存和缓存简介

1).显存 a.显存是gpu外部的专用大容量存储,主要用于存放顶点,纹理,渲染目标(RT),阴影贴图 后处理缓冲 b.特点-容量大,以GB为单位,带宽高,但是延迟大-GPU工作时几乎会不停地从显存中读写内容

2).缓存 a.缓存是GPU内部的小容量高速存储,主要用于存放从显存取出的热点数据,方便我们重复使用 b.所谓热点数据一般在CPU和GPU的优化领域中指的是在短时间内被高频访问的数据,因为它被 用的多,所以放在更快的存储空间中(比如寄存器、缓存)能极大的提升性能 比如在GPU中的常见热点数据为-顶点缓存,渲染一个网格时,某些顶点会被多个三角形复用,GPU会把最近变换过的顶点存在 缓存里,避免重复计算-纹理缓存,当片元连续访问相邻的UV时,缓存会把周边像素块一起取进来-常量缓存,灯光参数、矩阵等,几乎每个片元都要用 b.特点-容量小,以KB~MB计,速度快-(缓存中找得到对应数据)时快,不命中(找不到)时必须回显存
缓存缓存不会一字节一字节存,而是一次性把一大块连续的数据搬进来,原因:利用空间局部 性,取了一个地址,附近的数据很可能也会用

2.显存和缓存的关系

1).取数据时,当GPU或CPU访问某个地址 a.缓存中命中(在缓存中找到了):直接从缓存中读取,速度快 b.缓存未命中(在缓存中没找到):去显存中去,同时把这块数据搬进缓存2).往缓存里放数据时,缓存不是一字节一字节放,而是一次性搬一整块(通常32B/64B/128B),这样就能利用空间局部性,如果你要用的数据附近的数据也很可能会用,就顺便 搬进来3).替换缓存数据时 a.如果缓存还有空:直接放进去 b.如果缓存满了:根据数据替换规则直接覆盖之前的数据(GPU一般采用Random随机替换、CPU 一般采用LRU最近最少使用的替换)

3.显存和缓存为什么会影响性能

1).显存性能瓶颈主要来自于 a.内存带宽不足 b.容量不足"显存决定能装多少,能传多快"

2).缓存性能瓶颈主要来自于 a.未命中:比如在Shader中进行随机采样纹理、UV跨度过大,就会导致缓存命中率低;当未命 中就睡频繁的去显存中取数据,导致获取数据缓慢,延迟变高 b.OverDraw、重复访问,一个像素被多次覆盖,导致反复的读取纹理等信息,不停替换缓存中 内容,缓存中内容还没有重复使用就被替换了,让缓存命中率下降,缓存的加速作用大幅削弱

4.显存和缓存优化思路

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/28 22:45:55

python Uvicorn库,深度解析

从传统Flask开发转向现代异步Web架构时,理解Uvicorn是关键一步。它解决了传统同步服务器在高并发时的核心瓶颈。 1. 它是什么? Uvicorn是一个轻量级、高性能的ASGI服务器。ASGI是“异步服务器网关接口”的缩写,你可以把它理解为专门为异步通…

作者头像 李华
网站建设 2026/5/1 10:01:32

救命神器!AI论文平台 千笔写作工具 VS 知文AI,专为本科生量身打造!

随着人工智能技术的迅猛迭代与普及,AI辅助写作工具已逐步渗透到高校学术写作场景中,成为本科生完成毕业论文不可或缺的辅助手段。越来越多面临毕业论文压力的学生,开始依赖各类AI工具简化写作流程、提升创作效率。但与此同时,市场…

作者头像 李华
网站建设 2026/5/1 8:39:23

编写合同审核助手,上传合同文本,自动识别合同中的风险点,(如霸王条款,模糊条款),给出修改建议,生成合同审核报告,避免合同纠纷,适合职场人。

1. 实际应用场景描述 场景: 在职场中,HR、法务、商务人员经常需要审核各类合同(劳动合同、采购合同、合作协议等)。人工审核耗时长,且容易遗漏关键风险点,如: - 霸王条款(单方面免责…

作者头像 李华
网站建设 2026/3/27 9:41:12

Python 多进程返回值处理

在 Python 中进行并行计算时,多进程是一种常用手段。然而,如何高效地获取子进程的返回值,常常成为初学者的困惑点。本文将系统介绍两种主流的多进程编程接口——concurrent.futures.ProcessPoolExecutor 和 multiprocessing.Pool,并对比它们在处理返回值方面的异同,帮助开…

作者头像 李华
网站建设 2026/4/30 11:40:20

IT Hit WebDAV Server Engine for .NET 15.4.16

IT Hit WebDAV Server Engine for .NET让您轻松地为 .NET 项目添加 WebDAV 功能。无论您是构建独立的 WebDAV 服务器,还是将 WebDAV 功能集成到 CMS、DMS 或 CRM 系统中,这款引擎都能帮您轻松搞定。您无需精通 WebDAV 协议或 XML——所有操作都通过直观的…

作者头像 李华