news 2026/9/9 18:56:13

MinerU 在 Windows 直装后推理速度很慢怎么排查?

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
MinerU 在 Windows 直装后推理速度很慢怎么排查?

MinerU 在 Windows 直装后推理速度很慢怎么排查?

【免费下载链接】MinerUTransforms complex documents like PDFs and Office docs into LLM-ready markdown/JSON for your Agentic workflows.项目地址: https://gitcode.com/GitHub_Trending/mi/MinerU

在 Windows 上用pip直接安装 MinerU 后跑文档解析,推理速度明显很慢——官方 FAQ 给出的判断是:这通常是 CUDA 加速相关依赖未正确安装导致的。原因在于命令行工具只会在 Linux 和 macOS 上自动尝试 cuda/mps 加速,Windows 用户需要手动安装支持 CUDA 的torchtorchvision(参见 快速使用文档 中的说明)。本文按你的显卡架构给出两条对应的修复路径,以及环境上的限制条件。

先确认慢的根因与适用前提

按官方 FAQ 的表述,"Windows 直接安装后推理速度很慢"首先对应 CUDA 依赖问题,排查前先确认:

  • 安装方式是mineru[all]这类直接安装(兼容 Windows / Linux / macOS),而不是 Docker 方式——Docker 部署仅适用于 Linux 以及支持 WSL2 的 Windows 环境,走的是另一套环境;
  • 你使用的是 NVIDIA 显卡,且架构在支持范围内:GPU 加速要求 Volta 及以后架构的 GPU(或 Apple Silicon),pipeline后端显存最低 4GB,*-engine后端最低 8GB,Python 版本要求 3.10–3.13(以上均出自 快速入门 的环境支持说明)。

确认属于上述情况,再按下面的架构分支安装依赖。

按显卡架构选择修复分支

FAQ 按架构给出两种方案,先对照你的显卡型号:

显卡架构典型型号方案
Volta / Turing / Ampere / Ada LovelaceV100、20 系、T4、30 系、40 系直接安装支持 CUDA 的torchtorchvision
BlackwellRTX 50xx 系列安装lmdeploy 0.11.1 + cu128的 Windows wheel

分支一:Volta 及以后(非 Blackwell)显卡

直接安装支持 CUDA 的torchtorchvision。前往 PyTorch 官网pytorch.org/get-started/locally/,选择与你本机 CUDA 版本匹配的 Windows 安装命令,按官网给出的命令执行即可。文档没有给出固定版本号,以官网按你的 CUDA 版本生成的命令为准。

分支二:Blackwell 显卡(RTX 50xx 系列)

Blackwell 显卡需要安装lmdeploy 0.11.1 + cu128的 Windows wheel。下面命令中PYTHON_VERSION需要按你当前 Python 版本替换:Python 3.10 / 3.11 / 3.12 / 3.13 分别填写310/311/312/313

$env:LMDEPLOY_VERSION = "0.11.1" $env:PYTHON_VERSION = "312" $wheel = "https://github.com/InternLM/lmdeploy/releases/download/v$($env:LMDEPLOY_VERSION)/lmdeploy-$($env:LMDEPLOY_VERSION)+cu128-cp$($env:PYTHON_VERSION)-cp$($env:PYTHON_VERSION)-win_amd64.whl" pip install $wheel --extra-index-url https://download.pytorch.org/whl/cu128

注意这条命令会从 PyTorch 的 cu128 索引下载依赖,可能覆盖环境里已有的torch。如果环境中已经安装过 cu128 版本的torch,定义好$wheel后只需执行下面一条,可避免重新下载低版本torch

pip install $wheel --no-dependencies

验证与限制

文档没有提供单独的 CUDA 可用性检查命令。安装完成后的判断方式是重新执行同一条解析命令,例如:

mineru -p <input_path> -o <output_path>

其中<input_path>为本地PDF/ 图片 /DOCX/PPTX/XLSX文件或目录,<output_path>为输出目录。之前缓慢的现象消失、解析正常返回结果,说明依赖已按架构分支装对。

执行时注意文档中明确的几点限制:

  • Python 版本:快速入门 的脚注说明,由于关键依赖ray未能在 Windows 平台支持 Python 3.13,Windows 实际仅支持 3.10–3.12;而 FAQ 的 wheel 命名中列出了313选项。两处表述并存,建议在 Windows 上使用 3.10–3.12,Python 3.13 时以 FAQ 给出的 wheel 选项为准并自行验证。
  • 推理框架二选一vllmlmdeploy对 VLM 的推理加速效果与用法几乎相同,文档明确不建议同时安装这两个模块,以避免依赖冲突(见 扩展模块安装指南)。Blackwell 分支走的lmdeploywheel 同时提供了vlm-lmdeploy-engine后端,该后端在 changelog 中说明额外支持 Windows 平台原生推理加速。
  • 显存门槛lmdeploy模块适用于 Volta 及以后架构、8G 显存及以上的显卡;如果你的显存只有 4GB,GPU 加速只覆盖pipeline后端。

依赖装对后,mineru -p <input_path> -o <output_path>在满足 GPU 条件的机器上即走加速路径;若仍不满足加速条件(如纯 CPU 设备),也可指定-b pipeline在纯 CPU 环境运行,这是文档给出的 CPU 回退方式,速度预期与 GPU 加速不同。

【免费下载链接】MinerUTransforms complex documents like PDFs and Office docs into LLM-ready markdown/JSON for your Agentic workflows.项目地址: https://gitcode.com/GitHub_Trending/mi/MinerU

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/9 18:55:44

怎样判断云罗GEO优化排名服务是否有效?

引言在互联网时代&#xff0c;短视频运营和营销工具对企业的发展至关重要。河南云罗网络科技有限公司&#xff0c;也就是云罗互动&#xff0c;在2020年12月成立。这家互联网/软件行业的公司&#xff0c;把自身技术优势和短视频平台红利结合&#xff0c;打造出了“GEO系统”等企…

作者头像 李华
网站建设 2026/9/9 18:55:31

多快递渠道同步打单商城小程序推荐,适配实体店线上卖货

实体门店线上化经营已成2026年中小商家主流运营模式&#xff0c;多数实体店在搭建线上商城后&#xff0c;普遍面临多快递渠道分散、订单手动录入、打单效率低、物流数据不同步等痛点&#xff0c;严重影响发货时效与客户体验。适配实体店场景的商城小程序&#xff0c;不仅需要完…

作者头像 李华
网站建设 2026/9/9 18:54:51

两阶段鲁棒优化微网经济调度:MATLAB+YALMIP+CPLEX实战与避坑指南

做微网调度有一段时间的朋友&#xff0c;大概率绕不开一个问题&#xff1a;风电和光伏出力不确定&#xff0c;负荷也在波动&#xff0c;怎么安排机组出力才能既经济又稳得住&#xff1f;这个问题看着简单&#xff0c;真正落地的时候坑很深。今天这篇就从一个完整的MATLAB实现讲…

作者头像 李华
网站建设 2026/9/9 18:48:20

ESP-IDF 构建系统:从 idf.py 到组件依赖的实战手册

ESP-IDF 构建系统&#xff1a;从 idf.py 到组件依赖的实战手册 【免费下载链接】esp-idf Espressif IoT Development Framework. Official development framework for Espressif SoCs. 项目地址: https://gitcode.com/GitHub_Trending/es/esp-idf 接手一个 ESP32 项目时…

作者头像 李华
网站建设 2026/9/9 18:47:55

Ruffle 拖放播放:从窗口事件到 SWF 渲染的完整链路

Ruffle 拖放播放&#xff1a;从窗口事件到 SWF 渲染的完整链路 【免费下载链接】ruffle A Flash Player emulator written in Rust 项目地址: https://gitcode.com/GitHub_Trending/ru/ruffle 一个 .swf 文件从资源管理器里被拖进 Ruffle 桌面窗口、松手的那一刻&#x…

作者头像 李华