MinerU 在 Windows 直装后推理速度很慢怎么排查?
【免费下载链接】MinerUTransforms complex documents like PDFs and Office docs into LLM-ready markdown/JSON for your Agentic workflows.项目地址: https://gitcode.com/GitHub_Trending/mi/MinerU
在 Windows 上用pip直接安装 MinerU 后跑文档解析,推理速度明显很慢——官方 FAQ 给出的判断是:这通常是 CUDA 加速相关依赖未正确安装导致的。原因在于命令行工具只会在 Linux 和 macOS 上自动尝试 cuda/mps 加速,Windows 用户需要手动安装支持 CUDA 的torch与torchvision(参见 快速使用文档 中的说明)。本文按你的显卡架构给出两条对应的修复路径,以及环境上的限制条件。
先确认慢的根因与适用前提
按官方 FAQ 的表述,"Windows 直接安装后推理速度很慢"首先对应 CUDA 依赖问题,排查前先确认:
- 安装方式是
mineru[all]这类直接安装(兼容 Windows / Linux / macOS),而不是 Docker 方式——Docker 部署仅适用于 Linux 以及支持 WSL2 的 Windows 环境,走的是另一套环境; - 你使用的是 NVIDIA 显卡,且架构在支持范围内:GPU 加速要求 Volta 及以后架构的 GPU(或 Apple Silicon),
pipeline后端显存最低 4GB,*-engine后端最低 8GB,Python 版本要求 3.10–3.13(以上均出自 快速入门 的环境支持说明)。
确认属于上述情况,再按下面的架构分支安装依赖。
按显卡架构选择修复分支
FAQ 按架构给出两种方案,先对照你的显卡型号:
| 显卡架构 | 典型型号 | 方案 |
|---|---|---|
| Volta / Turing / Ampere / Ada Lovelace | V100、20 系、T4、30 系、40 系 | 直接安装支持 CUDA 的torch和torchvision |
| Blackwell | RTX 50xx 系列 | 安装lmdeploy 0.11.1 + cu128的 Windows wheel |
分支一:Volta 及以后(非 Blackwell)显卡
直接安装支持 CUDA 的torch和torchvision。前往 PyTorch 官网pytorch.org/get-started/locally/,选择与你本机 CUDA 版本匹配的 Windows 安装命令,按官网给出的命令执行即可。文档没有给出固定版本号,以官网按你的 CUDA 版本生成的命令为准。
分支二:Blackwell 显卡(RTX 50xx 系列)
Blackwell 显卡需要安装lmdeploy 0.11.1 + cu128的 Windows wheel。下面命令中PYTHON_VERSION需要按你当前 Python 版本替换:Python 3.10 / 3.11 / 3.12 / 3.13 分别填写310/311/312/313:
$env:LMDEPLOY_VERSION = "0.11.1" $env:PYTHON_VERSION = "312" $wheel = "https://github.com/InternLM/lmdeploy/releases/download/v$($env:LMDEPLOY_VERSION)/lmdeploy-$($env:LMDEPLOY_VERSION)+cu128-cp$($env:PYTHON_VERSION)-cp$($env:PYTHON_VERSION)-win_amd64.whl" pip install $wheel --extra-index-url https://download.pytorch.org/whl/cu128注意这条命令会从 PyTorch 的 cu128 索引下载依赖,可能覆盖环境里已有的torch。如果环境中已经安装过 cu128 版本的torch,定义好$wheel后只需执行下面一条,可避免重新下载低版本torch:
pip install $wheel --no-dependencies验证与限制
文档没有提供单独的 CUDA 可用性检查命令。安装完成后的判断方式是重新执行同一条解析命令,例如:
mineru -p <input_path> -o <output_path>其中<input_path>为本地PDF/ 图片 /DOCX/PPTX/XLSX文件或目录,<output_path>为输出目录。之前缓慢的现象消失、解析正常返回结果,说明依赖已按架构分支装对。
执行时注意文档中明确的几点限制:
- Python 版本:快速入门 的脚注说明,由于关键依赖
ray未能在 Windows 平台支持 Python 3.13,Windows 实际仅支持 3.10–3.12;而 FAQ 的 wheel 命名中列出了313选项。两处表述并存,建议在 Windows 上使用 3.10–3.12,Python 3.13 时以 FAQ 给出的 wheel 选项为准并自行验证。 - 推理框架二选一:
vllm和lmdeploy对 VLM 的推理加速效果与用法几乎相同,文档明确不建议同时安装这两个模块,以避免依赖冲突(见 扩展模块安装指南)。Blackwell 分支走的lmdeploywheel 同时提供了vlm-lmdeploy-engine后端,该后端在 changelog 中说明额外支持 Windows 平台原生推理加速。 - 显存门槛:
lmdeploy模块适用于 Volta 及以后架构、8G 显存及以上的显卡;如果你的显存只有 4GB,GPU 加速只覆盖pipeline后端。
依赖装对后,mineru -p <input_path> -o <output_path>在满足 GPU 条件的机器上即走加速路径;若仍不满足加速条件(如纯 CPU 设备),也可指定-b pipeline在纯 CPU 环境运行,这是文档给出的 CPU 回退方式,速度预期与 GPU 加速不同。
【免费下载链接】MinerUTransforms complex documents like PDFs and Office docs into LLM-ready markdown/JSON for your Agentic workflows.项目地址: https://gitcode.com/GitHub_Trending/mi/MinerU
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考