跳转至

常见问题解答

如果未能列出您的问题,您也可以使用DeepWiki与AI助手交流,这可以解决大部分常见问题。

如果您仍然无法解决问题,您可通过DiscordWeChat加入社区,与其他用户和开发者交流。

Windows 直接安装后推理速度很慢怎么办?

Windows 直接安装后推理速度很慢怎么办?

Windows 直接安装后如果推理速度很慢,通常是 CUDA 加速相关依赖未正确安装。请根据显卡架构选择对应方案:

  • Volta / Turing / Ampere / Ada Lovelace 架构显卡,例如 V100、20 系、T4、30 系、40 系:直接安装支持 CUDA 的 torchtorchvision 即可。请前往 PyTorch 官网 选择适合您 CUDA 版本的 Windows 安装命令。
  • Blackwell 架构显卡,例如 RTX 50xx 系列:安装 lmdeploy 0.11.1 + cu128 的 Windows wheel。请将 PYTHON_VERSION 设置为当前 Python 版本,例如 Python 3.10 / 3.11 / 3.12 / 3.13 分别填写 310 / 311 / 312 / 313
$env:LMDEPLOY_VERSION = "0.11.1"
$env:PYTHON_VERSION = "312"

$wheel = "https://github.com/InternLM/lmdeploy/releases/download/v$($env:LMDEPLOY_VERSION)/lmdeploy-$($env:LMDEPLOY_VERSION)+cu128-cp$($env:PYTHON_VERSION)-cp$($env:PYTHON_VERSION)-win_amd64.whl"
pip install $wheel --extra-index-url https://download.pytorch.org/whl/cu128

如果 Blackwell 架构显卡环境中已经安装过 cu128 版本的 torch,则在定义好 $wheel 后只需执行以下命令,避免重新下载低版本 torch

pip install $wheel --no-dependencies
在WSL2的Ubuntu22.04中遇到报错ImportError: libGL.so.1: cannot open shared object file: No such file or directory

在WSL2的Ubuntu22.04中遇到报错ImportError: libGL.so.1: cannot open shared object file: No such file or directory

WSL2的Ubuntu22.04中缺少libgl库,可通过以下命令安装libgl库解决:

sudo apt-get install libgl1-mesa-glx

参考:#388

在 Linux 系统安装并使用时,解析结果缺失部份文字信息。

在 Linux 系统安装并使用时,解析结果缺失部份文字信息。

MinerU在>=2.0的版本中使用pypdfium2代替pymupdf作为PDF页面的渲染引擎,以解决AGPLv3的许可证问题,在某些Linux发行版,由于缺少CJK字体,可能会在将PDF渲染成图片的过程中丢失部份文字。 为了解决这个问题,您可以通过以下命令安装noto字体包,这在Ubuntu/debian系统中有效:

sudo apt update
sudo apt install fonts-noto-core
sudo apt install fonts-noto-cjk
fc-cache -fv
也可以直接使用我们的Docker部署方式构建镜像,镜像中默认包含以上字体包。

参考:#2915