常见问题

查看源文件

模型相关问题

git-lfs安装

  1. 请到以下链接获取对应的git-lfs安装包。

  2. 下载并安装：

    mkdir git-lfs
cd git-lfs
wget https://github.com/git-lfs/git-lfs/releases/download/v3.0.1/git-lfs-linux-arm64-v3.0.1.tar.gz --no-check-certificate
tar zxvf git-lfs-linux-arm64-v3.0.1.tar.gz
bash install.sh

  3. 校验是否安装成功：

    git lfs install

    若返回 Git LFS initialized.，则已安装成功。

部署相关问题

拉起在线推理时，报aclnnNonzeroV2相关错误

  • 错误关键信息：

    RuntimeError: Call aclnnNonzeroV2 failed, detail:E39999: Inner Error

  • 解决思路： 请检查CANN与MindSpore的配套关系是否正确。

import vllm_mindspore时找不到torch

  • 错误关键信息：

    importlib.metadata.PackageNotFoundError: No package metadata was found for torch

  • 解决思路： 请执行以下命令，卸载torch相关组件：

    pip uninstall torch
pip uninstall torchvision