# 后端运行类 `Ascend` `GPU` `CPU` `环境准备` `运行模式` `模型训练` `初级` `中级` `高级` [![查看源文件](./_static/logo_source.png)](https://gitee.com/mindspore/docs/tree/r1.0/docs/faq/source_zh_cn/backend_running.md) **Q:MindSpore安装完成,执行训练时发现网络性能异常,权重初始化耗时过长,怎么办?** A:可能与环境中使用了`scipy 1.4`系列版本有关,通过`pip list | grep scipy`命令可查看scipy版本,建议改成MindSpore要求的`scipy`版本。版本第三方库依赖可以在`requirement.txt`中查看。 > 其中version替换为MindSpore具体的版本分支。
**Q:使用MindSpore可以自定义一个可以返回多个值的loss函数?** A:自定义`loss function`后还需自定义`TrainOneStepCell`,实现梯度计算时`sens`的个数和`network`的输出个数相同。具体可参考: ```python net = Net() loss_fn = MyLoss() loss_with_net = MyWithLossCell(net, loss_fn) train_net = MyTrainOneStepCell(loss_with_net, optim) model = Model(net=train_net, loss_fn=None, optimizer=None) ```
**Q:MindSpore如何实现早停功能?** A:可以自定义`callback`方法实现早停功能。 例子:当loss降到一定数值后,停止训练。 ```python class EarlyStop(Callback): def __init__(self, control_loss=1): super(EarlyStep, self).__init__() self._control_loss = control_loss def step_end(self, run_context): cb_params = run_context.original_args() loss = cb_params.net_outputs if loss.asnumpy() < self._control_loss: # Stop training run_context._stop_requested = True stop_cb = EarlyStop(control_loss=1) model.train(epoch_size, ds_train, callbacks=[stop_cb]) ```
**Q:请问自己制作的黑底白字`28*28`的数字图片,使用MindSpore训练出来的模型做预测,报错提示`wrong shape of image`是怎么回事?** A:首先MindSpore训练使用的灰度图MNIST数据集。所以模型使用时对数据是有要求的,需要设置为`28*28`的灰度图,就是单通道才可以。
**Q:MindSpore的operation算子报错:`device target [CPU] is not supported in pynative mode`** A:pynative 模式目前只支持Ascend和GPU,暂时还不支持CPU。
**Q:在Ascend平台上,执行用例有时候会报错run task error,如何获取更详细的日志帮助问题定位?** A:可以通过开启slog获取更详细的日志信息以便于问题定位,修改`/var/log/npu/conf/slog/slog.conf`中的配置,可以控制不同的日志级别,对应关系为:0:debug、1:info、2:warning、3:error、4:null(no output log),默认值为1。
**Q:使用ExpandDims算子报错:`Pynative run op ExpandDims failed`。具体代码:** ```python context.set_context( mode=cintext.GRAPH_MODE, device_target='ascend') input_tensor=Tensor(np.array([[2,2],[2,2]]),mindspore.float32) expand_dims=ops.ExpandDims() output=expand_dims(input_tensor,0) ``` A:这边的问题是选择了Graph模式却使用了PyNative的写法,所以导致报错,MindSpore支持两种运行模式,在调试或者运行方面做了不同的优化: - PyNative模式:也称动态图模式,将神经网络中的各个算子逐一下发执行,方便用户编写和调试神经网络模型。 - Graph模式:也称静态图模式或者图模式,将神经网络模型编译成一整张图,然后下发执行。该模式利用图优化等技术提高运行性能,同时有助于规模部署和跨平台运行。 用户可以参考[官网教程](https://www.mindspore.cn/tutorial/training/zh-CN/r1.0/advanced_use/debug_in_pynative_mode.html)选择合适、统一的模式和写法来完成训练。
**Q:使用Ascend平台执行训练过程,出现报错:`Out of Memory!!! total[3212254720] (dynamic[0] memory poll[524288000]) malloc[32611480064] failed!` 如何解决?** A:此问题属于内存占用过多导致的内存不够问题,可能原因有两种: - `batch_size`的值设置过大。解决办法:将`batch_size`的值设置减小。 - 引入了异常大的`Parameter`,例如单个数据shape为[640,1024,80,81],数据类型为float32,单个数据大小超过15G,这样差不多大小的两个数据相加时,占用内存超过3*15G,容易造成`Out of Memory`。解决办法:检查参数的`shape`,如果异常过大,减少shape。 - 如果以上操作还是未能解决,可以上[官方论坛](https://bbs.huaweicloud.com/forum/forum-1076-1.html)发帖提出问题,将会有专门的技术人员帮助解决。
**Q:MindSpore执行GPU分布式训练报错如下,如何解决:** ```text Loading libgpu_collective.so failed. Many reasons could cause this: 1.libgpu_collective.so is not installed. 2.nccl is not installed or found. 3.mpi is not installed or found ``` A:此问题为MindSpore动态加载集合通信库失败,可能原因如下: - 执行环境未安装分布式训练依赖的OpenMPI以及NCCL。 - NCCL版本未更新至`v2.7.6`:MindSpore `v1.1.0`新增GPU P2P通信算子,该特性依赖于NCCL `v2.7.6`,若环境使用的NCCL未升级为此版本,则会引起加载失败错误。
**Q:启动缓存服务器时,若提示找不到`libpython3.7m.so.1.0`文件,应如何处理?** A:尝试在虚拟环境下查找其路径并设置LD_LIBRARY_PATH变量: ```shell export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:{path_to_conda}/envs/{your_env_name}/lib ```
**Q:缓存服务器异常关闭如何处理?** A:缓存服务器使用过程中,会进行IPC共享内存和socket文件等系统资源的分配。若允许溢出,在磁盘空间还会存在溢出的数据文件。一般情况下,如果通过`cache_admin --stop`命令正常关闭服务器,这些资源将会被自动清理。 但如果缓存服务器被异常关闭,例如缓存服务进程被杀等,用户需要首先尝试重新启动服务器,若启动失败,则应该依照以下步骤手动清理系统资源: - 删除IPC资源。 1. 检查是否有IPC共享内存残留。 一般情况下,系统会为缓存服务分配4GB的共享内存。通过以下命令可以查看系统中的共享内存块使用情况。 ```shell $ ipcs -m ------ Shared Memory Segments -------- key shmid owner perms bytes nattch status 0x61020024 15532037 root 666 4294967296 1 ``` 其中,`shmid`为共享内存块id,`bytes`为共享内存块的大小,`nattch`为链接到该共享内存块的进程数量。`nattch`不为0表示仍有进程使用该共享内存块。在删除共享内存前,需要停止使用该内存块的所有进程。 2. 删除IPC共享内存。 找到对应的共享内存id,并通过以下命令删除。 ```shell ipcrm -m {shmid} ``` - 删除socket文件。 一般情况下,socket文件位于`/tmp/mindspore/cache`。进入文件夹,执行以下命令删除socket文件。 ```shell rm cache_server_p{port_number} ``` 其中`port_number`为用户创建缓存服务器时指定的端口号,默认为50052。 - 删除溢出到磁盘空间的数据文件。 进入启用缓存服务器时指定的溢出数据路径。通常,默认溢出路径为`/tmp/mindspore/cache`。找到路径下对应的数据文件夹并逐一删除。