环境
Linux-x86_64
GPU CUDA 11.4
python 3.7.10
MindSpore 2.0.0 Nightly
问题
在运行教程里的示例代码时,训练速度越来越慢,log如下所示,两个loss之间是一个batch的花费时间。
训练输出时间部分代码如下所示:
想请问一下为什么这个训练速度会越来越慢,是我环境或者硬件的问题吗?同时这个模型的运行速度感觉运行也过慢了。
另外我想请问mindspore.value_and_grad是在2.0.0版本新更新的函数吗,我在1.9.0版本的MindSpore下运行示例代码会报错AttributeError: module 'mindspore' has no attribute 'value_and_grad'。
环境
Linux-x86_64
GPU CUDA 11.4
python 3.7.10
MindSpore 2.0.0 Nightly
问题
在运行教程里的示例代码时,训练速度越来越慢,log如下所示,两个loss之间是一个batch的花费时间。
训练输出时间部分代码如下所示:
st = time.time() for batch, (data, label) in enumerate(dataset.create_tuple_iterator()): loss = train_step(data, label) if batch % 100 == 0: loss, current = loss.asnumpy(), batch print(f"loss: {loss:>7f} [{current:>3d}/{size:>3d}]") print(time.time() - st) st = time.time()想请问一下为什么这个训练速度会越来越慢,是我环境或者硬件的问题吗?同时这个模型的运行速度感觉运行也过慢了。
另外我想请问
mindspore.value_and_grad是在2.0.0版本新更新的函数吗,我在1.9.0版本的MindSpore下运行示例代码会报错AttributeError: module 'mindspore' has no attribute 'value_and_grad'。