1 系统环境
硬件环境(Ascend/GPU/CPU): Ascend/GPU/CPU
MindSpore版本: mindspore=1.5.0
执行模式(动态图/静态图): 不限
Python版本: Python=3.7.5
操作系统平台: Linux
2 报错信息
2.1 问题描述
在Ascend + Mindspore1.5上进行MindSpore数据格式转换脚本如下:
2.2 报错信息
3 根因分析
******此处由用户补充详细的定位过程******
MindSpore1.6.0版本之前,MindSpore格式数据集生成时不支持覆盖写,当输出目录下存在同名文件时,异常信息不能准确反应错误信息,此时需要查看日志信息。如下所示,日志中第2行提示输出目录下已经存在同名mindrecord文件,需要提前删除。
MindSpore1.6.0之后版本,定义FileWriter对象时,可以加上overwrite=True来实现覆盖写。
4 解决方案
******此处由用户填写******
包含文字方案和最终脚本代码
支持上传附件
1 系统环境
硬件环境(Ascend/GPU/CPU): Ascend/GPU/CPU
MindSpore版本: mindspore=1.5.0
执行模式(动态图/静态图): 不限
Python版本: Python=3.7.5
操作系统平台: Linux
2 报错信息
2.1 问题描述
在Ascend + Mindspore1.5上进行MindSpore数据格式转换脚本如下:
from mindspore.mindrecord import FileWriter data_record_path = './datasets/convert_dataset_to_mindrecord/data_to_mindrecord/test.mindrecord' writer = FileWriter(file_name=data_record_path, shard_num=4) # 定义schema data_schema = {"file_name": {"type": "string"}, "label": {"type": "int32"}, "data": {"type": "bytes"}} writer.add_schema(data_schema, "test_schema") # 数据准备 file_name = "./datasets/convert_dataset_to_mindrecord/images/transform.jpg" with open(file_name, "rb") as f: bytes_data = f.read() data = [{"file_name": "transform.jpg", "label": 1, "data": bytes_data}] indexes = ["file_name", "label"] writer.add_index(indexes) # 数据写入 writer.write_raw_data(data) # 生成本地数据 writer.commit()2.2 报错信息
54 logger.error("Failed to open paths")3 根因分析
******此处由用户补充详细的定位过程******
MindSpore1.6.0版本之前,MindSpore格式数据集生成时不支持覆盖写,当输出目录下存在同名文件时,异常信息不能准确反应错误信息,此时需要查看日志信息。如下所示,日志中第2行提示输出目录下已经存在同名mindrecord文件,需要提前删除。
MindSpore1.6.0之后版本,定义FileWriter对象时,可以加上overwrite=True来实现覆盖写。
4 解决方案
******此处由用户填写******
包含文字方案和最终脚本代码
支持上传附件