加载数据集

概述

MindSpore可以帮助你加载常见的数据集、特定数据格式的数据集或自定义的数据集。加载数据集时,需先导入所需要依赖的库mindspore.dataset

import mindspore.dataset as ds

加载常见的数据集

MindSpore可以加载常见的标准数据集。支持的数据集如下表:

数据集 简要说明
ImageNet ImageNet是根据WordNet层次结构组织的图像数据库,其中层次结构的每个节点都由成百上千个图像表示。
MNIST 是一个手写数字图像的大型数据库,通常用于训练各种图像处理系统。
CIFAR-10 常用于训练图像的采集机器学习和计算机视觉算法。CIFAR-10数据集包含10种不同类别的60,000张32x32彩色图像。
CIFAR-100 该数据集类似于CIFAR-10,不同之处在于它有100个类别,每个类别包含600张图像。每个课程有500张训练图像和100张测试图像。
PASCAL-VOC 数据内容多样,可用于训练计算机视觉模型(分类、定位、检测、分割、动作识别等)。
CelebA CelebA人脸数据集包含上万个名人身份的人脸图片,每张图片有40个特征标记,常用于人脸相关的训练任务。

加载常见数据集的详细步骤如下,以创建CIFAR-10对象为例,用于加载支持的数据集。

  1. 下载CIFAR-10数据集,并解压。这里使用的是二进制格式的数据集(CIFAR-10 binary version)。

  2. 配置数据集目录,定义需要加载的数据集实例。

    DATA_DIR = "cifar10_dataset_dir/"
    
    cifar10_dataset = ds.Cifar10Dataset(DATA_DIR)
    
  3. 创建迭代器,通过迭代器读取数据。

    for data in cifar10_dataset.create_dict_iterator():
    # In CIFAR-10 dataset, each dictionary of data has keys "image" and "label".
        print(data["image"])
        print(data["label"]) 
    

加载特定数据格式的数据集

MindSpore数据格式

MindSpore天然支持读取MindSpore数据格式——MindRecord存储的数据集,在性能和特性上有更好的支持。

阅读将数据集转换为MindSpore数据格式章节,了解如何将数据集转化为MindSpore数据格式。

可以通过MindDataset对象对数据集进行读取。详细方法如下所示:

  1. 创建MindDataset,用于读取数据。

    CV_FILE_NAME = os.path.join(MODULE_PATH, "./imagenet.mindrecord")
    data_set = ds.MindDataset(dataset_file=CV_FILE_NAME)
    

    其中,
    dataset_file:指定MindRecord的文件,含路径及文件名。

  2. 创建字典迭代器,通过迭代器读取数据记录。

    num_iter = 0
    for data in data_set.create_dict_iterator():
        print(data["label"])
        num_iter += 1
    

Manifest数据格式

Manifest是华为ModelArts支持的数据格式文件,详细说明请参见:https://support.huaweicloud.com/engineers-modelarts/modelarts_23_0009.html

Mindspore对Manifest格式的数据集提供了对应的数据集类。如下所示,配置数据集目录,定义需要加载的数据集实例。

DATA_DIR = "manifest_dataset_path"

manifest_dataset = ds.ManifestDataset(DATA_DIR)

目前ManifestDataset仅支持加载图片、标签类型的数据集,默认列名为”image”和”label”。

TFRecord数据格式

MindSpore也支持读取TFRecord数据格式的数据集,可以通过TFRecordDataset对象进行数据集读取。

  1. 只需传入数据集路径或.tfrecord文件列表,即可创建TFRecordDataset

    DATA_DIR = ["tfrecord_dataset_path/train-0000-of-0001.tfrecord"]
    
    dataset = ds.TFRecordDataset(DATA_DIR)
    
  2. 用户可以通过创建Schema文件或Schema类,设定数据集格式及特征。

    Schema文件示例如下所示:

    {
      "datasetType": "TF",
      "numRows": 3,
      "columns": {
        "image": {
            "type": "uint8",
            "rank": 1
        },
        "label" : {
          "type": "int64",
          "rank": 1
        }
      }
    }
    

    其中,
    datasetType: 数据格式的类型,这里“TF”是指TFrecord数据格式。
    columns:列信息字段,需要根据数据集的实际列名定义,上面Schema文件示例中,数据集列为image和label两列。
    numRows:行数信息字段,控制加载数据的最大行数。如果定义的行数大于实际行数,加载时则以实际行数为准。

    在创建TFRecordDataset时将Schema文件路径传入,使用样例如下:

    DATA_DIR = ["tfrecord_dataset_path/train-0000-of-0001.tfrecord"]
    SCHEMA_DIR = "dataset_schema_path/schema.json"
    
    dataset = ds.TFRecordDataset(DATA_DIR, schema=SCHEMA_DIR)
    

    创建Schema类使用样例如下:

    import mindspore.common.dtype as mstype
    schema = ds.Schema()
    schema.add_column('image', de_type=mstype.uint8)  # Binary data usually use uint8 here.
    schema.add_column('label', de_type=mstype.int32)
    
    dataset = ds.TFRecordDataset(DATA_DIR, schema=schema)
    
  3. 创建字典迭代器,通过迭代器读取数据。

    for data in dataset.create_dict_iterator():
    # The dictionary of data has keys "image" and "label" which are consistent with columns names in its schema.
        print(data["image"])
        print(data["label"]) 
    

加载自定义数据集

对于自定义数据集,可以通过GeneratorDataset对象加载。

  1. 定义一个函数(示例函数名为Generator1D)用于生成数据集的函数。

    自定义的生成函数返回的是可调用的对象,每次返回numpy array的元组,作为一行数据。

    自定义函数示例如下:

    import numpy as np  # Import numpy lib.
    def Generator1D():
        for i in range(64):
            yield (np.array([i]),)  # Notice, tuple of only one element needs following a comma at the end.
    
  2. Generator1D传入GeneratorDataset创建数据集,并设定column名为“data”。

    dataset = ds.GeneratorDataset(Generator1D, ["data"])
    
  3. 在创建数据集后,可以通过给数据创建迭代器的方式,获取相应的数据。有两种创建迭代器的方法。

    • 创建返回值为序列类型的迭代器。

      for data in dataset.create_tuple_iterator():  # each data is a sequence
          print(data[0])
      
    • 创建返回值为字典类型的迭代器。

      for data in dataset.create_dict_iterator():  # each data is a dictionary
          print(data["data"])