TensorFlow Datasets(TFDS)是一个用于下载、管理和预处理机器学习数据集的库。它提供了易于使用的API,允许用户从现有集合中选择并下载各种数据集。然而,在一些情况下,用户可能需要使用本地数据集进行模型训练和测试。在本文中,我们将介绍如何使用TFDS加载本地数据集。
为了加载本地数据集,我们需要做以下几个步骤:
1.准备数据集 2.创建TFDS数据集描述文件 3.使用描述文件加载数据集
首先,我们需要准备我们要使用的数据集。这通常涉及到收集、清洗和组织数据,以便可以轻松地访问数据。在本例中,我们将使用一个简单的示例数据集,其中包含数字图像和相应的标签。
该数据集的目录结构类似于以下内容:
data/
0/
image1.png
image2.png
...
1/
image1.png
image2.png
...
...
在上面的目录结构中,每个数字目录代表一个唯一的标签,并包含与该标签相关联的所有图像。
接下来,我们需要创建一个TFDS数据集描述文件。该文件告诉TFDS如何读取和使用我们的本地数据集。描述文件通常是一个Python模块,其中包含有关数据集的元数据和函数,该函数将数据集加载到内存中。
在描述文件中,我们需要定义以下元数据:
1.名称:数据集的名称。 2.版本:数据集的版本号。 3.描述:数据集的简短描述。 4.特征:数据集的特征(例如,输入和输出的形状、数据类型等)。 5.拆分:数据集应该如何划分以进行训练、验证和测试。 6.下载URL(可选):如果数据集没有被打包成一个文件,请提供一个URL以下载数据集。
以下是一个简单的描述文件示例:
import tensorflow_datasets as tfds
import os
# Define the metadata for the dataset
_DESCRIPTION = 'A dataset containing images of digits.'
_VERSION = tfds.core.Version('1.0.0')
_NAME = 'my_dataset'
def my_dataset(split):
# Define the path to the data directory
data_dir = os.path.join(os.getcwd(), 'data')
# Define the classes
classes = ['0', '1', '2', '3', '4', '5', '6', '7', '8', '9']
# Load the data
dataset_builder = tfds.builder(_NAME)
dataset_builder.data_dir = data_dir
dataset_builder.add_images(
os.path.join(data_dir, '*/*'),
labels=classes,
)
return dataset_builder.as_dataset(split=split)
在上面的代码中,我们定义了一个名为my_dataset
的函数,该函数将数据集加载到内存中。我们还定义了元数据,包括数据集的名称、版本和描述,以及数据集的特征和拆分方式。
最后,我们使用tfds.builder()
函数创建了一个dataset_builder
对象,并使用add_images()
方法将图像添加到数据集中。请注意,此处我们使用了data_dir
变量来指定数据集的路径。如果您的数据集存在其他位置,则需要更改此变量的值以反映正确的路径。
使用上述描述文件,我们可以通过调用tfds.load()
函数来加载本地数据集。这个函数需要传递三个参数:数据集名称、数据集拆分方式和描述文件的路径或模块。
以下是一个简单的例子:
import tensorflow_datasets as tfds
# Load the data
my_dataset = tfds.load(
name='my_dataset',
split='train',
data_dir='./data',
download=False,
with_info=True,
)
# Print
在上面的代码中,我们使用tfds.load()
函数来加载名为my_dataset
的数据集,使用了train
拆分并指定了数据集路径。此外,我们将with_info
参数设置为True
以获取有关数据集的元信息。
一旦数据集被加载到内存中,我们可以像其他TFDS数据集一样使用它进行训练或测试。
在本文中,我们介绍了如何使用TFDS加载本地数据集。首先,我们准备了数据集,并创建了一个TFDS数据集描述文件。然后,我们使用tfds.load()
函数将数据集加载到内存中,并使用它来训练或测试模型。虽然这种方法可能需要更多的手动操作,但它允许用户使用自己的数据集进行机器学习,从而获得更好的控制和灵活性。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
2025年是智能体(AI Agent)的元年,大模型和智能体的发展比较迅猛。感觉年初的deepseek刚火没多久,这几天Manus又成为媒体头条 ...
2025-03-14以下的文章内容来源于柯家媛老师的专栏,如果您想阅读专栏《小白必备的数据思维课》,点击下方链接 https://edu.cda.cn/goods/sh ...
2025-03-13以下的文章内容来源于刘静老师的专栏,如果您想阅读专栏《10大业务分析模型突破业务瓶颈》,点击下方链接 https://edu.cda.cn/go ...
2025-03-12以下的文章内容来源于柯家媛老师的专栏,如果您想阅读专栏《小白必备的数据思维课》,点击下方链接 https://edu.cda.cn/goods/sh ...
2025-03-11随着数字化转型的加速,企业积累了海量数据,如何从这些数据中挖掘有价值的信息,成为企业提升竞争力的关键。CDA认证考试体系应 ...
2025-03-10推荐学习书籍 《CDA一级教材》在线电子版正式上线CDA网校,为你提供系统、实用、前沿的学习资源,助你轻松迈入数据分析的大门! ...
2025-03-07在数据驱动决策的时代,掌握多样的数据分析方法,就如同拥有了开启宝藏的多把钥匙,能帮助我们从海量数据中挖掘出关键信息,本 ...
2025-03-06在备考 CDA 考试的漫漫征途上,拥有一套契合考试大纲的优质模拟题库,其重要性不言而喻。它恰似黑夜里熠熠生辉的启明星,为每一 ...
2025-03-05“纲举目张,执本末从。”若想在数据分析领域有所收获,一套合适的学习教材至关重要。一套优质且契合需求的学习教材无疑是那关 ...
2025-03-04以下的文章内容来源于刘静老师的专栏,如果您想阅读专栏《10大业务分析模型突破业务瓶颈》,点击下方链接 https://edu.cda.cn/go ...
2025-03-04在现代商业环境中,数据分析师的角色愈发重要。数据分析师通过解读数据,帮助企业做出更明智的决策。因此,考取数据分析师证书成为了许多人提升职业竞争力的选择。本文将详细介绍考取数据分析师证书的过程,包括了解证书种类和 ...
2025-03-03在当今信息化社会,大数据已成为各行各业不可或缺的宝贵资源。大数据专业应运而生,旨在培养具备扎实理论基础和实践能力,能够应 ...
2025-03-03数据分析师认证考试全面升级后,除了考试场次和报名时间,小伙伴们最关心的就是报名费了,报 ...
2025-03-032025年刚开启,知乎上就出现了一个热帖: 2024年突然出现的经济下行,使各行各业都感觉到压力山大。有人说,大环境越来越不好了 ...
2025-03-03大数据分析师培训旨在培养学员掌握大数据分析的基础知识、技术及应用能力,以适应企业对数据分析人才的需求。根据不同的培训需求 ...
2025-03-03小伙伴们,最近被《哪吒2》刷屏了吧!这部电影不仅在国内掀起观影热潮,还在全球范围内引发了关注,成为中国电影崛起的又一里程 ...
2025-03-03以下的文章内容来源于张彦存老师的专栏,如果您想阅读专栏《Python 数据可视化 18 讲(PyEcharts、Matplotlib、Seaborn)》,点 ...
2025-02-28最近,国产AI模型DeepSeek爆火,其创始人梁文峰走进大众视野。《黑神话:悟空》制作人冯骥盛赞DeepSeek为“国运级别的科技成果” ...
2025-02-271.统计学简介 听说你已经被统计学劝退,被Python唬住……先别着急划走,看完这篇再说! 先说结论,大多数情况下的学不会都不是知 ...
2025-02-27“我们的利润率上升了,但销售额却没变,这是为什么?” “某个业务的市场份额在下滑,到底是什么原因?” “公司整体业绩稳定, ...
2025-02-26