logo

数据集定义:数据集是按既定结构或规则组成的数据集合,覆盖文本、图像、音频、视频、多模态等多种数据格式。可用于基座模型预训练、垂直场景微调等环节,是模型能力构建与迭代优化的重要素材。

数据集结构:数据集由一个或多个版本组成,每个版本可挂载不同的文件。在平台各业务板块实际使用数据集时,需选择指定的版本。

一、项目数据集

功能概述:在项目空间内对数据集资产进行全生命周期统一管控,并通过版本管理、权限管理、状态控制等能力,保障数据集在多用户并发协作场景下的稳定性与可用性。

1.1创建数据集

在左侧导航栏选择“数据集管理-项目数据集”,进入数据集列表页。

点击“创建数据集”按钮进入数据集创建页面并填写基本信息。创建数据集时会同时创建一个初始版本。

数据集相关信息描述及填写规则如下:

字段 描述 要求
所属项目 选择数据集归属的项目 ·必填,默认继承入口页顶部导航栏的项目
数据集名称 填写数据集的名称

·必填

·长度1-100字符

·在项目空间内不能存在名称重复的数据集

数据格式 选择数据集内数据文件的格式,可选项包含:Text、Lance、Iceberg、CSV、JSONL、Parquet、Image、Video、Audio、多模态、其他,共11项 ·选填,单选
数据用途 选择数据集用途,可选项包含:预训练、模型蒸馏、有监督微调SFT、偏好对齐RFT、偏好对齐DPO、偏好对齐KTO、偏好对齐RLHF、其他,共8项 ·选填,单选
数据集描述 填写数据集描述

·选填

·长度0-200字符

权限设置 设置数据集在当前项目空间内的权限,可选项包含:私有、只读、读写,共3种类型的权限 ·必填

初始版本相关字段及填写规则如下:

字段 描述 要求
区域

选择该版本存储的区域

请注意:创建的版本仅能在当前区域内使用,暂不支持跨区域同步数据

·必填,默认继承入口页顶部导航栏的项目
版本名称 填写版本名称

·必填

·长度1-100字符

·单一数据集下不能存在名称重复的版本名称

版本描述 填写版本描述

·选填

·长度0-200字符

点击“创建”按钮并成功完成创建后,页面会跳转至数据集初始版本的文件管理页,以便上传文件。

3.通过CLI的方式上传文件(目前仅支持windows系统,以及python 3.12.0版本)

点击“使用CLI编辑”按钮展开弹窗,按照弹窗中的代码模版上传文件。

规则详见:1.2.6.7.1

1.2管理数据集

1.2.1查看数据集列表

在左侧导航栏选择“数据集管理-项目数据集”,进入数据集列表页。在此页面可查看当前项目空间内所有有权限查看的数据集资产。

数据集列表中的字段说明如下:

字段 描述
数据集名称/ID

数据集名称:创建/编辑数据集时填写的数据集名称

数据集ID:数据集的唯一标识,成功创建数据集时由系统自动生成

最新版本 展示当前数据集下最近一次创建的版本
数据集权限 展示当前数据集的权限,包括:私有、只读、读写
总文件大小 展示当前数据集下所有版本(包括不同区域下的)文件大小的总和
数据用途 展示创建/编辑数据集时填写的数据用途
数据格式 展示创建/编辑数据集时填写的数据格式
数据集描述 展示创建/编辑数据集时填写的数据集描述
创建人 展示该条数据集创建人的用户名
创建时间 展示该条数据集的创建时间
最后更新 展示最后一次编辑该条数据集的用户名
更新时间 展示最后一次编辑该条数据集的时间

搜索与筛选

如果项目空间内的数据集数量较多,可通过点击数据集列表左上方的按钮并切换查看“全部”或“我创建的”数据集。也可通过数据集列表右上角的“搜索”或“筛选”功能查找指定的数据集。

1.2.2编辑数据集信息

点击数据集列表中的“操作-管理-编辑信息”,可在弹窗中编辑修改数据集的基础信息,包括:数据及名称、数据格式、数据用途、数据集描述。

1.2.3删除数据集

点击数据集列表中的“操作-管理-删除”,可删除指定数据集。

如果数据集下有任一版本正处于“使用中”、“可用”、“编辑中”、“克隆中”、“被克隆中”状态,则该数据集不可删除。请等待所有版本任务结束并切换为“草稿”状态再删除数据集。

1.2.4管理数据集权限

租户管理员、项目管理员和数据集创建者可以设置数据集在当前项目空间内的权限。目前包含:私有、只读、读写,三种类型的权限可设置。

1.2.4.1私有权限

“私有”权限的数据集

·数据集发布人、项目管理员、租户管理员、平台超级管理员 --- 可见、可用、可编、可更改权限

·项目空间内的其他用户 --- 不显示该数据集

角色 数据集列表页 版本列表页 文件管理 训练、开发机等其他业务模块
(敬请期待)
数据集发布人、项目管理员、租户管理员 可执行的操作

·可在列表中查看数据集基础信息

·可编辑数据集基础信息

·可编辑数据集权限

·可查看操作日志

·可删除数据集

·可在列表中查看版本基础信息

·可编辑版本名称

·可编辑版本描述

·可切换版本状态

·可克隆版本

·可删除版本

·可查看版本文件

·可预览版本文件

·可通过CLI编辑文件

·可通过CLI下载文件

·可在其他业务模块获取并应用该数据集
不可执行的操作 - - - -
项目空间内的其他用户 可执行的操作 - - - -
不可执行的操作 不显示该数据集,所有操作均无法执行

1.2.4.2只读权限

“只读”权限的数据集

·数据集发布人、项目管理员、租户管理员、平台超级管理员 --- 可见、可用、可编、可更改权限

·项目空间内的其他用户 --- 可见、可用

角色 数据集列表页 版本列表页 文件管理 训练、开发机等其他业务模块
(敬请期待)
数据集发布人、项目管理员、租户管理员 可执行的操作

·可在列表中查看数据集基础信息

·可编辑数据集基础信息

·可编辑数据集权限

·可查看操作日志

·可删除数据集

·可在列表中查看版本基础信息

·可编辑版本名称

·可编辑版本描述

·可切换版本状态

·可克隆版本

·可删除版本

·可查看版本文件

·可预览版本文件

·可通过CLI编辑文件

·可通过CLI下载文件

·可在其他业务模块获取并应用该数据集
不可执行的操作 - - - -
项目空间内的其他用户 可执行的操作

·可在列表中查看数据集基础信息

·可查看操作日志

·可在列表中查看版本基础信息

·可查看版本文件

·可预览版本文件

·可通过CLI下载文件

·可在其他业务模块获取并应用该数据集
不可执行的操作

·不可编辑数据集基础信息

·不可编辑数据集权限

·不可删除数据集

·不可编辑版本名称

·不可编辑版本描述

·不可切换版本状态

·不可克隆版本

·不可删除版本

·不可通过CLI编辑文件 -

1.2.4.3读写权限

“读写”权限的数据集

·仅数据集发布人、项目管理员、租户管理员、平台超级管理员,可见可用可编可更改权限

·项目空间内的其他用户,可见可用可编

角色 数据集列表页 版本列表页 文件管理 训练、开发机等其他业务模块
(敬请期待)
数据集发布人、项目管理员、租户管理员 可执行的操作

·可在列表中查看数据集基础信息

·可编辑数据集基础信息

·可编辑数据集权限

·可查看操作日志

·可删除数据集

·可在列表中查看版本基础信息

·可编辑版本名称

·可编辑版本描述

·可切换版本状态

·可克隆版本

·可删除版本

·可查看版本文件

·可预览版本文件

·可通过CLI编辑文件

·可通过CLI下载文件

·可在其他业务模块获取并应用该数据集
不可执行的操作 - - - -
项目空间内的其他用户 可执行的操作

·可在列表中查看数据集基础信息

·可编辑数据集基础信息

·可查看操作日志

·可删除数据集

·可在列表中查看版本基础信息

·可编辑版本名称

·可编辑版本描述

·可切换版本状态

·可克隆版本

·可删除版本

·可查看版本文件

·可预览版本文件

·可通过CLI编辑文件

·可通过CLI下载文件

·可在其他业务模块获取并应用该数据集
不可执行的操作 ·不可编辑数据集权限 - - -

1.2.5查看操作日志

数据集创建完成后,点击数据集列表页中的“操作-管理-操作日志”,可以查看数据集的所有历史操作记录。

1.2.6管理数据集版本

在数据集列表中点击数据集名称,或点击“操作-查看版本”,可进入数据集版本列表页。

1.2.6.1 创建数据集版本

点击“创建版本”按钮并在弹窗中输入版本信息。

点击“创建”按钮并成功完成创建后,页面会跳转至数据集初始版本的文件管理页,以便上传文件。

通过CLI的方式上传文件(目前仅支持windows系统,以及python3.12.0版本)

点击“使用CLI编辑”按钮展开弹窗,按照弹窗中代码模版的上传文件。

规则详见:1.2.6.7.1

1.2.6.2查看数据集版本列表

在数据集列表页直接点击数据集名称,或点击“操作-查看版本”,即可进入数据集版本列表页查看当前数据集的所有版本信息。

数据集版本列表中的字段说明如下:

字段 描述
版本名称/ID

版本名称:创建/编辑数据集版本时填写的数据集版本名称

版本ID:数据集版本的唯一标识,成功创建数据集版本时由系统自动生成

状态 展示当前版本的状态,包括:可用、使用中、草稿、编辑中、克隆中、被克隆中、克隆失败
文件大小 展示当前版本的文件大小
来源方式 展示当前版本的创建方式,包括:创建版本、版本克隆
来源ID 展示当前版本的父版本ID
版本描述 展示创建/编辑数据集版本时填写的数据集版本描述
创建人 展示该条数据集版本创建人的用户名
创建时间 展示该条数据集版本的创建时间
最后更新 展示最后一次编辑该条数据集版本的用户名
更新时间 展示最后一次编辑该条数据集版本的时间

如果在列表中找不到您创建的版本,请尝试在顶部导航栏切换区域。

1.2.6.3编辑数据集版本信息

1.2.6.3.1编辑版本名称

将鼠标移入版本列表,并点击版本名称右侧的编辑图标,即可编辑版本名称。

1.2.6.3.2编辑版本描述

将鼠标移入版本列表,并点击版本描述右侧的编辑图标,即可编辑版本描述。

1.2.6.4删除数据集版本

点击版本列表中的“操作-删除”,可删除指定版本。

如果版本正处于“使用中”、“可用”、“编辑中”、“克隆中”、“被克隆中”状态,则该版本不可删除。请等待版本任务结束并切换为“草稿”状态再删除该版本。

1.2.6.5克隆版本

点击版本列表中的“操作-克隆”,可弹出版本克隆弹窗,用户需在弹窗中填写子版本的信息。完成后点击“创建”按钮开始执行版本克隆任务。

克隆后的子版本会在版本列表页中的“来源方式”一列标注为“版本克隆”,在“来源ID”标注父版本的ID。

克隆后的子版本会继承父版本的所有文件。

1.2.6.6版本状态

1.2.6.6.1状态说明

数据集版本状态包含“可用”、“使用中”、“草稿”、“编辑中”、“克隆中”、“被克隆中”、“克隆失败”,共7种。

1.2.6.6.2状态切换

状态流转图如下所示:

“可用”和“草稿”状态的流转需要用户手动切换,如下图所示。其余状态流转基于当前执行的任务自动切换。

1.2.6.7文件管理

在数据集版本列表中点击“操作-文件管理”,即可进入指定版本的文件管理页。有相关权限的用户可以对挂载的文件进行查看、编辑、下载。

1.2.6.7.1文件编辑

支持通过CLI的方式编辑文件(目前仅支持windows系统,仅支持python 3.12.0版本),具体步骤如下:

  • 点击“使用CLI编辑”按钮展开弹窗,按照弹窗中代码模版的上传、删除文件。

  • 安装python环境,当前仅支持3.12.0 版本。

  • 安装Visual C++ Redistributable

  • 点击页面中的“下载CLI工具”链接下载平台提供的CLI工具,所有的文件上传、下载、删除命令都需要依赖该工具执行。

  • 执行“pip install <下载的工具文件路径> --force-reinstall”命令安装CLI工具。请注意先删除存储目录的同名文件,否则会无法安装。

  • 安装完成后,参照CLI文件编辑代码模版登录并执行上传、删除命令。

1.2.6.7.2文件下载

支持通过CLI的方式下载文件(目前仅支持windows系统,仅支持python 3.12.0版本),具体步骤如下:

  • 点击“使用CLI下载”按钮展开弹窗,按照弹窗中代码模版的下载文件。

  • 安装python环境,当前仅支持3.12.0 版本。

  • 安装Visual C++ Redistributable

  • 点击页面中的“下载CLI工具”链接下载平台提供的CLI工具,所有的文件上传、下载、删除命令都需要依赖该工具执行。

  • 执行“pip install <下载的工具文件路径> --force-reinstall”命令安装CLI工具。请注意先删除存储目录的同名文件,否则会无法安装。

  • 安装完成后,参照CLI文件编辑代码模版登录并执行下载命令。

1.2.6.7.3文件预览

在文件管理页点击“操作-预览”即可在线预览指定的文件,如下图所示:

可预览的文件类型及预览规则如下:

二、平台数据集

功能概述:支持用户浏览并下载平台高质量开源数据集,以在模型训练、微调等场景使用。

2.1查看平台数据集列表

在左侧导航栏选择“数据集管理-平台数据集”,进入平台数据集列表页。用户可在该模块查看平台所有的开源数据集。

2.2查看平台数据集详情

在平台数据集列表页点击指定的数据集可进入该数据集详情页,用户可在该页面浏览数据集更多信息。

2.3查看平台数据集文件

2.3.1 平台数据集下载

支持通过CLI的方式下载文件(目前仅支持windows系统,仅支持python 3.12.0版本)

点击“使用CLI下载”按钮展开弹窗,按照弹窗中代码模版的下载文件。

规则详见:1.2.6.7.2

2.3.2 平台数据集预览

在平台数据集详情页点击“数据集文件-操作-预览”即可在线预览指定的文件,如下图所示:

可预览的文件类型及预览规则如下: