メインコンテンツまでスキップ

データエクスポート

エクスポートページでは、プラットフォーム内のアノテーション済みデータセットをトレーニングと品質検査に必要な形式へ変換します。エクスポートはデータセットを選択単位とし、タブごとに対象形式を分けています。変換型のエクスポートはバックグラウンドキューで実行され、結果はエクスポート履歴に記録されます。

LeRobotエクスポート:形式タブ、データ選択、右側のパラメータパネル

前提条件​

項目内容
メニュー入口データ → エクスポート
ルート/export
ページのモジュール権限「エクスポート一覧を表示」
必要な権限「エクスポートタスクを作成」
表示ロール管理者、プロジェクトマネージャー
データセット権限エクスポート前に選択したデータセットのエクスポート権限を検証し、権限のないデータセットは除外します
品質検査の前提既定で「QC不合格のデータセットのエクスポートを禁止」が有効になり、品質検査に合格していないデータセットはブロックされます
クラウドストレージの前提変換型のエクスポートには、設定済みの「システムエクスポート保存先」クラウドストレージ接続が必要です

エクスポート形式​

形式一覧​

ページ上部のタブにすべてのエクスポート形式を表示します。「エクスポート枠管理」は管理者だけに表示されます。変換型のエクスポートはバックグラウンドキューに登録され、エクスポート履歴に記録されます。直接エクスポートはブラウザ内でダウンロードします。

タブルート出力内容枠の消費
JSON/export/jsonアノテーション結果のJSON。元ファイルのダウンロードリンクを含められますなし
スプレッドシート/export/csvアノテーション結果のCSVなし
メタデータ/export/metadataデータセットメタ情報のCSVなし
生データ/export/raw-data元ファイルのダウンロードリンク一覧なし
MCap/export/mcapMCAPファイルと同名のアノテーションJSONあり
LeRobot/export/lerobotLeRobotデータセットのtar.gzあり
RLDS/export/rldsRLDS episodeデータセットあり
HDF5/export/hdf5グループ単位で圧縮したHDF5のtar.gzあり
画像アノテーション/export/annotations画像アノテーションファイルなし
タイムスタンプ整合/export/alignsタイムスタンプ整合結果のCSVあり
フレーム落ち検出/export/framedropsフレーム落ち検出結果のCSVあり
MCap分割/export/splitsアノテーション時間帯で分割したMCAPあり
エクスポート枠管理/export/quotaエクスポート枠の記録なし、管理者のみ

変換エクスポートのパラメータ​

LeRobot、HDF5、RLDSの3形式はパラメータを個別に設定します。

パラメータタイプ必須既定値値の範囲説明
データセットIDテキストはいio-ai-data/lerobot_datasetリポジトリ名の形式エクスポートするデータセットのリポジトリ名
データサンプリング周波数数値はい301–60Hz周波数が低いほどデータセットは小さくなります。10–30を推奨します
画像形式単一選択はいMP4MP4、JPGMP4はJPGに比べてストレージを約80%節約します
モデル入出力の厳密一致チェックボックスいいえオフチェック、チェック解除チェックすると観測値と指令値を1対1に切り出します。アダプタマッピングを設定すると本項目は無視されます
顔の自動ぼかしチェックボックスいいえオフチェック、チェック解除画面内の顔を検出してぼかします
サブタスクを有効化チェックボックスいいえオフチェック、チェック解除チェックすると各アノテーションがepisode内のサブタスクになります。v3.0のみ対応します
LeRobotバージョン単一選択はいv3.0v3.0、v2.1サブタスクモードではv3.0に固定されます
アダプタマッピングフォームまたはJSONいいえ空空欄の場合は既定ルールを使用既定以外のデータ形式とのフィールド対応を定義します

エクスポート結果はtar.gzにまとめられ、LeRobot、SmolVLA、ACT、Diffusionなどのトレーニング処理にそのまま利用できます。また、モデルトレーニングの入力としても使用できます。

パラメータタイプ必須既定値値の範囲説明
グループ数数値はい101–100各HDF5ファイルに含めるMCAPファイルの数
データ更新周波数数値はい301–60Hz1秒あたりのデータ収集回数。ファイルサイズとトレーニング精度に影響します

エクスポート結果は元ファイルごとにグループ化して命名し、tar.gzに圧縮します。形式とデータ構造はHDF5データセットを参照してください。

RLDS(Reinforcement Learning Datasets)はGoogle Researchが提唱した形式で、TensorFlow Datasets(TFDS)を保存と読み込みの基盤とします。Open X-EmbodimentのデータセットはRLDSのepisode形式で構成されています。次の表はこのタブのエクスポートパラメータを示します。

パラメータタイプ必須既定値値の範囲説明
TFDSデータセット名テキストはいembodiflow_rlds英字、数字、アンダースコアbuilderと出力ディレクトリの命名に使用します
データセットバージョンテキストはい1.0.0セマンティックバージョン例:1.0.0
データサンプリング周波数数値はい300–120Hz0は元の関節指令周波数を保持します

RLDSの一覧には、拡張子がMCAPまたはSenseXperienceで、アノテーション済みのデータセットだけを表示します。RLDSは独立したエクスポートタブであり、LeRobot Studioとは用途が異なります。

直接エクスポート​

直接エクスポートはブラウザ内でダウンロードし、バックグラウンドキューには入りません。

形式操作エクスポート範囲追加オプション
JSON全JSONダウンロード、選択分をエクスポート、JSONをアップロードしてインポート1回あたり最大10000データセット未注釈データを含む、ファイルのダウンロードリンクを含む(有効期限24時間)
スプレッドシート全スプレッドシートダウンロード、選択分をエクスポート1回あたり最大10000データセットなし
メタデータ全メタデータCSVダウンロード、選択分をエクスポート1回あたり最大10000データセット出力フィールドの選択:データID、データ名、プロジェクト、アップロード者、作成日時、更新日時、データタグ
生データダウンロードリンクエクスポート、選択分をエクスポート1回あたり最大1000データセット出力形式:CSV、JSON

メタデータのエクスポートには、選択したデータセットの名前、プロジェクト、アップロード者、時刻、データタグが含まれます。生データのエクスポートは、データセットに関連付いたクラウドストレージパスからダウンロードリンクを生成し、出力フィールドはダウンロードリンク(有効期限2時間)、データセット名、プロジェクト名、アップロード者、作成日時です。JSONの「JSONをアップロードしてインポート」は、エクスポートしたJSONファイルをプラットフォームへ再インポートし、アノテーションデータを一括変更する用途に使います。

画像アノテーションのエクスポート​

画像アノテーションのエクスポートは、プロジェクト内の画像アノテーション項目を一覧表示し、アノテーションタイプで絞り込んでからエクスポートします。このページのAPIはモジュール権限「データアノテーション」を検証し、変換型エクスポートとは異なる権限キーを使います。軽量アノテーションは独立したアノテーションツールのページ(/annotate)で行います。

次の表はエクスポートページが提供する絞り込み項目です。アノテーションデータの保存側で使うタイプ列挙とは値の組み合わせが異なります(保存側の値はBBOX、POINT、POLYGON、LINE、CIRCLEです。データアノテーションを参照してください)。

アノテーションタイプ意味
BBOX矩形
POINT点
POLYGON多角形
POLYLINE折れ線
KEYPOINTキーポイント
SEGMENTATIONセグメンテーション
エクスポート形式出力内容
CSV画像パスとアノテーション座標
YOLOアノテーションのtxtファイルとクラス定義
COCO物体検出とセグメンテーションのJSON
Pascal VOCVOC XML
TAR画像ファイルとアノテーションファイルの完全なパッケージ

1回のエクスポートで扱えるアノテーション項目の上限は10000で、未指定の場合は既定で1000です。

品質検査エクスポート​

形式出力内容適用範囲
タイムスタンプ整合CSV。各行はメインカメラのタイムスタンプを基準とし、各トピックの整合時刻を含みますMCAPおよび互換形式のデータセット
フレーム落ち検出CSV。各行はtopic、開始・終了タイムスタンプ、フレーム落ちの疑いがある区間を含みますMCAPおよび互換形式のデータセット
MCap分割アノテーションした動作の時間帯でMCAPを分割し、対応するアノテーション情報を付けますMCAPとSenseXperience形式のデータセットのみ

品質検査エクスポートはバックグラウンドキューに入り、エクスポート枠を消費します。

エクスポートタスク​

エクスポートの作成​

  1. ページ上部でエクスポート形式のタブを選択します。
  2. 検索バーでプロジェクトと絞り込み条件を設定します(一覧は条件に応じて更新され、URLクエリパラメータに書き込まれます)。
  3. 一覧でエクスポートするデータセットにチェックを入れます。
  4. 右側のパラメータパネルでその形式のパラメータを設定します。
  5. 「エクスポート開始」をクリックします。変換型エクスポートはバックグラウンドキューに入ります。
  6. エクスポート履歴でステータスが「完了」になるまで待ち、ファイルをダウンロードします。

データセットの絞り込み​

絞り込み項目説明
プロジェクト一覧のデータ範囲を決めます
データ名名前で一致させます
再生時間の範囲データの再生時間帯で絞り込みます。単位は秒、既定は0–3600です
所属プロジェクトプロジェクトで絞り込みます
収集者収集者で絞り込みます
収集タスク元の収集タスクで絞り込みます
マーカーテキストアノテーションのテキスト内容で検索します

一覧は既定でアノテーション済みのデータセットのみを表示します。MCapとJSONのタブには「未注釈データを含む」オプションがあり、チェックすると併せてエクスポートします。

エクスポート履歴とステータス​

変換型エクスポートの記録は各形式タブの下に表示され、5秒ごとに自動更新します。記録にはエクスポート時間、エクスポート数、元データの総再生時間、ファイルサイズ、エクスポート所要時間、エクスポートパラメータ、エラーメッセージが含まれます。

ステータス意味実行できる操作
pendingタスクを作成済みで、実行を待っていますなし
processing実行中進捗を表示
completed成功し、ファイルを生成済みデータダウンロード、リンクをコピー、トレーニング
failed実行に失敗エラーメッセージを確認し、再エクスポート

ダウンロードリンクの有効期限は24時間です。ダウンロードできるのはステータスが「完了」の記録のみで、管理者以外は自分が作成したエクスポートファイルだけをダウンロードできます。

エクスポート枠管理​

エクスポート枠はデータセットの件数で消費し、1件のエクスポートにつき1回として計上します。管理者に枠の制限はありません。その他のユーザーは個人枠が未設定の場合、グローバル設定EXPORT_MAX_COUNTを使用し、この項目が未設定のときは既定で10です。枠管理の入口「エクスポート枠管理」は管理者だけに表示されます。

列意味
ユーザー枠が属するアカウントと役割
総割り当てエクスポートできるデータセット件数の上限
使用済み消費済みの件数
残り割り当て総割り当てから使用済みを引いた値
ステータス正常、残高不足(残りが総割り当ての20%以下)、利用終了
メモ付与の説明
付与日時枠の作成日時

管理操作には割り当ての付与、枠の編集、枠の削除があります。枠を削除すると、そのアカウントはグローバル設定に戻ります。

制約と制限​

項目値適用範囲
JSONとスプレッドシートの1回の選択上限10000データセット直接エクスポート
メタデータの1回の選択上限10000データセット直接エクスポート
生データの1回の選択上限1000データセット直接エクスポート
画像アノテーションの1回の上限10000件、既定1000画像アノテーション
ダウンロードリンクの有効期限24時間変換型と生データ
枠の消費単位データセット件数変換型
品質検査のブロック既定で有効すべてのエクスポート
アダプタマッピングの検証設定が無効な場合はタスク作成を拒否しますLeRobot

トラブルシューティング​

現象考えられる原因対処担当
データセットにエクスポート権限がないと表示される選択したデータセットが現在のアカウントに属さない、またはエクスポートが許可されていませんアクセス可能なデータセットに変更するか、管理者がデータセット権限を調整します操作者、管理者
エクスポート枠が不足していると表示される使用済み件数と今回の選択件数の合計が総割り当てを超えています選択件数を減らすか、管理者が枠を増やします操作者、管理者
品質検査に合格していないためエクスポート禁止と表示される選択したデータセットが品質検査に合格していません先にデータ品質検査で処理するか、管理者がブロック設定を解除します操作者、管理者
アップロード資格情報が無効または不足していると表示されるページを長く開いたままでアップロード資格情報が失効しましたページを更新して再エクスポートします操作者
MCap分割は指定形式のみ対応と表示される選択したデータセットがMCAPでもSenseXperienceでもありません形式の合わないデータセットを外します操作者
RLDSは指定形式のみ対応と表示される選択したデータセットがMCAPでもSenseXperienceでもありません形式の合わないデータセットを外します操作者
アダプタマッピングが無効と表示されるアダプタマッピングの設定が不正です案内に従ってマッピングを修正し、再エクスポートします操作者
エクスポート記録のステータスが失敗になるデータ量が大きすぎる、ストレージ接続が異常、変換でエラーが発生していますエラーメッセージを確認し、分割して再試行するか管理者に連絡します操作者、管理者
ダウンロード時に記録が存在しない、または未完了と表示される記録が未完了、またはファイルが削除されていますステータスが「完了」であることを確認して再試行します操作者

関連ページ​

ページ用途
データ管理エクスポート対象のデータセットを表示・管理します
アノテーションタスクアノテーションタスクの完了状況を確認します
データ品質検査品質検査ルールとエクスポートのブロック基準
LeRobot Studioプラットフォーム内でLeRobotデータをプレビューします
モデルトレーニングエクスポートしたデータでモデルをトレーニングします
HDF5データセットHDF5形式とデータ構造