メインコンテンツまでスキップ

ワークフロー管理

ワークフロー管理は、データセットのマッチング条件と処理ステップを組み合わせてパイプラインにします。データセットの登録時やステータス変更時に自動で実行され、形式変換、プロジェクトへのインポート、品質検査、アノテーション、エクスポートなどの操作を行います。パイプラインは 3 種類の再利用可能な定義で構成されます。マッチングルール、処理ルール、ワークフローです。ワークフローは前者 2 つを参照し、実行可能な有向グラフを構成します。

ワークフロー概要

前提条件​

項目内容
メニュー入口管理 → ワークフロー
ルート/workflows(既定では /workflows/overview へリダイレクト)
ページ権限ワークフローを表示。編集ページにはワークフローを管理が必要
API 権限ワークフローを表示(読み取り)、ワークフローを管理(新規作成・編集・削除・テスト)
書き込み可能範囲グローバル定義は管理者のみ書き込み可能。プロジェクト定義にはプロジェクトマネージャーで、対象プロジェクトへの書き込み権限が必要
依存関係少なくとも 1 つのマッチングルールと 1 つの処理ルール。実行にはバックグラウンドタスクサービスと実行ノードが利用可能であること

マッチングルールページと処理ルールページは「ワークフローを表示」権限を持つユーザーに公開されます。パイプライン概要、プロジェクト設定、実行センター、プリセットテンプレート、ワークフロー管理、品質基準、アノテーション設定、エクスポート設定は管理者とプロジェクトマネージャーのみがアクセスでき、その他のロールがアクセスすると「アノテーション」へ遷移します。

パイプラインの設定と実行​

タブとパイプラインの段階​

タブルート用途
パイプライン概要/workflows/overviewパイプライン段階の入口とブループリントのプレビュー
プロジェクト設定/workflows/projectプロジェクト単位のパイプラインスイッチとパラメータ
実行センター/workflows/runsパイプラインの実行記録、状態、所要時間、詳細
プリセットテンプレート/workflows/templatesプラットフォーム標準テンプレートのプレビュー、試行実行、プロジェクトへのコピー
ワークフロー管理/workflows/manageワークフロー一覧、新規作成、編集、削除
マッチングルール/workflows/match-rulesデータセットのマッチング条件の定義とテスト
処理ルール/workflows/action-rules処理ステップの編成とパラメータ設定
品質基準/workflows/qc-rubrics品質検査の評価基準(厳格度と指標しきい値)
アノテーション設定/workflows/label-configs自動アノテーションのモデルとレビュー戦略
エクスポート設定/workflows/export-profilesエクスポート形式、フィルター条件、ディレクトリ構造

ワークフロー管理設定ページ

段階対応する機能
収集と登録マッチングルール、クラウドストレージルール
データ正規化形式変換と座標系の処理
ポストプロセスアルゴリズムカスタムアルゴリズムテンプレートの実行
品質評価品質検査ルールと評価基準
アノテーションとレビュー自動アノテーションと人手レビュー
納品とレポートエクスポートルールと品質保証レポート

マッチングルール​

フィールドタイプ必須既定値説明
名前テキストはいなし最大 200 文字
説明テキストいいえ空最大 500 文字
範囲列挙はいグローバルグローバルまたはプロジェクト
優先度整数いいえ100数値が小さいほど先に評価
有効化スイッチいいえオン無効化するとマッチングの対象外
組み合わせロジック列挙はいかつかつ(すべて満たす)または または(いずれかを満たす)
条件リストはい空各条件はフィールド、演算子、値で構成

マッチング条件が対応するフィールド、演算子、値は次のとおりです。

項目値説明
選択可能なフィールドname、extension_name、robot_type、sizemb、source_url、remote_url、local_urlデータセットの対応する属性を取得
演算子eq、contains、regex、gt、lt、gte、lte、is_null、is_not_null空値判定には値の入力が不要
正規表現フラグi、m、s、u、y、dg は無視される
サイズ比較gt、lt、gte、ltesizemb などの数値フィールドに使用

マッチングテストはデータセットのサンプルに対して同じマッチャーを実行し、一致件数、スキャン済み件数、一致サンプルを返します。

処理ルール​

処理ルールは順序付きのステップで構成されます。編集ページでは、グラフィカルなステップと JSON の上級モードという 2 通りの入力方法を提供します。

アクション識別子説明
自動名前変更autoRename正規表現パターンと対象形式でデータセット名を書き換え。テストダイアログあり
自動プロジェクトインポートautoImportProjectデータセットを指定したプロジェクトにインポート
HDF5 → MCAPio_hdf5agilex2mcap、io_hdf5realman2mcap、io_hdf5dobot2mcap、io_hdf5limx2mcap、io_hdf5unix2mcap収集元に応じて Agilex、Realman、Dobot、Limx、Unix の HDF5 データを変換
LeRobot → MCAPio_lerobot2mcapLeRobot データセットを MCAP に変換
AgiBot → MCAPio_agibot2mcapAgiBot データを MCAP に変換
Meituan → MCAPio_meituan2mcapMeituan のデータを MCAP に変換
Lumos FastUMI → MCAPio_lumos2mcapLumos FastUMI のデータを MCAP に変換
zc0touch → MCAPio_zc0touch2mcapzc0touch のデータを MCAP に変換
SenseXperience → MCAPio_sensexperience2mcapSenseXperience のデータを MCAP に変換
BVH → MCAPio_bvh2mcapBVH の動作データを MCAP に変換
3D アニメーションを生成io_generateTransformsデータから 3D アニメーション成果物を生成
Galbot Proto データを ROS2 へio_galbotproto2mcapGalbot Proto データを ROS2 データに変換
カスタムアルゴリズムを実行runAlgorithmアルゴリズム管理に登録したアルゴリズムテンプレートを呼び出し

ワークフローと設定オブジェクト​

フィールドタイプ必須既定値説明
名前テキストはいなし最大 200 文字
説明テキストいいえ空最大 500 文字
範囲列挙はいグローバルグローバルまたはプロジェクト
優先度整数いいえ100数値が小さいほど先に実行
有効化スイッチいいえオン無効化すると実行の対象外
グラフ有向グラフはい空マッチングルールノードと処理ルールノードで構成

品質基準、アノテーション設定、エクスポート設定は、パイプライン実行時に使用する評価、アノテーション、エクスポートのパラメータに対応します。

タブ主なフィールド値
品質基準厳格度LOW、MEDIUM、HIGH
品質基準指標ルール指標、条件、しきい値、重大度(WARNING、CRITICAL)
アノテーション設定モデルモデル識別子、信頼度しきい値、サービスエンドポイント
アノテーション設定レビュー戦略random、all、low_confidence、サンプリング比率 0〜100%、最少レビュー人数
エクスポート設定形式mcap、hdf5_lerobot、hdf5_robomimic、mp4、rosbag2
エクスポート設定フィルターと構造品質検査ステータス、最小長さ。パステンプレートと圧縮方式(gzip、none)

実行センター​

実行センターはパイプラインの実行記録を新しい順に一覧表示します。

フィールド説明
ID実行番号
データセット実行をトリガーしたデータセット
段階データ処理の段階
ステータス実行状態。実行中は進捗のパーセントを表示
開始時間実行の開始時間
所要時間開始から完了までの時間
操作実行詳細を表示
ステータス意味
待機中キューに入り、実行を待っている
実行中実行中で、進捗のパーセントを伴う
完了すべてのステップが完了
失敗ステップでエラーが発生。詳細にエラーメッセージを含む

制約と制限​

項目値説明
名前の長さ200 文字以下超過時は保存を拒否
説明の長さ500 文字以下超過時は保存を拒否
優先度整数、既定 100数値が小さいほど優先
グローバル定義管理者のみ書き込み可能プロジェクト定義にはプロジェクトマネージャーで、プロジェクトへの書き込み権限が必要
マッチングテスト管理者以外はプロジェクトの指定が必須1 回につき最大 20000 件のデータセットをスキャンし、最大 50 件のサンプルを返す
削除論理削除削除後は実行の対象外となり、過去の実行記録は保持される
タブへのアクセスパイプライン概要、プロジェクト設定、実行センター、プリセットテンプレート、ワークフロー管理、品質基準、アノテーション設定、エクスポート設定管理者とプロジェクトマネージャーのみアクセス可能

トラブルシューティング​

現象考えられる原因対処担当
ワークフローが実行されないワークフローが有効化されていない、マッチングルールを満たしていない、優先度が他のワークフローより低い有効状態を確認し、「テスト」でマッチングの一致を検証し、優先度を調整するプロジェクトマネージャー、管理者
マッチングテストで一致がないプロジェクト範囲の誤り、条件が厳しすぎる、フィールドまたは演算子の不一致条件を緩めるか、対象プロジェクト内でテストするプロジェクトマネージャー
実行が待機中のままになるバックグラウンドタスクの渋滞、または実行ノードが利用できない運用監視でキューとノードの状態を確認するプラットフォーム運用
処理ステップの実行に失敗するソース形式が非対応、アクションパラメータの欠落、アルゴリズム実行の失敗実行詳細で失敗したステップとログを確認し、修正して再実行するプロジェクトマネージャー、管理者
自動名前変更が一致しない正規表現パターンが一致しない、または不一致時の処理がスキップに設定されている名前変更テストダイアログで結果を確認し、パターンまたは処理を調整するプロジェクトマネージャー
タブへのアクセスが遷移される現在のロールがそのタブのアクセス条件を満たしていない管理者に権限を割り当ててもらうか、マッチングルール・処理ルールページを使用する管理者

関連ページ​

ページ用途
アルゴリズム管理処理ルールが呼び出せるアルゴリズムテンプレートの登録
データ管理パイプラインが処理したデータセットの表示
アノテーションタスク自動作成されたアノテーションタスクの表示
データ品質検査品質検査ルールと結果の表示
データエクスポートエクスポートタスクと対象形式
運用監視タスクキューと実行ログ