SmolVLA のファインチューニング
SmolVLA は Hugging Face の Vision-Language-Action（VLA）ポリシーで、基盤重みは lerobot/smolvla_base です。多視点画像、ロボットの状態、任意の言語指示を入力とし、連続的なアクションを出力します。プラットフォームではモデル識別子 smolvla で登録し、lerobot トレーニングフレー ムワークを使用して、LeRobot v2 と v3 のデータセットに対応します。
対象ロールと前提条件
対象ロール
| ロール | トレーニングタスクを作成可能か | 説明 |
|---|---|---|
| 管理者 | 可 | モジュール権限の制限を受けない |
| プロジェクトマネージャー | 権限が必要 | 管理者がモジュール権限で「トレーニングタスクを作成」を付与 |
| アノテーター | 権限が必要 | 同上 |
| レビュアー | 権限が必要 | 同上 |
| 収集者 | 権限が必要 | 同上 |
トレーニングタスクと指標の表示だけには「トレーニングを表示」が必要です。
前提条件
| 項目 | 要件 |
|---|---|
| データセットバージョン | LeRobot v2、v3。トレーニングサービスはデータセットの meta/info.json にある codebase_version でバージョンを識別し、トレーニングイメージを選択します |
| フレームワーク | lerobot |
| GPU メモリ | 固定の下限はありません。batch_size、画像解像度、凍結方針によって決まります。既定では視覚エンコーダを凍結します |
| 依存関係 | プラットフォームのモデルトレーニングサービスが有効で、トレーニング場所が 1 つ以上設定されていること。トレーニングイメージには LeRobot のトレーニングエントリ lerobot-train と動画デコードの依存関係が必要です |
| データセット構造 | ディレクトリ内に meta/info.json、data/、videos/ が含まれ、各 episode の画像フィールドが一致し、observation.state と action の次元が固定であること |
| 権限 | 作成には「トレーニングタスクを作成」、表示には「トレーニングを表示」が必要 |
トレーニングタスクの作成とパラメータ
手順
- 「モデル」→「トレーニング」に進み、「トレーニングタスクを作成」をクリックします。
- トレーニング場所を選択します。ローカル GPU または管理者が有効にしたクラウドトレーニング場所から選べます。
- 「選択され たモデル」で
smolvlaを選びます。 - 「トレーニングデータセット」でデータソースを選択します。エクスポート履歴、アップロード済みの LeRobot データセット、ダウンロードリンク、HuggingFace から選べます。
- 「トレーニングパラメータ」でパラメータを設定します。意味と既定値は下表のとおりです。
- メモを入力します（任意）。
- 「トレーニングタスクを作成」をクリックします。
トレーニングパラメータ
lerobot フレームワークは先に共通のトレーニングパラメータを適用します。
| パラメータ | 説明 | 既定値 | 取り得る値 |
|---|---|---|---|
| batch_size | バッチサイズ | 1 | 整数、1 以上 |
| steps | トレーニングステップ数 | 10000 | 整数、1 以上 |
| seed | 乱数シード | 1000 | 整数 |
| num_workers | DataLoader のプロセス数 | 4 | 整数、1 以上 |
| eval_freq | 評価間隔 | 1000 | 整数、1 以上、かつ steps 以下 |
| log_freq | ログ間隔 | 100 | 整数、1 以上、かつ steps 以下 |
| save_freq | チェックポイントの保存間隔 | 5000 | 整数、1 以上、かつ steps 以下 |
| save_checkpoint | チェックポイントを保存するか | true | true / false |
さらに policy. プレフィックス付きのモデルパラメータを追加します。
| パラメータ | 説明 | 既定値 | 取り得る値 |
|---|---|---|---|
| policy.n_obs_steps | 入力観測ステップ数 | 1 | 整数 |
| policy.chunk_size | アクション予測長 | 50 | 整数 |
| policy.n_action_steps | 1 回の呼び出しで実行するアクションステップ数 | 50 | 整数 |
| policy.max_state_dim | 状態ベクトルのパディング次元 | 32 | 整数 |
| policy.max_action_dim | アクションベクトルのパディング次元 | 32 | 整数 |
| policy.resize_imgs_with_padding | 画像の前処理サイズ | [512, 512] | 2 要素のタプル |
| policy.empty_cameras | 空カメラのプレースホルダー数 | 0 | 整数 |
| policy.tokenizer_max_length | トークナイザーの最大長 | 48 | 整数 |
| policy.num_steps | デコードステップ数 | 10 | 整数 |
| policy.use_cache | アテンションキャッシュを使用するか | true | true / false |
| policy.freeze_vision_encoder | 視覚エンコーダを凍結するか | true | true / false |
| policy.train_expert_only | アクションエキスパートのみを学習するか | true | true / false |
| policy.train_state_proj | 状態投影層を学習するか | true | true / false |
| policy.vlm_model_name | 視覚言語バックボーンモデル | HuggingFaceTB/SmolVLM2-500M-Video-Instruct | 文字列 |
| policy.attention_mode | アテンションモード | cross_attn | cross_attn、self_attn |
| policy.pad_language_to | 言語のパディング方法 | longest | longest、max_length |
| policy.num_vlm_layers | 視覚言語バックボーンの層数 | 16 | 整数 |
| policy.self_attn_every_n_layers | 自己アテンション層を挿入する間隔 | 2 | 整数 |
| policy.expert_width_multiplier | アクションエキスパートの隠れ層幅の比率 | 0.75 | 浮動小数点数 |
| policy.optimizer_lr | オプティマイザの学習率 | 1e-4 | 浮動小数点数 |
| policy.optimizer_grad_clip_norm | 勾配クリッピングのしきい値 | 1.0 | 浮動小数点数 |
| policy.scheduler_decay_steps | 学習率の減衰ステップ数 | 100000 | 整数 |
| policy.scheduler_decay_lr | 減衰後の最終学習率 | 1e-5 | 浮動小数点数 |
結果の確認
トレーニングの監視
トレーニング詳細ページは LeRobot のログ形式で指標を解析し、曲線を描画します。
| 指標 | 意味 | 判断基準 |
|---|---|---|
| step | 完了したトレーニングステップ数 | 設定した steps まで段階的に増加 |
| sample | 処理済みサンプル数 | step に伴い増加 |
| episode | 処理済み episode 数 | step に伴い増加 |
| epoch | 学習済みエポック数 | step に伴い増加 |
| loss | トレーニング損失 | 全体として低下 |
| gradient_norm | 勾配ノルム | 持続的な増大がない |
| learning_rate | 現在の学習率 | スケジュールに従って変化 |
| update_time_s | 1 ステップの更新時間 | 安定しており、持続的な増大がない |
| data_time_s | データ読み込み時間 | 安定 |
オフライン loss は、モデルがトレーニング分布にどれだけ適合しているかを示すだけです。ポリシーの効果を評価する場合は、初期状態を固定し、物体の位置や照明条件を変えたときの実機成功率を基準にします。
確認チェックリスト
トレーニングサービスはコンテナの終了コードでタスクの最終状態を判定します。終了コードが 0 の場合は成功、0 以外の場合は失敗として記録されます。
| 確認項目 | 合格基準 |
|---|---|
| タスク状態 | トレーニング詳細ページのステータスが「成功」で、コンテナの終了コードが 0 |
| 出力ディレクトリ | 出力ディレクトリ配下の checkpoints/ |
| チェックポイント | 「チェックポイント」にチェックポイントが一覧表示され、内容に pretrained_model/ が含まれます。last が指 す項目のタイプは「最終」、それ以外は「ステップ」 |
| 指標の曲線 | 「トレーニング指標」が step、loss、gradient_norm、learning_rate を描画します |
| ログ | 「リアルタイムログ」が読み取れ、持続的なエラーがない |
「チェックポイント」内のチェックポイントはダウンロード、オブジェクトストレージへの同期、または推論サービスの作成に使用できます。推論側の説明はモデル推論を参照してください。
エラー時の対処
| 現象 | 考えられる原因 | 対処 | 責任者 |
|---|---|---|---|
| トレーニングがすぐに失敗し、データセットが見つからないと表示される | データセットに meta/info.json がない、または選択したソースのパスが誤っている | 正しいエクスポート履歴またはアップロード済みデータセットを選び直す | プロジェクトマネージャー |
| 動画のデコードに失敗する | トレーニングイメージに ffmpeg または動画デコードの依存関係がない | プラットフォームのトレーニングイメージを使用するか、エクスポートした MP4 動画データに切り替える | アルゴリズムエンジニア |
| GPU メモリ不足 | batch_size または画像解像度が大きすぎる | batch_size を下げる。policy.resize_imgs_with_padding を確認する | アルゴリズムエンジニア |
| loss は下がるが実機の効果が乏しい | データの網羅性が不足している、タスクテキストとアクションが一致していない | 物体の位置、照明、初期姿勢のサンプルを追加する。タスクテキストを確認する | アルゴリズムエンジニア |
| 保存間隔がトレーニングステップ数より大きいと表示される | save_freq が steps より大きい | save_freq を steps 以下に下げる | アルゴリズムエンジニア |
| loss が長時間低下しない | 学習率が適切でない、データ量が少なすぎる | データセットの episode 数を確認する。policy.optimizer_lr を調整する | アルゴリズムエンジニア |
| トレーニング場所が利用できない | プラットフォームでそのトレーニング場所が有効でない、またはその GPU が利用できない | トレーニング場所を変更する。管理者に連絡してトレーニングサービスを確認する | 管理者 |
関連ページ
| ページ | 用途 |
|---|---|
| モデルトレーニング | トレーニングタスクの作成、監視、割り当て |
| LeRobot データセットとトレーニング | データエクスポートとトレーニングの概要 |
| LeRobot v2 と v3 のフォーマット差異 | 2 つのデータ形式の違いと移行 |
| データエクスポート | LeRobot トレーニングパッケージの生成 |