Kota0612/umi-okra-indoor-20260804

UMI Okra Harvesting — Indoor Session (2026-08-04)

Unitree Dex1-1 グリッパに改造した UMI (Universal Manipulation Interface) で、屋内に並べた観葉植物を対象にオクラ収穫動作を撮影したデモンストレーションデータ。

English summary: Human demonstrations of okra-harvesting motions recorded indoors with a hand-held UMI gripper (modified with a Unitree Dex1-1) and a GoPro. Contains a diffusion-policy-ready replay buffer (14 episodes / 3,500 frames) plus the raw ORB-SLAM3 trajectories and calibration files. Read the Limitations section before training — the gripper width channel is constant and the TCP offset is uncalibrated for this hardware.

---

収録内容

ファイル	内容
data/train-*.parquet	閲覧用。Data Studio でブラウザから中身を見られる（54 MB / 3,500 行）
dataset.zarr.zip	学習用リプレイバッファ（89 MB）。train.py にそのまま渡せる
videos/	生の mp4（1.2 GB）。採用デモ 14 本 + mapping + gripper_calibration
dataset_plan.pkl	06_generate_dataset_plan.py の出力。エピソード区間と TCP 姿勢
trajectories/*.csv	ORB-SLAM3 が出力した生の軌跡（採用 14 本 + mapping）
trajectories/*.tum	同じ軌跡を evo 用の TUM 形式にしたもの
calibration/	tx_slam_tag.json / gripper_range.json / ArUco 設定 / GoPro 内部パラメータ
figures/	evo で生成した軌跡の可視化

dataset.zarr.zip の構造

episode_ends              (14,)                    エピソード境界
camera0_rgb               (3500, 224, 224, 3) uint8   魚眼のまま。ArUco は inpaint 済み
robot0_eef_pos            (3500, 3)   float32   [m] 重力 z-up の世界座標
robot0_eef_rot_axis_angle (3500, 3)   float32   [rad] 回転ベクトル
robot0_gripper_width      (3500, 1)   float32   [m] ※下記 Limitations 参照
robot0_demo_start_pose    (3500, 6)   float64   デモ開始時の姿勢
robot0_demo_end_pose      (3500, 6)   float64   デモ終了時の姿勢

• エピソード長: 189 / 214 / 217 / 222 / 227 / 243 / 250 / 256 / 263 / 276 / 278 / 279 / 279 / 307 フレーム
• 合計 3,500 フレーム = 58.4 秒 @ 59.94 fps
• UMI 既定の学習設定（action_horizon=16, down_sample_steps=3）で 2,870 サンプル

data/*.parquet（閲覧用）

zarr は Hugging Face のビューアが解釈できないため、同じ中身を parquet でも置いている。 学習には dataset.zarr.zip を使うこと（parquet は画像を JPEG 再圧縮しているため非可逆）。

列	型	内容
episode_index	int32	エピソード番号 0〜13
frame_index	int32	エピソード内のフレーム番号
timestamp	float32	[s] エピソード先頭からの経過時間
image	Image	224×224 の魚眼画像（JPEG q92）
eef_pos_x/y/z	float32	[m] 手先位置（重力 z-up の世界座標）
eef_rot_x/y/z	float32	[rad] 回転ベクトル
gripper_width	float32	[m] ※定数。Limitations 参照

from datasets import load_dataset
ds = load_dataset("Kota0612/umi-okra-indoor-20260804", split="train")
ds[0]["image"]        # PIL.Image

videos/ の構成

videos/mapping.mp4                地図構築用（90.6 s / 682 MB）
videos/gripper_calibration.mp4    開度キャリブ用（12.5 s / 94 MB）
videos/demos/<HH.MM.SS>.mp4       採用された 14 本のデモ（各 3.5〜5.2 s）

ファイル名は撮影開始時刻で、trajectories/<同じ名前>.csv と対応している。 2704×2028 / 59.94 fps の生映像（GoPro の魚眼、無加工）。

---

撮影条件

項目	値
撮影日	2026-08-04 12:49〜12:57 (JST)
場所	屋内（観葉植物を並べたセット）
カメラ	GoPro 1 台（serial C3441326441423）、2704×2028 / 59.94 fps
グリッパ	UMI 改造版（Unitree Dex1-1 搭載）
撮影本数	デモ 41 本 + 地図用 1 本（90.6 s）+ 開度キャリブ 1 本（12.5 s）

41 本中 14 本しか使えていない理由

41 本
├─ ❌ 20 本  ORB-SLAM3 のリローカライズ失敗（camera_trajectory.csv が出ない）
├─ ❌  7 本  トラッキングロストが 10 フレーム超（06 のフィルタ）
└─ ✅ 14 本  → dataset.zarr.zip

主因は地図用動画の総移動距離が不足していたこと（15.76 m）。UMI 公式サンプルは 19.39 m。 地図の凸包は 0.544 × 0.705 × 0.542 m で、デモは全てこの内側に収まっている。

---

⚠️ Limitations（学習前に必読）

1. robot0_gripper_width は定数（学習信号として使えない）

デモ中にグリッパを一度も開閉していないため、値は 18.4〜18.9 mm でほぼ一定。

開度キャリブ動画:  29.09 → 63.44 mm（可動域 34.3 mm）… 正常に開閉している
デモ 41 本:        47.5 〜 48.0 mm（可動域 0.2〜0.38 mm）… 固定

UMI 既定の action は 10 次元（pos 3 + rot6d 6 + gripper 1）だが、10 次元目は情報を持たない。 normalize_util.py の range_eps=1e-7 によりゼロ分散でも学習は破綻しないが、 把持動作を学習したい場合はこのデータでは不可能。

2. tcp_offset が Dex1-1 用に較正されていない

06_generate_dataset_plan.py の --tcp_offset は UMI 純正の 0.205 m のまま。 指先タグの実測距離が UMI 想定と約 2 cm ずれていることから、 TCP 姿勢には数 cm の系統的オフセットが残っている可能性が高い。

	指タグ z の実測
UMI 公式サンプル	0.0672 〜 0.0735 m（既定 nominal_z=0.072 に 100% 適合）
本データ (Dex1-1)	0.0870 〜 0.0894 m

本データの生成には --nominal_z 0.0882（31,572 サンプルの実測中央値）を使用。 UMI 既定の 0.072 のままだと get_gripper_width() が全フレーム None を返し 06 が落ちる。

3. デモの動作範囲が小さい

1 デモあたりの手先移動距離は 0.067〜0.140 m。UMI 公式サンプル（1.169〜1.636 m）の約 1/10。 収穫動作の一部しか含まれておらず、「掴む→引き抜く→籠へ運ぶ」までは記録されていない。

4. SLAM 精度は外部基準で検証していない

figures/ の APE は「地図構築時の推定」と「完成地図への再測位」という同一動画由来の 2 推定の 比較であり、自己整合性しか示さない（RMSE 5.9 mm / 先頭 2 秒を除くと 5.5 mm）。 絶対スケールの正しさは MoCap 等の独立基準がないと検証できない。

---

再現方法

real-stanford/universal_manipulation_interface のパイプラインを使用。videos/ に生の mp4 を含めてあるので、00 から全工程を再現できる。

# 学習（UMI 本体のリポジトリで）
python train.py --config-name=train_diffusion_unet_timm_umi_workspace \
  task.dataset_path=dataset.zarr.zip

パイプラインを最初から回す場合は、videos/ の mp4 を <session>/raw_videos/ に置いて run_slam_pipeline.py を実行する （mapping.mp4 と gripper_calibration.mp4 はファイル名で自動的に役割が判定される）。

本データ生成時に既定値から変更したパラメータは 1 つだけ:

python scripts_slam_pipeline/06_generate_dataset_plan.py -i <session> --nominal_z 0.0882

trajectories/ の読み方

プレフィックス	意味
used_*.tum	dataset.zarr.zip に採用された 14 本
lost_*.tum	トラッキングロストで除外された 7 本（比較用）
01_map_reloc.tum	完成地図に再測位した地図用動画の軌跡（精度が高い方）
00_map_mapping.tum	地図構築中に推定された軌跡
*_trim.tum	先頭 2 秒（IMU 初期化の過渡区間）を除いたもの

pip install evo
evo_traj tum 01_map_reloc.tum used_*.tum -p --plot_mode xy   # 地図とデモの位置関係
evo_ape  tum 01_map_reloc_trim.tum 00_map_mapping_trim.tum -a --t_max_diff 0.01

-a / -as を付けると軌跡が整列されて地図との位置関係が壊れるため、 重ね描きの際は付けないこと。

---

軌跡の可視化（evo）

evo で生成した図。 trajectories/ に CSV と TUM の両方を同梱してあるので、下記コマンドで再現できる。

pip install evo
cd trajectories
evo_traj tum mapping.tum <デモの時刻>.tum -p --plot_mode xy    # 地図とデモの位置関係
evo_ape  tum mapping.tum mapping_during_build.tum -a --t_max_diff 0.01   # APE

mapping.tum は完成地図に再測位した軌跡（精度が高い方）、 mapping_during_build.tum は地図構築中に推定された軌跡。

-a / -as を付けると軌跡が整列されて地図との位置関係が壊れるため、 地図とデモを重ね描きするときは付けないこと（APE の計算では必要）。

地図とデモの位置関係（xy 平面）

青が地図用動画の軌跡、色つきが採用されたデモ。デモが地図のカバー範囲の内側にあることが確認できる。

同じものを 3D で

高さ方向を含めた位置関係。地図が覆う空間にデモが収まっているかを見る。

位置の時系列（x / y / z）

各軌跡の位置成分。単位は [m]、重力 z-up の世界座標。

姿勢の時系列（roll / pitch / yaw）

グリッパの向きの変化。単位は [deg]。

速度

フレーム間の移動速度 [m/s]。追跡が飛んでいれば異常なスパイクとして現れる。

APE を軌跡上に色で表示

「地図構築時の推定」と「完成地図への再測位」の差。赤いほど 2 つの推定が食い違っている。

APE の時系列

誤差がどの時刻に集中しているかが分かる。冒頭のスパイクは ORB-SLAM3 の IMU 初期化によるもの。

地図のカバー範囲とデモの内外判定

水色の網掛けが地図軌跡の凸包（＝地図が覆った範囲）。緑は完全に内側、橙ははみ出しているデモ。

APE の数値

	RMSE	最大誤差
全区間	5.9 mm	38.6 mm
先頭 2 秒を除去	5.5 mm	18.7 mm

冒頭 2 秒は ORB-SLAM3 が IMU 初期化（スケール・重力・バイアス）を収束させる前の 姿勢を書き出しているため誤差が大きい。定常区間の自己整合性を見るときは除外する。

⚠️ この APE は SLAM の絶対精度の指標ではない。 比較している 2 つの推定は 同じ動画・同じ IMU から出ており、示されるのは自己整合性だけ。実際、デモが 1 本も 通らなかったセッション（オクラ圃場）のほうが APE が小さいという逆転が起きている。 絶対精度は MoCap 等の独立した基準がないと検証できない。

---

出典

• UMI: Chi et al., Universal Manipulation Interface: In-The-Wild Robot Teaching Without In-The-Wild Robots, RSS 2024
• 撮影・処理: Orboh, Inc.