Kota0612/umi-okra-grassland-20260724

UMI Okra Harvesting — Outdoor Grassland Session (2026-07-24)

Unitree Dex1-1 グリッパに改造した UMI (Universal Manipulation Interface) で、屋外の草地でオクラ収穫動作を撮影したデモンストレーションデータ。

Orboh が取得した 6 セッション中、唯一の屋外・直射日光下で成功したデータ。 同日の別セッション（建物脇の植込み）や後日のオクラ圃場は SLAM が通らなかったが、 草地では 9 本中 8 本のリローカライズに成功している。

English summary: Human demonstrations of okra-harvesting motions recorded outdoors on grassland with a hand-held UMI gripper (modified with a Unitree Dex1-1) and a GoPro. This is the only outdoor session in the collection where ORB-SLAM3 relocalization succeeded. Read the Limitations section before training — the gripper width channel is effectively constant and the TCP offset is uncalibrated for this hardware.

---

収録内容

ファイル	内容
data/train-*.parquet	閲覧用。Data Studio でブラウザから中身を見られる（16 MB / 735 行）
dataset.zarr.zip	学習用リプレイバッファ（28 MB）。train.py にそのまま渡せる
videos/	生の mp4（837 MB）。採用デモ 5 本 + mapping + gripper_calibration
dataset_plan.pkl	06_generate_dataset_plan.py の出力
trajectories/	ORB-SLAM3 が出力した生の軌跡（CSV + evo 用 TUM）
figures/	evo で生成した軌跡の可視化 8 枚
calibration/	tx_slam_tag.json / gripper_range.json / ArUco 設定 / GoPro 内部パラメータ

dataset.zarr.zip の構造

episode_ends              (5,)                       エピソード境界
camera0_rgb               (735, 224, 224, 3) uint8   魚眼のまま。ArUco は inpaint 済み
robot0_eef_pos            (735, 3)   float32   [m] 重力 z-up の世界座標
robot0_eef_rot_axis_angle (735, 3)   float32   [rad] 回転ベクトル
robot0_gripper_width      (735, 1)   float32   [m] ※ほぼ定数。Limitations 参照
robot0_demo_start_pose    (735, 6)   float64
robot0_demo_end_pose      (735, 6)   float64

• エピソード長: 108 / 124 / 143 / 179 / 181 フレーム
• 合計 735 フレーム = 12.3 秒 @ 59.94 fps
• UMI 既定の学習設定（action_horizon=16, down_sample_steps=3）で 510 サンプル

データ量は小さい。 単独で学習を回すには不十分で、他セッションとの併用を想定している。

data/*.parquet（閲覧用）

zarr は Hugging Face のビューアが解釈できないため、同じ中身を parquet でも置いている。 学習には dataset.zarr.zip を使うこと（parquet は画像を JPEG 再圧縮しているため非可逆）。

列	型	内容
episode_index	int32	エピソード番号 0〜4
frame_index	int32	エピソード内のフレーム番号
timestamp	float32	[s] エピソード先頭からの経過時間
image	Image	224×224 の魚眼画像（JPEG q92）
eef_pos_x/y/z	float32	[m] 手先位置（重力 z-up の世界座標）
eef_rot_x/y/z	float32	[rad] 回転ベクトル
gripper_width	float32	[m] ※ほぼ定数

from datasets import load_dataset
ds = load_dataset("Kota0612/umi-okra-grassland-20260724", split="train")
ds[0]["image"]        # PIL.Image

videos/ の構成

videos/mapping.mp4                地図構築用（92.2 s / 694 MB）
videos/gripper_calibration.mp4    開度キャリブ用（51 MB）
videos/demos/<HH.MM.SS>.mp4       採用デモ 5 本（92 MB）

ファイル名は撮影開始時刻で、trajectories/<同じ名前>.csv と対応している。 2704×2028 / 59.94 fps の生映像（GoPro の魚眼、無加工）。

---

撮影条件

項目	値
撮影日	2026-07-24 13:26〜13:30 (JST)
場所	屋外・草地（直射日光下）
カメラ	GoPro 1 台（serial C3441326441423）、2704×2028 / 59.94 fps
グリッパ	UMI 改造版（Unitree Dex1-1 搭載）
撮影本数	デモ 9 本 + 地図用 1 本（92.2 s）+ 開度キャリブ 1 本

9 本中 5 本が採用された内訳

9 本
├─ ❌ 1 本  ORB-SLAM3 のリローカライズ失敗
├─ ❌ 2 本  指先タグの検出率が 80% 未満（64.3% / 71.2%）
├─ ❌ 1 本  トラッキングロストが 10 フレーム超（29 フレーム）
└─ ✅ 5 本  → dataset.zarr.zip

屋外は照明条件が厳しく、指先タグの検出率で 2 本落ちているのが屋内セッションとの違い （屋内 08-04 ではタグ由来の脱落はゼロだった）。

屋外でも SLAM は通る

「屋外だから単眼 SLAM が無理」ではないことがこのデータで確認できる。

セッション	環境	地図の総移動距離	デモ採用率
研究室内 07-23	屋内	22.94 m	8/8 (100%)
本データ（屋外・草地）	屋外	19.25 m	5/9 (56%)
屋内 08-04	屋内	15.76 m	14/41 (34%)
オクラ圃場 07-27	屋外	7〜9 m	0/9 (0%)

決定的なのは屋内/屋外ではなく、地図用動画の総移動距離（20 m 以上が目安）。 圃場が全滅したのは屋外だからではなく、撮影時にほとんど移動していなかったため。

---

⚠️ Limitations（学習前に必読）

1. robot0_gripper_width は実質定数

gripper_calibration 動画でグリッパを開閉していないため、 キャリブ範囲が 22.52〜22.59 mm（可動域 0.07 mm） しかない。 zarr の robot0_gripper_width は 0.000〜0.074 mm の範囲に潰れている。

UMI 既定の action は 10 次元（pos 3 + rot6d 6 + gripper 1）だが、10 次元目は情報を持たない。 把持動作を学習したい場合はこのデータでは不可能。

2. tcp_offset が Dex1-1 用に較正されていない

--tcp_offset は UMI 純正の 0.205 m のまま。 指先タグの実測距離が UMI 想定と 2 cm 前後ずれていることから、 TCP 姿勢には数 cm の系統的オフセットが残っている可能性が高い。

	指タグ z の実測
UMI 公式サンプル	0.0672 〜 0.0735 m（既定 nominal_z=0.072 に 100% 適合）
本データ (Dex1-1)	0.0875 〜 0.0939 m

本データの生成には --nominal_z 0.0907 を使用。

注意: nominal_z は同じグリッパでもセッションごとに 5 mm 以上ばらつく （本データ 0.0907 / 屋内 0.0882 / 研究室内 0.0935）。他データに流用せず、 tag_detection.pkl から実測して決めること。

3. データ量が少ない

735 フレーム（12.3 秒）/ 5 エピソードのみ。単独で学習を回すには不十分。

4. SLAM 精度は外部基準で検証していない

軌跡は ORB-SLAM3 の推定であり、MoCap 等の独立した基準と照合していない。 絶対スケールの正しさは保証されない。

---

再現方法

real-stanford/universal_manipulation_interface のパイプラインを使用。videos/ に生の mp4 を含めてあるので 00 から全工程を再現できる。

# 学習
python train.py --config-name=train_diffusion_unet_timm_umi_workspace \
  task.dataset_path=dataset.zarr.zip

本データ生成時に既定値から変更したパラメータは 1 つだけ:

python scripts_slam_pipeline/06_generate_dataset_plan.py -i <session> --nominal_z 0.0907

07_generate_replay_buffer.py は複数セッションを引数に並べて 1 つの zarr に統合できる:

python scripts_slam_pipeline/07_generate_replay_buffer.py \
  <grassland> <lab> <indoor> -o combined.zarr.zip

---

軌跡の可視化（evo）

evo で生成した図。 trajectories/ に CSV と TUM の両方を同梱してあるので、下記コマンドで再現できる。

pip install evo
cd trajectories
evo_traj tum mapping.tum <デモの時刻>.tum -p --plot_mode xy    # 地図とデモの位置関係
evo_ape  tum mapping.tum mapping_during_build.tum -a --t_max_diff 0.01   # APE

mapping.tum は完成地図に再測位した軌跡（精度が高い方）、 mapping_during_build.tum は地図構築中に推定された軌跡。

-a / -as を付けると軌跡が整列されて地図との位置関係が壊れるため、 地図とデモを重ね描きするときは付けないこと（APE の計算では必要）。

地図とデモの位置関係（xy 平面）

青が地図用動画の軌跡、色つきが採用されたデモ。デモが地図のカバー範囲の内側にあることが確認できる。

同じものを 3D で

高さ方向を含めた位置関係。地図が覆う空間にデモが収まっているかを見る。

位置の時系列（x / y / z）

各軌跡の位置成分。単位は [m]、重力 z-up の世界座標。

姿勢の時系列（roll / pitch / yaw）

グリッパの向きの変化。単位は [deg]。

速度

フレーム間の移動速度 [m/s]。追跡が飛んでいれば異常なスパイクとして現れる。

APE を軌跡上に色で表示

「地図構築時の推定」と「完成地図への再測位」の差。赤いほど 2 つの推定が食い違っている。

APE の時系列

誤差がどの時刻に集中しているかが分かる。冒頭のスパイクは ORB-SLAM3 の IMU 初期化によるもの。

地図のカバー範囲とデモの内外判定

水色の網掛けが地図軌跡の凸包（＝地図が覆った範囲）。緑は完全に内側、橙ははみ出しているデモ。

APE の数値

	RMSE	最大誤差
全区間	50.6 mm	1271.9 mm
先頭 2 秒を除去	4.9 mm	48.8 mm

冒頭 2 秒は ORB-SLAM3 が IMU 初期化（スケール・重力・バイアス）を収束させる前の 姿勢を書き出しているため誤差が大きい。定常区間の自己整合性を見るときは除外する。

⚠️ この APE は SLAM の絶対精度の指標ではない。 比較している 2 つの推定は 同じ動画・同じ IMU から出ており、示されるのは自己整合性だけ。実際、デモが 1 本も 通らなかったセッション（オクラ圃場）のほうが APE が小さいという逆転が起きている。 絶対精度は MoCap 等の独立した基準がないと検証できない。

---

関連データセット

同じ Dex1-1 版 UMI で撮影した他セッション:

• Kota0612/umi-okra-lab-20260723 — 研究室内（8 エピソード、歩留まり 100%）
• Kota0612/umi-okra-indoor-20260804 — 屋内・観葉植物（14 エピソード）

---

出典

• UMI: Chi et al., Universal Manipulation Interface: In-The-Wild Robot Teaching Without In-The-Wild Robots, RSS 2024
• 撮影・処理: Orboh, Inc.