Hugging Face's logo

Datasets:
MaybeRichard
/
zju-eye-pretrain

Tasks:
Image Classification
Image Segmentation
Image-to-Image
Modalities:
Tabular
Text
Languages:
English
Chinese
Size:
1M - 10M
Tags:
ophthalmology
retina
oct
fundus
slo
medical-imaging
License:
Dataset card Data Studio Files
xet
 Community
1
zju-eye-pretrain / DATASET_OVERVIEW.md
MaybeRichard's picture
MaybeRichard
docs: note OCT quality screening (drop <256px, nyu_poag removed)
291e318 verified
preview code
|
Raw
History Blame Contribute Delete
31.7 kB

Eye Pretrain 数据集总览

生成时间：2026-05-23

三批数据，统一 41 列 manifest schema，caption v2 疾病/病灶中心 1–3 档/image (short/medium/dense)，cohort 命名空间隔离

0. 一表见全貌

来源 总图像 OCT B-scan fundus_color slo_gray 状态
私有 Shanghai DRI OCT Triton 419,042 352,343 30,714 35,985 ✅ 已落地 h800
公开 fundus（6 cohort） 198,629 51,200 (GAMMA) 147,429 0 已落地 (h800)
公开 OCT（18 cohort，质量筛查后） 430,238 430,238 0 0 ✅ 已落地 (h800/HF)
合计 1,047,909 ~855,438 ~177,429 ~30,000

质量筛查 (2026-06)：OCT 公开删除 W 或 H < 256 的低分辨率图 58,467 张——nyu_poag 整 cohort (56,576，全 64×128) 移除、thoct1800 1,704 (h=149)、octdl 187。纯黑图全量扫描 = 0（"暗"图为正常 OCT，保留）。19→18 cohort。

约 110 万图像、其中 OCT B-scan 91 万张。

1. 私有数据集 — Shanghai DRI OCT Triton

1.1 来源

  • 医院：上海中山医院
  • 设备：Topcon DRI OCT Triton（SS-OCT，扫频源 OCT）
  • 原始格式：.fda（Topcon 专有，约 30,735 个文件）

1.2 规模

指标 数量
Studies (FDA 文件数) 30,734
Total images 419,042
Captions (v2) 807,211 (private, 1–3/image)
OCT B-scan rows 352,343 (主 radial 30,734 study × ~11.3 张/study + ~5k 张 subscan B-scan；部分 study radial 解出失败少于 12 张)
Fundus color rows 30,714 (少 20 个 study 无 fundus)
SLO gray rows 35,985 (主 SLO 30,734 + subscan SLO ~5k)

patient_hash = study_hash（Topcon @PATIENT_INFO_03 加密，按 file-level 切分）。

1.3 每个 study 的组件

  • 12 张径向 OCT B-scan — scan_protocol=radial_12, 9 mm/slice, 180°
  • 1 张 fundus_color — 45° 黄斑中心彩照
  • 1 张 slo_gray — 共焦扫描激光检眼镜
  • segmentation.npz — 10 层 boundaries (ILM/RNFL/GCL+IPL/INL/OPL/ONL/ELM/IS-OS/RPE/BM) + invalid mask
  • 可选：sub-scan（has_subscan=True 的 study，约 5k 个），多为 optic disc OCT B-scan + SLO

1.4 设备信息（写入 manifest 每行）

字段 值
device_vendor topcon
device_model dri_oct_triton
device_technology ss_oct
hospital_domain shanghai_zhongshan_v1
ethnicity Asian

1.5 路径

路径
本地 extracted /mnt/synology/08.数据/eye_pretrain/extracted/shanghai_drioct_triton/
本地 packed /mnt/synology/08.数据/eye_pretrain/packed/ (256 bucket + manifest, 153 GB, MD5 全)
h800 packed /mnt/tidal-alsh-share2/dataset/qinshengqian/research/c3/private_eye_pretrain_packed/
h800 unpack 目标 /mnt/tidal-alsh-share2/dataset/qinshengqian/research/c3/Data/Generation1/private_topcon/

1.6 代码

  • extract_fda.py — FDA → bscan PNG + fundus JPG + SLO PNG + segmentation NPZ + meta.json
  • extract_subscan.py — 追加 sub-scan 内容（@SUB_* chunks）
  • build_manifest.py — meta.json → images_v1.parquet / studies_v1.parquet / patients_v1.parquet / captions_v1.parquet
  • pack.sh / unpack.sh — 256 hash 桶切分 + MD5 校验

2. 公开 Fundus 数据集（6 cohort，198,629 images）

Cohort 名 images captions 主任务 设备 mask
public_drive_vessel 20 100 血管分割 Unknown vessel + FOV
public_messidor2_dr 1,744 8,720 DR 0-4 + DME + gradable Unknown —
public_idrid 597 2,985 DR/DME 分级 + 5 类病灶 + OD/fovea 定位 Unknown 81 张 seg (5+OD)，OD/fovea 坐标 sidecar
public_refuge2_disc_cup 1,200 6,000 OD/OC 分割 + glaucoma（train 部分有 g/n 标签） Unknown 3 类 mask (bg/disc/cup)
public_eyepacs_combo_dr_aug 143,668 718,340 DR 0-4 Unknown (mixed) —
public_gamma_multimodal 51,400 257,000 青光眼分级 (non/early/mid_advanced) + OD/OC + fovea Unknown OCT scanner DC mask + fovea sidecar
合计 198,629 993,145

2.1 GAMMA 特殊结构

  • 200 个 sample（100 train + 100 test）
  • 每个 sample = 1 张 fundus + 256 张 OCT B-scan（共享 study_id）
  • 标签级别：volume（fundus 和 OCT 共享 glaucoma 分级标签）
  • Train 100 个 sample 有 fovea_x/y 坐标 → sidecar parquet

2.2 路径

路径（h800）
统一 manifest /mnt/tidal-alsh-share2/.../public_eye_pretrain/manifest/public_images_v1.parquet
统一 captions /mnt/tidal-alsh-share2/.../public_eye_pretrain/captions/public_captions_v2.parquet
Studies /mnt/tidal-alsh-share2/.../public_eye_pretrain/manifest/public_studies_v1.parquet (147,429 行)
Schema /mnt/tidal-alsh-share2/.../public_eye_pretrain/schema_v1.json
extracted_root /mnt/tidal-alsh-share2/.../public_eye_pretrain/extracted/
Sidecar (IDRiD) /mnt/tidal-alsh-share2/.../public_eye_pretrain/manifest/public_idrid_sidecar.parquet
Sidecar (GAMMA) /mnt/tidal-alsh-share2/.../public_eye_pretrain/manifest/public_gamma_multimodal_sidecar.parquet

2.3 代码（本地）

  • public_common.py — 41 列 schema + caption_l1_public + study_hash 命名空间
  • adapter_drive.py / adapter_messidor2.py / adapter_idrid.py / adapter_refuge2.py / adapter_eyepacs.py / adapter_gamma.py
  • build_public_manifest.py — concat 6 个 per-cohort parquet 到统一 manifest

3. 公开 OCT 数据集（18 cohort，430,238 images；质量筛查后，原 19/488,705）

3.1 19 cohort 详情

Cohort 名 Source studies images Disease 设备 Region mask Sidecar
public_oct_kermany 1/Kermany 2018 (Cell) 109,309 109,309 CNV/DME/DRUSEN/NORMAL Heidelberg Spectralis USA — —
public_oct_octa500 OCTA500/Li 2024 299 (1 vol 损坏跳过) 119,600 NORMAL/DR/AMD/CNV（仅 200 vol 有标签） Optovue RTVue Asian 6 类 B-scan mask age+sex+eye
public_oct_olives 11/OLIVES (NeurIPS 2022) 1,295 visits 63,489 DR / DME longitudinal Spectralis HRA+OCT Mixed — —
public_oct_areds2 8/AREDS2 (NEI) 38,382 38,382 AMD / NORMAL Bioptigen SD-OCT Mixed — —
public_oct_uestc UESTC天池/Wu 2023 35,280 35,280 （无 disease 标签） BM-400K BMizar (Topi 国产) + Spectralis China — —
public_oct_c8 C8/Kaggle 24,000 24,000 8 class compiled Unknown Mixed — —
public_oct_neh_ut_2021 7/NEH_UT_2021 16,810 16,810 CNV/DRUSEN/NORMAL Heidelberg SD-OCT Iran — patient_id+eye (在 CSV)
public_oct_retouch 17/RETOUCH (MICCAI 2017) 6,936 6,936 AMD/RVO 3 设备子集 (Cirrus/Spectralis/Topcon) Europe IRF/SRF/PED 3 类 —
public_oct_oimhs 16/OIMHS 3,859 3,859 MH stage 1-4 Spectralis SD-OCT China layer mask age+sex+eye+stage
public_oct_srinivasan_2014 13/Srinivasan 2014 (Duke) 3,231 3,231 AMD/DME/NORMAL Heidelberg Spectralis Mixed — —
public_oct_aroi 6/AROI 3,072 3,072 nAMD Cirrus 4000 Croatia layer mask —
public_oct_amd_sd AMD-SD 3,049 3,049 wet_AMD Cirrus 5000 China 5 类 (SRF/IRF/PED/SHRM/ISOS) —
public_oct_octdl 23/OCTDL 1,877 1,877 7 类（AMD/DME/ERM/NO/RAO/RVO/VID） Optovue RTVue Russia — age+sex+patient (原 2,064)
public_oct_thoct1800 20/THOCT1800 96 96 AMD/DME/NORMAL Cirrus China — — (质量筛查后, 原 1,800; h=149 大部分删)
public_oct_chiu_dme_2015 12/Chiu 2015 (Duke) 610 610 DME Heidelberg Spectralis Unknown 8 层 + fluid —
public_oct_octid 3/OCTID 572 572 DR/MH/CSR/AMD/NORMAL Cirrus 5000 India — —
public_oct_glaucoma 9/Glaucoma OCT 49 49 Glaucoma Stratus TD-OCT (唯一 TD) Unknown ILM + RPE —
public_oct_sparsity_sdoct_2012 14/Sparsity SDOCT 2012 17 17 AMD/NORMAL Bioptigen SD-OCT Unknown — —
合计 248,733 430,238 126,536 行 has_segmentation=True

3.2 路径

路径
本地输出根 /mnt/new/OCT Retinal B-scan数据集汇总/oct_public_pretrain/
统一 manifest .../oct_public_pretrain/manifest/oct_public_images_v1.parquet
统一 captions .../oct_public_pretrain/captions/oct_public_captions_v2.parquet
Studies .../oct_public_pretrain/manifest/oct_public_studies_v1.parquet (307,200)
Sidecar .../public_oct_oimhs_sidecar.parquet (3,859), .../public_oct_octdl_sidecar.parquet (448), .../public_oct_octa500_sidecar.parquet
Schema .../oct_public_pretrain/schema_v1.json
extracted_root .../oct_public_pretrain/extracted/
打包 (1725 tar) .../oct_public_pretrain/packed/ (119 GB, MD5 全)

3.3 代码（本地）

  • oct_public_common.py — OCT caption_l1_oct + 多 slice study 支持
  • build_oct_public.py — 19 dataset 处理函数 + dispatcher（基于 unified_metadata.csv + OCTA500/UESTC 自定义枚举）
  • build_oct_public_manifest.py — concat 19 个 per-cohort parquet
  • pack.sh / unpack.sh — 大 cohort 256 hash 桶切分 + MD5

3.4 关键约定

  • OLIVES: study_id = hash(patient_eye_visit)，patient_hash = hash(patient) — 跨 visit 一致
  • OCTA500: 1 vol = 1 study，400 slice 共享 study_id，bscan_index 0–399
  • UESTC: scan_protocol 区分 3 子集 (volume_3d_macula_6x6mm / 20x24mm / spectralis)
  • OIMHS: study_basename = oimhs_p{pid}_e{eye_id}_{stem}（修复同 patient 多 eye 同名文件冲突）

4. Modality 分布（三批合计）

Modality 数量 来源
oct_bscan 892,248 私有 352,343 + GAMMA 51,200 + OCT public 488,705
fundus_color 178,143 私有 30,714 + 公开 fundus 147,429
slo_gray 35,985 私有（含 subscan SLO）
总图像 1,106,376

5. OCT 设备 / 厂商分布

Vendor Model Tech 数量 (OCT B-scan) Cohorts
Topcon DRI OCT Triton SS-OCT ~374,000 private (唯一 SS-OCT)
Topcon Topcon 3D OCT SD-OCT 2,688 RETOUCH (Topcon 子集)
Heidelberg Spectralis (含 HRA+OCT) SD-OCT ~380,000 Kermany, OLIVES, NEH_UT, Chiu, Srinivasan, OIMHS, RETOUCH, UESTC Spectralis 子集
Optovue RTVue series SD-OCT ~122,000 OCTA500 (120k), OCTDL (2k)
Bioptigen Bioptigen SD-OCT SD-OCT ~38,400 AREDS2, Sparsity
Zeiss Cirrus (HD-OCT/4000/5000) SD-OCT ~12,000 AROI, AMD-SD, OCTID, RETOUCH Cirrus, THOCT1800
Zeiss Stratus TD-OCT 49 Glaucoma_OCT (唯一 TD-OCT)
Topi 国产 BM-400K BMizar SD-OCT ~33,000 UESTC BMizar 6×6 + 20×24
未知 ~80,000 NYU_POAG (57k) + C8 (24k)
GAMMA scanner unspecified — 51,200 GAMMA OCT volume slices

6. 疾病覆盖

按 OCT B-scan 数量粗算（含部分重叠数据集）：

Disease 类别 总图像 主要来源
NORMAL ~150,000+ Kermany, NYU_POAG, AREDS2, C8, NEH_UT, Srinivasan, REFUGE2 train n
DR (0-4) ~150,000+ EyePACS (143k), Messidor2, IDRiD, OLIVES, AREDS2 部分
AMD / nAMD / wet_AMD ~80,000 AREDS2, NEH_UT, AROI, AMD-SD, Srinivasan, OCTID, OCTDL, RETOUCH
DME ~80,000 OLIVES, Kermany, Chiu, Srinivasan, THOCT1800, OCTDL
POAG / Glaucoma ~57,000 NYU_POAG (57k), GAMMA, REFUGE2 train g, Glaucoma_OCT, Messidor2
CNV ~44,000 Kermany, NEH_UT, OCTID, OCTA500
DRUSEN ~17,000 Kermany, NEH_UT
MH (含 stage 1-4) ~8,000+ OIMHS, OCTID, C8
CSR ~3,000+ OCTID, C8
ERM ~155 OCTDL
RVO / RAO ~150 OCTDL, RETOUCH
VID ~76 OCTDL
无标签 (unsupervised pretraining) ~35,000+ UESTC (35k) + OCTA500 未标记 100 vol + APTOS test

7. 分割 mask 覆盖

Mask 类型 张数 来源
OCT 多层 (10-layer in NPZ) ~370,000 私有 Topcon（每 B-scan 一份 layer）
OCT 8-layer + fluid 610 Chiu_DME_2015
OCT 层分割 (.tif) 7,000+ AROI (3k), OIMHS (3.9k), Glaucoma_OCT (49)
OCT 病灶多类 (IRF/SRF/PED) 6,936 RETOUCH
OCT 病灶 5 类 (SRF/IRF/PED/SHRM/ISOS) 3,049 AMD-SD
OCT-A B-scan 6 类 mask 119,600 OCTA500
Fundus 血管 20 DRIVE training
Fundus disc/cup 3 类 2,400 REFUGE2 (1200), GAMMA (200), IDRiD (516+81)
Fundus 5 类病灶 (MA/HE/EX/SE) + OD 81 IDRiD segmentation
合计带 mask ~510,000+ 张

8. 统一 41 列 manifest schema

三批数据严格对齐以下 41 列。训练侧 pd.concat 直接拼。

cohort, study_id, patient_hash, visit_date, eye,
device_vendor, device_model, device_serial_hash, device_software_version,
hospital_domain, ethnicity,
image_quality_score, image_quality_band,
diagnosis_group, lesion_tags, lesion_location, layer_involvement, severity,
diagnosis_source, label_confidence, schema_version,
image_id, file_path, file_format,
modality, anatomy, device_technology, scan_protocol,
scan_x_mm, bscan_index,
image_height_px, image_width_px, axial_resolution_um,
has_segmentation, n_layers_visible,
fovea_x_norm, crt_um, choroid_thickness_um,
oct_footprint_bbox_fundus, oct_footprint_bbox_slo,
is_valid

受控值：

  • modality ∈ {oct_bscan, fundus_color, slo_gray}
  • anatomy ∈ {macula, optic_disc, secondary_unknown}
  • device_technology ∈ {ss_oct, sd_oct, td_oct, fundus_camera, slo, unknown}
  • severity ∈ {none, mild, moderate, severe, proliferative, unknown}
  • scan_protocol 开值：{radial_12, single_shot, subscan_line, subscan_single_shot, volume_3d_macula, volume_3d_macula_6x6mm, volume_3d_macula_20x24mm, volume_3d_macula_spectralis}

Captions parquet 列：

caption_id, image_id, level, prompt_text, language, generator, grounded_in

Caption v2（疾病/病灶中心，2026-06 起，已替换 v1）。文本结构（逗号分隔，EyeDiff 风格）： {modality}, {region}, {diagnosis[+severity]}, {lesions...}，每图 1–3 条按详略分档（相同文本去重）：

  • short：{modality}, {diagnosis}（无 region/severity/lesion）
  • medium：{modality}, {region}, {diagnosis+severity}
  • dense：medium + {lesions}（仅在有真实病灶证据时出现）

generator="caption_v2"；受控词表 = disease_dict.py。采集元数据（device/quality/slice/bbox/µm/eye）不进文本，留在 images manifest。 训练建议：每步随机抽一档 + ~10% 空 caption（classifier-free guidance，训练侧 dropout，不入库）。 私有 Topcon OCT 暂无疾病标签（仅 modality/region），待路线 B 伪标注后重生成。 文件：captions_v2.parquet（私有）/ public_captions_v2.parquet / oct_public_captions_v2.parquet（均含 per-cohort *_captions_v2.parquet）。

9. 训练侧路径映射

每个 manifest 自带 cohort 列；file_path 是相对路径，需要拼 extracted_root：

Manifest parquet extracted_root
Data/Generation1/private_topcon/manifest/images_v1.parquet Data/Generation1/private_topcon/extracted/shanghai_drioct_triton/
public_eye_pretrain/manifest/public_images_v1.parquet public_eye_pretrain/extracted/
(待上传) oct_public_pretrain/manifest/oct_public_images_v1.parquet oct_public_pretrain/extracted/

注意：私有的 file_path 不带 cohort 前缀（如 00/abc.../bscan_radial/000.png）；两个公开的 file_path 带 cohort 前缀（如 public_oct_kermany/00/abc.../bscan.png）。训练侧根据 manifest 来源选择对应 root。

10. Code / Scripts 索引

本地代码仓库：/home/richard/Documents/Code/ZJU/Dataset/

模块 用途
public_common.py 41 列 schema + caption_l1_public + study_hash 命名空间 + IO helpers
oct_public_common.py OCT caption_l1_oct + 多 slice/study 共享 worker
extract_fda.py 私有 Topcon FDA → bscan/fundus/slo/seg/meta.json
extract_subscan.py 私有 sub-scan @SUB_* chunks 提取
build_manifest.py 私有 meta.json → 41 列 parquet + captions
adapter_drive.py ... adapter_gamma.py 6 个公开 fundus adapter
build_public_manifest.py concat 公开 fundus 6 parquet → 统一
build_oct_public.py 19 个公开 OCT 数据集统一处理
build_oct_public_manifest.py concat 公开 OCT 19 parquet → 统一
run.sh 三批数据完整流水线命令（顺序执行）
fixup_errors.sh 私有数据集 sub-scan 错误重试脚本
pack.sh / unpack.sh (各两份) 私有 + OCT public 打包/解包
INTEGRATION_GUIDE.md 公开 fundus 数据集接入手册（如何写新 adapter）

11. 进度状态

任务 状态
私有 Topcon 处理 ✅ 完成
私有 Topcon 打包 (153 GB) ✅ 完成
私有 Topcon 上传 h800 ✅ 完成（含 bucket_2b 重传）
私有 Topcon 解包 (Data/Generation1/private_topcon/) ✅ 完成，Python 验证全通过
公开 fundus 处理 + manifest (h800) ✅ 完成
公开 OCT 19 cohort 处理 (本地) ✅ 完成
公开 OCT 统一 manifest ✅ 完成 (488,705 images)
公开 OCT 打包 (1,725 tar / 119 GB) ✅ 完成
公开 OCT 上传 h800 ⏸ 等你启动
训练侧三 parquet 拼接 ⏸ 后续

12. 训练侧使用指南（核心）

12.1 数据加载的三个 manifest + 三个 root

训练 dataloader 要同时读这三份 parquet，**41 列 schema 完全一致，直接 pd.concat**：

Source Manifest parquet extracted_root (拼 file_path 用)
私有 Topcon Data/Generation1/private_topcon/manifest/images_v1.parquet Data/Generation1/private_topcon/extracted/shanghai_drioct_triton/
公开 fundus public_eye_pretrain/manifest/public_images_v1.parquet public_eye_pretrain/extracted/
公开 OCT oct_public_pretrain/manifest/oct_public_images_v1.parquet oct_public_pretrain/extracted/

关键差异：私有的 file_path 不带 cohort 前缀（如 00/abc.../bscan_radial/000.png），两个公开的 file_path 带 cohort 前缀（如 public_oct_kermany/00/abc.../bscan.png）。因此 dataloader 必须根据每行的 cohort 字段选对应 root。

12.2 拼接示例代码 

import pandas as pd
from pathlib import Path

ROOTS = {
    # cohort → extracted_root
    "shanghai_drioct_triton": "/mnt/tidal-alsh-share2/.../Data/Generation1/private_topcon/extracted/shanghai_drioct_triton",
    # 所有 public_* cohort 共享一个父根
    "_public_fundus_": "/mnt/tidal-alsh-share2/.../public_eye_pretrain/extracted",
    "_public_oct_":    "/mnt/tidal-alsh-share2/.../oct_public_pretrain/extracted",
}

def resolve(row):
    c = row["cohort"]
    if c == "shanghai_drioct_triton":
        return Path(ROOTS["shanghai_drioct_triton"]) / row["file_path"]
    elif c.startswith("public_oct_"):
        return Path(ROOTS["_public_oct_"]) / row["file_path"]   # file_path 已含 cohort 前缀
    else:  # public_drive_vessel / public_messidor2_dr / ...
        return Path(ROOTS["_public_fundus_"]) / row["file_path"]

df_priv = pd.read_parquet("Data/Generation1/private_topcon/manifest/images_v1.parquet")
df_fun  = pd.read_parquet("public_eye_pretrain/manifest/public_images_v1.parquet")
df_oct  = pd.read_parquet("oct_public_pretrain/manifest/oct_public_images_v1.parquet")
manifest = pd.concat([df_priv, df_fun, df_oct], ignore_index=True)
manifest["abs_path"] = manifest.apply(resolve, axis=1)
# ~ 1.1M rows, 42 columns

Captions 同理：

caps_priv = pd.read_parquet("Data/Generation1/private_topcon/captions/captions_v2.parquet")
caps_fun  = pd.read_parquet("public_eye_pretrain/captions/public_captions_v2.parquet")
caps_oct  = pd.read_parquet("oct_public_pretrain/captions/oct_public_captions_v2.parquet")
captions = pd.concat([caps_priv, caps_fun, caps_oct], ignore_index=True)
# ~2.17M rows; level ∈ {short, medium, dense}; image_id 关联到 manifest.image_id

12.3 PyTorch Dataset 模板 

import torch
from torch.utils.data import Dataset
from PIL import Image
import random

class EyePretrainDataset(Dataset):
    def __init__(self, manifest_df, captions_df, modality=None, transform=None,
                 caption_level="random", empty_caption_p=0.1):
        if modality:
            manifest_df = manifest_df[manifest_df.modality.isin(modality)]
        self.df = manifest_df.reset_index(drop=True)
        # caption_level: short / medium / dense / random (v2 specificity tiers)
        cap_sub = (captions_df if caption_level == "random"
                   else captions_df[captions_df.level == caption_level])
        self.caps = cap_sub.groupby("image_id")["prompt_text"].apply(list).to_dict()
        self.caption_level = caption_level
        self.empty_caption_p = empty_caption_p  # classifier-free guidance dropout
        self.transform = transform

    def __len__(self): return len(self.df)

    def __getitem__(self, i):
        r = self.df.iloc[i]
        img = Image.open(r["abs_path"]).convert("RGB" if r["modality"] == "fundus_color" else "L")
        if self.transform: img = self.transform(img)
        caps = self.caps.get(r["image_id"], [""])
        text = random.choice(caps) if self.caption_level == "random" else caps[0]
        if random.random() < self.empty_caption_p:  # CFG: drop caption ~10%
            text = ""
        return {
            "image": img, "text": text,
            "cohort": r["cohort"], "modality": r["modality"],
            "anatomy": r["anatomy"], "severity": r["severity"],
            "diagnosis_group": list(r["diagnosis_group"]),
            "bscan_index": r["bscan_index"],
            "has_segmentation": r["has_segmentation"],
            "image_id": r["image_id"], "study_id": r["study_id"],
            "patient_hash": r["patient_hash"],
        }

12.4 切分策略：患者级 split（防泄漏）

⚠️ 不要按行（image）随机切 train/val/test —— 同一患者的多张 B-scan 会跨 split 泄漏。

import numpy as np
rng = np.random.default_rng(42)
patients = manifest["patient_hash"].unique()
rng.shuffle(patients)
n = len(patients)
train_p = set(patients[:int(0.9*n)])
val_p   = set(patients[int(0.9*n):int(0.95*n)])
test_p  = set(patients[int(0.95*n):])

manifest["split"] = manifest.patient_hash.map(
    lambda p: "train" if p in train_p else ("val" if p in val_p else "test"))

说明：

  • 私有 Topcon：patient_hash = study_hash，每个 FDA 一个匿名患者，等价 file-level
  • 公开 fundus：多数 cohort 也是 file-level（无 patient_id），少数（OLIVES、IDRiD grading、GAMMA）有真实 patient 共享
  • 公开 OCT：Kermany（CNV-NNN-XXX 中段 = patient_id）、NEH_UT、OCTDL 有 patient_id；OLIVES patient_hash 跨 visit 一致
  • 安全做法：永远按 patient_hash 切，cohort-level 也保留这套切分

12.5 三种典型训练任务的数据组合

(A) 纯无监督生成式预训练（VAE / diffusion / MAE） 

# 用全部 ~1.1M 张图像，不需要 label
ds = EyePretrainDataset(manifest, captions, modality=None,
                        caption_level="random")
# 或单模态预训练：
ds_oct = EyePretrainDataset(manifest, captions,
                            modality=["oct_bscan"])   # ~892k 张
ds_fun = EyePretrainDataset(manifest, captions,
                            modality=["fundus_color"]) # ~178k 张

(B) Caption-conditioned 生成（Stable Diffusion 风格） 

# 用 L1 4 个变体做 caption augmentation, L3 做精细条件
ds = EyePretrainDataset(manifest, captions,
                        modality=["oct_bscan", "fundus_color"],
                        caption_level="random")  # 每 epoch 随机挑一个变体

L3_derived 包含具体几何/分割附加信息（私有 OCT 含 CRT、choroidal thickness、quality；公开 OCT 含 mask 类别说明）。如果要训练 disease-aware 生成器，建议把 severity / diagnosis_group 作为额外离散条件 embed。

(C) 多模态 / cross-modality 生成（fundus → OCT B-scan、SLO → OCT） 

# 按 study_id 分组,挑出同一 study 内多模态配对
groups = manifest.groupby("study_id")
multimodal_studies = []
for sid, g in groups:
    mods = set(g["modality"])
    if "oct_bscan" in mods and "fundus_color" in mods:
        multimodal_studies.append(sid)
# 主要来源:
#   私有 Topcon 30k study (含 fundus+SLO+12 radial OCT)
#   GAMMA 200 sample (含 fundus + 256 OCT)
# 配上 oct_footprint_bbox_fundus / oct_footprint_bbox_slo 做空间对齐

12.6 实操采样建议

Cohort 不均衡极严重（最大 Kermany 109k vs 最小 Sparsity 17，差 6400 倍）。直接均匀采样会被大 cohort 主导。常见做法：

# 按 cohort 加权采样（每 cohort 等概率）
from torch.utils.data import WeightedRandomSampler
cohort_counts = manifest.cohort.value_counts()
weights = (1.0 / cohort_counts[manifest.cohort]).values
sampler = WeightedRandomSampler(weights, num_samples=len(manifest), replacement=True)
loader = DataLoader(ds, sampler=sampler, batch_size=64, num_workers=8)

或更激进的 modality-balanced（每 batch 内 50% OCT / 50% fundus）：

# 分两个 dataset, 用 ConcatDataset + RandomSampler 各 50%

12.7 OCT B-scan 几何条件（私有 + GAMMA + OCTA500 等 volume）

私有 Topcon 12 radial 协议固定：

angle_deg = bscan_index * 15.0   # 0°, 15°, ..., 165°

可作为 angle conditioning embedding 输入。对私有 OCT B-scan 行：

# manifest 已有 fovea_x_norm (B-scan 列方向归一化 fovea 位置 0.0-1.0)
# 可作 position embedding

对 GAMMA / OCTA500 的 volume slice：bscan_index 是 slice 序号（0..255 或 0..399），可做 axial position embedding。

12.7.1 设备条件化粒度建议（重要）

manifest 提供三级设备粒度：device_technology（SS/SD/TD-OCT）、device_vendor（厂商）、device_model（型号）。生成式训练的条件化不要用到型号级，用 technology + vendor 两级最稳。

设备差异对生成的真实影响（从大到小）：

粒度 视觉差异 生成条件价值
device_technology (SS/SD/TD-OCT) 最大：SS-OCT(1050nm) 脉络膜穿透深、speckle 不同；TD-OCT 分辨率明显低 🔴 必须条件化
device_vendor (Heidelberg/Zeiss/Optovue/Topcon/Bioptigen/BMizar) 中等：各家去噪管线、对比度、长宽比有可辨识风格 🟡 建议条件化
device_model (Cirrus 4000 vs 5000 vs 6000) 很小：同厂同代际差异微弱 🟢 不做主条件，留作 metadata 过滤/检索

数据量现实（条件化需每条件足够样本）：按型号粒度好几个条件数据饥饿 —— Zeiss Stratus TD-OCT 仅 49 张、Topcon 3D OCT 2,688 张、Cirrus 拆 4000/5000 各 3-13k，撑不起独立 conditional mode；但归到 technology/vendor 粒度，每桶都充足（Heidelberg Spectralis 系 197k、Optovue 122k、Topcon Triton SS-OCT 私有 374k、Bioptigen 38k、BMizar 33k）。

实操：

  • 主条件轴 = device_technology（3 类，TD-OCT 49 张可并入 SD 极端低质子集或单独标但不指望生成质量）
  • 次条件轴 = device_vendor（想做风格控制时用）
  • device_model 已写进 caption（如 "Heidelberg Spectralis SD-OCT"）+ manifest 列，文本编码器会自然软忽略型号细节，无需显式建 embedding
  • 比设备更重要的条件：modality + anatomy + severity/diagnosis_group（疾病），设备是第二梯队

未知设备处理：NYU_POAG (56,576) + C8 (24,000) 源数据未披露设备 → device_vendor=unknown, device_model=unknown, device_technology=unknown（不做技术类型假设），caption 不写设备短语（不编造）。这两个 cohort 不应进入任何 device-conditioned 子集，只用于无条件/疾病条件预训练。

12.8 三模态 spatial 配准（私有 Topcon）

每个私有 study 的 fundus / SLO 行 manifest 含：

  • oct_footprint_bbox_fundus (x0,y0,x1,y1)
  • oct_footprint_bbox_slo

12 radial B-scan 没有 per-bscan endpoints 字段，但可推算（见 §1.3 angle conditioning 说明）。

适合用于 ControlNet-style position embedding / 共享空间坐标的 cross-attention；不适合像素级 dense supervision（无 dense warp）。

12.9 常用过滤组合速查

目标 过滤
仅 OCT B-scan（生成式预训练 OCT） modality == "oct_bscan" → ~892k
仅 fundus_color modality == "fundus_color" → ~178k
仅黄斑中心 OCT modality == "oct_bscan" & anatomy == "macula"
仅视盘 OCT modality == "oct_bscan" & anatomy == "optic_disc"
仅 SS-OCT（私有 Topcon） device_technology == "ss_oct" → 374k
仅 SD-OCT（剔除 TD-OCT 49 张） device_technology == "sd_oct"
仅带 mask（监督分割 / mask-conditioned 生成） has_segmentation == True → ~510k
仅有疾病 grade（弱监督） severity in ['mild','moderate','severe','proliferative']
排除质量差 image_quality_band not in ['poor', 'ungradable']（仅私有有质量分）

12.10 推荐起步配置

训练目标 数据 Caption level Conditions
OCT VAE / MAE 预训练 OCT 全集 892k L1 random cohort, modality, device_technology
Fundus diffusion 预训练 Fundus 全集 178k L1 random cohort, severity, eye
Multi-modal (fundus → OCT) 私有 30k + GAMMA 200 study 配对 L3_derived bbox + bscan_index
Disease-conditional gen 全集 + diagnosis_group ≠ [] 子集 L3_derived severity + diagnosis_group multi-hot
Few-shot rare disease (Stargardt / RP / MacTel / RAO / VID) 公开 OCTDL + IDRiD + （未来）dataset 2 L3 diagnosis_group

12.11 注意事项 & 已知坑

  1. 私有数据是 SS-OCT，公开多是 SD-OCT —— 域差异（波长 1050 vs 840nm，脉络膜可见度不同）。生成模型若混训，建议把 device_technology 作为强条件 embed。
  2. OCTA500 mask 6 类 vs RETOUCH IRF/SRF/PED 3 类 vs AMD-SD 5 类 —— mask 像素值定义跨数据集不统一，需要单独建立 cohort-aware mask encoder 或先做 label 标准化。
  3. Caption 中 cohort 名称会暴露 cohort 标签 —— 如果要做 cohort-invariant 表示学习，需要 caption 改写去掉 cohort phrase（或加 cohort dropout）。
  4. OLIVES 同患者纵向数据 —— 若做 time-series 任务可按 (patient, eye) group + study_meta.visit（写在 meta.json study_meta.visit 但未进 41 列；可读 OLIVES sidecar 或解析 study_basename）。
  5. 私有 quality score 仅在私有 cohort 有（公开 image_quality_band 一律 unknown），按 quality 加权采样时只对私有生效。
  6. REFUGE2 val/test、APTOS test、OCTA500 100 vol —— severity=unknown，按 severity 筛要小心。
  7. GAMMA OCT 切片是模拟"私有 radial" 的角度替代：GAMMA OCT 是 volume_3d_macula 256 slices（线性平行扫描），不是 radial。bscan_index 语义不同。
  8. 路径含中文 + 空格（私有 /mnt/synology/08.数据/ + 公开 OCT /mnt/new/OCT Retinal B-scan数据集汇总/），bash 一定要加双引号，Python Path 直接吞。