darask0
/

anima-distill-loras

@@ -13,20 +13,30 @@ library_name: diffusers
 # Anima v1.0 — PCM 4-step Distillation LoRA
-Phased Consistency Model (PCM) 蒸留 LoRA for [Anima v1.0 base](https://huggingface.co/circlestone-labs/Anima).
-4-step / CFG=1.0 で teacher (20-step CFG=4.5) と近い品質を狙う。
 ## Files
 | File | Format | Use |
 |---|---|---|
-| `pcm_final_peft.safetensors` | PEFT (diffusers) | `peft` / 自前 inference スクリプト |
-| `pcm_final_comfy.safetensors` | ComfyUI LoRA | ComfyUI / sd-scripts 互換 LoRA ローダー |
 両者は同一の重み、フォーマット変換のみの違い。
-## Usage (ComfyUI)
 1. `pcm_final_comfy.safetensors` を `ComfyUI/models/loras/` に配置
 2. Anima v1.0 base workflow に `LoraLoaderModelOnly` を挿入、`strength_model: 1.0`
@@ -35,16 +45,14 @@ Phased Consistency Model (PCM) 蒸留 LoRA for [Anima v1.0 base](https://hugging
    - **cfg: 1.0**
    - sampler / scheduler: 下記サンプル比較を参照
-## Recommended Sampler
-訓練後 step 3500-4000 で複数 sampler を比較済み:
 | Sampler | Scheduler | 特徴 |
 |---|---|---|
 | `er_sde` | `simple` | やや softer、構図上半身寄り、生成 8.8s |
 | `res_multistep` | `beta` | anime style 強め、全身描画、生成 11.2s |
-両者とも 4-step CFG=1.0 で破綻なく動作。`er_sde + simple` が trainable distribution に最も近く、`res_multistep + beta` は visual style がやや強調される。
 ### サンプル比較
@@ -74,9 +82,10 @@ Phased Consistency Model (PCM) 蒸留 LoRA for [Anima v1.0 base](https://hugging
 | Loss | Pseudo-Huber |
 | Optimizer | AdamW (lr 5e-6, wd 0.01) |
 | Grad clip | 1.0 |
 | Hardware | NVIDIA B200 (1 GPU) |
 | Training time | ~3.4 hours |
-| Cost | ~$18-22 (Modal) |
 ### Dataset
@@ -85,24 +94,49 @@ Anima v1.0 self-distillation cache (5000 caption × teacher x0 + crossattn embed
 - Caption pool: 10 prompts × 500 seeds, anime characters + scene
 - Precompute cost: ~$7-8 (B200, ~86 min)
 ## Limitations
-- **Base model 固定**: Anima v1.0 base 以外 (preview3、Civitai mix 等) では style drift が起こる
-- **Caption distribution narrow**: 10 prompt × 500 seed = 1500 unique seed pattern。データセットに含まれない構図 (大規模群衆、複雑な手指ポーズ等) は teacher より退化することがある
-- **4-step ハード制約**: 2 step や 8 step では同じ品質を保証しない (PCM は phase 端点で学習、N=50/K=4 で 4-step 想定)
-- **CFG=1.0 推奨**: 訓練時に CFG-aug w∈[4.0, 5.0] を embed しているので、推論時 CFG=1.0 で 4.5 相当の prompt fidelity が出る。CFG>1.0 を重ねると過剰
 ## License
 Apache-2.0
-Base model (Anima v1.0) のライセンスも併せて確認のこと: [circlestone-labs/Anima](https://huggingface.co/circlestone-labs/Anima).
 ## Citation
 PCM 元論文:
-```
 @article{wang2024phased,
   title={Phased Consistency Model},
   author={Wang, Fu-Yun and Huang, Zhaoyang and Bei, Bin and Shi, Xiaoyu and Liu, Xinyu and Tian, Yang and Yang, Yang and Li, Hongsheng},

 # Anima v1.0 — PCM 4-step Distillation LoRA
+⚠️ **非推奨 / Not Recommended**: 本 LoRA は生成品質が低く、実用には Civitai Anima Turbo を推奨。
+研究目的・失敗事例の参照用として公開。
+Phased Consistency Model (PCM) 蒸留 LoRA for [Anima v1.0 base](https://huggingface.co/circlestone-labs/Anima)。
+4-step / CFG=1.0 で生成可能だが、**視覚品質が公式 [Civitai Anima Turbo](https://civitai.com/models/2560840)
+や同 collection の DMDX に劣る**。
+## なぜ非推奨か
+- 5000 step 訓練を **数値的に完走** (loss 健全、divergence なし) したが、生成画像の品質が低い
+- 実用は **公式 Civitai Anima Turbo を直接使用** が確実
+詳細な失敗分析は [docs/pcm.md](https://huggingface.co/darask0/rapid-anima/blob/main/docs/pcm.md) 参照。
 ## Files
 | File | Format | Use |
 |---|---|---|
+| `pcm_final_peft.safetensors` | PEFT (diffusers) | 研究用 |
+| `pcm_final_comfy.safetensors` | ComfyUI LoRA | 研究用 |
 両者は同一の重み、フォーマット変換のみの違い。
+## Usage (ComfyUI、研究用)
 1. `pcm_final_comfy.safetensors` を `ComfyUI/models/loras/` に配置
 2. Anima v1.0 base workflow に `LoraLoaderModelOnly` を挿入、`strength_model: 1.0`
    - **cfg: 1.0**
    - sampler / scheduler: 下記サンプル比較を参照
+## Recommended Sampler (どちらも品質不足だが)
 | Sampler | Scheduler | 特徴 |
 |---|---|---|
 | `er_sde` | `simple` | やや softer、構図上半身寄り、生成 8.8s |
 | `res_multistep` | `beta` | anime style 強め、全身描画、生成 11.2s |
+両者とも 4-step CFG=1.0 で動作するが、品質的に Civitai Turbo / DMDX より劣る。
 ### サンプル比較
 | Loss | Pseudo-Huber |
 | Optimizer | AdamW (lr 5e-6, wd 0.01) |
 | Grad clip | 1.0 |
+| Warm-start | **無し** (cold-start) |
 | Hardware | NVIDIA B200 (1 GPU) |
 | Training time | ~3.4 hours |
+| Cost | ~$22 (Modal) |
 ### Dataset
 - Caption pool: 10 prompts × 500 seeds, anime characters + scene
 - Precompute cost: ~$7-8 (B200, ~86 min)
+## 失敗分析 (Lessons Learned)
+### 数値上は成功した
+- loss 0.001-0.007 で安定収束
+- mean collapse / NaN / OOM 全部なし
+- training pipeline は完璧に動作
+### しかし生成品質は低い
+推測される原因:
+1. **cold-start strategy が Anima 系では機能しない可能性**
+   - 公式 Turbo は warm-start が事実上必須
+   - 5000 sample dataset は cold-start には不十分かも
+2. **phase consistency loss だけでは style anchor が弱い**
+   - DMD2 系の adversarial signal や LADD の Smooth-L1 recon があれば改善可能性
+3. **CFG-augmentation embed が不完全**
+   - w∈[4.0, 5.0] embed が teacher CFG=4.5 の効果を完全再現していない
+### 改善方向 (将来検討)
+- warm-start (Civitai Turbo) を導入して semi-fine-tune に
+- データセット規模拡大 (5000 → 20000+)
+- adversarial loss (LADD style) との組合せ
+- 他手法 (DMD2、Hyper-SD) に切り替え
 ## Limitations
+- ❌ **生成品質が公式 Turbo / DMDX より劣る** — 主要な制約
+- Base model 固定 (Anima v1.0 以外では style drift)
+- 4-step ハード制約 (2 step / 8 step では同等品質保証なし)
+- CFG=1.0 推奨 (CFG>1.0 は過剰)
 ## License
 Apache-2.0
+Base model (Anima v1.0) のライセンスも併せて確認のこと:
+[circlestone-labs/Anima](https://huggingface.co/circlestone-labs/Anima)
 ## Citation
 PCM 元論文:
+```bibtex
 @article{wang2024phased,
   title={Phased Consistency Model},
   author={Wang, Fu-Yun and Huang, Zhaoyang and Bei, Bin and Shi, Xiaoyu and Liu, Xinyu and Tian, Yang and Yang, Yang and Li, Hongsheng},