---
language:
- ja
license: cc-by-4.0
task_categories:
- audio-to-audio
- automatic-speech-recognition
tags:
- dialect
- japanese
- osaka
- kumamoto
- speech-to-speech
- interleaved
---

# dialect-to-standard-ja-speech

方言音声（関西弁・熊本弁）→ 標準語「テキスト＋音声」を同時生成するモデルの学習データセット。

**Hack the Liquid WAY 2026 — Track 2 / チーム山口**

[`dialect-to-standard-ja`](https://huggingface.co/datasets/YujiYamaguchi/dialect-to-standard-ja)
（方言音声→標準語テキストのみ）の発展版。各ペアの標準語ラベルに、テキストに加えて
edge-tts で合成した標準語音声を持たせ、`InterleavedSegment`
（テキストと音声フレームを交互配置する専用データ型）として
[liquid-audio](https://github.com/Liquid4All/liquid-audio) の `generate_interleaved` の
出力パターンと一致する形式に前処理済み（モデル学習にそのまま投入できる Arrow 形式、
LFM2.5-Audio-1.5B-JP のトークナイザ・Mimi コーデックでエンコード済み）。

## データ構成

- 大阪弁 + 熊本弁 = **計2,600件**
- 分割: train 2,077 / val 260 / test 258（seed=42、`dialect-to-standard-ja` と同一split）
- 形式: HuggingFace Datasets（Arrow、前処理済みテンソル）

### カラム

| カラム | 説明 |
|--------|------|
| `text` | トークンID列（システムプロンプト＋方言テキスト＋標準語テキストを含む対話） |
| `audio_in` | 入力（方言）音声の特徴量 |
| `audio_in_lens` | 入力音声の長さ |
| `audio_out` | 出力（標準語）音声の Mimi コードブック列（8系統、`InterleavedSegment` でテキストと交互配置） |
| `modality_flag` | 各トークン位置がテキスト/音声のどちらかを示すフラグ |
| `supervision_mask` | 損失計算の対象トークンを示すマスク |

テキストペア（方言テキスト → 標準語テキスト）は
[`dialect-to-standard-ja`](https://huggingface.co/datasets/YujiYamaguchi/dialect-to-standard-ja)
の `dialect_standard_pairs.jsonl` と共通です。標準語音声はそのテキストを
edge-tts（`ja-JP-NanamiNeural`）で合成したものです。

## 元データ出典

- [`federerjiang/dialect.osaka`](https://huggingface.co/datasets/federerjiang/dialect.osaka)
- [`federerjiang/dialect.kumamoto`](https://huggingface.co/datasets/federerjiang/dialect.kumamoto)

標準語テキストは Qwen3-32B、標準語音声は edge-tts（`data/prepare_conversion_audio2audio.py`）で
自動生成しました。

## 関連リソース

- LoRA アダプタ: [`YujiYamaguchi/lfm25-audio-jp-dialect-audio2audio-lora`](https://huggingface.co/YujiYamaguchi/lfm25-audio-jp-dialect-audio2audio-lora)
- テキストのみ変換版データセット: [`YujiYamaguchi/dialect-to-standard-ja`](https://huggingface.co/datasets/YujiYamaguchi/dialect-to-standard-ja)
- コード: [GitHub](https://github.com/YujiYamaguchi/hack-the-liquid-way-202606)