---
license: other
license_name: research-only-see-disclaimer
language:
- zh
task_categories:
- text-generation
tags:
- conversational
- chinese
- style-transfer
- persona
- sft
- lora
size_categories:
- 1K<n<10K
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train.parquet
  - split: validation
    path: data/validation.parquet
  - split: test
    path: data/test.parquet
---

# 张雪峰风格 SFT 语料（merged_turn）

把张雪峰高考升学直播/连麦录音经 **角色感知 ASR → 多阶段清洗 → episode 构建** 后整理成的
对话式 SFT 语料，用于 **风格/人设** 微调（如数字人直播底座的 LoRA）。

> **目标是风格保真，不是事实准确。** 模型作为数字人直播底座，输出经 TTS/数字人播出；
> 事实应由下游 RAG/台本注入，本数据只负责"说话像他"和长程连贯。因此**有意保留**口语语域
> （口头禅、各位朋友/对吧、中英夹杂、修辞性反复）；只清理真噪声（ASR 同音字错误、病理性结巴）。

## ⚠️ 数据来源与合规声明（务必先读）

- 本数据集是对**公开直播内容**的自动语音识别转写经清洗整理而成，**底层内容版权/肖像权属于原作者本人**。
- 仅供**学术研究与技术交流**。是否可用于训练、再分发、商用，请使用者**自行评估并遵守当地法律与平台条款**；
  因使用本数据产生的任何责任由使用者承担。
- 转写经 ASR + LLM 多阶段处理，**可能存在识别/纠错错误**，不代表当事人真实言论；请勿据此对个人作事实性判断。
- 如权利人提出异议，请联系仓库维护者下线。

## 数据规模

| split | 行数 |
|---|---|
| train | 4823 |
| validation | 241 |
| test | 347 |
| **合计** | **5411** |

- **按直播场次切分（无泄漏）**：train/valid/test 不共享同一场直播，跨 split 重复行 = 0。
- 两类样本：`qa_merged_turn`（家长/学生提问 → 张雪峰回答，碎轮次已合并）与
  `host_monologue_completion`（独白补全）。
- 文件格式：**parquet**（schema 显式锁定，HF Data Studio 直接可视化）。

## 字段格式

| 字段 | 类型 | 说明 |
|---|---|---|
| `id` | string | 样本唯一 id |
| `type` | string | `qa_merged_turn` / `host_monologue_completion` |
| `messages` | list<{role, content}> | OpenAI messages 格式（system / user / assistant 多轮） |
| `meta.register` | string\|null | `livestream_selling`（带货话术）/ `standard` / null |
| `meta.diarization_confidence` | float | 说话人分离置信度 |
| `meta.sample_weight` | float | 建议的样本权重（= 置信度） |
| `meta.source_run_key` | string | 直播场次标识（split 溯源用） |

`messages[0]` 是 system："你是张雪峰，按张雪峰本人风格回答升学规划、专业选择、就业和考研相关问题。"
训练时建议**只对最后一个 assistant turn 计 loss**，之前轮次作上下文。

## 使用建议（重要）

- **带货语域**：约 57% 的行 `meta.register == "livestream_selling"`（直播带货话术，报链接/催单）。
  这是直播人设的一部分，**有意保留**；若要训练**纯问答**模型，请按该标签**过滤或降权**。
- **置信度加权**：`meta.sample_weight`（= diarization 置信度）可用于按行加权 loss；低置信度行
  （<0.7，约 1.3%）可能有角色串扰，建议降权或丢弃。

```python
from datasets import load_dataset
ds = load_dataset("england-lobster/zhang-xuefeng-data")

# 纯问答子集（过滤带货）
qa = ds["train"].filter(lambda r: r["meta"].get("register") != "livestream_selling")
```

## 已知局限

1. **带货话术占多数**（见上，按 `register` 过滤）。
2. **独白 prompt 坍缩**：独白样本多用同一句无主题 system/user prompt，条件化弱。
3. **ASR 同音长尾**：已用确定性专家词典修正已知高频错词（央国企←杨国旗、赋分←负分、APP←阿婆婆 等），
   但低频、零散的同音误识别仍可能残留——这是 ASR 语料的天花板。
4. **风格 ≠ 规整**：口语口头禅是特征不是噪声，请勿按书面语标准"洗干净"。

## 数据构建流程（简述）

角色感知 ASR（NeMo diarization 区分 host→assistant / caller→user）→ 角色清洗 → 保守术语纠错
→ episode 构建 + LLM 评审 → 最终 ASR 语义纠错 → 控场/带货抢救 → 对话结构分段 → merged_turn 视图。
最后一道 **确定性专家同音词典** 作为后处理施加在成品上（与上游概率管线解耦，可复现、可审计）。

## 引用

```bibtex
@misc{zhang_xuefeng_style_sft,
  title  = {张雪峰风格 SFT 语料 (merged_turn)},
  author = {england-lobster},
  year   = {2026},
  howpublished = {\url{https://huggingface.co/datasets/england-lobster/zhang-xuefeng-data}}
}
```