| --- |
| license: other |
| license_name: research-only-see-disclaimer |
| language: |
| - zh |
| task_categories: |
| - text-generation |
| tags: |
| - conversational |
| - chinese |
| - style-transfer |
| - persona |
| - sft |
| - lora |
| size_categories: |
| - 1K<n<10K |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: data/train.parquet |
| - split: validation |
| path: data/validation.parquet |
| - split: test |
| path: data/test.parquet |
| --- |
| |
| # 张雪峰风格 SFT 语料（merged_turn） |
| |
| 把张雪峰高考升学直播/连麦录音经 **角色感知 ASR → 多阶段清洗 → episode 构建** 后整理成的 |
| 对话式 SFT 语料，用于 **风格/人设** 微调（如数字人直播底座的 LoRA）。 |
| |
| > **目标是风格保真，不是事实准确。** 模型作为数字人直播底座，输出经 TTS/数字人播出； |
| > 事实应由下游 RAG/台本注入，本数据只负责"说话像他"和长程连贯。因此**有意保留**口语语域 |
| > （口头禅、各位朋友/对吧、中英夹杂、修辞性反复）；只清理真噪声（ASR 同音字错误、病理性结巴）。 |
| |
| ## ⚠️ 数据来源与合规声明（务必先读） |
| |
| - 本数据集是对**公开直播内容**的自动语音识别转写经清洗整理而成，**底层内容版权/肖像权属于原作者本人**。 |
| - 仅供**学术研究与技术交流**。是否可用于训练、再分发、商用，请使用者**自行评估并遵守当地法律与平台条款**； |
| 因使用本数据产生的任何责任由使用者承担。 |
| - 转写经 ASR + LLM 多阶段处理，**可能存在识别/纠错错误**，不代表当事人真实言论；请勿据此对个人作事实性判断。 |
| - 如权利人提出异议，请联系仓库维护者下线。 |
| |
| ## 数据规模 |
| |
| | split | 行数 | |
| |---|---| |
| | train | 4823 | |
| | validation | 241 | |
| | test | 347 | |
| | **合计** | **5411** | |
| |
| - **按直播场次切分（无泄漏）**：train/valid/test 不共享同一场直播，跨 split 重复行 = 0。 |
| - 两类样本：`qa_merged_turn`（家长/学生提问 → 张雪峰回答，碎轮次已合并）与 |
| `host_monologue_completion`（独白补全）。 |
| - 文件格式：**parquet**（schema 显式锁定，HF Data Studio 直接可视化）。 |
| |
| ## 字段格式 |
| |
| | 字段 | 类型 | 说明 | |
| |---|---|---| |
| | `id` | string | 样本唯一 id | |
| | `type` | string | `qa_merged_turn` / `host_monologue_completion` | |
| | `messages` | list<{role, content}> | OpenAI messages 格式（system / user / assistant 多轮） | |
| | `meta.register` | string\|null | `livestream_selling`（带货话术）/ `standard` / null | |
| | `meta.diarization_confidence` | float | 说话人分离置信度 | |
| | `meta.sample_weight` | float | 建议的样本权重（= 置信度） | |
| | `meta.source_run_key` | string | 直播场次标识（split 溯源用） | |
|
|
| `messages[0]` 是 system："你是张雪峰，按张雪峰本人风格回答升学规划、专业选择、就业和考研相关问题。" |
| 训练时建议**只对最后一个 assistant turn 计 loss**，之前轮次作上下文。 |
|
|
| ## 使用建议（重要） |
|
|
| - **带货语域**：约 57% 的行 `meta.register == "livestream_selling"`（直播带货话术，报链接/催单）。 |
| 这是直播人设的一部分，**有意保留**；若要训练**纯问答**模型，请按该标签**过滤或降权**。 |
| - **置信度加权**：`meta.sample_weight`（= diarization 置信度）可用于按行加权 loss；低置信度行 |
| （<0.7，约 1.3%）可能有角色串扰，建议降权或丢弃。 |
|
|
| ```python |
| from datasets import load_dataset |
| ds = load_dataset("england-lobster/zhang-xuefeng-data") |
| |
| # 纯问答子集（过滤带货） |
| qa = ds["train"].filter(lambda r: r["meta"].get("register") != "livestream_selling") |
| ``` |
|
|
| ## 已知局限 |
|
|
| 1. **带货话术占多数**（见上，按 `register` 过滤）。 |
| 2. **独白 prompt 坍缩**：独白样本多用同一句无主题 system/user prompt，条件化弱。 |
| 3. **ASR 同音长尾**：已用确定性专家词典修正已知高频错词（央国企←杨国旗、赋分←负分、APP←阿婆婆 等）， |
| 但低频、零散的同音误识别仍可能残留——这是 ASR 语料的天花板。 |
| 4. **风格 ≠ 规整**：口语口头禅是特征不是噪声，请勿按书面语标准"洗干净"。 |
|
|
| ## 数据构建流程（简述） |
|
|
| 角色感知 ASR（NeMo diarization 区分 host→assistant / caller→user）→ 角色清洗 → 保守术语纠错 |
| → episode 构建 + LLM 评审 → 最终 ASR 语义纠错 → 控场/带货抢救 → 对话结构分段 → merged_turn 视图。 |
| 最后一道 **确定性专家同音词典** 作为后处理施加在成品上（与上游概率管线解耦，可复现、可审计）。 |
| |
| ## 引用 |
| |
| ```bibtex |
| @misc{zhang_xuefeng_style_sft, |
| title = {张雪峰风格 SFT 语料 (merged_turn)}, |
| author = {england-lobster}, |
| year = {2026}, |
| howpublished = {\url{https://huggingface.co/datasets/england-lobster/zhang-xuefeng-data}} |
| } |
| ``` |
| |
