zhang-xuefeng-data

license: other
license_name: research-only-see-disclaimer
language:
  - zh
task_categories:
  - text-generation
tags:
  - conversational
  - chinese
  - style-transfer
  - persona
  - sft
  - lora
size_categories:
  - 1K<n<10K
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train.parquet
      - split: validation
        path: data/validation.parquet
      - split: test
        path: data/test.parquet

张雪峰风格 SFT 语料（merged_turn）

把张雪峰高考升学直播/连麦录音经 角色感知 ASR → 多阶段清洗 → episode 构建 后整理成的对话式 SFT 语料，用于 风格/人设 微调（如数字人直播底座的 LoRA）。

目标是风格保真，不是事实准确。 模型作为数字人直播底座，输出经 TTS/数字人播出；事实应由下游 RAG/台本注入，本数据只负责"说话像他"和长程连贯。因此有意保留口语语域（口头禅、各位朋友/对吧、中英夹杂、修辞性反复）；只清理真噪声（ASR 同音字错误、病理性结巴）。

⚠️ 数据来源与合规声明（务必先读）

本数据集是对公开直播内容的自动语音识别转写经清洗整理而成，底层内容版权/肖像权属于原作者本人。
仅供学术研究与技术交流。是否可用于训练、再分发、商用，请使用者自行评估并遵守当地法律与平台条款；因使用本数据产生的任何责任由使用者承担。
转写经 ASR + LLM 多阶段处理，可能存在识别/纠错错误，不代表当事人真实言论；请勿据此对个人作事实性判断。
如权利人提出异议，请联系仓库维护者下线。

数据规模

split	行数
train	4823
validation	241
test	347
合计	5411

按直播场次切分（无泄漏）：train/valid/test 不共享同一场直播，跨 split 重复行 = 0。
两类样本：qa_merged_turn（家长/学生提问 → 张雪峰回答，碎轮次已合并）与 host_monologue_completion（独白补全）。
文件格式：parquet（schema 显式锁定，HF Data Studio 直接可视化）。

字段格式

字段	类型	说明
`id`	string	样本唯一 id
`type`	string	`qa_merged_turn` / `host_monologue_completion`
`messages`	list<{role, content}>	OpenAI messages 格式（system / user / assistant 多轮）
`meta.register`	string\|null	`livestream_selling`（带货话术）/ `standard` / null
`meta.diarization_confidence`	float	说话人分离置信度
`meta.sample_weight`	float	建议的样本权重（= 置信度）
`meta.source_run_key`	string	直播场次标识（split 溯源用）

messages[0] 是 system："你是张雪峰，按张雪峰本人风格回答升学规划、专业选择、就业和考研相关问题。" 训练时建议只对最后一个 assistant turn 计 loss，之前轮次作上下文。

使用建议（重要）

带货语域：约 57% 的行 meta.register == "livestream_selling"（直播带货话术，报链接/催单）。这是直播人设的一部分，有意保留；若要训练纯问答模型，请按该标签过滤或降权。
置信度加权：meta.sample_weight（= diarization 置信度）可用于按行加权 loss；低置信度行（<0.7，约 1.3%）可能有角色串扰，建议降权或丢弃。

from datasets import load_dataset
ds = load_dataset("england-lobster/zhang-xuefeng-data")

# 纯问答子集（过滤带货）
qa = ds["train"].filter(lambda r: r["meta"].get("register") != "livestream_selling")

已知局限

带货话术占多数（见上，按 register 过滤）。
独白 prompt 坍缩：独白样本多用同一句无主题 system/user prompt，条件化弱。
ASR 同音长尾：已用确定性专家词典修正已知高频错词（央国企←杨国旗、赋分←负分、APP←阿婆婆等），但低频、零散的同音误识别仍可能残留——这是 ASR 语料的天花板。
风格 ≠ 规整：口语口头禅是特征不是噪声，请勿按书面语标准"洗干净"。

数据构建流程（简述）

角色感知 ASR（NeMo diarization 区分 host→assistant / caller→user）→ 角色清洗 → 保守术语纠错 → episode 构建 + LLM 评审 → 最终 ASR 语义纠错 → 控场/带货抢救 → 对话结构分段 → merged_turn 视图。最后一道 确定性专家同音词典 作为后处理施加在成品上（与上游概率管线解耦，可复现、可审计）。

引用

@misc{zhang_xuefeng_style_sft,
  title  = {张雪峰风格 SFT 语料 (merged_turn)},
  author = {england-lobster},
  year   = {2026},
  howpublished = {\url{https://huggingface.co/datasets/england-lobster/zhang-xuefeng-data}}
}