--- license: mit language: - zh task_categories: - text-generation - translation tags: - chinese-classical - 古文 - 文言文 - benchmark - evaluation - llm size_categories: - n<1K configs: - config_name: translate data_files: translate.jsonl - config_name: punctuate data_files: punctuate.jsonl - config_name: char-gloss data_files: char_gloss.jsonl - config_name: idiom-source data_files: idiom_source.jsonl - config_name: fill-in data_files: fill_in.jsonl - config_name: compress data_files: compress.jsonl --- # Chinese Classical Bench 中国古典语言能力评测基准 — **6 个任务 × 100 题 = 600 道**，覆盖翻译、断句、字义、典故、续写填空、现代→文言压缩。 > 📊 **在线排行榜**: [🤗 Space — chinese-classical-bench-leaderboard](https://huggingface.co/spaces/gujilab/chinese-classical-bench-leaderboard) > 🔗 **评测代码 & runner**: [github.com/gujilab/chinese-classical-bench](https://github.com/gujilab/chinese-classical-bench) — eval runner（OpenAI 兼容端点）、打分器、排行榜聚合脚本 > 📦 **配套语料集**: [gujilab/chinese-classical-corpus](https://huggingface.co/datasets/gujilab/chinese-classical-corpus) (CC0 公有领域) — 题目均从该语料抽样生成 ## 为什么做这个 中文（尤其文言文）常被说成"高密度优势"。这套基础设施（bench + corpus + 4 个论点实证实验）想把这个论点变成可验证的数字 —— **包括它在哪些场景成立、在哪些场景不成立**。 ### Tokenizer 层面（实证） 7 个主流 tokenizer 横评（详见下方 [Tokenizer 横评章节](#tokenizer-横评实证文言文的-token-经济学)）： - 国产 tokenizer (Qwen / DeepSeek / GLM) 上**文言文 = 英文 0.57×、现代中文 0.69×** - 老 GPT-3.5/4 (cl100k_base) **对中文比英文还费 19% token** - 这一层的"省 token"是真的 ✓ ### Prompt / 任务层面（实证） 3 组下游实验（[experiments/](https://github.com/gujilab/chinese-classical-bench/tree/main/experiments)）： | 场景 | Token 节省 | 准确率 / 质量 | 结论 | |---|---|---|---| | **英文 prompt → 文言文 prompt** | **−74%** 字符 | **+2pp** 准确率 | **大赢** | | **现代中文 prompt → 文言文 prompt**（同任务） | −4.7% | **−11.3pp** | 不是 free lunch | | **典故 prompt vs 字面展开**（盲评 140 对） | −25% token | 字面赢 49% > 典故 38% | 省 token，质量有代价 | ### 校准结论 > Chinese 高密度 = 真的 **tokenizer-level 优势**，≠ **LLM-task-level free lunch**。 > 替换英文 prompt 大赢；替换现代中文或用典故压缩则省 token 但有质量代价。 > 详细数据：[prompt-compression](https://github.com/gujilab/chinese-classical-bench/blob/main/experiments/prompt-compression/report.md) / [idiom-prompting](https://github.com/gujilab/chinese-classical-bench/blob/main/experiments/idiom-prompting/report.md) ### 时间深度（未实证） 3000+ 年单一书写系统的跨时代训练信号 —— 尚未做 task，欢迎社区贡献。 --- 现状问题：训练语料古典占比极低，公开 benchmark（CMMLU / C-Eval）几乎只评白话，没人针对古典的"高密度短文本"优化 tokenizer 或评测体系。本评测 + 配套语料集是想把这条赛道做扎实的两个基础设施 —— 让 LLM 中文古典能力变得**可量化、可对比、可训练**。 具体到这个 bench，600 题在回答两个问题： 1. **哪些模型在中文古典任务上已经达到可用水平？** —— 给做古籍/教育/出版/法律/中医等应用的人选模型用 2. **不同能力维度（理解 / 操控 / 记忆 / 推理 / 压缩）的 ceiling 和 bottleneck 在哪？** —— 给训练/微调的人定方向用 ## 6 个任务 | config | 名称 | 题数 | 主要指标 | |--------|------|------|------| | `translate` | 古译今 | 100 | chrF (n=1..6, F2) + char-F1 | | `punctuate` | 断句加标点 | 100 | 标点位置 F1 + 字符保留率 | | `char-gloss` | 字义解释 | 100 | chrF (punct-stripped) + char-F1 | | `idiom-source` | 典故出处 | 100 | 书名 EM + 引文 chrF | | `fill-in` | 字词填空 | 100 | 单字精确匹配 | | `compress` | 现代汉语→文言压缩 | 100 | chrF × (1 − 输出/输入字符比) = **efficiency** | ## 数据格式 每行一条 JSON 记录，模型只看 `instruction + input`，输出与 `reference` 比较： ```json { "id": "translate#1", "task": "translate", "instruction": "将下列古文翻译成现代汉语：", "input": "周市军还去，田儋因率兵东略定齐地。", "reference": "周市的军队撤走以后，田儋乘机带兵东进，夺取并平定了齐国的土地。", "metadata": {"source": "史记·七十列传/田儋列传", "category": "史"} } ``` `metadata` 含评分需要的额外字段（如 `idiom-source` 的标准书名、`fill-in` 的被挖空位置）。任务详细说明见 [docs/tasks.md](https://github.com/gujilab/chinese-classical-bench/blob/main/docs/tasks.md)。 ## Quick Start ```python from datasets import load_dataset translate = load_dataset("gujilab/chinese-classical-bench", "translate", split="train") punctuate = load_dataset("gujilab/chinese-classical-bench", "punctuate", split="train") print(translate[0]) ``` 跑评测（需先启动一个 OpenAI / Anthropic 兼容端点）： ```bash git clone https://github.com/gujilab/chinese-classical-bench python scripts/eval_runner.py \ --model Qwen/Qwen3-7B-Instruct \ --base-url http://localhost:8000/v1 --api-key EMPTY --concurrency 8 python scripts/aggregate.py --out leaderboard.md ``` ## Leaderboard | Model | translate (chrF) | punctuate (Punct F1) | char-gloss (chrF) | idiom-source (Book EM) | fill-in (Exact) | compress (Eff) | Avg | |---|---|---|---|---|---|---|---| | **claude-opus-4-7** | **0.244** | **0.800** | **0.213** | 0.650 | 0.840 | 0.147 | **0.482** | | claude-opus-4-7-thinking | 0.242 | 0.790 | 0.207 | 0.630 | **0.870** | 0.091 | 0.472 | | claude-sonnet-4-6 | 0.231 | 0.785 | 0.157 | 0.560 | 0.700 | **0.163** | 0.432 | | deepseek-3.2 | 0.240 | 0.745 | 0.139 | **0.740** | 0.550 | **0.163** | 0.429 | | glm-5 | 0.241 | 0.799 | 0.176 | **0.740** | 0.440 | 0.153 | 0.425 | | minimax-m2.1 | 0.216 | 0.709 | 0.173 | 0.660 | 0.630 | 0.094 | 0.414 | | Qwen3.5-35B-A3B | 0.225 | 0.753 | 0.175 | 0.500 | 0.380 | — | 0.407 | | minimax-m2.5 | 0.219 | 0.709 | 0.161 | 0.550 | 0.590 | 0.092 | 0.387 | | qwen3-coder-next | 0.227 | 0.767 | 0.116 | 0.540 | 0.520 | 0.113 | 0.381 | | claude-haiku-4-5 | 0.204 | 0.729 | 0.128 | 0.340 | 0.350 | 0.087 | 0.306 | > `compress (Eff)` = chrF × (1 − 输出/输入字符比)，同时奖励压缩率和保真度。人类参考上限 ≈ 0.49。 **核心发现**： 1. **Claude Opus 4.7 接管榜首**（0.482）—— 5/6 项前三（翻译 / 断句 / 字义 / 单字填空 / 总分），仅典故记忆和压缩不是绝对最强。同代 Sonnet 4.6 仅 0.432、Haiku 4.5 仅 0.306 —— 说明"Claude 中文古典弱"是尺寸问题 2. **Thinking 模式整体退步** —— Opus 4.7 thinking (0.472) 6 项里 5 项更差。**压缩任务 thinking 崩塌（0.091 vs 0.147）**：thinking 把内容压成 ratio 0.26（人类 0.51），chrF 跌到 0.20。"力求简洁"指令下走过头，延长推理对"分寸"类任务有害 3. **压缩任务 Sonnet 4.6 / DeepSeek V3.2 并列第一（0.163）** —— 都把 ratio 维持在 ~0.52（人类基线 0.51），chrF 维持 0.35。GLM-5 (0.153) 紧随。**这个任务直接验证"中文古典作为信息密度工具"的可行性 —— 顶级模型已经能稳定输出 50% 压缩、保真度可接受的文言文** 4. **典故识别 GLM-5 已追平 DeepSeek** —— 并列 (0.74) > MiniMax-2.1 (0.66) > Opus 4.7 (0.65) 5. **fill-in（单字填空）Claude 全家通吃** —— Opus thinking 0.87 / Opus 0.84 / Sonnet 0.70 / DeepSeek 0.55 6. **GLM-5（0.425）/ DeepSeek（0.429）/ Sonnet 4.6（0.432）三家咬得很紧** —— 三家平均分仅差 0.007，国产开源在中文古典上已经平视 Claude 中端 7. **MiniMax M2.1 → M2.5 是中文古典 retrograde** —— 新版 m2.5 (0.387) 反而低于老版 m2.1 (0.414) > 欢迎提交其他模型结果 —— 在 [GitHub 仓库](https://github.com/gujilab/chinese-classical-bench) 开 PR 把 `results/.json` 加进来即可。 ### 关于分数 - `chrF` 是字符级 n-gram F2 分数（n=1..6），同义改写会扣分但语义对的话主要靠 `char_f1` 兜底 - **`chrF` 与 LLM-as-judge 相关性 moderate** — Claude Opus 4.7 对 5 模型 × 1000 道题重打分（[experiments/llm-judge](https://github.com/gujilab/chinese-classical-bench/blob/main/experiments/llm-judge/report.md)）：translate Pearson +0.46 / char-gloss +0.47。**chrF 是方向正确的下限，不是质量指标**。Judge 重排后 Sonnet 4.6 上升、GLM-5 下降 —— 当前 chrF leaderboard 排名需要结合 judge 分数解读 - `idiom-source` 的 Book EM 较宽松：模型答 "《史记》" 就算对，不要求卷次/篇名匹配 - `fill-in` 单字答案，模型能从带引号或单字输出中抽取 ## Tokenizer 横评（实证文言文的 token 经济学） 为了量化"中文古典 = 高密度语言"这个论点，我们做了一个独立的 tokenizer 横评：30 对文言文 + 现代中文 + 英文翻译三联对照，跑过 7 个主流 tokenizer（详见 [tokenizer_study/report.md](https://github.com/gujilab/chinese-classical-bench/blob/main/tokenizer_study/report.md)）。 | Tokenizer | 文言文 | 现代中文 | 英文 | 文言/英文 | |---|---|---|---|---| | 🥇 **Qwen2.5 / Qwen3** | 52.0 | 64.6 | 91.2 | **0.57×** | | 🥇 **DeepSeek-V3** | 51.2 | 61.1 | 89.3 | **0.57×** | | **GLM-4** | 52.3 | 63.2 | 90.9 | **0.58×** | | **Yi-1.5** | 57.7 | 68.7 | 95.4 | **0.60×** | | **GPT-4o (o200k_base)** | 57.6 | 76.3 | 89.0 | **0.65×** | | **GPT-3.5/4 (cl100k_base)** | 79.4 | 108.6 | 91.0 | **0.87×** | **关键发现**： - 国产 tokenizer (Qwen / DeepSeek / GLM / Yi) 对文言文 ≈ **英文的 57%** - 老 GPT-3.5/4 (cl100k_base) **对现代中文反而比英文还费 19% token**（1.19×）—— 老 GPT 用户为中文付了双倍的钱 - 用 DeepSeek-V3 tokenizer，1000 个英文 token ≈ 685 现代中文 token ≈ **574 文言文 token** —— **用文言文做 prompt 压缩可降本 ~45%** ## 已知 limitation - `translate` / `char-gloss` 用 chrF 评分，对同义改写过严 — **已加 LLM judge 实验**（[experiments/llm-judge](https://github.com/gujilab/chinese-classical-bench/blob/main/experiments/llm-judge/report.md)，Pearson 0.46-0.47，建议结合使用） - 题目均从配套 corpus 抽样，可能与某些模型的训练数据有重合污染（开源模型大多训练过《十三经》《史记》） - 100 题/task 是 trade-off：太少噪声大，太多跑评测贵 — 后续可能扩到 200/task ## License 题目和评分代码：**MIT**。源数据来自 [chinese-classical-corpus](https://huggingface.co/datasets/gujilab/chinese-classical-corpus) (CC0)。