zion commited on
Commit
a78cf34
·
1 Parent(s): b41eb71

README: replace 'free lunch' claim with empirical experiment results

Browse files

- vs English prompt: big win
- vs Modern Chinese prompt: -11.3pp accuracy loss
- Idiom prompting: -25% tokens but quality cost
- chrF correlates only +0.46 with LLM judge

Files changed (1) hide show
  1. README.md +28 -6
README.md CHANGED
@@ -39,13 +39,34 @@ configs:
39
 
40
  ## 为什么做这个
41
 
42
- 短答:**中文(尤其文言文) LLM 时代有一被严重低估优势 —— 信息密度。**
43
 
44
- - **Token 经济学**:同一句话的文言文表达,token 数约为现代英文的 1/2,比现代白话还再压缩 30-40%。在 1M 上下文卷成本的今天,这是 free lunch**测数据见 [Tokenizer 横评](https://github.com/gujilab/chinese-classical-bench/blob/main/tokenizer_study/report.md)**:DeepSeek-V3 tokenizer 上文言文是英文 0.57×、现代中文 0.69×;老 GPT-3.5/4 cl100k_base 对中文反而比英文还费 19% token
45
- - **典故 = 语义级 RAG 压缩**:"图穷匕"四字承载一整段故事 —— 典故是嵌在语、人类沉淀 2000+ 年的"超浓缩 token",英文几乎没有等价机制
46
- - **3000+ 年单一书写系统**:跨时代知识图谱、概念演化建模、长时间窗本相似度学习,所需的时间深度训练信号只有中文
 
 
47
 
48
- 但现状是:训练语料古典占比极低,公开 benchmark(CMMLU / C-Eval)几乎只评白话,没人针对古典的"高密度短文本"优化 tokenizer 或评测体系。本评测 + 配套语料集是想把这条赛道做扎的两个基础设施 —— 让 LLM 中文古典能力变得**可量化、可对比、可训练**。
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
49
 
50
  具体到这个 bench,600 题在回答两个问题:
51
 
@@ -132,6 +153,7 @@ python scripts/aggregate.py --out leaderboard.md
132
  ### 关于分数
133
 
134
  - `chrF` 是字符级 n-gram F2 分数(n=1..6),同义改写会扣分但语义对的话主要靠 `char_f1` 兜底
 
135
  - `idiom-source` 的 Book EM 较宽松:模型答 "《史记》" 就算对,不要求卷次/篇名匹配
136
  - `fill-in` 单字答案,模型能从带引号或单字输出中抽取
137
 
@@ -156,7 +178,7 @@ python scripts/aggregate.py --out leaderboard.md
156
 
157
  ## 已知 limitation
158
 
159
- - `translate` / `char-gloss` 用 chrF 评分,对同义改写过严 — 后续会加 LLM judge
160
  - 题目均从配套 corpus 抽样,可能与某些模型的训练数据有重合污染(开源模型大多训练过《十三经》《史记》)
161
  - 100 题/task 是 trade-off:太少噪声大,太多跑评测贵 — 后续可能扩到 200/task
162
 
 
39
 
40
  ## 为什么做这个
41
 
42
+ 中文(尤其文言文)常被说成"高密度优势"。这套基础设施(bench + corpus + 4 论点实证实验)想把这个论点变成可验证数字 —— **包括它在哪些场景成立、在哪些场景不成立**。
43
 
44
+ ### Tokenizer 层面(实
45
+ 7 个主流 tokenizer 横评(详下方 [Tokenizer 横评章节](#tokenizer-横评实证文-token-经济学)):
46
+ - 国产 tokenizer (Qwen / DeepSeek / GLM) 上**文言文 = 英文 0.57×、现代中文 0.69×**
47
+ - 老 GPT-3.5/4 (cl100k_base) **对中文比英文还费 19% token**
48
+ - 这一层的"省 token"是真的 ✓
49
 
50
+ ### Prompt / 任务层面(证)
51
+ 3 组下游实验([experiments/](https://github.com/gujilab/chinese-classical-bench/tree/main/experiments)):
52
+
53
+ | 场景 | Token 节省 | 准确率 / 质量 | 结论 |
54
+ |---|---|---|---|
55
+ | **英文 prompt → 文言文 prompt** | **−74%** 字符 | **+2pp** 准确率 | **大赢** |
56
+ | **现代中文 prompt → 文言文 prompt**(同任务) | −4.7% | **−11.3pp** | 不是 free lunch |
57
+ | **典故 prompt vs 字面展开**(盲评 140 对) | −25% token | 字面赢 49% > 典故 38% | 省 token,质量有代价 |
58
+
59
+ ### 校准结论
60
+ > Chinese 高密度 = 真的 **tokenizer-level 优势**,≠ **LLM-task-level free lunch**。
61
+ > 替换英文 prompt 大赢;替换现代中文或用典故压缩则省 token 但有质量代价。
62
+ > 详细数据:[prompt-compression](https://github.com/gujilab/chinese-classical-bench/blob/main/experiments/prompt-compression/report.md) / [idiom-prompting](https://github.com/gujilab/chinese-classical-bench/blob/main/experiments/idiom-prompting/report.md)
63
+
64
+ ### 时间深度(未实证)
65
+ 3000+ 年单一书写系统的跨时代训练信号 —— 尚未做 task,欢迎社区贡献。
66
+
67
+ ---
68
+
69
+ 现状问题:训练语料古典占比极低,公开 benchmark(CMMLU / C-Eval)几乎只评白话,没人针对古典的"高密度短文本"优化 tokenizer 或评测体系。本评测 + 配套语料集是想把这条赛道做扎实的两个基础设施 —— 让 LLM 中文古典能力变得**可量化、可对比、可训练**。
70
 
71
  具体到这个 bench,600 题在回答两个问题:
72
 
 
153
  ### 关于分数
154
 
155
  - `chrF` 是字符级 n-gram F2 分数(n=1..6),同义改写会扣分但语义对的话主要靠 `char_f1` 兜底
156
+ - **`chrF` 与 LLM-as-judge 相关性 moderate** — Claude Opus 4.7 对 5 模型 × 1000 道题重打分([experiments/llm-judge](https://github.com/gujilab/chinese-classical-bench/blob/main/experiments/llm-judge/report.md)):translate Pearson +0.46 / char-gloss +0.47。**chrF 是方向正确的下限,不是质量指标**。Judge 重排后 Sonnet 4.6 上升、GLM-5 下降 —— 当前 chrF leaderboard 排名需要结合 judge 分数解读
157
  - `idiom-source` 的 Book EM 较宽松:模型答 "《史记》" 就算对,不要求卷次/篇名匹配
158
  - `fill-in` 单字答案,模型能从带引号或单字输出中抽取
159
 
 
178
 
179
  ## 已知 limitation
180
 
181
+ - `translate` / `char-gloss` 用 chrF 评分,对同义改写过严 — **已加 LLM judge 实验**([experiments/llm-judge](https://github.com/gujilab/chinese-classical-bench/blob/main/experiments/llm-judge/report.md),Pearson 0.46-0.47,建议结合使用)
182
  - 题目均从配套 corpus 抽样,可能与某些模型的训练数据有重合污染(开源模型大多训练过《十三经》《史记》)
183
  - 100 题/task 是 trade-off:太少噪声大,太多跑评测贵 — 后续可能扩到 200/task
184