zion commited on
Commit ·
a78cf34
1
Parent(s): b41eb71
README: replace 'free lunch' claim with empirical experiment results
Browse files- vs English prompt: big win
- vs Modern Chinese prompt: -11.3pp accuracy loss
- Idiom prompting: -25% tokens but quality cost
- chrF correlates only +0.46 with LLM judge
README.md
CHANGED
|
@@ -39,13 +39,34 @@ configs:
|
|
| 39 |
|
| 40 |
## 为什么做这个
|
| 41 |
|
| 42 |
-
|
| 43 |
|
| 44 |
-
|
| 45 |
-
|
| 46 |
-
-
|
|
|
|
|
|
|
| 47 |
|
| 48 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 49 |
|
| 50 |
具体到这个 bench,600 题在回答两个问题:
|
| 51 |
|
|
@@ -132,6 +153,7 @@ python scripts/aggregate.py --out leaderboard.md
|
|
| 132 |
### 关于分数
|
| 133 |
|
| 134 |
- `chrF` 是字符级 n-gram F2 分数(n=1..6),同义改写会扣分但语义对的话主要靠 `char_f1` 兜底
|
|
|
|
| 135 |
- `idiom-source` 的 Book EM 较宽松:模型答 "《史记》" 就算对,不要求卷次/篇名匹配
|
| 136 |
- `fill-in` 单字答案,模型能从带引号或单字输出中抽取
|
| 137 |
|
|
@@ -156,7 +178,7 @@ python scripts/aggregate.py --out leaderboard.md
|
|
| 156 |
|
| 157 |
## 已知 limitation
|
| 158 |
|
| 159 |
-
- `translate` / `char-gloss` 用 chrF 评分,对同义改写过严 —
|
| 160 |
- 题目均从配套 corpus 抽样,可能与某些模型的训练数据有重合污染(开源模型大多训练过《十三经》《史记》)
|
| 161 |
- 100 题/task 是 trade-off:太少噪声大,太多跑评测贵 — 后续可能扩到 200/task
|
| 162 |
|
|
|
|
| 39 |
|
| 40 |
## 为什么做这个
|
| 41 |
|
| 42 |
+
中文(尤其文言文)常被说成"高密度优势"。这套基础设施(bench + corpus + 4 个论点实证实验)想把这个论点变成可验证的数字 —— **包括它在哪些场景成立、在哪些场景不成立**。
|
| 43 |
|
| 44 |
+
### Tokenizer 层面(实证)
|
| 45 |
+
7 个主流 tokenizer 横评(详见下方 [Tokenizer 横评章节](#tokenizer-横评实证文言文的-token-经济学)):
|
| 46 |
+
- 国产 tokenizer (Qwen / DeepSeek / GLM) 上**文言文 = 英文 0.57×、现代中文 0.69×**
|
| 47 |
+
- 老 GPT-3.5/4 (cl100k_base) **对中文比英文还费 19% token**
|
| 48 |
+
- 这一层的"省 token"是真的 ✓
|
| 49 |
|
| 50 |
+
### Prompt / 任务层面(实证)
|
| 51 |
+
3 组下游实验([experiments/](https://github.com/gujilab/chinese-classical-bench/tree/main/experiments)):
|
| 52 |
+
|
| 53 |
+
| 场景 | Token 节省 | 准确率 / 质量 | 结论 |
|
| 54 |
+
|---|---|---|---|
|
| 55 |
+
| **英文 prompt → 文言文 prompt** | **−74%** 字符 | **+2pp** 准确率 | **大赢** |
|
| 56 |
+
| **现代中文 prompt → 文言文 prompt**(同任务) | −4.7% | **−11.3pp** | 不是 free lunch |
|
| 57 |
+
| **典故 prompt vs 字面展开**(盲评 140 对) | −25% token | 字面赢 49% > 典故 38% | 省 token,质量有代价 |
|
| 58 |
+
|
| 59 |
+
### 校准结论
|
| 60 |
+
> Chinese 高密度 = 真的 **tokenizer-level 优势**,≠ **LLM-task-level free lunch**。
|
| 61 |
+
> 替换英文 prompt 大赢;替换现代中文或用典故压缩则省 token 但有质量代价。
|
| 62 |
+
> 详细数据:[prompt-compression](https://github.com/gujilab/chinese-classical-bench/blob/main/experiments/prompt-compression/report.md) / [idiom-prompting](https://github.com/gujilab/chinese-classical-bench/blob/main/experiments/idiom-prompting/report.md)
|
| 63 |
+
|
| 64 |
+
### 时间深度(未实证)
|
| 65 |
+
3000+ 年单一书写系统的跨时代训练信号 —— 尚未做 task,欢迎社区贡献。
|
| 66 |
+
|
| 67 |
+
---
|
| 68 |
+
|
| 69 |
+
现状问题:训练语料古典占比极低,公开 benchmark(CMMLU / C-Eval)几乎只评白话,没人针对古典的"高密度短文本"优化 tokenizer 或评测体系。本评测 + 配套语料集是想把这条赛道做扎实的两个基础设施 —— 让 LLM 中文古典能力变得**可量化、可对比、可训练**。
|
| 70 |
|
| 71 |
具体到这个 bench,600 题在回答两个问题:
|
| 72 |
|
|
|
|
| 153 |
### 关于分数
|
| 154 |
|
| 155 |
- `chrF` 是字符级 n-gram F2 分数(n=1..6),同义改写会扣分但语义对的话主要靠 `char_f1` 兜底
|
| 156 |
+
- **`chrF` 与 LLM-as-judge 相关性 moderate** — Claude Opus 4.7 对 5 模型 × 1000 道题重打分([experiments/llm-judge](https://github.com/gujilab/chinese-classical-bench/blob/main/experiments/llm-judge/report.md)):translate Pearson +0.46 / char-gloss +0.47。**chrF 是方向正确的下限,不是质量指标**。Judge 重排后 Sonnet 4.6 上升、GLM-5 下降 —— 当前 chrF leaderboard 排名需要结合 judge 分数解读
|
| 157 |
- `idiom-source` 的 Book EM 较宽松:模型答 "《史记》" 就算对,不要求卷次/篇名匹配
|
| 158 |
- `fill-in` 单字答案,模型能从带引号或单字输出中抽取
|
| 159 |
|
|
|
|
| 178 |
|
| 179 |
## 已知 limitation
|
| 180 |
|
| 181 |
+
- `translate` / `char-gloss` 用 chrF 评分,对同义改写过严 — **已加 LLM judge 实验**([experiments/llm-judge](https://github.com/gujilab/chinese-classical-bench/blob/main/experiments/llm-judge/report.md),Pearson 0.46-0.47,建议结合使用)
|
| 182 |
- 题目均从配套 corpus 抽样,可能与某些模型的训练数据有重合污染(开源模型大多训练过《十三经》《史记》)
|
| 183 |
- 100 题/task 是 trade-off:太少噪声大,太多跑评测贵 — 后续可能扩到 200/task
|
| 184 |
|