metadata
license: mit
language:
- zh
task_categories:
- text-generation
tags:
- finweb
- finweb-edu
- zhtw
- taiwan
- education
size_categories:
- 100K<n<1M
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
Dataset Card for fineweb-edu-zhtw-sm
📚 fineweb-edu-zhtw-sm 是 lianghsun/fineweb-edu-zhtw 的小型子集，保留與母資料集相同的欄位與篩選邏輯，但檔案數量縮小，方便使用者進行快速試跑、原型驗證或小規模微調實驗。
Dataset Details
Dataset Description
fineweb-edu-zhtw-sm 是 fineweb-edu-zhtw 的取樣版本，用於下列情境：
- 在訓練 pipeline 上做煙霧測試（smoke test）。
- 評估 tokenization、清理、loss curve 等而不需要載入完整資料集。
- 教學或 demo 用途，提供與正式版完全相同的 schema 但更小的檔案量。
每筆樣本包含原始網頁文本、原始 metadata（dump 名稱、URL、日期、語言等）以及在 fineweb pipeline 中加上的品質指標。
- Curated by: Huang Liang Hsun
- Language(s) (NLP): Traditional Chinese
- License: MIT
Dataset Sources
- Repository: lianghsun/fineweb-edu-zhtw-sm
- Parent dataset: lianghsun/fineweb-edu-zhtw
- Paper: TBA
Uses
Direct Use
- 預訓練 / 持續預訓練 pipeline 的快速驗證。
- 教學與 demo：示範繁中教育類語料的格式與內容。
- 小規模 ablation 實驗。
Out-of-Scope Use
- 不適合作為主要的預訓練語料來源，請改用完整版 fineweb-edu-zhtw。
Dataset Structure
{
"text": "...",
"id": "<urn:uuid:...>",
"metadata": {
"avg_words_per_line": 12.3,
"date": "2024-09-01",
"dump": "CC-MAIN-2024-38",
"file_path": "...",
"language": "zh",
"language_score": 0.98,
"token_count": 1234,
"url": "https://example.com/..."
}
}
詳細欄位定義與母資料集相同，請參考 fineweb-edu-zhtw。
Dataset Creation
Curation Rationale
完整版 fineweb-edu-zhtw 約 8GB，在許多 PoC、教學、CI/CD 場景中過於龐大。本子集刻意取樣到較小規模，方便快速嘗試。
Source Data
Data Collection and Processing
直接從 fineweb-edu-zhtw 取得隨機取樣後的子集，未額外重新過濾。
Who are the source data producers?
與母資料集相同：來自 Common Crawl 之繁體中文網頁，經 fineweb 與 fineweb-edu-zhtw classifier 過濾。
Annotations
Annotation process
無額外標註；保留母資料集的 metadata 欄位。
Who are the annotators?
無人工標註者。
Personal and Sensitive Information
資料為公開網頁內容，與母資料集處理一致。
Bias, Risks, and Limitations
- 由於採樣隨機，子集的領域分布不必與母集完全一致。
- 規模偏小，無法用於需要大量資料的實驗（如完整 pretraining）。
Recommendations
僅作 PoC、教學、CI 用；正式訓練請改用 fineweb-edu-zhtw。
Citation
@misc{fineweb_edu_zhtw_sm,
title = {fineweb-edu-zhtw-sm: Small Subset of FineWeb-Edu-zhtw},
author = {Huang, Liang Hsun},
year = {2025},
howpublished = {\url{https://huggingface.co/datasets/lianghsun/fineweb-edu-zhtw-sm}}
}