README.md

---
language:
- kk
license: apache-2.0
task_categories:
- text-generation
tags:
- kazakh
- kk
- normalize
- til
pretty_name: Til KK — Normalization
---

# Til KK — Normalization

Очистка/нормализация зашумлённого казахского текста (опечатки, регистр, пунктуация).

Часть **Til KK NLP** — открытого набора мульти-задачных казахских данных для
инструктивного файнтюна (LoRA). Формат **ChatML** (`messages: [user, assistant]`).

## Состав
| split | примеров |
|---|---|
| train | 10375 |
| validation | 105 |
| test | 105 |
| **всего** | **10585** |

## Генерация и проверка
- **Метод:** grounded (corrupted real text) / gemma-4-E4B
- **Учитель:** см. поле `teacher`. **Grounding:** реальные казахские тексты (`kz-transformers/multidomain-kazakh-dataset`) / arena-offline-qa.
- **Верификация (как положено):**
  1. авто-чеки: язык (kk lang-id), формат, длина, утечки шаблонов, exact+near-dedup;
  2. **независимый LLM-judge** `issai/LLama-3.1-KazLLM-1.0-8B` (≠ генератор gemma, анти-self-bias), оценка 1-5; оставлены только **≥4**.
- **Средняя оценка judge:** **4.05/5**.

## Пример
```json
{"messages": [{"role": "user", "content": "Төмендегі шудан/қателерден тазартып, дұрыс жазылған нұсқасын қайтар.\n\nМәтін:\n3 жастағы баланың күн тәртібін құру барысында ең алдымен сергектік уақытының сипаты мен ұзақтығында болатын өзгерістерді ескеру қажет 2 жастағы балалармен салыстырғанда дербестігінің айтарлықтай артуымен байланысты түрлі ги"},
              {"role": "assistant", "content": "Міне, мәтіннің шудан тазартылған, дұрыс жазылған нұсқасы:\n\n**3 жастағы баланың күн тәртібін құру барысында ең алдымен сергектік уақытының сипаты мен ұзақтығында болатын өзгерістерді ескеру қажет. 2 жастағы балалармен салыстырғанда дербестігінің айтарлықтай артуымен байланысты түрлі гигиеналық шарала"}]}
```

## Использование
```python
from datasets import load_dataset
ds = load_dataset("TilQazyna/til-kk-normalize-v1")
import json
m = json.loads(ds["train"][0]["messages"])  # [{user},{assistant}]
```

## Ограничения
- Синтетика/полу-синтетика от LLM-учителя → возможны редкие неточности; критичные применения требуют доп. проверки.
- Только казахский. Не содержит реальных персональных данных.

## Цитирование
Til: открытый казахский SLM-стек (TilQazyna).