README.md

metadata

language:
  - kk
license: apache-2.0
task_categories:
  - text-generation
tags:
  - kazakh
  - kk
  - normalize
  - til
pretty_name: Til KK — Normalization

Til KK — Normalization

Очистка/нормализация зашумлённого казахского текста (опечатки, регистр, пунктуация).

Часть Til KK NLP — открытого набора мульти-задачных казахских данных для инструктивного файнтюна (LoRA). Формат ChatML (messages: [user, assistant]).

Состав

split	примеров
train	10375
validation	105
test	105
всего	10585

Генерация и проверка

• Метод: grounded (corrupted real text) / gemma-4-E4B
• Учитель: см. поле teacher. Grounding: реальные казахские тексты (kz-transformers/multidomain-kazakh-dataset) / arena-offline-qa.
• Верификация (как положено):
  1. авто-чеки: язык (kk lang-id), формат, длина, утечки шаблонов, exact+near-dedup;
  2. независимый LLM-judge issai/LLama-3.1-KazLLM-1.0-8B (≠ генератор gemma, анти-self-bias), оценка 1-5; оставлены только ≥4.
• Средняя оценка judge: 4.05/5.

Пример

{"messages": [{"role": "user", "content": "Төмендегі шудан/қателерден тазартып, дұрыс жазылған нұсқасын қайтар.\n\nМәтін:\n3 жастағы баланың күн тәртібін құру барысында ең алдымен сергектік уақытының сипаты мен ұзақтығында болатын өзгерістерді ескеру қажет 2 жастағы балалармен салыстырғанда дербестігінің айтарлықтай артуымен байланысты түрлі ги"},
              {"role": "assistant", "content": "Міне, мәтіннің шудан тазартылған, дұрыс жазылған нұсқасы:\n\n**3 жастағы баланың күн тәртібін құру барысында ең алдымен сергектік уақытының сипаты мен ұзақтығында болатын өзгерістерді ескеру қажет. 2 жастағы балалармен салыстырғанда дербестігінің айтарлықтай артуымен байланысты түрлі гигиеналық шарала"}]}

Использование

from datasets import load_dataset
ds = load_dataset("TilQazyna/til-kk-normalize-v1")
import json
m = json.loads(ds["train"][0]["messages"])  # [{user},{assistant}]

Ограничения

• Синтетика/полу-синтетика от LLM-учителя → возможны редкие неточности; критичные применения требуют доп. проверки.
• Только казахский. Не содержит реальных персональных данных.

Цитирование

Til: открытый казахский SLM-стек (TilQazyna).