turkish-keyword-extraction-500k / QUALITY_REPORT.md
GoktugD's picture
Release v2.0 with provenance and quality audits
48c50fd verified
|
Raw
History Blame Contribute Delete
1.61 kB

Quality Report

Sonuç özeti

Kontrol Sonuç
Satır 500.000
Benzersiz kimlik 500.000
Benzersiz içerik parmak izi 500.000
Exact duplicate satır 0
Split fingerprint kesişimi 0
Split template kesişimi 0
Yakın duplicate örneklerinde Jaccard ≥0,90 0 / 10.000
Benchmark exact contamination 0
Örneklenmiş benchmark Jaccard ≥0,90 0

Kapsam

Exact deduplication tüm 500.000 satırda yapılmıştır. Split fingerprint ve template kümeleri tam olarak karşılaştırılmıştır. QA cevap ofsetleri ve NER span'leri ilgili veri setlerinde tam taranmıştır; diğer görev kuralları deterministik örneklerle denetlenmiştir.

Contamination denetiminde bu veri setinin tüm uygun metin alanları, 8 sabitlenmiş Türkçe benchmark kaynağındaki toplam 170.808 benzersiz normalize metin birimiyle exact karşılaştırılmıştır. Yakın contamination denetimi, bu veri setinden 2.000 ve haricî kaynaklardan 37.443 deterministik örnek üzerinde SimHash LSH aday bulma ve karakter 5-gram Jaccard doğrulaması kullanır.

Bu sonuç yalnızca contamination_sources.json içinde adlandırılan revision ve dosyaları kapsar; tüm internet veya bütün Türkçe korpuslarla sıfır örtüşme iddiası değildir.

İnceleme durumu

  • Model-assisted örnek incelemesi: evet
  • Bağımsız insan incelemesi: hayır
  • Yayın kapısı: otomatik kontroller geçti

Bağımsız insan değerlendirmesi yapılmadığı açıkça belirtilir; bu rapor insan anotasyonu veya dilbilimsel kalite sertifikası olarak yorumlanmamalıdır.