seali/turkish-medical-rag

Türkçe Tıbbi Makaleler — RAG Vektör Veri Tabanı

Türkçe tıbbi makalelerden kurulmuş, eşik (threshold) kontrollü bir RAG arama sistemi. Cevabı dokümanlarda bulunmayan sorular için sistem hiç cevap üretmez, LLM'e gitmeden reddeder.

Depo hem hazır vektör veri setini (2.584 chunk × 768 boyut) hem de onu üreten kodun tamamını içerir.

Makale sayısı	399
Chunk sayısı	2.584
Vektör boyutu	768
Embedding modeli	magibu/embeddingmagibu-200m
Vektör veritabanı	ChromaDB (cosine)
Seçilen eşik	0.53
hit@1 / hit@5	16/20 · 19/20
Negatif ret oranı	10/10

---

1. Veri Kaynağı ve Filtreleme

Kaynak: umutertugrul/turkish-medical-articles — 41.804 makale (doktorsitesi.com).

⚠️ Kaynak veri seti erişim onayı ister (gated)

src/build_index.py bu veri setini indirir. Onayınız yoksa şu hatayı alırsınız:

huggingface_hub.errors.GatedRepoError: 403 Client Error.
Cannot access gated repo ... Access to dataset umutertugrul/turkish-medical-articles
is restricted and you are not in the authorized list.

Çözüm: veri seti sayfasına HF hesabınızla girip Request access'e basın, onay gelince huggingface-cli login ile oturum açın. Onay beklerken de bu depodaki hazır vektörlerle çalışabilirsiniz — indeksi yeniden kurmanız gerekmez (bkz. Kullanım).

Uygulanan filtreler:

1. text veya url boş olan kayıtlar atıldı
2. 500 karakterden kısa makaleler atıldı (içeriksiz sayfalar)
3. Tekrarlayan url'ler tekilleştirildi
4. Üç uzmanlık dalına filtrelendi: Kardiyoloji, Dermatoloji, Göz Hastalıkları → 2.371 makalelik havuz
5. Her branştan 133 makale örneklendi (random_state=42) → 399 makale

Neden branş filtresi?

Ödev "rastgele veya belirli bir kategori özelinde" seçime izin veriyor. Branş filtresini bilinçli seçtim: negatif test sorularının gerçekten korpus dışı olduğunu yapısal olarak kanıtlıyor. Rastgele 400 makale seçseydim "bel fıtığı" sorusunun korpusta olmadığını ancak elle tarayarak iddia edebilirdim. Şimdi argüman net: korpus yalnızca üç branştan oluşuyor, negatif sorular ise diş hekimliği, ortopedi, üroloji, KBB, psikiyatri gibi korpusta hiç bulunmayan branşlardan seçildi.

2. Chunking Stratejisi

Seçilen yöntem: karma (mixed) — paragraf sınırı + token bütçesi + örtüşme. Hedef 96 token, sert üst sınır 144, örtüşme 24 token.

Algoritma (src/chunking.py):

1. Metin normalize edilir, \n\n ile paragraflara bölünür
2. Paragraf atomik kabul edilir; ardışık paragraflar hedef bütçeye kadar paketlenir
3. Bütçeyi tek başına aşan paragraf cümle sınırlarından bölünür
4. Cümle sınırı bulunamazsa madde işaretlerine (➡️, •, -) geri düşülür
5. Hiçbir sınır yoksa son çare kelime penceresiyle bölünür
6. Her chunk'ın başına bir öncekinin son cümleleri örtüşme olarak eklenir
7. Çok kısa artıklar (tek başlık satırı vb.) bir öncekine yapıştırılır

Sonuç dağılımı: ortalama 127 token, medyan 135, min 19, max 200.

Neden karma?

Yöntem	Sorun
Saf sabit token	Cümleyi ortasından keser; "Tip 2 diyabette insülin direnci" ikiye bölününce iki parça da yarım anlam taşır
Saf paragraf (\n\n)	Boyut kontrolsüz — bu korpusta 20 karakterlik de 4.000 karakterlik de paragraf var
Karma	Anlamsal sınırı korur, boyutu kontrol eder

Korpusa özgü sorun: noktalama yerine emoji

Bu veri setindeki bazı makaleler cümleleri noktalamayla değil madde işaretiyle ayırıyor:

➡️Miyomlar rahim kası kaynaklı iyi huylu tümörlerdir➡️Miyomlar sıklıkla bulgu vermezler...

Standart cümle bölücü burada hiç eşleşmiyor; ilk kurulumda tek bir chunk 1.757 token'a kadar şişmişti (hedefin ~5 katı). BULLET_SPLIT yedek deseni bunu çözdü. Not: ➡️ aslında ➡ + U+FE0F varyasyon seçici olduğu için desende bu karakterin de hesaba katılması gerekti — ilk yazdığım regex tam bu yüzden hiç eşleşmiyordu.

Chunk boyutu nasıl seçildi? (ablasyon)

Boyutu varsaymak yerine ölçtüm (src/select_config.py, eval/config_selection.json). Altı konfigürasyon, aynı 30 soru:

Konfig	Chunk	hit@1	hit@5	negatif max	Eşik	Kabul	Başarılı
256 token, başlıksız	1.027	15	17	0.472	0.48	15	14
256 token, başlıklı	1.027	12	16	0.405	0.41	17	15
160 token, başlıksız	1.550	15	19	0.511	0.52	15	15
160 token, başlıklı	1.550	11	17	0.486	0.49	16	15
96 token, başlıksız	2.584	16	19	0.523	0.53	16	16
96 token, başlıklı	2.584	11	17	0.498	0.50	16	15

İki eğilim birbirine ters çalışıyor:

• Küçük chunk retrieval'ı iyileştiriyor (hit@5 17→19), çünkü uzun listelere gömülü tek cümlelik bilgiler artık kendi chunk'larında. Ama negatiflerin en yüksek skoru da yükseliyor (0.472→0.523): kısa metinler daha "genel" göründüğü için alakasız sorulara da yakınsıyorlar, eşiği yukarı itiyorlar.
• Başlık eklemek tam tersi: hit@1'i düşürüyor (15→12) çünkü başlık chunk'ın kendi içeriğini seyreltiyor; buna karşılık negatif skorları düşürüp eşiğin indirilmesine izin veriyor.

Bu yüzden karar hit@k veya "kabul sayısı" ile verilemez. Kullandığım uçtan uca ölçüt: kaç soru hem eşiği geçiyor hem de doğru dokümanı top-5'te getiriyor (10 negatifin tamamı reddedilirken). Bu ölçüt bir tuzağı görünür kıldı: 256 başlıklı konfigürasyon en çok pozitifi kabul ediyor (17) ama bunların 2'si yanlış dokümanla kabul edilmiş — RAG'da bu, LLM'e alakasız bağlam verip yanlış cevap üretmek demek; hiç cevap vermemekten daha kötü.

Kazanan 96 token, başlıksız: kabul ettiği 16 sorunun 16'sında da doğru doküman top-5'te.

3. Embedding Modeli

magibu/embeddingmagibu-200m — 768 boyut, 8.192 token context, ~200M parametre.

Seçim gerekçeleri:

• Türkçe odaklı: çok dilli bir öğretmen modelden tokenizer surgery + offline distillation ile Türkçeye uyarlanmış (arXiv:2605.29992)
• Boyut/başarım dengesi: 200M parametre, 2.584 chunk tek GPU'da saniyeler içinde kodlanıyor
• Context payı: 8.192 token, en uzun chunk'ımın (200 token) 40 katı — kırpma riski yok
• L2-normalize çıktı: vektörler normalize geldiği için kosinüs benzerliği doğrudan nokta çarpımı

Ölçülen bir karar: model kartındaki prompt'ları kullanmadım

Model config_sentence_transformers.json içinde asimetrik önek tanımlıyor:

query    -> "task: search result | query: "
document -> "title: none | text: "

Bu tür önekler e5/gemma ailesinde genellikle retrieval'ı iyileştirir, ben de kullanmayı planlamıştım. Ölçtüm (eval/prompt_ablation.json):

Kurulum	hit@1	hit@5	Ayrım marjı
Önek yok	15/20	17/20	−0.2091
Asimetrik önek	14/20	16/20	−0.2137

Bu korpusta önekler fayda etmedi, hafifçe kötüleştirdi. Varsayımla kullansaydım sessizce daha kötü bir sistem teslim etmiş olacaktım; USE_PROMPTS = False ve gerekçe kodda yorumda duruyor.

4. Vektör Veri Tabanı ve Şema

ChromaDB, kalıcı disk (PersistentClient), cosine uzayı.

Chroma kosinüs uzaklığı döndürdüğü için arama katmanında benzerliğe çevriliyor:

similarity = 1.0 - distance

HNSW yaklaşıklığı ve ölçüm tekrarlanabilirliği

HNSW yaklaşık (ANN) bir arama yapısıdır ve graf kurulumu deterministik değildir. Temiz bir kurulumdan indeksi yeniden kurduğumda raporlanan hit@1 16'dan 15'e düşmüştü — veri, model ve eşik aynıyken. Eşik kararı etkilenmiyordu (skorlar aynı) ama rapor edilen retrieval sayısı oynuyordu. İki önlem aldım:

1. Metrikler kaba kuvvetle (exact) hesaplanıyor. evaluate.py benzerlikleri doğrudan parquet vektörleri üzerinde hesaplar; HNSW'den bağımsız, tam deterministik.
2. HNSW parametreleri recall için yükseltildi: ef_construction=400, ef_search=200, max_neighbors=32. Bu ayarla ANN ile exact sonuçlar birebir örtüşüyor (exact_hit@1 = ann_hit@1 = 16), rapor bu farkı threshold_report.json içindeki exact_vs_ann alanında kayıt altına alır.

Sütun	Tip	Açıklama
url	string	Parçanın ait olduğu orijinal makalenin bağlantısı
chunk_text	string	Parçalanmış metin içeriği
chunk_vector	list[float] (768)	Embedding vektörü
parent_id	int	Parent-child ilişkisi — parçanın geldiği makale
title	string	Makale başlığı
__source	string	Kaynak uzmanlık dalı
chunk_id	string	{parent_id}_{sıra}
chunk_index	int	Makale içindeki sıra
n_tokens	int	Chunk'ın token sayısı

5. Test Veri Seti

eval/test_questions.json — 30 soru:

• 20 pozitif: her biri belirli bir chunk'ın içeriğinden yazıldı; source_url, source_chunk_id ve expected_answer alanlarıyla kayıtlı. 20 soru, 20 farklı makale.
• 10 negatif: korpusta bulunmayan branşlardan (diş, ortopedi, üroloji, KBB, psikiyatri, diyetisyen, kadın doğum, çocuk psikiyatrisi, FTR) + 1 tıp dışı kontrol.

6. Eşik (Threshold) Analizi

src/evaluate.py, 0.20–0.85 aralığını 0.01 adımla tarar. Ölçülen skor dağılımları:

	Ortalama	Min	Max
Pozitif sorular	0.628	0.275	0.838
Negatif sorular	0.414	0.198	0.522

Eşik süpürmesi (özet):

Eşik	Pozitif kabul	Negatif ret	Accuracy	F1
0.30	19/20	1/10	0.667	0.792
0.40	19/20	4/10	0.767	0.844
0.45	18/20	6/10	0.800	0.857
0.50	17/20	9/10	0.867	0.895
0.53	16/20	10/10	0.867	0.889
0.60	14/20	10/10	0.800	0.824
0.70	5/20	10/10	0.500	0.400

Neden 0.53?

Seçim kuralı iki aşamalı ve tıbbi alana özgü bir değer yargısı içeriyor:

1. Önce negatif sızıntısı sıfır olan eşikler süzülür. Negatiflerin en yükseği 0.522 olduğu için bu koşulu sağlayan en düşük eşik 0.53'tür.
2. Sonra bunlar arasında en çok pozitifi koruyan seçilir.

Gerekçe: tıbbi bir asistanda uydurma cevap vermek, "bu bilgi dokümanlarımda yok" demekten daha maliyetlidir. F1 aslında 0.50'de biraz daha yüksek (0.895) ama o eşikte bir negatif soru sızıyor — yani sistem korpusta hiç olmayan bir konuda LLM'e bağlam verip cevap uydurmasına izin veriyor. Bu ödünü kabul etmedim.

Sınırın darlığı da görünür durumda: pozitiflerin en düşüğü 0.275, negatiflerin en yükseği 0.522. İki dağılım örtüşüyor, dolayısıyla tek bir eşik ikisini kusursuz ayıramıyor — 4 pozitif soru bu örtüşme yüzünden feda ediliyor.

7. Bilinen Sınırlar

• 4 pozitif soru eşiğin altında kalıyor. Örnek: "Onikoliz ne demektir?" → 0.275. Bu terim korpusta yalnızca bir kez, kalıcı oje anlatan bir paragrafın içinde geçiyor; sorunun kendisi tek kelimelik bir tanım sorusu olduğu için vektör uzayında chunk'a yeterince yaklaşmıyor. Bu tür "tek geçişli nadir terim" vakaları saf yoğun aramanın (dense retrieval) bilinen zayıflığı; çözümü hibrit arama (BM25 + vektör) olurdu.
• Negatif skorlar 0.52'ye kadar çıkabiliyor. Tıp dili kendi içinde benzeştiği için "böbrek taşı için su" sorusu, kalp hastalarının sıvı tüketimini anlatan bir chunk'a 0.449 benzerlik veriyor. Eşik bu yüzden yüksek tutulmak zorunda.
• Korpus üç branşla sınırlı. Sistem bu üç alan dışında hiçbir şey bilmiyor; bu bir kusur değil tasarım tercihi, ama kullanım alanını daraltıyor.

8. Kullanım

Sadece veri setiyle (ChromaDB olmadan):

from datasets import load_dataset
import numpy as np
from sentence_transformers import SentenceTransformer

THRESHOLD = 0.53
ds = load_dataset("seali/turkish-medical-rag", split="train")
model = SentenceTransformer("magibu/embeddingmagibu-200m")

vectors = np.array(ds["chunk_vector"], dtype=np.float32)
query = model.encode(["Aort anevrizmasında ameliyat kararı nasıl verilir?"],
                     normalize_embeddings=True)[0]

scores = vectors @ query            # vektörler normalize -> nokta çarpımı = kosinüs
best = int(np.argmax(scores))

if scores[best] < THRESHOLD:
    print("Bu sorunun cevabı dokümanlarımda yer almamaktadır.")
else:
    print(scores[best], ds[best]["url"])
    print(ds[best]["chunk_text"])

Kodun tamamıyla (ChromaDB dahil) — kaynak veri setine erişim onayı gerekir:

pip install -r requirements-lock.txt   # birebir sürümler (esnek için requirements.txt)
huggingface-cli login
python src/build_index.py                       # indeksi kur (~2 dk, GPU)
python src/evaluate.py                          # eşik analizi (~30 sn)
python src/rag_search.py "Onikoliz ne demektir?"

Yeniden üretim — beklenen çıktılar

build_index.py şunu yazdırmalı:

Filtre sonrası (3 branş): 2371 makale
399 makale -> 2584 chunk (makale başına ort. 6.5)
mean 127.3 | max 200
Vektörler: (2584, 768)
ChromaDB: 2584 kayıt

evaluate.py şunu yazdırmalı:

--- Exact vs ChromaDB(HNSW) ---
  {'exact_hit@1': 16, 'ann_hit@1': 16, 'exact_hit@k': 19, 'ann_hit@k': 19}
  hit@1: 16/20 | hit@5: 19/20
--- Seçilen eşik: 0.53 ---
  pozitif kabul 16/20 | negatif ret 10/10 | accuracy 0.867 | f1 0.889

Bu sayılar temiz bir kurulumdan (snapshot_download → build_index → evaluate) doğrulanmıştır.

Ortam

Raporlanan sayıların üretildiği ortam (requirements-lock.txt):

Python	3.12.3 (Linux)
GPU	NVIDIA RTX 4070 Laptop 8 GB, CUDA 12.8
torch	2.10.0+cu128
transformers	5.5.0
sentence-transformers	5.6.0
chromadb	1.5.9
datasets / numpy / pandas	4.3.0 / 2.5.1 / 3.0.3

Süreler (bu donanımda): chunk + embedding ~90 sn, ChromaDB yazımı ~10 sn, 30 soruluk değerlendirme ~25 sn. CPU'da embedding adımı belirgin şekilde uzar ancak sonuçlar değişmez.

Determinizm notları

• Makale örneklemesi RANDOM_SEED = 42 ile sabit; chunking tamamen deterministik.
• data/ klasörü (parquet + ChromaDB) depoda yer almaz, build_index.py tarafından yeniden üretilir. Depodaki data/train-*.parquet ise HF veri setinin kendisidir (chunk + vektör), kod tarafından üretilen ara dosya değildir.
• eval/test_questions.json içindeki source_chunk_id alanları mevcut chunk yapılandırmasına (96 token) göredir. TARGET_TOKENS değiştirilirse bu kimlikler geçersiz olur; değerlendirme yine de source_url üzerinden çalışır.

Örnek çıktı:

Soru: Aort anevrizmasında ameliyat kararı hangi çapta verilir?
  top_score=0.6896 | cevaplanabilir=True
   - 0.6896 | .../aort-anevrizmalari-hakkinda
     Başlıca ameliyat endikasyonları; a) Semptomlu olması..., b) BT ile ölçülen aort çapının >5.5 cm...

Soru: Mars gezegenine ilk insanlı uçuş hangi yılda planlanıyor?
  top_score=0.1979 | cevaplanabilir=False
  Bu sorunun cevabı dokümanlarımda yer almamaktadır.

9. Dosya Düzeni

src/
  config.py           tüm parametreler tek yerde
  chunking.py         karma chunking algoritması
  build_index.py      indir -> chunk -> embed -> ChromaDB + parquet
  rag_search.py       eşik kontrollü arama + LLM promptu
  evaluate.py         30 soruluk eşik analizi + grafik
  prompt_ablation.py  model önekleri ablasyonu
  chunk_ablation.py   chunk boyutu / başlık ablasyonu
  select_config.py    uçtan uca metrikle konfigürasyon seçimi
  push_to_hub.py      HF'ye yükleme
eval/
  test_questions.json      30 test sorusu
  threshold_report.json    eşik süpürmesi + soru bazlı sonuçlar
  threshold_analysis.png   skor dağılımı ve eşik grafiği
  prompt_ablation.json     önek ablasyonu ölçümü
  chunk_ablation.json      chunk ablasyonu ölçümü
  config_selection.json    konfigürasyon seçim gerekçesi

Lisans

Kod MIT. Kaynak makalelerin hakları doktorsitesi.com ve ilgili yazarlara aittir; bu depo yalnızca eğitim amaçlı türetilmiş temsiller içerir.