senemde/turkish-medical-rag-chunks

Türkçe Tıbbi Makaleler — Vektör Arama & RAG

Hugging Face umutertugrul/turkish-medical-articles veri setinden bir RAG (Retrieval-Augmented Generation) altyapısı: makaleleri parçalar (chunk), Türkçe bir embedding modeliyle vektörleştirir, ChromaDB'de saklar ve kosinüs benzerliği + eşik (threshold) kontrolüyle, cevabı belgelerde olmayan sorularda uydurma yapmadan reddeder.

Proje Yapısı

turkish-medical-rag/
├── config.py                 # tüm ayarlar (veri, chunking, model, eşik)
├── requirements.txt
├── data/
│   └── test_questions.json   # 20 pozitif + 10 negatif benchmark sorusu
├── export/
│   └── turkish_medical_chunks.parquet   # HF şeması (build sonrası oluşur)
└── src/
    ├── load_data.py          # HF veri seti indirme + örnekleme
    ├── chunking.py           # mixed chunking
    ├── embed.py              # sentence-transformers sarmalayıcı
    ├── build_index.py        # chunk -> embed -> ChromaDB -> parquet
    ├── search.py             # arama + eşik + (ops.) LLM cevabı
    └── evaluate.py           # benchmark + eşik taraması

Kurulum & Çalıştırma

pip install -r requirements.txt

python -m src.build_index     # indeksi kur (ChromaDB + parquet üretir)
python -m src.evaluate        # 30 soruyu çalıştır, önerilen eşiği bul
python -m src.search          # etkileşimli arama (isteğe bağlı)

Ağ notu: build_index ve evaluate, veri setini ve embedding modelini huggingface.co'dan indirir; internet erişimi olan bir ortamda çalıştırın.

Vektör Veritabanı Şeması

Parquet / HF veri kümesi en az şu üç sütunu içerir:

Sütun	Tip	Açıklama
url	string	Parçanın ait olduğu makalenin kaynak bağlantısı
chunk_text	string	Parçalanmış metin içeriği
chunk_vector	list<float>	Embedding modeliyle üretilen vektör

Ek meta veriler: title, __source (hastane/kategori), parent_id (parent-child ilişkisi — parçayı orijinal makaleye bağlar).

---

1) Chunking Stratejisi

Kullanılan yöntem: Mixed chunking — cümle sınırlarına saygı duyan, sabit token bütçeli + örtüşmeli (overlap) paketleme.

Adımlar (işlem sırası): metin paragraflara (\n\n) bölünür → her paragraf cümlelere ayrılır → token bütçesini tek başına aşan cümleler kelime bazında bölünür → cümleler, CHUNK_SIZE (varsayılan 512 token) sınırına ulaşana kadar sırayla bir parçaya eklenir (sınır dolunca yeni parça başlatılır); parça dolduğunda son cümleler CHUNK_OVERLAP (varsayılan 64 token) kadar bir sonraki parçaya taşınır.

Neden bu strateji?

• Saf sabit-token bölme, cümle/paragraf ortasından keserek bağlamı bozar ve arama (retrieval) kalitesini düşürür.
• Saf paragraf (\n\n) bölme, çok değişken uzunlukta parçalar üretir; kısa paragraflar bağlamsız, uzun paragraflar model context penceresini zorlar.
• Mixed, ikisinin dengesidir: anlamsal sınırları (cümle) korurken token bütçesini sabit tutar. Overlap, sınıra denk gelen bilginin iki parçada da bulunmasını sağlayarak "kesik cevap" riskini azaltır.
• Token sayımı, embedding modelinin kendi tokenizer'ıyla yapılır; böylece parça boyutu modelin gerçek context sınırıyla uyumludur.

Parametreler config.py üzerinden ayarlanabilir (CHUNK_SIZE, CHUNK_OVERLAP, MIN_CHUNK_TOKENS). Bu depoda üretilen sürümde 292 makaleden 661 chunk elde edilmiştir (makale başına ~2.3 parça).

---

2) Embedding Modeli

Varsayılan: BAAI/bge-m3 — 1024 boyut.

Neden?

• Türkçe dahil 100'den fazla dili destekleyen, arama (retrieval) için eğitilmiş güçlü çok dilli bir model; sentence-transformers ile sorunsuz çalışır.
• Prefix gerektirmez (kullanımı sade), uzun bağlamı iyi işler ve tıbbi metinde sağlam sonuç verir.

config.py içindeki ACTIVE_MODEL ile tek satırda değiştirilebilir. Diğer seçenekler:

Anahtar	Model	Boyut	Not
bge-m3	BAAI/bge-m3	1024	Varsayılan; çok dilli, prefix'siz
turkish-e5-large	ytu-ce-cosmos/turkish-e5-large	1024	e5 — query:/passage: prefix'i otomatik uygulanır
magibu-200m	magibu/embeddingmagibu-200m	768	Türkçe odaklı, 8192 token context
trmteb	trmteb/turkish-embedding-model	768	dbmdz-BERT tabanlı, semantik arama fine-tune

Vektörler normalize edilir (normalize_embeddings=True), böylece kosinüs benzerliği = nokta çarpımı olur ve ChromaDB cosine uzayıyla tutarlıdır.

---

3) Eşik (Threshold) Analizi

Amaç: Pozitif sorularda doğru parçayı yakalamak, negatif (korpus dışı) sorularda ise cevap üretmeyip "Bu sorunun cevabı dokümanlarımda yer almamaktadır." demek.

Mekanizma: Sorgu vektörü ile veritabanındaki en yakın parça arasındaki kosinüs benzerliği hesaplanır (bu değere "top-1 benzerlik", yani en iyi eşleşmenin skoru denir). Bu değer eşiğin altındaysa sistem reddeder; LLM'e bağlam verilmediği için halüsinasyon (uydurma) önlenir.

Eşik nasıl belirlendi? src/evaluate.py, 20 pozitif + 10 negatif soruyu çalıştırıp her eşik adayı için şunları hesaplar:

• TP: eşiği geçen pozitif (doğru cevaplandı) · FN: kaçan pozitif
• TN: eşiğin altında kalan negatif (doğru reddedildi) · FP: sızan negatif (halüsinasyon riski)

En iyi eşik, Youden's J değerini maksimize eden noktadır. Youden's J, "doğru cevaplanan pozitiflerin oranı" (TPR) ile "doğru reddedilen negatiflerin oranı" (TNR) toplamından 1 çıkarılarak bulunur (J = TPR + TNR − 1); 1'e ne kadar yakınsa ayrım o kadar iyidir, 1.0 kusursuz ayrım demektir. Eşit J veren birden fazla eşik olursa, uydurma (yanlış pozitif) riskine karşı daha yüksek eşik seçilir. Betik ayrıca pozitif/negatif benzerlik dağılımlarını (min/ortalama/ medyan/maksimum) ve doğru makalenin ilk k sonuç içinde çıkma oranını (hit@k) raporlar.

Ölçülen Sonuçlar (bge-m3, 292 makale / 661 chunk)

evaluate.py çıktısına göre iki grup tamamen ayrışıyor (çakışma yok):

	min	ort	medyan	maks
Pozitif (20 soru)	0.509	0.625	0.617	0.762
Negatif (10 soru)	0.319	0.409	0.422	0.473

En yüksek negatif skoru (0.473) ile en düşük pozitif skoru (0.509) arasında belirgin bir boşluk var. Bu boşlukta yer alan tüm eşiklerde ayrım kusursuzdur.

Seçilen eşik: SIMILARITY_THRESHOLD = 0.50 → Youden's J = +1.000. Bu eşikte 20 pozitifin tamamı geçer (TP=20, FN=0) ve 10 negatifin tamamı reddedilir (TN=10, FP=0). Yani hiçbir tıbbi soru kaçmaz, hiçbir korpus-dışı soru sızmaz; negatif sorularda sistem doğrudan reddetme mesajı verir.

0.48–0.50 aralığındaki eşiklerin hepsi J=1.000 verir; halüsinasyona (yanlış pozitif) karşı en korumalı nokta olduğu için üst sınır olan 0.50 seçilmiştir. Eşiği 0.51'e çıkarmak en zayıf pozitifi (0.509) elerdi; bu yüzden 0.50 hem kusursuz ayrım hem de güvenli marj sağlar.

Eşik değeri modele bağımlıdır — her embedding modeli farklı bir benzerlik dağılımı üretir. Bu yüzden model değiştirdiğinizde evaluate.py'yi tekrar çalıştırıp config.SIMILARITY_THRESHOLD değerini güncelleyin.

Notlar

• data/test_questions.json içindeki 20 pozitif soru, örneklenen makalelerde cevabı bulunan tıbbi konuları hedefler; 10 negatif soru ise kasıtlı olarak korpus dışıdır. evaluate.py sonuçlarına göre 20 pozitifin tamamı eşiği geçer, 10 negatifin tamamı reddedilir (bkz. "Ölçülen Sonuçlar"). İsteğe bağlı olarak her pozitif sorunun gold_url alanı, o soruyu karşılayan makalenin adresiyle doldurularak kaynak eşleştirmesi de belgelenebilir.
• Bu sürüm retrieval-only çalışır: eşik geçildiğinde en alakalı chunk'ın metni döner, geçilmezse reddedilir. Bir dil modeli devrede olmadığı için halüsinasyon (uydurma) riski yapısal olarak sıfırdır.
• İsteğe bağlı genişletme: eşik geçildiğinde bulunan chunk'ları bir LLM'e bağlam olarak verip doğal dilde cevap ürettirebilirsiniz. Bu, çekirdek arama/eşik mantığını değiştirmez; yalnızca bir sunum katmanı ekler.