Toivo0/medicalpark-rag

Medical Park Türkçe Sağlık Makaleleri — RAG Sistemi

Türkçe tıbbi makaleler üzerine kurulmuş, eşik (threshold) tabanlı bir Retrieval-Augmented Generation (RAG) altyapısı.

---

1. Veri Seti

• Kaynak: umutertugrul/turkish-hospital-medical-articles (CC BY 4.0)
• Veri seti içeriği: 14 farklı Türk hastane/sağlık kuruluşunun web sitesinden çekilmiş Türkçe tıbbi makaleler, her kuruluş ayrı bir .parquet dosyası olarak sunuluyor (toplam ~25.000 makale, 14 kaynak: Acıbadem, Anadolu Sağlık, Atlas, Başkent İstanbul, Bayındır, Florence Nightingale, Güven, Liv, Medical Park, Medical Point, Medicana, Medipol, Memorial, Yeditepe)
• Kullanılan alt küme: Sadece medicalpark.parquet dosyası kullanıldı, diğer 13 kaynak dahil edilmedi
• Şema: url, title, headings, text, publish_date, update_date, scrape_date, __source
• Kullanılan makale sayısı: 371
• Chunking sonrası toplam chunk sayısı: 2739
• Makale başına ortalama chunk: 7.4

---

2. Chunking Stratejisi

Chunking yapısal + sabit boyutlu birleştirme (hybrid/mixed chunking) yöntemiyle yapıldı. Saf fixed-size chunking yerine bu yöntemin seçilme sebebi: metnin doğal paragraf/blok sınırlarını koruyarak cümle ortasından kesme riskini azaltmak, aynı zamanda embedding modeli için tutarlı boyutta chunk üretmek.

Adımlar:

1. Makale metni \n ile bloklara ayrılır (boş satırlar atılır, paragraf/satır bazlı yapısal sınırlar korunur)
2. Bloklar sırayla biriktirilir; toplam 150 kelimeye (TARGET_WORDS) ulaşınca chunk kesilir
3. Kesilen chunk'ın son bloklarından, tam sığdığı kadarıyla en fazla 30 kelimelik (OVERLAP_WORDS) bir overlap alınıp bir sonraki chunk'ın başına taşınır. Bloklar bölünmeden (bütün olarak) taşındığı için gerçek overlap bazen 30'un biraz altında kalabilir
4. Chunk'ın (title eklenmeden önceki) kalan kısmı 50 kelimeden (MIN_CHUNK_WORDS) kısaysa bir önceki chunk'la birleştirilir. Title eklendikten sonra hâlâ 50 kelimenin altında kalan chunk'lar için ikinci bir birleştirme kontrolü daha yapılır (title tekrarı önlenerek) — düşük bilgi yoğunluklu "orphan chunk" oluşumu iki aşamada da engellenir
5. Tek bir blok 150 kelimeyi aşarsa (nadir durum), o blok kelime bazlı kayan pencereyle ayrıca parçalanır (recursive fallback). Bu durumda o ana kadar biriken bloklar min-size kontrolünden geçmeden doğrudan bir chunk olarak kapatılır — teorik olarak kısa bir chunk üretebilecek bir yol, ancak 2739 chunk'lık üretilen veride bu yoldan kaynaklanan bir örnek gözlenmedi (bkz. aşağıdaki "bilinen sınır durum")
6. Her chunk'ın başına makale başlığı (title) eklenir — chunk, context'ten bağımsız olarak (tek başına retrieve edildiğinde bile) anlamlı kalır (self-contained chunk)

Sonuç istatistikleri:

Metrik	Değer
Toplam chunk	2739
Kelime/chunk ortalama	171
Kelime/chunk medyan	170
Kelime/chunk min–max	28–317
151–200 kelime aralığındaki chunk oranı	%74 (2021/2739)

Bilinen sınır durum: 1 chunk, minimum boyutun (50 kelime) kesin altında kaldı ("Aşı Takvimi", 28 kelime) — sebebi, bu makalenin zaten tek chunk'a sığacak kadar kısa olması, birleştirilecek "önceki" bir chunk olmadığı için minimum boyut kuralı uygulanamıyor. Bu, kaynak makalenin doğal kısalığından kaynaklanıyor, chunking algoritmasının hatası değil. (Ayrıca 2 chunk tam olarak 50 kelimede duruyor — kural < 50 şeklinde tanımlandığı için bunlar min-size ihlali sayılmıyor.)

---

3. Vektör Veritabanı Mimarisi & Şeması

Depolama: ChromaDB (persistent client, hnsw:space: cosine — cosine similarity üzerinden arama yapılacak şekilde yapılandırıldı)

Şema:

Sütun	Açıklama
url	Chunk'ın ait olduğu orijinal makalenin kaynak linki
chunk_text	Parçalanmış metin içeriği (başlık dahil, self-contained)
chunk_vector	embeddingmagibu-200m ile üretilmiş 768 boyutlu, L2-normalize float vektör
title (ek)	Makale başlığı
chunk_index (ek)	Makale içindeki chunk sırası
__source (ek)	Kaynak hastane etiketi (medicalpark)

---

4. Embedding Modeli

Model: magibu/embeddingmagibu-200m

Neden seçildi:

• Türkçe odaklı, 768 boyutlu çıktı üretiyor
• 8192 token'a kadar context window destekliyor (bizim ~170 kelimelik chunk'larımız için fazlasıyla yeterli, kesilme riski yok)
• Asimetrik encoding destekliyor (encode_query() / encode_document()) — sorgu ve doküman farklı şekilde encode ediliyor, bu da retrieval kalitesini artırıyor. Chunk'lar (corpus) encode_document(), test soruları encode_query() ile encode edildi.
• Çıktı vektörleri L2-normalize edilmiş durumda geliyor (doğrulandı: ortalama norm 0.99999, min 0.996–max 1.004)

---

5. Test Veri Seti (Benchmark)

Toplam 30 test sorusu hazırlandı:

• 20 pozitif soru — cevabı veri kümesindeki bir chunk'ta doğrudan ve doğrulanabilir şekilde yer alıyor
• 10 negatif soru — 7'si veri kümesinde hiç geçmeyen tıbbi durumlar (vitiligo, talasemi, Tourette sendromu, Ehlers-Danlos sendromu, Wilson hastalığı, Huntington hastalığı, miyastenia gravis — tüm chunk metinleri taranarak doğrulandı), 3'ü tamamen alakasız/tıp dışı konular (otomobil bakımı, futbol maçı süresi, Osmanlı tarihi)

30 sorunun tam listesi (soru, tür, beklenen makale) → TEST_QUESTIONS.md

---

6. Vektör Arama & Eşik (Threshold) Analizi

Yöntem: Her test sorusu encode_query() ile vektöre çevrildi, ChromaDB'de en yakın chunk arandı, cosine_similarity = 1 - distance formülüyle benzerlik skoru hesaplandı.

Skor dağılımı:

Grup	En yüksek	En düşük	Ortalama
Pozitif (20 soru)	0.8728	0.3175	0.7236
Negatif (10 soru)	0.5165	0.2004	0.3948

Threshold belirleme: İki farklı yöntemle çapraz doğrulama yapıldı:

1. Grup ortalamalarının ortası: (0.7236 + 0.3948) / 2 = 0.559
2. Bilinen tek istisna (bkz. aşağı) hariç tutulduğunda, kalan 29 sorunun skorları arasında net bir boşluk var: en yüksek negatif 0.5165 — en düşük pozitif 0.5773 arası hiçbir soru yok. Bu boşluğun ortası: 0.547

İki yöntem birbirine çok yakın çıktı (0.559 ve 0.547), bu da threshold'un rastgele değil, verinin kendi doğal ayrımından geldiğini gösteriyor.

Seçilen threshold: 0.55

Sonuç: Bu threshold ile 30 sorudan 29'unda (%96.7) sistem doğru karar verdi (pozitif sorularda cevapladı, negatif sorularda reddetti).

Her sorunun tam sonucu (skor, bulunan chunk, karar) → BENCHMARK_RESULTS.md (okunabilir tablo) veya benchmark_results.json (ham veri, top_3 alternatifler dahil)

Bilinen istisna: "Kafeinin yararları nelerdir?"

Bu pozitif soru, doğru makalede (Çay mı Kahve mi?) cevap açıkça bulunmasına rağmen (chunk'ta "Kafeinin Yararları Nelerdir?" başlığı birebir geçiyor) sadece 0.3175 benzerlik skoru aldı, threshold'un altında kaldı.

Peki neden ? : Doğru chunk 156 kelime uzunluğunda ve "Kafeinin Yararları Nelerdir?" başlığı bu chunk'ın sadece bir kısmını oluşturuyor — geri kalanı genel çay/kahve tüketimi anlatıyor, bu da o başlığın chunk'ın genel vektör temsili içindeki ağırlığını seyreltiyor (dilution). Bunun yerine, konuyla ilgisiz görünen "İshale Ne İyi Gelir?" makalesinden bir chunk (0.3175 ile 1. sırada çıktı) "kafein" kelimesini 4 kez, "kahve" kelimesini 3 kez art arda içeriyor — yüksek kelime yoğunluğu, konusal ilgiden bağımsız olarak benzerlik skorunu yukarı çekmiş.

Çıkarım: Bu, chunk içi kelime yoğunluğunun (term density), bazı durumlarda konu bütünlüğünden daha baskın çıkabildiğini gösteren, chunking stratejisiyle doğrudan ilgili öğretici bir bulgu. Sistem hatası değil, embedding modelinin ve chunk boyutunun doğal bir sınırı olarak değerlendirildi ve düzeltilmeden, şeffaf şekilde raporlandı.

---

7. Teknoloji Seçimi Özeti

Bileşen	Seçim	Gerekçe
Embedding modeli	magibu/embeddingmagibu-200m	Türkçe odaklı, 768 boyut, asimetrik query/document encoding
Vektör veritabanı	ChromaDB	Persistent, cosine similarity native destek, metadata + doküman birlikte saklama
Chunking	Yapısal + sabit boyut hybrid	Cümle bütünlüğünü korurken embedding için tutarlı boyut

---

8. Sistem Kullanımı

Pipeline sırasıyla şu script'lerden oluşuyor:

python chunker.py           # ham makaleleri chunk'lara ayirir -> chunks.json
python embed_chunks.py      # chunk'lari embed eder -> chunks_with_vectors.json
python load_to_chroma.py    # vektorleri ChromaDB'ye yukler
python benchmark.py         # 30 test sorusuyla threshold analizi yapar
python query_system.py      # threshold uygulanmis, calisan sorgu sistemi (demo)

query_system.py içindeki MedicalParkRAG sınıfı, herhangi bir soruyu alıp threshold'un üstündeyse en alakalı chunk'ı (kaynağıyla birlikte), altındaysa doğrudan ret mesajını döndürür:

from query_system import MedicalParkRAG

rag = MedicalParkRAG()
result = rag.query("Dış kulak iltihabı neden olur?")
# result["answered"] == True  -> result["context"] icinde chunk + kaynak
# result["answered"] == False -> result["message"] = "Bu sorunun cevabı dokümanlarımda yer almamaktadır."

Not: Sistem şu an yalnızca retrieval (bulma) yapıyor — döndürülen chunk_text, bir LLM tarafından yazılmış cevap değil, veri kümesindeki ham kaynak metindir. Threshold'un üstünde bulunan chunk, isteğe bağlı olarak bir LLM'e (Claude, GPT vb.) "bu bağlama göre soruyu cevapla" diye iletilerek generation adımı eklenebilir; bu depo, RAG'ın retrieval + threshold-filtering kısmını uçtan uca çalışır durumda sunmaktadır.

---

9. Repo İçeriği

Kod:

Dosya	Açıklama
chunker.py	Chunking script'i
embed_chunks.py	Embedding üretim script'i
load_to_chroma.py	ChromaDB yükleme script'i
benchmark.py	30 soruluk threshold benchmark script'i
query_system.py	Threshold uygulanmış çalışan sorgu sistemi

Veri:

Dosya	Açıklama
medicalpark.json	Medical Park makaleleri (371 tane)
chunks_with_vectors.parquet	Final veri kümesi (url, chunk_text, chunk_vector + metadata) — Dataset Viewer ile otomatik tablo
test_questions.json	30 test sorusu, ham veri
benchmark_results.json	Her sorunun detaylı sonucu, ham veri

Okunabilir tablolar (JSON'un markdown karşılığı):

Dosya	Açıklama
TEST_QUESTIONS.md	30 test sorusu, tablo halinde
BENCHMARK_RESULTS.md	Benchmark sonuçları, tablo halinde
CHUNKS_SAMPLE.md	Örnek 8 chunk, tablo halinde