File size: 3,749 Bytes
51252d0 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 | """
Medical Park RAG — Sorgu Sistemi
Herhangi bir kullanici sorusunu alir, en yakin chunk'i bulur.
Benzerlik skoru threshold'un altindaysa cevap uretmez, "dokumanlarda yok" der.
Threshold = 0.55, benchmark.py ile 30 soruluk test setinde belirlendi:
- 30 sorunun 29'u (%96.7) bu threshold ile dogru siniflandi
- Pozitif sorular (kafein sorusu haric) min 0.5773, negatif sorular max
0.5165 skorladi -> aralarinda net bir bosluk var (0.5165-0.5773),
0.55 bu boslugun ortasina denk geliyor
- Tek istisna olan "Kafeinin yararlari nelerdir?" sorusu icin kok sebep
analizi README'de aciklanmistir (chunk ici kelime yogunlugu etkisi)
Kurulum:
pip install sentence-transformers chromadb
Calistirma:
python query_system.py
"""
import chromadb
from sentence_transformers import SentenceTransformer
DB_PATH = "./chroma_db"
COLLECTION_NAME = "medicalpark_chunks"
MODEL_NAME = "magibu/embeddingmagibu-200m"
THRESHOLD = 0.55 # benchmark.py sonucuna gore belirlendi, detay: README.md
NO_ANSWER_MESSAGE = "Bu sorunun cevabı dokümanlarımda yer almamaktadır."
class MedicalParkRAG:
def __init__(self):
print(f"Model yukleniyor: {MODEL_NAME}")
self.model = SentenceTransformer(MODEL_NAME, trust_remote_code=True)
client = chromadb.PersistentClient(path=DB_PATH)
self.collection = client.get_collection(COLLECTION_NAME)
print(f"Chroma koleksiyonu hazir: {self.collection.count()} chunk\n")
def query(self, question: str, threshold: float = THRESHOLD, n_results: int = 3) -> dict:
"""
Bir soruyu isler. Donen sozluk:
- answered: True/False (threshold gecildi mi)
- similarity: en yakin chunk'in cosine similarity skoru
- message: eger answered=False ise kullaniciya gosterilecek mesaj
- context: eger answered=True ise LLM'e verilecek chunk metni + kaynaklar
"""
q_vec = self.model.encode_query(question)
res = self.collection.query(query_embeddings=[q_vec.tolist()], n_results=n_results)
top_similarity = 1 - res["distances"][0][0]
answered = top_similarity >= threshold
if not answered:
return {
"answered": False,
"similarity": round(top_similarity, 4),
"message": NO_ANSWER_MESSAGE,
"context": None,
}
# Threshold gecildi -> ilgili chunk'lari (LLM'e context olarak gidecek) hazirla
sources = []
for i in range(len(res["distances"][0])):
sources.append({
"chunk_text": res["documents"][0][i],
"title": res["metadatas"][0][i]["title"],
"url": res["metadatas"][0][i]["url"],
"similarity": round(1 - res["distances"][0][i], 4),
})
return {
"answered": True,
"similarity": round(top_similarity, 4),
"message": None,
"context": sources,
}
def main():
rag = MedicalParkRAG()
# Hizli demo: hem cevaplanacak hem reddedilecek birer ornek soru
demo_questions = [
"Dış kulak iltihabı neden olur?", # cevaplanmali (pozitif ornek)
"Vitiligo hastalığının belirtileri nelerdir?", # reddedilmeli (negatif ornek)
]
for q in demo_questions:
print(f"\nSoru: {q}")
result = rag.query(q)
print(f"Skor: {result['similarity']}")
if result["answered"]:
print(f"[CEVAPLANDI] En iyi kaynak: {result['context'][0]['title']}")
print(f" Chunk (ilk 150 karakter): {result['context'][0]['chunk_text'][:150]}...")
else:
print(f"[REDDEDILDI] {result['message']}")
if __name__ == "__main__":
main()
|