Toivo0 commited on
Commit
51252d0
·
verified ·
1 Parent(s): 4a3094d

Upload query_system.py with huggingface_hub

Browse files
Files changed (1) hide show
  1. query_system.py +102 -0
query_system.py ADDED
@@ -0,0 +1,102 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ """
2
+ Medical Park RAG — Sorgu Sistemi
3
+ Herhangi bir kullanici sorusunu alir, en yakin chunk'i bulur.
4
+ Benzerlik skoru threshold'un altindaysa cevap uretmez, "dokumanlarda yok" der.
5
+
6
+ Threshold = 0.55, benchmark.py ile 30 soruluk test setinde belirlendi:
7
+ - 30 sorunun 29'u (%96.7) bu threshold ile dogru siniflandi
8
+ - Pozitif sorular (kafein sorusu haric) min 0.5773, negatif sorular max
9
+ 0.5165 skorladi -> aralarinda net bir bosluk var (0.5165-0.5773),
10
+ 0.55 bu boslugun ortasina denk geliyor
11
+ - Tek istisna olan "Kafeinin yararlari nelerdir?" sorusu icin kok sebep
12
+ analizi README'de aciklanmistir (chunk ici kelime yogunlugu etkisi)
13
+
14
+ Kurulum:
15
+ pip install sentence-transformers chromadb
16
+
17
+ Calistirma:
18
+ python query_system.py
19
+ """
20
+
21
+ import chromadb
22
+ from sentence_transformers import SentenceTransformer
23
+
24
+ DB_PATH = "./chroma_db"
25
+ COLLECTION_NAME = "medicalpark_chunks"
26
+ MODEL_NAME = "magibu/embeddingmagibu-200m"
27
+ THRESHOLD = 0.55 # benchmark.py sonucuna gore belirlendi, detay: README.md
28
+
29
+ NO_ANSWER_MESSAGE = "Bu sorunun cevabı dokümanlarımda yer almamaktadır."
30
+
31
+
32
+ class MedicalParkRAG:
33
+ def __init__(self):
34
+ print(f"Model yukleniyor: {MODEL_NAME}")
35
+ self.model = SentenceTransformer(MODEL_NAME, trust_remote_code=True)
36
+
37
+ client = chromadb.PersistentClient(path=DB_PATH)
38
+ self.collection = client.get_collection(COLLECTION_NAME)
39
+ print(f"Chroma koleksiyonu hazir: {self.collection.count()} chunk\n")
40
+
41
+ def query(self, question: str, threshold: float = THRESHOLD, n_results: int = 3) -> dict:
42
+ """
43
+ Bir soruyu isler. Donen sozluk:
44
+ - answered: True/False (threshold gecildi mi)
45
+ - similarity: en yakin chunk'in cosine similarity skoru
46
+ - message: eger answered=False ise kullaniciya gosterilecek mesaj
47
+ - context: eger answered=True ise LLM'e verilecek chunk metni + kaynaklar
48
+ """
49
+ q_vec = self.model.encode_query(question)
50
+ res = self.collection.query(query_embeddings=[q_vec.tolist()], n_results=n_results)
51
+
52
+ top_similarity = 1 - res["distances"][0][0]
53
+ answered = top_similarity >= threshold
54
+
55
+ if not answered:
56
+ return {
57
+ "answered": False,
58
+ "similarity": round(top_similarity, 4),
59
+ "message": NO_ANSWER_MESSAGE,
60
+ "context": None,
61
+ }
62
+
63
+ # Threshold gecildi -> ilgili chunk'lari (LLM'e context olarak gidecek) hazirla
64
+ sources = []
65
+ for i in range(len(res["distances"][0])):
66
+ sources.append({
67
+ "chunk_text": res["documents"][0][i],
68
+ "title": res["metadatas"][0][i]["title"],
69
+ "url": res["metadatas"][0][i]["url"],
70
+ "similarity": round(1 - res["distances"][0][i], 4),
71
+ })
72
+
73
+ return {
74
+ "answered": True,
75
+ "similarity": round(top_similarity, 4),
76
+ "message": None,
77
+ "context": sources,
78
+ }
79
+
80
+
81
+ def main():
82
+ rag = MedicalParkRAG()
83
+
84
+ # Hizli demo: hem cevaplanacak hem reddedilecek birer ornek soru
85
+ demo_questions = [
86
+ "Dış kulak iltihabı neden olur?", # cevaplanmali (pozitif ornek)
87
+ "Vitiligo hastalığının belirtileri nelerdir?", # reddedilmeli (negatif ornek)
88
+ ]
89
+
90
+ for q in demo_questions:
91
+ print(f"\nSoru: {q}")
92
+ result = rag.query(q)
93
+ print(f"Skor: {result['similarity']}")
94
+ if result["answered"]:
95
+ print(f"[CEVAPLANDI] En iyi kaynak: {result['context'][0]['title']}")
96
+ print(f" Chunk (ilk 150 karakter): {result['context'][0]['chunk_text'][:150]}...")
97
+ else:
98
+ print(f"[REDDEDILDI] {result['message']}")
99
+
100
+
101
+ if __name__ == "__main__":
102
+ main()