Upload embed_chunks.py with huggingface_hub

embed_chunks.py

@@ -0,0 +1,92 @@
+"""
+Medical Park Makaleleri — Embedding Script
+chunks.json icindeki her chunk_text icin embeddingmagibu-200m ile
+768 boyutlu, L2-normalize chunk_vector uretir.
+
+ONEMLI: Bu script CORPUS (dokuman) tarafi icindir -> encode_document() kullanilir.
+Benchmarking asamasinda 30 test sorusunu embed ederken encode_query() kullanilmalidir.
+Ikisini karistirmak benzerlik skorlarini bozar.
+
+Kurulum:
+    pip install -U sentence-transformers transformers
+
+Calistirma:
+    python embed_chunks.py
+"""
+
+import json
+import os
+import time
+
+import torch
+from sentence_transformers import SentenceTransformer
+
+INPUT_PATH = "data/chunks.json"
+OUTPUT_PATH = "data/chunks_with_vectors.json"
+MODEL_NAME = "magibu/embeddingmagibu-200m"
+BATCH_SIZE = 32          # GPU yoksa 8-16'ya dusurebilirsin
+TEST_FIRST_N = 5         # once kucuk bir denemeyle dogrula, sonra tumunu calistir
+
+
+def load_chunks(path: str) -> list[dict]:
+    with open(path, encoding="utf-8") as f:
+        return json.load(f)
+
+
+def save_chunks(chunks: list[dict], path: str) -> None:
+    os.makedirs(os.path.dirname(path), exist_ok=True)
+    with open(path, "w", encoding="utf-8") as f:
+        json.dump(chunks, f, ensure_ascii=False)
+
+
+def main():
+    # GPU gorunuyor mu kontrol et
+    cuda_ok = torch.cuda.is_available()
+    print(f"CUDA kullanilabilir mi: {cuda_ok}")
+    if cuda_ok:
+        print(f"  GPU: {torch.cuda.get_device_name(0)}")
+    else:
+        print("  UYARI: GPU gorunmuyor, CPU'da calisacak (daha yavas olur).")
+        print("  torch'u CUDA destekli kurduğundan emin ol: https://pytorch.org/get-started/locally/")
+
+    chunks = load_chunks(INPUT_PATH)
+    print(f"\nYuklenen chunk sayisi: {len(chunks)}")
+
+    print(f"Model yukleniyor: {MODEL_NAME} (ilk calistirmada indirme suresi alabilir, ~yuzlerce MB)")
+    model = SentenceTransformer(MODEL_NAME, trust_remote_code=True)
+    print(f"Model cihazi: {model.device}")
+
+    texts = [c["chunk_text"] for c in chunks]
+
+    # --- Kucuk bir on-test: ilk birkac chunk uzerinde dogrula ---
+    print(f"\nOn test: ilk {TEST_FIRST_N} chunk encode ediliyor...")
+    sample_vecs = model.encode_document(texts[:TEST_FIRST_N])
+    print(f"Ornek vektor boyutu: {sample_vecs.shape}")  # (TEST_FIRST_N, 768) olmali
+    assert sample_vecs.shape[1] == 768, "Beklenmeyen embedding boyutu!"
+
+    # --- Tum corpus'u encode et ---
+    print(f"\nTum chunk'lar encode ediliyor (batch_size={BATCH_SIZE})...")
+    t0 = time.time()
+    embeddings = model.encode_document(
+        texts,
+        batch_size=BATCH_SIZE,
+        show_progress_bar=True,
+    )
+    print(f"Bitti: {time.time() - t0:.1f} sn")
+
+    # --- Vektorleri chunk'lara ekle ---
+    for chunk, vec in zip(chunks, embeddings):
+        chunk["chunk_vector"] = vec.tolist()
+
+    save_chunks(chunks, OUTPUT_PATH)
+    print(f"\n[OK] Kaydedildi: {OUTPUT_PATH}")
+    print(f"  Sutunlar: url, title, chunk_text, chunk_index, __source, chunk_vector")
+    print(f"  Vektor boyutu: {len(chunks[0]['chunk_vector'])}")
+
+    # Dosya boyutu uyarisi
+    size_mb = os.path.getsize(OUTPUT_PATH) / (1024 * 1024)
+    print(f"  Dosya boyutu: {size_mb:.1f} MB")
+
+
+if __name__ == "__main__":
+    main()