""" Medical Park Makaleleri — Embedding Script chunks.json icindeki her chunk_text icin embeddingmagibu-200m ile 768 boyutlu, L2-normalize chunk_vector uretir. ONEMLI: Bu script CORPUS (dokuman) tarafi icindir -> encode_document() kullanilir. Benchmarking asamasinda 30 test sorusunu embed ederken encode_query() kullanilmalidir. Ikisini karistirmak benzerlik skorlarini bozar. Kurulum: pip install -U sentence-transformers transformers Calistirma: python embed_chunks.py """ import json import os import time import torch from sentence_transformers import SentenceTransformer INPUT_PATH = "chunks.json" OUTPUT_PATH = "chunks_with_vectors.json" MODEL_NAME = "magibu/embeddingmagibu-200m" BATCH_SIZE = 32 # GPU yoksa 8-16'ya dusurebilirsin TEST_FIRST_N = 5 # once kucuk bir denemeyle dogrula, sonra tumunu calistir def load_chunks(path: str) -> list[dict]: with open(path, encoding="utf-8") as f: return json.load(f) def save_chunks(chunks: list[dict], path: str) -> None: os.makedirs(os.path.dirname(path), exist_ok=True) with open(path, "w", encoding="utf-8") as f: json.dump(chunks, f, ensure_ascii=False) def main(): # GPU gorunuyor mu kontrol et cuda_ok = torch.cuda.is_available() print(f"CUDA kullanilabilir mi: {cuda_ok}") if cuda_ok: print(f" GPU: {torch.cuda.get_device_name(0)}") else: print(" UYARI: GPU gorunmuyor, CPU'da calisacak (daha yavas olur).") print(" torch'u CUDA destekli kurduğundan emin ol: https://pytorch.org/get-started/locally/") chunks = load_chunks(INPUT_PATH) print(f"\nYuklenen chunk sayisi: {len(chunks)}") print(f"Model yukleniyor: {MODEL_NAME} (ilk calistirmada indirme suresi alabilir, ~yuzlerce MB)") model = SentenceTransformer(MODEL_NAME, trust_remote_code=True) print(f"Model cihazi: {model.device}") texts = [c["chunk_text"] for c in chunks] # --- Kucuk bir on-test: ilk birkac chunk uzerinde dogrula --- print(f"\nOn test: ilk {TEST_FIRST_N} chunk encode ediliyor...") sample_vecs = model.encode_document(texts[:TEST_FIRST_N]) print(f"Ornek vektor boyutu: {sample_vecs.shape}") # (TEST_FIRST_N, 768) olmali assert sample_vecs.shape[1] == 768, "Beklenmeyen embedding boyutu!" # --- Tum corpus'u encode et --- print(f"\nTum chunk'lar encode ediliyor (batch_size={BATCH_SIZE})...") t0 = time.time() embeddings = model.encode_document( texts, batch_size=BATCH_SIZE, show_progress_bar=True, ) print(f"Bitti: {time.time() - t0:.1f} sn") # --- Vektorleri chunk'lara ekle --- for chunk, vec in zip(chunks, embeddings): chunk["chunk_vector"] = vec.tolist() save_chunks(chunks, OUTPUT_PATH) print(f"\n[OK] Kaydedildi: {OUTPUT_PATH}") print(f" Sutunlar: url, title, chunk_text, chunk_index, __source, chunk_vector") print(f" Vektor boyutu: {len(chunks[0]['chunk_vector'])}") # Dosya boyutu uyarisi size_mb = os.path.getsize(OUTPUT_PATH) / (1024 * 1024) print(f" Dosya boyutu: {size_mb:.1f} MB") if __name__ == "__main__": main()