fix

app.py

@@ -1,7 +1,7 @@
-# app.py - v1.3
+# app.py - v1.4
 # Beschreibung: State-of-the-Art RAG-Pipeline mit Gemma-3, FAISS.
-#               (Fix: Gradio-Warnungen durch Umstellung auf type="messages"
-#               und Entfernen veralteter Parameter behoben.)
+#               (Fix: API-Inkompatibilität zwischen SentenceTransformers und LangChain
+#               durch Verwendung des `SentenceTransformerEmbeddings`-Wrappers behoben.)
 
 import os
 import torch
@@ -11,7 +11,8 @@ from typing import List, Tuple, Generator, Dict
 from threading import Thread
 
 # ML / Transformers
-from sentence_transformers import SentenceTransformer
+# SentenceTransformer ist hier nicht mehr direkt im Code nötig,
+# da der LangChain-Wrapper die Nutzung kapselt.
 from transformers import AutoProcessor, Gemma3ForConditionalGeneration, TextStreamer
 
 # Dokumentenverarbeitung & RAG
@@ -19,6 +20,8 @@ from pypdf import PdfReader
 from langchain_core.documents import Document
 from langchain_text_splitters import RecursiveCharacterTextSplitter
 from langchain_community.vectorstores import FAISS
+# <-- NEUER IMPORT: Der entscheidende Adapter zwischen den Bibliotheken
+from langchain_community.embeddings import SentenceTransformerEmbeddings
 
 # --------------------------------------------------------------------
 # Konfiguration
@@ -27,7 +30,8 @@ EMBED_MODEL_ID = "google/embeddinggemma-300m"
 LLM_MODEL_ID = "google/gemma-3-4b-it"
 
 # Globale States
-EMBED_MODEL: SentenceTransformer = None
+# <-- GEÄNDERT: Die Variable hält jetzt ein LangChain-kompatibles Objekt
+EMBEDDING_FUNCTION = None
 LLM_MODEL: Gemma3ForConditionalGeneration = None
 LLM_PROCESSOR: AutoProcessor = None
 VECTOR_STORE: FAISS = None
@@ -45,13 +49,20 @@ def get_device() -> torch.device:
     return torch.device("cpu")
 
 
-def get_embedding_model() -> SentenceTransformer:
-    """Lädt und initialisiert das Embedding-Modell."""
-    global EMBED_MODEL
-    if EMBED_MODEL is None:
-        device = "cuda" if torch.cuda.is_available() else "cpu"
-        EMBED_MODEL = SentenceTransformer(EMBED_MODEL_ID, device=device)
-    return EMBED_MODEL
+def get_embedding_function():
+    """
+    Lädt das Embedding-Modell über den LangChain-Wrapper.
+    Dieser Wrapper sorgt für die API-Kompatibilität.
+    """
+    global EMBEDDING_FUNCTION
+    if EMBEDDING_FUNCTION is None:
+        # Der Wrapper kümmert sich um das Laden des Modells und die
+        # korrekte Bereitstellung der .embed_documents() Methode.
+        EMBEDDING_FUNCTION = SentenceTransformerEmbeddings(
+            model_name=EMBED_MODEL_ID,
+            model_kwargs={'device': get_device()}
+        )
+    return EMBEDDING_FUNCTION
 
 
 def get_llm() -> Tuple[Gemma3ForConditionalGeneration, AutoProcessor]:
@@ -123,7 +134,8 @@ def index_files(file_paths: List[str], progress=gr.Progress(track_tqdm=True)) ->
     if not file_paths:
         return "Keine Dateien zum Indexieren ausgewählt."
 
-    embed_model = get_embedding_model()
+    # <-- GEÄNDERT: Holt jetzt die korrekte Wrapper-Instanz
+    embedding_function = get_embedding_function()
     text_splitter = get_text_splitter()
 
     documents: List[Document] = []
@@ -146,7 +158,9 @@ def index_files(file_paths: List[str], progress=gr.Progress(track_tqdm=True)) ->
 
     progress(0.5, desc="2/2: Embeddings erstellen & FAISS Index aufbauen...")
 
-    new_store = FAISS.from_documents(documents, embed_model)
+    # <-- GEÄNDERT: Übergibt das LangChain-kompatible Embedding-Objekt.
+    # Dieser Aufruf wird jetzt erfolgreich sein.
+    new_store = FAISS.from_documents(documents, embedding_function)
 
     if VECTOR_STORE is None:
         VECTOR_STORE = new_store
@@ -251,7 +265,7 @@ def build_demo() -> gr.Blocks:
     with gr.Blocks(title="Gemma 3 RAG mit FAISS", theme="soft") as demo:
         gr.Markdown(
             """
-            # 🔍 Gemma 3 RAG v1.3 – mit FAISS & Streaming
+            # 🔍 Gemma 3 RAG v1.4 – mit FAISS & Streaming
             **Eine "State of the Art" RAG-Pipeline mit `google/embeddinggemma-300m` und `google/gemma-3-4b-it`**
             1.  Lade deine Dokumente hoch und klicke auf "Index aktualisieren".
             2.  Stelle deine Fragen im Chatfenster. Die Antworten werden live gestreamt.
@@ -287,7 +301,7 @@ def build_demo() -> gr.Blocks:
                 gr.Markdown("### 💬 Chat über deine Dokumente")
                 chatbot = gr.Chatbot(
                     label="Gemma-3 Chat",
-                    type="messages",  # <-- GEÄNDERT: Moderner Nachrichtentyp
+                    type="messages",
                     show_copy_button=True,
                     height=600,
                 )
@@ -302,25 +316,16 @@ def build_demo() -> gr.Blocks:
                     send_btn = gr.Button("Senden", variant="primary", scale=1)
 
         def chat_interface(message: str, history: list):
-            """
-            Passt sich dem neuen Gradio-Nachrichtenformat an.
-            'history' ist jetzt eine Liste von Dictionaries.
-            """
             if not message or not message.strip():
                 return history
 
-            # User-Nachricht an den Verlauf anfügen
             history.append({"role": "user", "content": message})
-            # Platzhalter für die Assistenten-Antwort hinzufügen
             history.append({"role": "assistant", "content": ""})
 
-            # Stream die LLM-Antwort in den "content" des letzten Eintrags
             for token in answer_with_rag(message, history):
                 history[-1]["content"] += token
                 yield history
 
-        # Event Listeners bleiben logisch gleich, funktionieren aber jetzt
-        # mit dem neuen Chatbot-Format.
         msg_textbox.submit(
             fn=chat_interface,
             inputs=[msg_textbox, chatbot],
@@ -343,4 +348,4 @@ def build_demo() -> gr.Blocks:
 
 if __name__ == "__main__":
     app_demo = build_demo()
-    app_demo.launch(share=False)
+    app_demo.launch()