--- language: - tr - en license: apache-2.0 tags: - gguf - turkish - abliterated - gemma - gemma-4 - kizagan - llama.cpp - lm-studio - ollama pipeline_tag: text-generation base_model: canyrtcn/Gemma_E4B_Kizagan_Abliterated library_name: llama.cpp --- # 🔓 Gemma E4B Kızagan Abliterated — GGUF [**canyrtcn/Gemma_E4B_Kizagan_Abliterated**](https://huggingface.co/canyrtcn/Gemma_E4B_Kizagan_Abliterated) modelinin **GGUF quantize edilmiş** versiyonları. --- ## 📦 Bu repoda bulunan quant'lar | Dosya | Quant | Boyut | Kalite | Önerilen | |---|---|---|---|---| | `Gemma_E4B_Kizagan_Abliterated-Q4_K_M.gguf` | Q4_K_M | ~5 GB | ⭐⭐⭐⭐ | 8GB VRAM, dengeli kullanım | | `Gemma_E4B_Kizagan_Abliterated-F16.gguf` | F16 | ~15 GB | ⭐⭐⭐⭐⭐ | 16GB+ VRAM, maksimum kalite | --- ## 🚀 Kullanım ### 🦙 llama.cpp ```bash # Q4_K_M llama-cli -hf canyrtcn/Gemma_E4B_Kizagan_Abliterated-GGUF:Q4_K_M \ --chat-template gemma # F16 llama-cli -hf canyrtcn/Gemma_E4B_Kizagan_Abliterated-GGUF:F16 \ --chat-template gemma ``` ### 🐳 Ollama ```bash ollama create kizagan-abliterated -f Modelfile ``` `Modelfile`: ``` FROM ./Gemma_E4B_Kizagan_Abliterated-Q4_K_M.gguf PARAMETER temperature 0.3 PARAMETER top_p 0.95 PARAMETER top_k 20 PARAMETER repeat_penalty 1.05 TEMPLATE """{{ if .System }}<|turn>system {{ .System }} {{ end }}<|turn>user {{ .Prompt }} <|turn>model """ ``` ### 🖥️ LM Studio Repoyu aratıp indirebilirsiniz. --- ## 📐 Model Hakkında Bu GGUF'lar, **canyrtcn/Gemma_E4B_Kizagan_Abliterated** modelinden dönüştürülmüştür: - **Temel model:** Gemma 4 E4B-it (Google DeepMind) - **Türkçe SFT:** AlicanKiraz0/Kizagan-E4B-Turkish-Reasoning-Model (540K satır) - **Abliteration:** Reddetme davranışı kaldırıldı - **Mimari:** Gemma 4 (MoE-style PLE, 7.5B toplam / 4B efektif) - **Context:** 131K token --- ## ⚙️ Önerilen Parametreler | Parametre | Değer | |---|---| | `temperature` | 0.3 | | `top_p` | 0.95 | | `min_p` | 0.05 | | `top_k` | 20 | | `repeat_penalty` | 1.05 | --- ## ⚠️ Uyarı Bu modelin reddetme davranışı kaldırılmıştır (abliterated). Filtrelenmemiş içerik üretebilir. Kullanım sorumluluğu size aittir. --- ## 📜 Lisans Apache 2.0. Google Gemma [Terms of Use](https://ai.google.dev/gemma/terms) koşullarına tabidir. --- ## 🔗 Bağlantılar - Ana model (safetensors): [canyrtcn/Gemma_E4B_Kizagan_Abliterated](https://huggingface.co/canyrtcn/Gemma_E4B_Kizagan_Abliterated) - Orijinal Kızagan: [AlicanKiraz0/Kizagan-E4B](https://huggingface.co/AlicanKiraz0/Kizagan-E4B-Turkish-Reasoning-Model) - Temel model: [google/gemma-4-E4B-it](https://huggingface.co/google/gemma-4-E4B-it)