README.md

---
license: gemma
language:
- tr
base_model:
- ytu-ce-cosmos/Turkish-Gemma-9b-T1
pipeline_tag: text-generation
tags:
- thinking
- gemma2
- instruction
- agent
- turkish
- türkçe
- yerli
- milli
- cosmos
- 8gb-Ram
- 12gb-Ram
- 4gb-Ram
- CPU
- NO-GPU
---
# website:https://projectkaira.com
[![Open In Colab](https://colab.research.google.com/assets/colab-badge.svg)](
  https://colab.research.google.com/github/umutkkgz/gemma9b/blob/main/Think.ipynb
)
![Kaira Sohbet Örneği](https://raw.githubusercontent.com/umutkkgz/gemma9b/main/chat.jpg)
# Kaira-Turkish-Gemma-9B-T1 (GGUF)
Yayıncı: Umut Kökgöz (@umutkkgz)

# Bu repo, ytu-ce-cosmos/Turkish-Gemma-9b-T1 taban modeli üzerine özel olarak eğitilmiş, yüksek performanslı Türkçe sohbet ve talimat takip modelinin GGUF formatını içerir. Model, yerel bilgisayarlarda (CPU veya GPU destekli) minimum kurulumla ve yüksek hızda çalışacak şekilde optimize edilmiştir.

🚀 En Kolay Kurulum: Ollama ile 2 Adımda Çalıştırın
Bu modeli bilgisayarınızda çalıştırmanın en kolay ve tavsiye edilen yolu Ollama kullanmaktır. Ollama, macOS, Windows ve Linux üzerinde tek tıkla kurulum imkanı sunar.

# Adım 1: Ollama'yı Yükleyin
Eğer bilgisayarınızda Ollama yüklü değilse, resmi web sitesinden saniyeler içinde indirip kurun:

➡️ https://ollama.com/download

# Adım 2: Kaira Modelini Bilgisayarınıza Tanıtın
Aşağıdaki adımları takip ederek Kaira'yı kendi kişiliği ve en iyi performans ayarlarıyla bilgisayarınıza kalıcı olarak kaydedin.

# Model Dosyasını İndirin
Bu reponun "Files and versions" sekmesinden sisteminize en uygun GGUF dosyasını indirin. Hangi modeli seçeceğinizden emin değilseniz, aşağıdaki tabloya göz atın.

# Hangi Modeli Seçmeliyim? (Q4 vs Q3 vs Q2)
Farklı "kuantizasyon" seviyeleri, kalite, hız ve sistem gereksinimi arasında bir denge sunar. Aşağıdaki resimli tablo, doğru seçimi yapmanıza yardımcı olacaktır:

![Kaira Model Örneği](https://raw.githubusercontent.com/umutkkgz/gemma9b/main/model.jpg)
# Modelfile Oluşturun
İndirdiğiniz .gguf dosyasıyla aynı klasörün içine, Modelfile adında (uzantısız) bir dosya oluşturun ve aşağıdaki içeriği içine yapıştırın. Bu dosya, modelimizin kimliğini ve çalışma ayarlarını belirleyen bir tariftir.
# ÖNEMLİ: FROM satırındaki dosya adını, indirdiğiniz versiyonla (Q4, Q3 veya Q2) güncellemeyi unutmayın!

# Temel alınacak yerel GGUF model dosyasını belirtir.
FROM ./kaira-turkish-gemma-9b-t1.Q4_K_M.gguf

# --- PERFORMANS PARAMETRELERİ ---
# Apple Silicon (M1/M2/M3) veya NVIDIA/AMD GPU'lar için -1 değeri,
# "mümkün olan TÜM katmanları GPU'ya yükle" anlamına gelir.
# Bu, en yüksek performansı sağlar.
PARAMETER num_gpu -1
PARAMETER num_thread 8 # Kullanılacak CPU çekirdeği sayısı

# --- MODEL DAVRANIŞ PARAMETRELERİ ---
PARAMETER num_ctx 4096      # Modelin hafıza (bağlam) penceresi
PARAMETER temperature 0.7   # Yaratıcılık seviyesi
PARAMETER top_p 0.9         # Kelime seçim hassasiyeti
PARAMETER repeat_penalty 1.05 # Tekrarı önleme cezası

# --- MODEL KİMLİĞİ VE ŞABLONU ---

# TEMPLATE: Modelin sohbeti nasıl anlayacağını belirleyen format.
TEMPLATE """{{- range .Messages -}}<start_of_turn>{{ .Role }}
{{ .Content }}<end_of_turn>
{{- end -}}<start_of_turn>model

# SYSTEM: Modele her sohbetin başında verilecek olan gizli talimat.
SYSTEM """Sen Kaira, yardımsever bir Türk yapay zeka asistanısın. Cevapların her zaman Türkçe, net, ve anlaşılır olmalı. Kullanıcıya daima dostça ve saygılı bir şekilde hitap et. Bilgilerinin bir kesim tarihine dayalı olduğunu ve en güncel olayları bilemeyebileceğini unutma."""

Modeli Oluşturun ve Çalıştırın
Terminali (veya Windows'ta PowerShell/CMD'yi) açın, dosyaları indirdiğiniz klasöre gidin (cd /klasorun/yolu) ve aşağıdaki komutları sırayla çalıştırın:

# Modelfile'ı kullanarak 'kaira' adında yeni bir model oluşturun
ollama create kaira -f ./Modelfile

# Tebrikler! Artık modelinizle sohbet edebilirsiniz
ollama run kaira

Artık kaira adıyla kaydedilen modelinizle doğrudan terminal üzerinden sohbet edebilirsiniz!

🧠 Model Detayları
Taban Model: ytu-ce-cosmos/Turkish-Gemma-9b-T1 (Google Gemma 2 tabanlı)

# Eğitim: Model, Türkçe anlama, talimat takip etme ve akıl yürütme yeteneklerini geliştirmek için çeşitli Türkçe veri setleri ile eğitilmiştir.

# Kuantizasyon Formatı: GGUF - Q4_K_M. Bu 4-bit'lik kuantizasyon metodu, kalite ve performans arasında mükemmel bir denge sunar. Model yaklaşık 5.96 GB boyutundadır ve 8GB VRAM'e sahip çoğu modern GPU'da veya 16GB RAM'e sahip sistemlerde akıcı bir şekilde çalışır.

⚙️ Gelişmiş Kullanım: llama.cpp ile Manuel Çalıştırma
Eğer Ollama kullanmak istemiyorsanız ve llama.cpp üzerinde tam kontrol sahibi olmak isterseniz, modeli aşağıdaki gibi manuel olarak çalıştırabilirsiniz.

# llama.cpp Projesini Kurun
Resmi GitHub reposundan projenin son sürümünü indirip derleyin.

# git clone [https://github.com/ggerganov/llama.cpp](https://github.com/ggerganov/llama.cpp)
cd llama.cpp

# NVIDIA GPU desteği için (önerilir):
make LLAMA_CUBLAS=1

# Sadece CPU için:
make

# Modeli Çalıştırın
llama.cpp klasörünün içindeyken aşağıdaki komutları kullanabilirsiniz.

# GPU ile Çalıştırma (Örnek: 35 katman GPU'ya yükleniyor):

./main -m /path/to/kaira-turkish-gemma-9b-t1.Q4_K_M.gguf -n 512 --repeat-penalty 1.1 -ngl 35 -p "Antalya'da gezilecek 3 yer önerir misin?"

# Sadece CPU ile Çalıştırma:

./main -m /path/to/kaira-turkish-gemma-9b-t1.Q4_K_M.gguf -n 512 --repeat-penalty 1.1 -p "Yapay zeka etiği hakkında kısa bir bilgi verir misin?"

# Lisans
Bu model, taban model olan ytu-ce-cosmos/Turkish-Gemma-9b-T1'in lisansına tabidir. Gemma lisansı altında dağıtılmaktadır.

# Teşekkür ve Atıf (Acknowledgements & Citation)
# Bu projenin kalbi olan Turkish-Gemma-9b-T1 modelini eğiten ve açık bir şekilde toplulukla paylaşan Yıldız Teknik Üniversitesi Bilgisayar Mühendisliği Bölümü COSMOS ekibine en içten teşekkürler. Asıl bilimsel ve akademik çalışma onlara aittir.
# Bu GGUF versiyonu, onların değerli çalışmalarını daha geniş kitlelerin erişimine sunma amacı taşımaktadır. Lütfen orijinal çalışmalarını ve modellerini destekleyin.