Instructions to use umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF with Cosmos:

# No code snippets available yet for this library.

# To use this model, check the repository files and the library's documentation.

# Want to help? PRs adding snippets are welcome at:
# https://github.com/huggingface/huggingface.js

llama-cpp-python

How to use umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF with llama-cpp-python:

# !pip install llama-cpp-python

from llama_cpp import Llama

llm = Llama.from_pretrained(
	repo_id="umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF",
	filename="Kaira-Turkish-Gemma-9B-T1-f16.gguf",
)

llm.create_chat_completion(
	messages = [
		{
			"role": "user",
			"content": "What is the capital of France?"
		}
	]
)

Notebooks
Google Colab
Kaggle
Local Apps Settings

llama.cpp

How to use umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF with llama.cpp:

Install (macOS, Linux)

curl -LsSf https://llama.app/install.sh | sh
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF:Q4_K_M
# Run inference directly in the terminal:
llama cli -hf umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF:Q4_K_M

Install from WinGet (Windows)

winget install llama.cpp
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF:Q4_K_M
# Run inference directly in the terminal:
llama cli -hf umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF:Q4_K_M

Use pre-built binary

# Download pre-built binary from:
# https://github.com/ggerganov/llama.cpp/releases
# Start a local OpenAI-compatible server with a web UI:
./llama-server -hf umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF:Q4_K_M
# Run inference directly in the terminal:
./llama-cli -hf umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF:Q4_K_M

Build from source code

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build -j --target llama-server llama-cli
# Start a local OpenAI-compatible server with a web UI:
./build/bin/llama-server -hf umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF:Q4_K_M
# Run inference directly in the terminal:
./build/bin/llama-cli -hf umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF:Q4_K_M

Use Docker

docker model run hf.co/umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF:Q4_K_M

LM Studio
Jan

vLLM

How to use umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF:Q4_K_M

Ollama
How to use umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF with Ollama:
```
ollama run hf.co/umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF:Q4_K_M
```

Unsloth Studio

How to use umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF with Unsloth Studio:

Install Unsloth Studio (macOS, Linux, WSL)

curl -fsSL https://unsloth.ai/install.sh | sh
# Run unsloth studio
unsloth studio -H 0.0.0.0 -p 8888
# Then open http://localhost:8888 in your browser
# Search for umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF to start chatting

Install Unsloth Studio (Windows)

irm https://unsloth.ai/install.ps1 | iex
# Run unsloth studio
unsloth studio -H 0.0.0.0 -p 8888
# Then open http://localhost:8888 in your browser
# Search for umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF to start chatting

Using HuggingFace Spaces for Unsloth

# No setup required
# Open https://huggingface.co/spaces/unsloth/studio in your browser
# Search for umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF to start chatting

Atomic Chat new
Docker Model Runner
How to use umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF with Docker Model Runner:
```
docker model run hf.co/umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF:Q4_K_M
```

Lemonade

How to use umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF with Lemonade:

Pull the model

# Download Lemonade from https://lemonade-server.ai/
lemonade pull umutkkgz/Kaira-Turkish-Gemma-9B-T1-GGUF:Q4_K_M

Run and chat with the model

lemonade run user.Kaira-Turkish-Gemma-9B-T1-GGUF-Q4_K_M

List all available models

lemonade list

Kaira-Turkish-Gemma-9B-T1-GGUF / README.md

umutkkgz

Update README.md

d3084d8 verified 10 months ago

6.39 kB

license: gemma
language:
  - tr
base_model:
  - ytu-ce-cosmos/Turkish-Gemma-9b-T1
pipeline_tag: text-generation
tags:
  - thinking
  - gemma2
  - instruction
  - agent
  - turkish
  - türkçe
  - yerli
  - milli
  - cosmos
  - 8gb-Ram
  - 12gb-Ram
  - 4gb-Ram
  - CPU
  - NO-GPU

kairaaiv2.netlify.app

Kaira-Turkish-Gemma-9B-T1 (GGUF)

Yayıncı: Umut Kökgöz (@umutkkgz)

Bu repo, ytu-ce-cosmos/Turkish-Gemma-9b-T1 taban modeli üzerine özel olarak eğitilmiş, yüksek performanslı Türkçe sohbet ve talimat takip modelinin GGUF formatını içerir. Model, yerel bilgisayarlarda (CPU veya GPU destekli) minimum kurulumla ve yüksek hızda çalışacak şekilde optimize edilmiştir.

🚀 En Kolay Kurulum: Ollama ile 2 Adımda Çalıştırın Bu modeli bilgisayarınızda çalıştırmanın en kolay ve tavsiye edilen yolu Ollama kullanmaktır. Ollama, macOS, Windows ve Linux üzerinde tek tıkla kurulum imkanı sunar.

Adım 1: Ollama'yı Yükleyin

Eğer bilgisayarınızda Ollama yüklü değilse, resmi web sitesinden saniyeler içinde indirip kurun:

➡️ https://ollama.com/download

Adım 2: Kaira Modelini Bilgisayarınıza Tanıtın

Aşağıdaki adımları takip ederek Kaira'yı kendi kişiliği ve en iyi performans ayarlarıyla bilgisayarınıza kalıcı olarak kaydedin.

Model Dosyasını İndirin

Bu reponun "Files and versions" sekmesinden sisteminize en uygun GGUF dosyasını indirin. Hangi modeli seçeceğinizden emin değilseniz, aşağıdaki tabloya göz atın.

Hangi Modeli Seçmeliyim? (Q4 vs Q3 vs Q2)

Farklı "kuantizasyon" seviyeleri, kalite, hız ve sistem gereksinimi arasında bir denge sunar. Aşağıdaki resimli tablo, doğru seçimi yapmanıza yardımcı olacaktır:

Modelfile Oluşturun

İndirdiğiniz .gguf dosyasıyla aynı klasörün içine, Modelfile adında (uzantısız) bir dosya oluşturun ve aşağıdaki içeriği içine yapıştırın. Bu dosya, modelimizin kimliğini ve çalışma ayarlarını belirleyen bir tariftir.

ÖNEMLİ: FROM satırındaki dosya adını, indirdiğiniz versiyonla (Q4, Q3 veya Q2) güncellemeyi unutmayın!

Temel alınacak yerel GGUF model dosyasını belirtir.

FROM ./kaira-turkish-gemma-9b-t1.Q4_K_M.gguf

--- PERFORMANS PARAMETRELERİ ---

Apple Silicon (M1/M2/M3) veya NVIDIA/AMD GPU'lar için -1 değeri,

"mümkün olan TÜM katmanları GPU'ya yükle" anlamına gelir.

Bu, en yüksek performansı sağlar.

PARAMETER num_gpu -1 PARAMETER num_thread 8 # Kullanılacak CPU çekirdeği sayısı

--- MODEL DAVRANIŞ PARAMETRELERİ ---

PARAMETER num_ctx 4096 # Modelin hafıza (bağlam) penceresi PARAMETER temperature 0.7 # Yaratıcılık seviyesi PARAMETER top_p 0.9 # Kelime seçim hassasiyeti PARAMETER repeat_penalty 1.05 # Tekrarı önleme cezası

--- MODEL KİMLİĞİ VE ŞABLONU ---

TEMPLATE: Modelin sohbeti nasıl anlayacağını belirleyen format.

TEMPLATE """{{- range .Messages -}}{{ .Role }} {{ .Content }} {{- end -}}model

SYSTEM: Modele her sohbetin başında verilecek olan gizli talimat.

SYSTEM """Sen Kaira, yardımsever bir Türk yapay zeka asistanısın. Cevapların her zaman Türkçe, net, ve anlaşılır olmalı. Kullanıcıya daima dostça ve saygılı bir şekilde hitap et. Bilgilerinin bir kesim tarihine dayalı olduğunu ve en güncel olayları bilemeyebileceğini unutma."""

Modeli Oluşturun ve Çalıştırın Terminali (veya Windows'ta PowerShell/CMD'yi) açın, dosyaları indirdiğiniz klasöre gidin (cd /klasorun/yolu) ve aşağıdaki komutları sırayla çalıştırın:

Modelfile'ı kullanarak 'kaira' adında yeni bir model oluşturun

ollama create kaira -f ./Modelfile

Tebrikler! Artık modelinizle sohbet edebilirsiniz

ollama run kaira

Artık kaira adıyla kaydedilen modelinizle doğrudan terminal üzerinden sohbet edebilirsiniz!

🧠 Model Detayları Taban Model: ytu-ce-cosmos/Turkish-Gemma-9b-T1 (Google Gemma 2 tabanlı)

Eğitim: Model, Türkçe anlama, talimat takip etme ve akıl yürütme yeteneklerini geliştirmek için çeşitli Türkçe veri setleri ile eğitilmiştir.

Kuantizasyon Formatı: GGUF - Q4_K_M. Bu 4-bit'lik kuantizasyon metodu, kalite ve performans arasında mükemmel bir denge sunar. Model yaklaşık 5.96 GB boyutundadır ve 8GB VRAM'e sahip çoğu modern GPU'da veya 16GB RAM'e sahip sistemlerde akıcı bir şekilde çalışır.

⚙️ Gelişmiş Kullanım: llama.cpp ile Manuel Çalıştırma Eğer Ollama kullanmak istemiyorsanız ve llama.cpp üzerinde tam kontrol sahibi olmak isterseniz, modeli aşağıdaki gibi manuel olarak çalıştırabilirsiniz.

llama.cpp Projesini Kurun

Resmi GitHub reposundan projenin son sürümünü indirip derleyin.

git clone https://github.com/ggerganov/llama.cpp

cd llama.cpp

NVIDIA GPU desteği için (önerilir):

make LLAMA_CUBLAS=1

Sadece CPU için:

make

Modeli Çalıştırın

llama.cpp klasörünün içindeyken aşağıdaki komutları kullanabilirsiniz.

GPU ile Çalıştırma (Örnek: 35 katman GPU'ya yükleniyor):

./main -m /path/to/kaira-turkish-gemma-9b-t1.Q4_K_M.gguf -n 512 --repeat-penalty 1.1 -ngl 35 -p "Antalya'da gezilecek 3 yer önerir misin?"

Sadece CPU ile Çalıştırma:

./main -m /path/to/kaira-turkish-gemma-9b-t1.Q4_K_M.gguf -n 512 --repeat-penalty 1.1 -p "Yapay zeka etiği hakkında kısa bir bilgi verir misin?"

Lisans

Bu model, taban model olan ytu-ce-cosmos/Turkish-Gemma-9b-T1'in lisansına tabidir. Gemma lisansı altında dağıtılmaktadır.

Teşekkür ve Atıf (Acknowledgements & Citation)

Bu projenin kalbi olan Turkish-Gemma-9b-T1 modelini eğiten ve açık bir şekilde toplulukla paylaşan Yıldız Teknik Üniversitesi Bilgisayar Mühendisliği Bölümü COSMOS ekibine en içten teşekkürler. Asıl bilimsel ve akademik çalışma onlara aittir.

Bu GGUF versiyonu, onların değerli çalışmalarını daha geniş kitlelerin erişimine sunma amacı taşımaktadır. Lütfen orijinal çalışmalarını ve modellerini destekleyin.