Namaz Vakti & İslami Asistan - Fine-Tuned LoRA Model

Bu depo, yapay zeka mimarisi ödevleri kapsamında Unsloth ve Llama-3-8B-Instruct altyapısı kullanılarak özel bir domain (Namaz Vakti / İslami Asistanlık) için fine-tune edilmiş LoRA adaptörünü içermektedir.

🛠️ Model ve Eğitim Detayları

Temel Model (Base Model): unsloth/Llama-3-8B-Instruct (4-bit kuantizasyon ile)
Eğitim Yöntemi: QLoRA (Efficient Fine-Tuning)
LoRA Parametreleri:
- r = 16
- lora_alpha = 16
- target_modules = ["q_proj", "k_proj", "v_proj", "o_proj", "gate_proj", "up_proj", "down_proj"]
- lora_dropout = 0
Eğitim Veri Seti: namaz-vakti-dataset

📊 Benchmark Test Sonuçları (MMLU)

Modelimizin başarımını ölçmek için MMLU testleri gerçekleştirilmiş ve temel model ile karşılaştırılmıştır:

Model	MMLU Skoru	Açıklama
Base Model (Llama-3-8B-Instruct)	%42.29	Eğitilmemiş orijinal temel model
Fine-Tuned Model (Bizim Modelimiz)	%50.15	Özel veri setiyle eğitilmiş LoRA adaptörü

🔗 İlgili Bağlantılar ve Kaynak Kodlar

GitHub Kod Reposu: https://github.com/Aysenuryesilova/namaz-vakti-magibu-proje
Özel Veri Seti: namaz-vakti-dataset
Özel BPE Tokenizer: namaz-vakti-tokenizer
Kimlik Eğitimi (Identity Fine-Tuning): namaz-vakti-identity-tr

Geliştirici: Aysenuryesilova

Downloads last month: -; Downloads are not tracked for this model. How to track

Inference Providers NEW

This model isn't deployed by any Inference Provider. 🙋 Ask for provider support