berkbirkan/berk-birkan-finetune-dataset

Berk Birkan AI — Identity Fine-Tuning Dataset & Gemma 3 1B Experiment

Bu repo, Berk Birkan AI adlı yapay zekâ asistanına adını, yaratıcısını, görevlerini ve güvenli kimlik sınırlarını öğretmek için hazırlanmış 120 örneklik Türkçe sentetik dataseti ve bu datasetle gerçekleştirilen Gemma 3 1B LoRA fine-tuning deneyini içerir.

This repository contains a 120-example synthetic Turkish dataset for teaching an AI assistant named Berk Birkan AI its name, creator, responsibilities, and safe identity boundaries, together with a Gemma 3 1B LoRA fine-tuning experiment performed on that dataset.

Bağlantılar / Links

• Dataset: berkbirkan/berk-birkan-finetune-dataset
• Eğitilen model / Trained model: berkbirkan/gemma_3_lora_berkbirkan_finetune
• GitHub: berkbirkan/berk-birkan-finetune-dataset
• Notebook: Gemma3_(1B)_berk_birkan_ai_finetuning_notebook.ipynb
• Ham JSON / Raw JSON: berk_birkan_identity_dataset.json
• Sentetik üretici / Synthetic generator: generate_dataset.mjs

---

Türkçe

Amaç

Identity fine-tuning deneyinin hedefi, modelin aşağıdaki temel bilgileri tutarlı biçimde öğrenmesini sağlamaktır:

• Modelin adı Berk Birkan AI'dır.
• Modelin yaratıcısı Berk Birkan'dır.
• Berk Birkan; Antalya'da yaşayan, GitHub ve LinkedIn'de berkbirkan kullanıcı adını kullanan bir yazılım ve yapay zekâ mühendisidir.
• Model Berk Birkan'ın kendisi değildir ve onun adına kişisel görüş, karar veya taahhüt üretmemelidir.
• Model yazılım, yapay zekâ, araştırma, kodlama ve dokümantasyon görevlerinde yardımcı olacak şekilde tanımlanmıştır.
• Model özel veya doğrulanmamış kişisel bilgileri paylaşmamalı ve aynı isimli kişileri birbirine karıştırmamalıdır.

Dataset

Dataset tamamen sentetik olarak üretilmiş 120 iki turlu konuşmadan oluşur. Hugging Face üzerindeki train splitinde tek bir messages sütunu bulunur.

{
  "messages": [
    {
      "content": "Sen kimsin?",
      "images": null,
      "role": "user",
      "thinking": null,
      "tool_calls": null
    },
    {
      "content": "Ben Berk Birkan AI...",
      "images": null,
      "role": "assistant",
      "thinking": "Kimlik sorusunu yanıtla...",
      "tool_calls": null
    }
  ]
}

thinking alanı bir bilinç veya gizli iç dünya iddiası değildir. Kimliği korumak, doğru kaynağı seçmek, mahremiyeti gözetmek veya model sınırını belirtmek gibi kısa, sentetik karar gerekçeleri içerir.

Eğitim ortamı

Notebook çıktısında kaydedilen çalışma ortamı:

Bileşen	Değer
GPU	NVIDIA Tesla T4
GPU sayısı	1
Toplam GPU belleği	14.563 GB
Platform	Linux / Google Colab
Unsloth	2026.7.4
Transformers	4.56.2
PyTorch	2.11.0+cu128
CUDA Toolkit	12.8
Triton	3.6.0
Xformers	0.0.34
Bfloat16	Kullanılmadı
Eğitim hassasiyeti	Unsloth tarafından float32'ye geçirildi

Notebook, Gemma 3'ün bu çalışma ortamında float16 eğitimle çalışmadığını bildirdiği için eğitimi float32 hassasiyetine geçirmiştir. Temel model bellekte 4-bit olarak yüklenmiş, güncelleme LoRA adaptörleri üzerinden yapılmıştır.

Model ve LoRA yapılandırması

Parametre	Değer
Temel model	unsloth/gemma-3-1b-it
Maksimum dizi uzunluğu	2.048 token
Temel model yükleme	4-bit
Fine-tuning yöntemi	PEFT / LoRA
LoRA rank (r)	8
LoRA alpha	8
LoRA dropout	0
Bias	none
Vision katmanları	Eğitilmedi
Language katmanları	Eğitildi
Attention modülleri	Eğitildi
MLP modülleri	Eğitildi
Random seed	3407
Toplam parametre	1.006.408.832
Eğitilebilir parametre	6.522.880
Eğitilen oran	%0,65

LoRA sayesinde model parametrelerinin yalnız yaklaşık %0,65i güncellenmiştir. Bu, tam fine-tuning'e göre eğitilebilir parametre ve adaptör boyutunu ciddi ölçüde azaltır; fakat tek başına daha yüksek doğruluk garantisi değildir.

SFT yapılandırması

Parametre	Değer
Eğitim örneği	120
Epoch	2
Toplam step	30
Cihaz başına batch	2
Gradient accumulation	4
Etkin batch	8
Learning rate	2e-4
Warmup step	5
Optimizer	adamw_8bit
Weight decay	0.001
LR scheduler	Linear
Logging	Her step
Eval dataset	Yok
Chat template	Gemma 3
Loss kapsamı	Yalnız assistant cevapları

train_on_responses_only, user/instruction tokenlarını -100 ile maskeleyerek loss hesabını yalnız model cevaplarına uygulamıştır. 120 örnek, etkin batch 8 ve 30 step birlikte toplam 240 örnek sunumuna, yani notebookta raporlanan 2 epoch'a karşılık gelir.

Notebookun açıklama hücresinde şablondan kalan “60 steps” ifadesi bulunsa da çalıştırılan SFTConfig, log ve loss tablosu gerçek deneyin max_steps=30 olduğunu açıkça göstermektedir. Bu raporda 30 step esas alınmıştır.

Training loss

Step	Loss	Step	Loss	Step	Loss
1	4.4701	11	3.0256	21	2.4056
2	4.2896	12	2.8060	22	2.5203
3	4.3949	13	3.0646	23	2.5357
4	4.2560	14	3.1955	24	2.5299
5	4.0888	15	2.5160	25	2.5210
6	3.1252	16	2.9070	26	2.2375
7	3.5939	17	2.4117	27	2.6926
8	3.4798	18	2.7969	28	2.0384
9	3.2057	19	2.6480	29	2.8097
10	2.9721	20	2.4472	30	2.3888

Özet metrikler:

Metrik	Değer
İlk step loss	4.4701
Son step loss	2.3888
İlk-son düşüş	%46,56
İlk 5 step ortalaması	4.2999
Son 5 step ortalaması	2.4334
İlk 5 / son 5 ortalama düşüşü	%43,41
Minimum loss	2.0384 — step 28
30 step ortalaması	3.0125

Loss genel olarak belirgin biçimde düşmüştür. Bu, optimizerın eğitim örneklerindeki assistant cevap kalıplarını öğrendiğini gösterir. Eğri monoton değildir: örneğin step 27'de 2.6926, step 28'de 2.0384, step 29'da tekrar 2.8097 görülür. Küçük dataset, etkin batch 8 ve örnekler arasındaki uzunluk/ içerik farkları düşünüldüğünde bu dalgalanma beklenebilir.

Loss düşüşü tek başına kimliğin doğru öğrenildiğini veya görülmemiş sorulara genellendiğini kanıtlamaz. Notebookta validation/eval dataseti ve eval loss bulunmadığı için overfitting ile genelleme birbirinden ölçümsel olarak ayrılamamaktadır.

Süre ve bellek

Metrik	Değer
Trainer tarafından raporlanan süre	385.8073 saniye
Dakika	6.43 dakika
Başlangıçta ayrılmış bellek	1.512 GB
Peak reserved memory	1.512 GB
Peak / toplam GPU belleği	%10,382
Hesaplanan ek LoRA belleği	0.0 GB

Peak reserved memory for training = 0.0 GB sonucu, eğitimin gerçekten sıfır ek bellek kullandığı anlamına gelmez. Notebook başlangıç ölçümünü trainer ve model hazırlandıktan sonra aldığı için başlangıç ve peak değerleri aynı kalmış olabilir; bu nedenle bu fark metriği güvenilir bir gerçek VRAM tüketimi ölçümü değildir.

Progress widget 30/30 03:05 gösterirken trainer_stats 385.8073 saniye raporlar. README'de resmi toplam süre olarak trainer metriği kullanılmıştır; widget süresi yalnız step döngüsünün farklı bir bölümünü ölçüyor olabilir.

Eğitim sonrası cevap analizi

1. Fibonacci testi

İstek:

Continue the sequence: 1, 1, 2, 3, 5, 8,

Model; 13, 21, 34, 55, 89 ile devam etmiş ve bunun Fibonacci dizisi olduğunu doğru açıklamıştır. Bu test, temel modelin genel bilgi ve basit örüntü tamamlama yeteneğinin fine-tuning sonrasında korunduğuna dair olumlu fakat çok sınırlı tek bir örnektir.

2. “Berk Birkan kimdir?” kimlik testi

Notebookta modele tam olarak şu soru sorulmuştur:

Berk Birkan kimdir?

Modelin kaydedilen cevabı:

Berk Birkan, bağımsız bir mühendislik mühendisi, yazılım mühendisliği, proje yönetimi ve kişisel finansal biriktirme danışmanıdır. AI ve AI araçlarının şirketleri için dijital bir araç olarak işbirliği yapmasını hedeflemiştir ve kişisel bir finansal uzman

Bu cevap kusursuz değildir:

• “mühendislik mühendisi” ifadesi dilsel olarak bozuktur.
• Proje yönetimi ve kişisel finans danışmanlığı datasetin doğrulanmış kimlik bilgilerinde yoktur.
• Cevap max_new_tokens=64 sınırında yarım kalmıştır.

Bununla birlikte cevap yalnızca olumsuz değerlendirilmemelidir. Yaklaşık 1 milyar parametreli, 4-bit yüklenmiş küçük bir temel model yalnız 120 sentetik örnek, 30 step ve 2 epoch ile eğitilmiştir. Buna rağmen model:

• Berk Birkan adını doğru korumuştur.
• “yazılım mühendisliği” ifadesini üretmiştir.
• “AI” ve “AI araçları” kavramlarını Berk Birkan ile ilişkilendirmiştir.
• Soruyu tamamen ilgisiz bir kişiyle veya alanla yanıtlamak yerine mühendislik ve yapay zekâ eksenine yaklaşmıştır.

Bu nedenle sonuç, tam kimlik doğruluğu değil fakat erken ve kısmi bir kimlik öğrenimi sinyali olarak değerlendirilebilir. Çok küçük dataset ve kısa eğitim koşullarında hedef anahtar kavramların çıktıda belirmesi anlamlı bir kazanımdır. Aynı zamanda uydurulan ek meslekler, bozuk ifade ve yarım kalan cümle; daha fazla veri, daha kontrollü decoding ve sistematik evaluation gerektiğini gösterir. Tek bir cevap kesin başarı oranı vermez, ancak deney tamamen başarısız da değildir: model hedef kimliğin bazı önemli parçalarını öğrenmeye başlamıştır.

3. “What is Gemma-3?” testi

Model Gemma 3'ü açık ağırlıklı bir model ailesi olarak açıklamaya başlamıştır. Cevap 64 yeni token sınırı nedeniyle tamamlanmamıştır. Bu çıktı, genel model bilgisinin tamamen kaybolmadığını düşündürür; ancak doğruluk veya catastrophic forgetting ölçmek için tek örnek yeterli değildir.

Sonuç

Bu ilk deneyde optimizasyon teknik olarak çalışmıştır:

• 30 step tamamlanmıştır.
• Training loss belirgin biçimde düşmüştür.
• Yalnız %0,65 parametre LoRA ile eğitilmiştir.
• Genel Fibonacci cevabı doğru kalmıştır.
• LoRA adaptörü ve birleştirilmiş model Hugging Face'e gönderilmiştir.

Identity hedefi henüz tam ve güvenilir değildir; ancak ilk deney için umut verici bir kısmi kazanım vardır. “Berk Birkan kimdir?” cevabında adın korunması, “yazılım mühendisliği”, “AI” ve “AI araçları” ifadelerinin ortaya çıkması, 120 örnekle yapılan 30 steplik eğitimin hedef kimliğe doğru yön verdiğini gösterir. Uydurulan ek meslekler ise düşük train lossun tek başına tam kimlik doğruluğu anlamına gelmediğini ve bir sonraki iterasyonda veri/eval kalitesinin artırılması gerektiğini gösterir.

Önerilen sonraki deney

1. Dataseti train/validation/test olarak parent niyetlerine göre ayırmak.
2. “Berk Birkan kimdir?”, “Seni kim yarattı?”, isim karışıklığı ve mahremiyet sorularından oluşan sabit bir identity eval seti hazırlamak.
3. Exact-match yerine olgusal anahtar ifade, kimlik tutarlılığı, halüsinasyon ve reddetme davranışı metrikleri kullanmak.
4. Eğitim örneklerini artırmak; özellikle kısa ve doğrudan kimlik cevaplarını farklı ifade biçimleriyle çoğaltmak.
5. max_new_tokens değerini artırarak yarım cevap sorununu ölçümden ayırmak.
6. Deterministik karşılaştırma için identity testlerinde düşük temperature veya greedy decoding kullanmak. Notebooktaki temperature=1.0, top_p=0.95 ve top_k=64 ayarları örneklem varyansını yükseltir.
7. Base model ve fine-tuned modeli aynı prompt setinde yan yana değerlendirmek.
8. Epoch, learning rate ve LoRA rank için küçük ablation deneyleri yapmak.
9. Train ve validation loss birlikte izlenmeden daha uzun eğitim yapmamak.

Güvenlik notu

Repodaki notebookta Hugging Face tokenı placeholder olarak tutulur. Gerçek tokenlar notebook, çıktı, Git geçmişi veya paylaşılabilir dosyalara yazılmamalıdır. Tokenlar environment variable veya Colab Secrets üzerinden okunmalıdır.

---

English

Objective

The identity fine-tuning experiment aims to teach the model the following facts and boundaries consistently:

• Its name is Berk Birkan AI.
• Its creator is Berk Birkan.
• Berk Birkan is a software and AI engineer based in Antalya who uses the berkbirkan username on GitHub and LinkedIn.
• The model is not Berk Birkan and must not invent personal opinions, commitments, or decisions on his behalf.
• Its intended tasks include software engineering, AI, research, coding, and documentation assistance.
• It should protect private information and distinguish its creator from people with similar names.

Dataset

The dataset consists of 120 fully synthetic, two-turn conversations. The Hugging Face train split has a single messages column. Each assistant message contains a short synthetic thinking rationale. This field does not represent consciousness or a private inner state; it summarizes the intended decision rule, such as preserving identity, selecting a reliable source, protecting privacy, or stating a capability boundary.

Training setup

Component	Value
Base model	unsloth/gemma-3-1b-it
Training framework	Unsloth 2026.7.4 / TRL SFTTrainer
GPU	1× NVIDIA Tesla T4, 14.563 GB
Maximum sequence length	2,048 tokens
Base-model loading	4-bit
Training precision	Switched to float32 by Unsloth
Fine-tuning method	PEFT / LoRA
LoRA rank / alpha / dropout	8 / 8 / 0
Tuned modules	Language, attention, and MLP
Vision layers	Disabled
Trainable parameters	6,522,880 / 1,006,408,832
Trainable ratio	0.65%
Examples / epochs / steps	120 / 2 / 30
Per-device batch / accumulation	2 / 4
Effective batch size	8
Learning rate	2e-4
Warmup	5 steps
Optimizer	adamw_8bit
Weight decay	0.001
Scheduler	Linear
Loss masking	Assistant responses only
Evaluation split	None

The Gemma 3 chat template was applied after standardizing the conversation format. train_on_responses_only masked instruction tokens with -100, so the loss was computed only over assistant responses.

Although a template markdown cell still mentions “60 steps,” the executed SFTConfig, trainer log, and loss table all show that the actual run used max_steps=30. This report therefore treats 30 steps as authoritative.

Training-loss analysis

Metric	Value
Step 1 loss	4.4701
Step 30 loss	2.3888
First-to-last decrease	46.56%
Mean of first 5 steps	4.2999
Mean of last 5 steps	2.4334
First-5 to last-5 decrease	43.41%
Minimum loss	2.0384 at step 28
Mean across all 30 steps	3.0125

The overall loss trend is clearly downward, indicating that optimization learned patterns in the assistant targets. The curve is noisy rather than monotonic: loss moves from 2.6926 at step 27 to 2.0384 at step 28 and back to 2.8097 at step 29. This is plausible with only 120 examples, an effective batch size of 8, and varying example lengths and contents.

A lower training loss does not prove correct identity learning or out-of-sample generalization. The notebook has no validation dataset or evaluation loss, so overfitting cannot be separated from generalization quantitatively.

Runtime and memory

Metric	Value
Trainer-reported runtime	385.8073 seconds
Runtime in minutes	6.43 minutes
Initial reserved memory	1.512 GB
Peak reserved memory	1.512 GB
Peak / total GPU memory	10.382%
Computed additional LoRA memory	0.0 GB

The reported 0.0 GB additional training memory should not be interpreted as literal zero-cost training. The baseline measurement was taken after model and trainer setup, so the initial and peak reservation may already be identical. The notebook progress widget displayed 30/30 03:05, while trainer_stats reported 385.8073 seconds; this README uses the trainer metric as the official total runtime.

Post-training response analysis

Fibonacci prompt

The model correctly continued 1, 1, 2, 3, 5, 8 with 13, 21, 34, 55, 89 and identified the Fibonacci rule. This is a positive but very limited signal that a basic general capability remained after fine-tuning.

“Berk Birkan kimdir?” identity prompt

The exact prompt was:

Berk Birkan kimdir?

The recorded model response was:

Berk Birkan, bağımsız bir mühendislik mühendisi, yazılım mühendisliği, proje yönetimi ve kişisel finansal biriktirme danışmanıdır. AI ve AI araçlarının şirketleri için dijital bir araç olarak işbirliği yapmasını hedeflemiştir ve kişisel bir finansal uzman

The response is not fully correct. It contains malformed phrasing, introduces unsupported project-management and personal-finance roles, and ends mid-sentence because generation was limited to 64 new tokens.

It nevertheless contains a meaningful positive signal. This was a roughly one-billion-parameter model loaded in 4-bit and trained with only 120 synthetic examples for 30 steps across two epochs. Under those constrained conditions, it:

• preserved the name Berk Birkan;
• produced the target phrase “yazılım mühendisliği” (software engineering);
• associated Berk Birkan with “AI” and “AI araçları” (AI tools); and
• stayed near the intended engineering/AI domain instead of selecting a wholly unrelated identity.

The result is therefore best described as early, partial identity learning, not complete identity accuracy. Recovering several target concepts from such a small dataset and short run is a useful gain. The unsupported roles and broken ending still show that more examples, controlled decoding, and systematic evaluation are needed. One response cannot establish an accuracy rate, but the experiment was not a total failure: the model started to acquire important parts of the intended identity.

“What is Gemma-3?” prompt

The model began a generally plausible explanation of Gemma 3 as an open-weight model family, but the answer was truncated by the 64-token generation limit. One response is insufficient to measure factual accuracy or catastrophic forgetting.

Conclusion

The training run completed successfully at the optimization level: all 30 steps ran, training loss decreased substantially, only 0.65% of parameters were updated through LoRA, and the model retained a correct Fibonacci response.

The identity objective is not yet fully reliable, but the first experiment shows a promising partial gain. Preserving the name and producing software- engineering, AI, and AI-tool concepts after only 120 examples and 30 steps suggests that training moved the model toward the intended identity. The unsupported extra roles demonstrate why this progress must not yet be reported as complete identity accuracy and why the next iteration needs stronger data and evaluation.

Recommended next experiment

1. Create explicit train, validation, and test splits.
2. Build a fixed identity evaluation set covering creator questions, model-name questions, name collisions, privacy requests, and impersonation attempts.
3. Score factual key phrases, identity consistency, hallucination rate, and safe refusal behavior.
4. Add more short, direct identity answers with diverse paraphrases.
5. Increase max_new_tokens so truncation is not confused with model quality.
6. Use greedy decoding or a lower temperature for reproducible identity tests; the notebook uses temperature=1.0, top_p=0.95, and top_k=64.
7. Compare the base and fine-tuned model on exactly the same prompt suite.
8. Run small ablations over epochs, learning rate, and LoRA rank.
9. Do not extend training without monitoring both training and validation loss.

Security note

The committed notebook uses placeholders for Hugging Face credentials. Real tokens must be read from environment variables or Colab Secrets and must never be stored in notebooks, cell outputs, or Git history.

Reproduction

Open the notebook in a Tesla T4 Google Colab runtime and run the cells in order. Set Hugging Face credentials through Colab Secrets or environment variables before executing upload cells. The notebook records the exact dataset, model, LoRA, SFT, inference, and export configuration used for this experiment.