Tockys/GemQwen-0.5B-Instruct-q4f16_1-MLC

GemQwen-0.5B-Instruct (q4f16_1, MLC/WebLLM形式)

Gemma 3 1B(日本語・文章)と Qwen2.5-Coder-0.5B(コード・論理)の2つの教師モデルの 回答を1つの生徒モデル(Qwen2.5-Coder-0.5Bベース)へ知識蒸留した融合モデル。

• 日本語タスク(要約・感想文・敬語・会話) → Gemma 3 1B が教師
• コード・アルゴリズム・計算 → Qwen2.5-Coder-0.5B が教師
• さらに「Qwen下書き→Gemma清書」のリレー合成もデータ化して焼き込み
• LoRA(rank16, 全層) → fuse → q4f16_1 量子化(MLC)

gemqwen.pages.dev のWebLLM PWAで動作。 model_libはWebLLM prebuiltの Qwen2.5-0.5B-Instruct-q4f16_1-MLC と互換(同アーキテクチャ)。