重要提醒

Qwen-AgentWorld 是一个面向智能体环境模拟 / 语言世界模型的模型。它的设计目标是模拟 agent 与环境的交互，并基于动作和历史预测环境状态。除非你确实需要这种世界模型的行为，不建议把它当成通用日常助手、代码模型或自主 Agent 基座使用。

关于本仓库

本仓库是 Qwen-AgentWorld-35B-A3B 的 GGUF 格式发布版本。Qwen-AgentWorld-35B-A3B 是一个基于 Qwen3.5 MoE 的世界模型，专注智能体环境模拟。

本模型是 Qwen 官方原版发布，没有进行任何 LoRA 合并或 abliteration 处理。我们从一份兼容的 Qwen3.5-35B-A3B MTP 分片中提取了原生 MTP 层，注入到 AgentWorld 的 safetensors 权重中，然后将结果转换为 BF16 GGUF，再用模型专属的 imatrix 量化到 APEX-I 档位。

仓库中同时保留了 BF16 GGUF、imatrix 以及 mmproj-F16.gguf，方便复现和 llama.cpp 多模态使用。

模型信息

基础模型	`Qwen/Qwen-AgentWorld-35B-A3B`
架构	Qwen3.5 MoE
参数量	总 35B，每 token 激活约 3B
Experts	256 routed experts，每 token 激活 8 个
上下文	262,144 tokens
MTP	注入 1 层 MTP，共 785 个 tensor
许可证	Apache-2.0

MTP 提取与注入

MTP 层从兼容的 Qwen3.5-35B-A3B MTP 分片中提取，注入到 AgentWorld 的 safetensors 权重中。

Tensor 前缀	`mtp.*`
Tensor 数量	785
注入分片	`model-00022-of-00022.safetensors`

BenchLocal 测试结果（I-Compact, 思考）

模型	TC	BF	HA	能力上限	实用	重试
Qwen-AgentWorld-35B-A3B, 思考	100	87	81	88.5	87.5	1
Qwen3.6-35B 思考基线	97	88	85	89.5	81.5	8

建议对此模型启用思考模式。I-Mini、I-Quality、I-Balanced 三个档位正在用模型专属 imatrix 重新测试中。

使用方法

llama.cpp server

hf download SC117/Qwen-AgentWorld-35B-A3B-MTP-APEX-GGUF --include "*.gguf" --local-dir ./models/qwen-agentworld-mtp-apex ./llama-server -m ./models/qwen-agentworld-mtp-apex/Qwen-AgentWorld-35B-A3B-MTP-APEX-I-Compact.gguf -ngl 99 -c 131072

图文混合

./llama-server -m ./models/qwen-agentworld-mtp-apex/Qwen-AgentWorld-35B-A3B-MTP-APEX-I-Compact.gguf --mmproj ./models/qwen-agentworld-mtp-apex/mmproj-f16.gguf -ngl 99 -c 131072

APEX 量化档位

文件	大小	档位	适用场景
`*-APEX-I-Balanced.gguf`	24.33 GB	I-Balanced	最高精度全能档
`*-APEX-I-Quality.gguf`	21.87 GB	I-Quality	质量优先，中层 experts 用 IQ4_XS
`*-APEX-I-Compact.gguf`	16.14 GB	I-Compact	质量/体积比推荐档
`*-APEX-I-Mini.gguf`	13.29 GB	I-Mini	最小可用档

用基于 AgentWorld 清洗校准文本生成的模型专属 imatrix 量化。