RWKV7 Instruct
Collection
指令模型 • 1 item • Updated
How to use Seikaijyu/rwkv7-g1-1.5b-instruct-preview with Transformers:
# Load model directly
from transformers import AutoModel
model = AutoModel.from_pretrained("Seikaijyu/rwkv7-g1-1.5b-instruct-preview", device_map="auto")| 参数名 | 推荐值 |
|---|---|
| Temperature | 0.8 |
| Top_P | 0.7 |
| Presence Penalty | 0 |
| Frequency Penalty | 0.3 |
此模型是针对于rwkv7 g1 1.5b的instruct后训练先行预览版,当前版本使用了6k条数据,训练长度为12k 后训练为rwkv增强了指令遵循能力和更可靠(相比预训练模型)的知识运用能力和中文能力,主要训练的是中文,所以在中文能力上会有所增强,更擅长进行简化CoT而非详细的长CoT,并在回复时做实际推理
启动服务后使用推荐参数或自定义参数直接进行对话即可
本地运行/API部署:RWKV-Runner(推荐)
API部署:ai00
Base model
BlinkDL/rwkv7-g1