Open-Orca/OpenOrca
Viewer • Updated • 2.94M • 19.7k • 1.58k
How to use soulteary/Chinese-Llama-2-7b-ggml-q4 with Adapters:
from adapters import AutoAdapterModel
model = AutoAdapterModel.from_pretrained("undefined")
model.load_adapter("soulteary/Chinese-Llama-2-7b-ggml-q4", set_active=True)相关博客:构建能够使用 CPU 运行的 MetaAI LLaMA2 中文大模型
相关项目:soulteary/docker-llama2-chat
基于中文 LLaMA2 7B 模型项目:LinkSoul-AI/Chinese-Llama-2-7b