Instructions to use evilfreelancer/ruGPT3.5-13B-lora-chain-of-thought with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- PEFT
How to use evilfreelancer/ruGPT3.5-13B-lora-chain-of-thought with PEFT:
from peft import PeftModel from transformers import AutoModelForCausalLM base_model = AutoModelForCausalLM.from_pretrained("ai-forever/ruGPT-3.5-13B") model = PeftModel.from_pretrained(base_model, "evilfreelancer/ruGPT3.5-13B-lora-chain-of-thought") - Notebooks
- Google Colab
- Kaggle
Update README.md
Browse files
README.md
CHANGED
|
@@ -23,7 +23,7 @@ LoRA адаптер для ruGPT3.5-13B обученный на датасете
|
|
| 23 |
помощи модели [utrobinmv/t5_translate_en_ru_zh_small_1024](https://huggingface.co/utrobinmv/t5_translate_en_ru_zh_small_1024)
|
| 24 |
прикладываю скрипт [перевода](https://gist.github.com/EvilFreelancer/230fb48329889506cf88c03b8893e4b9) на Gist.
|
| 25 |
|
| 26 |
-
Конфигурация: https://github.com/EvilFreelancer/impruver/blob/main/configs/
|
| 27 |
|
| 28 |
Адаптер обучался на 1x RTX 4090, для этого потребовалось примерно 20Gb VRAM и заняло 19m.
|
| 29 |
|
|
|
|
| 23 |
помощи модели [utrobinmv/t5_translate_en_ru_zh_small_1024](https://huggingface.co/utrobinmv/t5_translate_en_ru_zh_small_1024)
|
| 24 |
прикладываю скрипт [перевода](https://gist.github.com/EvilFreelancer/230fb48329889506cf88c03b8893e4b9) на Gist.
|
| 25 |
|
| 26 |
+
Конфигурация: https://github.com/EvilFreelancer/impruver/blob/main/recipes/configs/ruGPT-3.5/13B_lora_cot.yaml
|
| 27 |
|
| 28 |
Адаптер обучался на 1x RTX 4090, для этого потребовалось примерно 20Gb VRAM и заняло 19m.
|
| 29 |
|