---
license: apache-2.0
base_model: utter-project/EuroLLM-1.7B-Instruct
language:
  - it
pipeline_tag: text-generation
tags:
  - liara
  - gguf
  - tool-calling
  - italian
  - on-device
  - european
---

# Liara EuroLLM-1.7B (GGUF Q8_0)

**Liara 1.7B EU "EU-native" 🇪🇺** — il modello europeo dell'app **Liara**
(assistente personale locale e privata): nato dal progetto EU EuroLLM, italiano forte.

Fine-tuning LoRA (SFT + KTO) di [utter-project/EuroLLM-1.7B-Instruct](https://huggingface.co/utter-project/EuroLLM-1.7B-Instruct)
sul dominio Liara: conversazione naturale in italiano, memoria personale e
**tool-calling testuale ChatML** (`<tool_call>{"name": …, "arguments": …}</tool_call>`)
sui 30 strumenti dell'app (email, agenda, note, meteo, calcoli, web, file, peer, telefono).

- **Quantizzazione: Q8_0** (qualità piena, perdita impercettibile ~0,1% vs FP16 —
  regola di casa: mai sotto Q6).
- **Formato prompt**: ChatML (`<|im_start|>…<|im_end|>`), system + blocco `# Tools`
  Hermes-style, gestito dall'app.
- **Allineamento anti-fabbricazione**: KTO con negativi curati (meteo inventato,
  risposta-a-mente, memoria inventata, injection nei risultati tool).

## Uso previsto

Questo GGUF è pensato per l'app Liara (zeli-local), che lo scarica dal catalogo
e lo esegue con llama.cpp. Fuori dall'app: llama.cpp con prompt ChatML e il
blocco tools nel system.

## Licenza

Apache-2.0 (come il modello base EuroLLM).