--- library_name: transformers license: other license_name: lfm1.0 license_link: LICENSE language: - en - ar - zh - fr - de - ja - ko - es - pt - it pipeline_tag: text-generation tags: - liquid - lfm2.5 - edge - DAC - M.INC. - conversational base_model: LiquidAI/LFM2.5-230M --- ## ☕ Support my research [![Buy Me a Coffee](https://img.shields.io/badge/Support-Buy%20Me%20a%20Coffee-FFDD00?style=for-the-badge&logo=buymeacoffee&logoColor=black)](https://www.buymeacoffee.com/marzomattye) # Mattimax/DAC6-180M

Labs Logo

DAC6‑180M (M.INC. Research)

DAC6 Logo

**Mattimax/DAC6-180M** è un modello linguistico compatto (Edge AI) sviluppato da **M.INC. Research** e ottimizzato per applicazioni di chat e assistenza conversazionale in **10 lingue**. Il modello deriva da **LiquidAI/LFM2.5-230M**, appartenente alla famiglia dei **Liquid Foundation Models (LFM)**, un'architettura progettata per offrire elevata efficienza computazionale, basso consumo di memoria e inferenza veloce anche su hardware limitato. Attraverso un processo di **fine-tuning**, **distillazione** e **pruning controllato**, il modello è stato ridotto a circa **180 milioni di parametri attivi**, mantenendo buone capacità conversazionali e risultando adatto all'esecuzione su smartphone, dispositivi edge e sistemi embedded. --- # Lingue supportate Il modello è stato addestrato per supportare nativamente le seguenti lingue: - 🇬🇧 Inglese (`en`) - 🇸🇦 Arabo (`ar`) - 🇨🇳 Cinese (`zh`) - 🇫🇷 Francese (`fr`) - 🇩🇪 Tedesco (`de`) - 🇯🇵 Giapponese (`ja`) - 🇰🇷 Coreano (`ko`) - 🇪🇸 Spagnolo (`es`) - 🇵🇹 Portoghese (`pt`) - 🇮🇹 Italiano (`it`) --- # Caratteristiche principali - Architettura **Liquid Foundation Model (LFM)**. - Circa **183,5 milioni di parametri attivi**. - Ottimizzato per conversazioni e instruction following. - Supporto multilingue. - Elevata efficienza su CPU e dispositivi Edge AI. - Ridotto utilizzo di memoria rispetto ai Transformer tradizionali. - Ideale per utilizzo offline o su hardware con risorse limitate. --- # Architettura A differenza dei tradizionali modelli Transformer, DAC6-180M sfrutta l'architettura **Liquid Foundation Models**, basata su operatori lineari dinamici e modelli a spazio di stato. Questa architettura offre numerosi vantaggi: - complessità lineare rispetto alla lunghezza del contesto; - minore consumo di memoria RAM; - maggiore throughput durante l'inferenza; - migliore scalabilità su dispositivi embedded ed Edge AI. --- # Utilizzo ```python from transformers import AutoModelForCausalLM, AutoTokenizer model_id = "Mattimax/DAC6-180M" tokenizer = AutoTokenizer.from_pretrained(model_id) model = AutoModelForCausalLM.from_pretrained( model_id, trust_remote_code=True ) messages = [ { "role": "system", "content": "Sei un assistente virtuale utile e conciso." }, { "role": "user", "content": "Ciao! Quali sono i vantaggi dell'architettura LiquidAI?" } ] prompt = tokenizer.apply_chat_template( messages, tokenize=False, add_generation_prompt=True ) inputs = tokenizer( prompt, return_tensors="pt" ).to(model.device) outputs = model.generate( **inputs, max_new_tokens=150, temperature=0.7 ) response = tokenizer.decode( outputs[0][inputs.input_ids.shape[-1]:], skip_special_tokens=True ) print(response) ``` --- # Prompt Template Il modello utilizza il template ChatML fornito dal tokenizer. ```text <|im_start|>system Sei un assistente virtuale utile e conciso. <|im_end|> <|im_start|>user Ciao! Come stai? <|im_end|> <|im_start|>assistant Ciao! Sto bene, grazie. Come posso aiutarti oggi? <|im_end|> ``` --- # Prestazioni previste DAC6-180M è stato progettato principalmente per: - chatbot offline; - assistenti virtuali; - automazione locale; - dispositivi Edge AI; - Raspberry Pi; - smartphone; - sistemi embedded; - applicazioni con memoria limitata. --- # Limitazioni Come tutti i modelli di dimensioni contenute, DAC6-180M presenta alcune limitazioni: - può produrre allucinazioni su argomenti specialistici; - è meno performante rispetto ai modelli con miliardi di parametri nei compiti di ragionamento complesso; - le prestazioni migliori si ottengono in inglese e nelle lingue maggiormente rappresentate durante il pre-addestramento del modello base. --- # Riconoscimenti Il modello è basato su: - **LiquidAI/LFM2.5-230M** Sviluppo, fine-tuning e ottimizzazioni: **M.INC. Research**