Inkling 2 Mini: l'AI locale che sfida i modelli da 27 miliardi
Thinking Machines Lab lancia Inkling 2 Mini, un modello multimodale con 3B parametri attivi e contesto da 1M token. Ottimo per l'uso locale su hardware consumer.

Thinking Machines Lab ha rilasciato Inkling 2 Mini, un modello di intelligenza artificiale progettato specificamente per l'esecuzione su hardware locale. Annunciato a novembre 2026, il modello adotta un'architettura Mixture-of-Experts (MoE) con circa 26 miliardi di parametri totali, ma attiva solo 3 miliardi per ogni token elaborato. Questa struttura consente di ottenere prestazioni paragonabili a modelli molto più grandi, come Qwen 3.8 27B, mantenendo requisiti di memoria gestibili per workstation e server desktop.
Cosa è successo e come funziona
La caratteristica distintiva di Inkling 2 Mini è l'uso di un meccanismo a "loop" nei livelli del decoder. Il modello possiede 24 livelli fisici, ma i 12 livelli centrali vengono eseguiti tre volte consecutivamente. Questo approccio fa sì che il modello si comporti come se avesse 48 livelli logici, aumentando la capacità di elaborazione senza incrementare proporzionalmente la dimensione del file.
- Contesto esteso: Supporta una finestra di contesto fino a 1 milione di token, ideale per l'analisi di documenti lunghi o sessioni di coding estese.
- Input multimodale: Accetta sia testo che immagini come ingresso, permettendo任务 di interpretazione visiva e generazione di codice basata su screenshot.
- Efficienza computazionale: I pesi degli esperti sono forniti in formati a precisione mista (NVFP4 e MXFP8), riducendo l'occupazione di memoria senza compromettere significativamente la qualità.
- Supporto software: È compatibile nativamente con Transformers, Llama.cpp (llama.app) e MLX, garantendo un'integrazione immediata negli ecosistemi open source più diffusi.
Cosa cambia in pratica per chi compra in Italia
Per gli utenti che desiderano eseguire modelli di intelligenza artificiale in locale, evitando la dipendenza da servizi cloud e i relativi costi ricorrenti, Inkling 2 Mini rappresenta un'opzione concreta. La sua architettura ottimizzata permette di sfruttare hardware consumer di fascia alta, come GPU con 24 GB di memoria o configurazioni multi-GPU, per compiti avanzati di programmazione e analisi dati.
I test interni condotti dal team di sviluppo indicano che il modello è competitivo con i principali attori del settore nella sua classe di dimensioni. In particolare, eccelle nei benchmark di coding e nell'uso di strumenti per l'assistenza al lavoro, rendendolo un valido assistente per sviluppatori e professionisti che gestiscono dati sensibili e preferiscono mantenere il controllo totale sulla propria infrastruttura. La possibilità di configurare il numero di passaggi nel loop (da 1 a 3) offre inoltre un compromesso flessibile tra velocità di inferenza e qualità della generazione.
Per chi cerca alternative hardware per ospitare questi carichi di lavoro, è utile consultare la nostra selezione di componenti per PC e workstation ottimizzati per il calcolo parallelo.
Inkling 2 Mini si posiziona come uno dei modelli locali più avanzati attualmente disponibili, offrendo un equilibrio raro tra capacità cognitiva, supporto multimodale e requisiti di risorse accessibili per l'utente esperto.
Domande frequenti
Serve un PC molto potente per eseguirlo?
Sì, pur essendo ottimizzato per l'uso locale, richiede hardware con una quantità significativa di memoria RAM o VRAM. È consigliato un setup con GPU moderne e almeno 24 GB di memoria dedicata per sfruttare appieno la finestra di contesto di 1 milione di token.
I miei dati restano sul mio computer?
Sì, essendo un modello progettato per l'esecuzione locale, l'elaborazione avviene interamente sul dispositivo dell'utente. Nessun dato viene inviato a server esterni, garantendo la massima privacy e sicurezza dei file trattati.
Supporta l'analisi delle immagini?
Sì, Inkling 2 Mini è un modello multimodale che accetta input sia testuali che visivi. Può interpretare screenshot, diagrammi e fotografie per generare risposte o codice in base al contenuto visivo fornito.
