Rediscount

Intelligenza artificiale

Inkling 2 Mini: l'AI locale che sfida i modelli da 27 miliardi

Thinking Machines Lab lancia Inkling 2 Mini, un modello multimodale con 3B parametri attivi e contesto da 1M token. Ottimo per l'uso locale su hardware consumer.

Inkling 2 Mini: l'AI locale che sfida i modelli da 27 miliardi
Foto di Airam Dato-on · Pexels

Thinking Machines Lab ha rilasciato Inkling 2 Mini, un modello di intelligenza artificiale progettato specificamente per l'esecuzione su hardware locale. Annunciato a novembre 2026, il modello adotta un'architettura Mixture-of-Experts (MoE) con circa 26 miliardi di parametri totali, ma attiva solo 3 miliardi per ogni token elaborato. Questa struttura consente di ottenere prestazioni paragonabili a modelli molto più grandi, come Qwen 3.8 27B, mantenendo requisiti di memoria gestibili per workstation e server desktop.

Cosa è successo e come funziona

La caratteristica distintiva di Inkling 2 Mini è l'uso di un meccanismo a "loop" nei livelli del decoder. Il modello possiede 24 livelli fisici, ma i 12 livelli centrali vengono eseguiti tre volte consecutivamente. Questo approccio fa sì che il modello si comporti come se avesse 48 livelli logici, aumentando la capacità di elaborazione senza incrementare proporzionalmente la dimensione del file.

  • Contesto esteso: Supporta una finestra di contesto fino a 1 milione di token, ideale per l'analisi di documenti lunghi o sessioni di coding estese.
  • Input multimodale: Accetta sia testo che immagini come ingresso, permettendo任务 di interpretazione visiva e generazione di codice basata su screenshot.
  • Efficienza computazionale: I pesi degli esperti sono forniti in formati a precisione mista (NVFP4 e MXFP8), riducendo l'occupazione di memoria senza compromettere significativamente la qualità.
  • Supporto software: È compatibile nativamente con Transformers, Llama.cpp (llama.app) e MLX, garantendo un'integrazione immediata negli ecosistemi open source più diffusi.

Cosa cambia in pratica per chi compra in Italia

Per gli utenti che desiderano eseguire modelli di intelligenza artificiale in locale, evitando la dipendenza da servizi cloud e i relativi costi ricorrenti, Inkling 2 Mini rappresenta un'opzione concreta. La sua architettura ottimizzata permette di sfruttare hardware consumer di fascia alta, come GPU con 24 GB di memoria o configurazioni multi-GPU, per compiti avanzati di programmazione e analisi dati.

I test interni condotti dal team di sviluppo indicano che il modello è competitivo con i principali attori del settore nella sua classe di dimensioni. In particolare, eccelle nei benchmark di coding e nell'uso di strumenti per l'assistenza al lavoro, rendendolo un valido assistente per sviluppatori e professionisti che gestiscono dati sensibili e preferiscono mantenere il controllo totale sulla propria infrastruttura. La possibilità di configurare il numero di passaggi nel loop (da 1 a 3) offre inoltre un compromesso flessibile tra velocità di inferenza e qualità della generazione.

Per chi cerca alternative hardware per ospitare questi carichi di lavoro, è utile consultare la nostra selezione di componenti per PC e workstation ottimizzati per il calcolo parallelo.

Inkling 2 Mini si posiziona come uno dei modelli locali più avanzati attualmente disponibili, offrendo un equilibrio raro tra capacità cognitiva, supporto multimodale e requisiti di risorse accessibili per l'utente esperto.

Domande frequenti

Serve un PC molto potente per eseguirlo?

Sì, pur essendo ottimizzato per l'uso locale, richiede hardware con una quantità significativa di memoria RAM o VRAM. È consigliato un setup con GPU moderne e almeno 24 GB di memoria dedicata per sfruttare appieno la finestra di contesto di 1 milione di token.

I miei dati restano sul mio computer?

Sì, essendo un modello progettato per l'esecuzione locale, l'elaborazione avviene interamente sul dispositivo dell'utente. Nessun dato viene inviato a server esterni, garantendo la massima privacy e sicurezza dei file trattati.

Supporta l'analisi delle immagini?

Sì, Inkling 2 Mini è un modello multimodale che accetta input sia testuali che visivi. Può interpretare screenshot, diagrammi e fotografie per generare risposte o codice in base al contenuto visivo fornito.

Visualizza cookie policy completa

Questo pannello consente di esprimere il consenso alle tecnologie di tracciamento utilizzate da ReDiscount.it. Maggiori informazioni nella Informativa Cookie. Puoi modificare la scelta in qualsiasi momento tramite Preferenze Cookie nel piè di pagina.

Strettamente necessari

Questi strumenti di tracciamento sono strettamente necessari per garantire il funzionamento e la fornitura del servizio che ci hai richiesto e, pertanto, non richiedono il tuo consenso.

  • rd_consent — preferenze Cookie, 180 giorni, prima parte
  • rd_list_view — vista elenco o griglia, 1 anno, prima parte

Cookie analitici — Google Analytics 4

Google Analytics 4 raccoglie informazioni statistiche sull’utilizzo del Sito (pagine visitate, durata delle visite, dispositivo, provenienza del traffico). Non viene utilizzato per pubblicità comportamentale o retargeting. Si attiva soltanto dopo il consenso.

  • _ga — Google Analytics 4, 2 anni, terza parte (Google)
  • _ga_* — Google Analytics 4, 2 anni, terza parte (Google)