AI locale
How to run open-weight AI models on your own hardware: what each model needs, and the machines that reach it.
-
12 Sep 2026
Requisiti hardware di DeepSeek V4.1-Flash
510GB di pesi, 8B attivo. Una build MLX a 2 bit gira su un Mac Studio M3 Ultra 256GB a 9.5 token al secondo — ma non tramite llama.cpp, Ollama o LM Studio.
-
12 Sep 2026
Requisiti hardware di GLM-5.3
744B pesi, 40B attivi per token e una build a 4 bit che richiede 475GB. Di cosa ha bisogno il modello open più potente, cosa perdi a ogni quantizzazione e quali macchine lo raggiungono.
-
12 Sep 2026
Quanta memoria serve per eseguire localmente un modello open
I parametri totali determinano il costo della memoria. I parametri attivi determinano la velocità. Una scala di capacità per i modelli aperti di 2026, da 17GB a 1.6TB.