Intro

Sono da sempre un appassionato di tecnologia e già qualche anno fa sono entrato nel rabbit hole dell’home labbing. Con tutto questo parlare di AI, sviluppare un interesse per l’inferenza locale credo fosse il prossimo passo naturale.

Ma ancora prima delle sfide e dell’interesse tecnico che questo mondo porta con se, credo fortemente nel fatto che il futuro dell’AI sia locale. Sia per ragioni pratiche di sostenibilità dell’intero ecosistema AI, che oggi divora risorse in maniera decisamente non proporzionale ai ritorni effettivi che le aziende possono trarne in base al pricing, sia per un tema di democratizzazione dell’accesso a questo tipo di strumenti che non può e non dovrebbe rimanere in mano a grandi provider esterni.

Introduzione — Sperimenta in piccolo, sogna in grande

Da qualche mese uno dei mini PC nel mio homelab sta subendo un po’ di maltrattamenti o, per meglio dire, sta venendo utilizzato un po’ oltre quelle che erano le sue specifiche di utilizzo atteso. Gli faccio fare cose per cui non è stato progettato: caricare LLM, processare prompt, generare testo e analizzare immagini. Roba da PC serio, con GPU discreta insomma, ma lui non lo sa e funziona lo stesso.

Introduzione — Perchè avere un piccolo server domestico è una buona idea e come gestirlo

Un paio di anni fa sono caduto nel rabbit hole dell’homelabbing. Da buon nerd quale sono, non ho saputo resistere alla tentazione di costruire il mio piccolo server personale. Sono sempre stato affascinato dalle configurazioni compatte e silenziose — non necessariamente le più potenti, ma le più adatte allo scopo, così dopo aver letto decine e decine di post su r/homelab e guardato più o meno ogni video della serie TyniMiniMicro mi sono finalmente deciso.