RAMDeck: il nuovo hub per unire la RAM di più dispositivi in rete

RAMDeck è un innovativo hub a basso consumo attualmente in crowdfunding su Indiegogo, con un prezzo early-bird di 109 dollari. La campagna, che ha un obiettivo di finanziamento di 10.000 dollari, si concluderà l’8 novembre 2026. Questo dispositivo è progettato per aggregare la memoria RAM di PC Windows, Mac, Linux e smartphone Android all’interno di una rete domestica, permettendo di eseguire modelli di intelligenza artificiale che richiedono più risorse di quelle disponibili su un singolo dispositivo.

Il progetto nasce in un contesto di forte aumento dei prezzi della memoria DDR5, che ha visto i costi quintuplicarsi rispetto a metà 2025. È importante notare che RAMDeck non fonde la memoria a livello hardware; piuttosto, i pesi di un modello vengono distribuiti tra i vari dispositivi, ognuno dei quali mantiene la propria porzione in memoria locale e trasferisce solo i risultati intermedi attraverso la rete durante la generazione dei token.

L’infrastruttura software su cui si basa RAMDeck utilizza il protocollo RPC di llama.cpp. Ogni dispositivo partecipante avvia un server ggml RPC, e il coordinamento avviene tramite un protocollo standard. La componente principale di TradeMAV è l’orchestrazione attorno a questo motore, che include la scoperta automatica dei nodi, il posizionamento dei layer privilegiando le GPU più veloci rispetto alla RAM di sistema, la gestione dei guasti, una dashboard e un’API compatibile con OpenAI.

Le specifiche hardware del hub non sono state rese pubbliche, quindi dettagli come processore, memoria, porte e consumo rimangono sconosciuti. Tuttavia, la documentazione suggerisce che gli utenti esperti di script da terminale possono optare per una soluzione fai-da-te gratuita. Esistono già alternative software disponibili per il pooling e l’orchestrazione su dispositivi eterogenei, mentre sul mercato commerciale sono disponibili soluzioni di clustering ad alte prestazioni che utilizzano interconnessioni come Thunderbolt 5 con RDMA.

TradeMAV avverte che il pooling della memoria comporta un compromesso tra velocità e capacità. Per chi cerca prestazioni elevate, si consiglia di investire in GPU con maggiore VRAM. Nei benchmark pubblicati, le configurazioni più veloci utilizzano un mini PC con RTX 3060, con modelli mixture-of-experts che attivano circa 3 miliardi di parametri per token. I risultati mostrano 39 token/s per Qwen3-Coder 30B su una coppia di Beelink mini PC e Mac mini M4, e 16 token/s per una variante 40B REAP di Qwen3-Coder-Next. Un modello 7B ha raggiunto 43 token/s eseguendo esclusivamente sulla 3060.

Al contrario, i modelli densi mostrano prestazioni significativamente inferiori: un modello 27B denso ha prodotto solo 1,92 token/s su quattro dispositivi, mentre gpt-oss-120b ha ottenuto 1,37 token/s su un cluster di sei macchine. Un modello 120B su cinque macchine ha impiegato circa sette minuti per l’inizializzazione, raggiungendo poi 3,1 token/s. Questi risultati, pur evitando crash per esaurimento di memoria, rimangono molto lenti rispetto a configurazioni dotate di GPU con elevata VRAM.

In sintesi, l’engine sottostante di RAMDeck è un software gratuito già disponibile, mentre l’hub si propone di semplificare l’orchestrazione multi-dispositivo. Tuttavia, mancano dettagli hardware e le misure pubblicate evidenziano limiti di prestazioni per i modelli densi. Per chi desidera sperimentare, è possibile provare le modalità RPC di llama.cpp o soluzioni open source simili senza costi. Per chi preferisce la comodità, i 109 dollari garantiscono l’hub in preorder, ma è importante considerare i rischi tipici delle campagne di crowdfunding, che possono includere ritardi o cambiamenti nei piani iniziali.