In Breve
- Qual è la previsione di LinkedIn per la spesa in hardware AI nel prossimo anno fiscale?
- LinkedIn non prevede un aumento significativo della spesa per hardware AI.
- Come ha migliorato LinkedIn l'efficienza delle sue GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti in sei mesi grazie a vari miglioramenti.
- Qual è la strategia di LinkedIn riguardo ai data center?
- LinkedIn ha deciso di investire in data center propri in Oregon, Texas e Virginia.
LinkedIn ha comunicato che non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente invariato, con l’obiettivo di mantenere un’impronta di calcolo e storage pressoché stabile.
La società ha recentemente raddoppiato l’efficienza delle GPU esistenti in un arco di sei mesi, grazie a miglioramenti cumulativi nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. LinkedIn intende utilizzare questo margine operativo per sviluppare nuove funzionalità, piuttosto che investire in nuovo hardware. Erran Berger, CTO dell’ingegneria, ha descritto l’obiettivo come la capacità di mantenere stabile il footprint di calcolo, pur introducendo funzionalità più esigenti dal punto di vista computazionale.
Questa strategia si colloca in un contesto in cui LinkedIn è controllata da Microsoft dal 2016, ma adotta un approccio differente rispetto all’espansione infrastrutturale del colosso tecnologico. Microsoft ha registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, aggiungendo 31 data center in quel periodo e 88 nell’anno, con previsioni di oltre 50 miliardi per il trimestre corrente.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da allora, la società ha deciso di investire in data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore chiave, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariato storage e compute per un anno è «non una piccola impresa» e ha richiesto un notevole impegno. I miglioramenti apportati sono stati presentati come un risultato di accumulo, piuttosto che il frutto di una singola innovazione tecnologica. Questi includono un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro, la distillazione di modelli più grandi in versioni più piccole e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.
Il cambiamento è anche motivato dalla dinamica dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non afferma di aver risolto definitivamente questo problema; la scelta di mantenere invariati gli investimenti rappresenta un’alternativa alla crescita proporzionale dell’hardware e la sua efficacia dipenderà dalla capacità del programma di efficienza di mantenersi nel tempo.
