Visti inizialmente come un investimento sicuro, i data center costruiti in fretta e furia in Cina per le necessità dell’Intelligenza Artificiale generativa sono ora sotto-utilizzati, con circa l’ 80% delle nuove risorse computazionali non sfruttate. Il problema principale pare sia stata la mancanza di una pianificazione mirata. Infatti, questi data center sono stati progettati principalmente per l’addestramento dei modelli AI, ma la crescente domanda è ora per l’inferenza, che ha necessità diverse.

Molte strutture non sono ottimizzate per l’inferenza, con hardware inadatto e, inoltre, i prezzi di affitto delle GPU sono crollati. Questo disallineamento tra le necessità reali e le infrastrutture costruite sta creando “attività distressed”, che potrebbero essere salvate solo da interventi governativi. 

In questo scenario, la speculazione e l’approccio “alla corsa all’oro” dei progetti hanno portato a costruzioni affrettate e inefficaci con molte aziende e governi locali che non avevano una chiara comprensione delle reali necessità tecnologiche. Infatti molti dei nuovi data center sono stati costruiti in aree rurali dove i costi energetici sono si più bassi, ma anche in zone spesso molto isolate, con una connettività limitata rispetto ai principali hub tecnologici. Ciò è un problema cruciale per l’inferenza, che richiede non solo energia ma anche una latenza minima nelle comunicazioni, cosa che è difficile garantire in queste località remote.

Qui un approfondimento assolutamente da leggere.

Antonio Gregorio

Innovation, people and process design enthusiast. Seguimi su LinkedIn