“La santa trinità della memoria è costituita da capacità, larghezza di banda e topologia“, spiega battaglia. La topologiain particolare, è la distanza dei moduli ram dalla cpu. Sebbene non rappresenti un grosso problema nei data center, è una grave limitazione quando si parla dello spazio allocato per la memoria aggiuntiva sui portatili. Progettando una scheda madre più piccola, senza l’ingombro delle ventole di raffreddamento, è possibile ricavare più spazio fisico per la dram.
Per Schlachte è proprio questo il pezzo del puzzle che manca ai produttori di memorie. “La memoria a grande larghezza di banda sta risolvendo il problema della larghezza di banda nei data center, un settore in cui la domanda è così grande che si è disposti a pagare qualsiasi prezzo“, afferma l’ad di Ventiva. “Non sono sicuro che questo abbia molto senso dal punto di vista economico nel lungo periodo“.
Schlachte spiega che la produzione di memoria per i data center AI in realtà non è conveniente, in quanto è molto più difficile rispetto alla dram. Con gli opportuni incentivi e segnali dal mercato, non c’è motivo per cui i produttori di memorie non tornino a costruire dram.
Oltre la tirannia del cloud
L’addestramento dei modelli fondativi avrà sempre bisogno del cloud, ma se i pc AI riuscissero a gestire la maggior parte delle modalità di utilizzo della tecnologia, in particolare l’esecuzione di modelli linguistici di grandi dimensioni, per i produttori di memorie avrebbe sempre meno senso concentrarsi esclusivamente sul data center. Questa è almeno la teoria di Phison e Ventiva.
Questo piano di salvataggio si basa sulla creazione di una domanda sufficiente per l’elaborazione dell’intelligenza artificiale on-devicetale da avere un impatto sui profitti dei produttori di memorie. A questo scopo, serve convincere le persone e le aziende non solo ad abbracciare pienamente l’AI, ma anche a chiedere con maggiore forza di eseguire i calcoli sul dispositivo. Come esempio, Schlachte cita Goldman-Sachs e altre organizzazioni che acquistano computer portatili e richiedono un’AI sicura e incentrata sulla privacy che non invii dati sensibili al cloud.
Delegando una quota maggiore delle prestazioni delle AI agli acquirenti di pc, la speranza è quella di liberarci dalla dipendenza dal cloud. Ma questi attori non saranno in grado di far invertire la tendenza da soli. Dovranno convincere i produttori di notebook, che a loro volta dovranno parlare con Intel e Amdi quali dovranno poi presentare una visione unificata ai produttori di memorie. Non è un’impresa da poco. Ma se queste aziende vogliono evitare un grave calo delle vendite di pc a causa dell’aumento dei prezzi, è uno sforzo che deve essere fatto.
Questo articolo è apparso originariamente Sono Cablato negli Stati Uniti.
