我不这么看。这恰恰说明内存还是太贵、太缺。
128GB版涨价,英伟达自己白纸黑字写的:内存供应受限、成本上升。翻译成人话就是——不是不想给,是给不起。
那64GB不够跑模型怎么办?老黄的办法简单粗暴:两台Spark一拼,又是128GB,还能推理到405B参数。
所以这件事的本质根本不是"内存不需要了",而是:
①模型越来越省内存,单台机器吃得更少了;
②不够就横向堆机器——机器可以拼,内存的缺口拼不出来。
别盯着消费级这64GB看戏。真正要盯的是HBM和服务器DRAM,判断标准就一个:只要价格、交期、长约这三样没有同时转弱,Memory Chokepoint就还没结束。
砍的是配置,不是周期。

评论