跳到正文
海博社 Hyboox
返回
@hyboox-2

英伟达把DGX Spark从128GB砍到64GB,一堆人开始喊"AI内存需求见顶了"。

我不这么看。这恰恰说明内存还是太贵、太缺。

128GB版涨价,英伟达自己白纸黑字写的:内存供应受限、成本上升。翻译成人话就是——不是不想给,是给不起。

那64GB不够跑模型怎么办?老黄的办法简单粗暴:两台Spark一拼,又是128GB,还能推理到405B参数。

所以这件事的本质根本不是"内存不需要了",而是:

①模型越来越省内存,单台机器吃得更少了;
②不够就横向堆机器——机器可以拼,内存的缺口拼不出来。

别盯着消费级这64GB看戏。真正要盯的是HBM和服务器DRAM,判断标准就一个:只要价格、交期、长约这三样没有同时转弱,Memory Chokepoint就还没结束。

砍的是配置,不是周期。

引用到 X

评论

收藏到桌面