AI芯片变局:硬盘跑模型、谷歌砍TPU、暗战升级
AI技术

AI芯片变局:硬盘跑模型、谷歌砍TPU、暗战升级

群联在SC26上展出了一块“会自己思考”的企业级SSD:内置NPU和64GB内存,带宽130GB/s,能直接在盘上跑PyTorch、vLLM、OpenVINO和llama.cpp。按群联的说法,把计算搬到数据跟前,特定负载下数据传输量能少10到100倍,主机CPU也能松口气。同场还有一款用pSLC缓存配QLC闪存的型号,卖点在写入性能和耐久度。

另一头,谷歌在重新拨TPU的算盘。郭明錤的调查显示,谷歌计划2027年把博通设计的TPU 8i系列砍掉约100万颗,占该系列预估出货量的两成,砍的主要是价格更高的8i Max和Whalefish。空出来的量转给联发科设计的TPU 8t,具体数字还没定。供应紧张,数据中心供电也顶到了天花板,谷歌只能把算力优先留给前沿模型。另外,谷歌正把TPU设计与HBM采购部分拆开,图的是压成本。

芯片之外还有暗线。《纽约时报》报道称,美国及其他国家的现任和前任官员指认中国国家安全部长期搞秘密行动,帮中国企业拿到先进AI芯片。这类说法目前停留在官员口径层面,没有公开证据支撑,但足以说明先进算力的获取渠道已经不只是商业问题。

三件事摆在一起,方向挺清楚。算力正往数据身边挪,硬盘、存储节点这类“边缘”位置开始承担推理;超大规模厂商在供电和成本双重约束下重新安排芯片组合,贵的少买、便宜的加单;出口管制越收越紧,灰色渠道的传闻就不会停。AI芯片的竞争,已经绕不开存储、供电和出口管制。晶体管数量只是其中一项。