万益资讯网

被称为"HBM之父"的金正浩认为,AI的核心竞争力正从GPU转向内存,"谁更强,

被称为"HBM之父"的金正浩认为,AI的核心竞争力正从GPU转向内存,"谁更强,由内存决定"。随着Agentic AI和具身智能发展,未来内存需求将增长1000倍。HBM之后将是HBF、HBS的时代,终极AI芯片将演进为一栋"100层3D大楼":HBM、HBF、HBS垂直堆叠,GPU位于顶层负责散热。90%的时间,GPU都在等待内存中的数据到来,基本上是在闲置。

原因很简单。每次AI输出一个单词的答案时,都需要从HBM读取数据并重新写入,而这个读写时间几乎占用了全部时间。

即使优化算法,GPU也很难超过30%的利用率。因此金教授强调AI能力最终由内存决定,AI本质上就是内存。