上下文窗口限制被打破:Subquadratic推出了一个1200万Token的窗口
2026年AI模型纷纷宣称支持百万Token上下文窗口,但实际表现参差不齐。迈阿密初创公司Subquadratic却推出1200万Token模型,在关键测试中准确率达92.1%,性能超越GPT-5.5等主流模型,还计划推出5000万Token版本。
注意力机制的二次方成本一直是行业难题,这家11人博士团队研发的SSA架构实现了线性增长。原文详细拆解了其技术原理,对比了稀疏注意力、混合模型等方案的局限,值得关注这场AI架构革新如何突破算力瓶颈。
