【AMD推出Instinct MI350P PCIe加速卡】AMD日前宣布,推出Instinct MI350P PCIe加速卡,属于标准风冷服务器使用的双槽厚度扩展卡,用于推理工作负载,适配当前数据中心的电力、散热和机架基础设施,旨在为代理型AI时代做好准备。
Instinct MI350P PCIe基于CDNA 4架构,采用了N3P工艺的加速器复合核心(XCD)和N6工艺的I/O核心(IOD),整体规格在MI350X基础上减半。新款GPU包含了有4个XCD模块,每个XCD模块32组计算单元,共计128组,512个矩阵核心,每个XCD配置2MB L2缓存,最高频率达2200MHz;IOD提供有64通道HBM3E显存接口与128MB容量的AMD Infinity缓存;搭配的HBM3E显存采用4堆栈结构,每个堆栈为12层堆叠的36GB,共144GB容量,频率为8Gbps,可提供4TB/s的显存带宽;整卡功耗为450W,可最高配置至600W,通过单个12V-2×6接口供电。
Instinct MI350P PCIe原生支持MXFP4和MXFP6等低精度格式,这两者的算力都可以达到4.6 PFLOPs,并为主流8位和16位精度提供加速。按照AMD的说法,Instinct MI350P PCIe相比于H200 NVL,FP64性能高出20%,FP16性能高出43%,FP8性能高出39%。


