AMD宣布,推出Instinct MI350P PCIe加速卡,属于标准风冷服务器使用的双槽厚度扩展卡,用于推理工作负载,适配当前数据中心的电力、散热和机架基础设施,旨在为代理型AI时代做好准备。这也是AMD时隔四年再次带来PCIe AIC形态的加速卡,期间同类产品采用的是OAM外形规格。
Instinct MI350P PCIe基于CDNA 4架构,采用了N3P工艺的加速器复合核心(XCD)和N6工艺的I/O核心(IOD),整体规格是在MI350X基础上减半。新款GPU包含了有4个XCD模块,每个XCD模块32组计算单元,共计128组,512个矩阵核心,每个XCD配置2MB L2缓存,最高频率达2200MHz;IOD提供有64通道HBM3E显存接口与128MB容量的AMD Infinity缓存;搭配的HBM3E显存采用4堆栈结构,每个堆栈为12层堆叠的36GB,共144GB容量,频率为8Gbps,可提供4TB/s的显存带宽;整卡功耗为450W,可最高配置至600W,通过单个12V-2×6接口供电。
Instinct MI350P PCIe原生支持MXFP4和MXFP6等低精度格式,这两者的算力都可以达到4.6 PFLOPs,并为主流8位和16位精度提供稀疏加速。由于英伟达没有推出基于Blackwell架构的B200 PCIe版本,只停留在Hopper架构的H200 NVL,AMD的新品可以说是最强同类PCIe产品。按照AMD的说法,Instinct MI350P PCIe相比于H200 NVL,FP64性能高出20%,FP16性能高出43%,FP8性能高出39%。
AMD表示,Instinct MI350P PCIe可组建由八张加速卡组成的系统,采用风冷散热,非常适合用于推理和RAG流水线的小型、中型和大型AI模型。目前新产品已经通过合作伙伴销售,可支持完整的ROCm开放软件栈。
暂无回复,快来抢沙发吧!
本次需消耗银元:
100
当前账户余额: 0 银元
AMD宣布,推出Instinct MI350P PCIe加速卡,属于标准风冷服务器使用的双槽厚度扩展卡,用于推理工作负载,适配当前数据中心的电力、散热和机架基础设施,旨在为代理型AI时代做好准备。这也是AMD时隔四年再次带来PCIe AIC形态的加速卡,期间同类产品采用的是OAM外形规格。
Instinct MI350P PCIe基于CDNA 4架构,采用了N3P工艺的加速器复合核心(XCD)和N6工艺的I/O核心(IOD),整体规格是在MI350X基础上减半。新款GPU包含了有4个XCD模块,每个XCD模块32组计算单元,共计128组,512个矩阵核心,每个XCD配置2MB L2缓存,最高频率达2200MHz;IOD提供有64通道HBM3E显存接口与128MB容量的AMD Infinity缓存;搭配的HBM3E显存采用4堆栈结构,每个堆栈为12层堆叠的36GB,共144GB容量,频率为8Gbps,可提供4TB/s的显存带宽;整卡功耗为450W,可最高配置至600W,通过单个12V-2×6接口供电。
Instinct MI350P PCIe原生支持MXFP4和MXFP6等低精度格式,这两者的算力都可以达到4.6 PFLOPs,并为主流8位和16位精度提供稀疏加速。由于英伟达没有推出基于Blackwell架构的B200 PCIe版本,只停留在Hopper架构的H200 NVL,AMD的新品可以说是最强同类PCIe产品。按照AMD的说法,Instinct MI350P PCIe相比于H200 NVL,FP64性能高出20%,FP16性能高出43%,FP8性能高出39%。
AMD表示,Instinct MI350P PCIe可组建由八张加速卡组成的系统,采用风冷散热,非常适合用于推理和RAG流水线的小型、中型和大型AI模型。目前新产品已经通过合作伙伴销售,可支持完整的ROCm开放软件栈。