AMD公布Instinct MI350系列AI加速卡完整架构，2025年Q3供货

这里可以调整气泡内文字大小！滑动试试吧！ ×

12 px

26 px

科技媒体WccfTech发布博文，报道了在Hot Chips 2025大会上，AMD公布了Instinct MI350系列AI加速卡的完整架构细节。该系列基于先进的3nm CDNA 4架构，采用创新的3D多芯粒设计，集成了高达1850亿个晶体管，并支持288GB HBM3e高带宽显存，总带宽达到惊人的8TB/s。

MI350系列作为AMD针对AI领域的最新旗舰方案，主要提升了训练和推理大语言模型（LLM）的能力。该系列包括风冷的MI350X与液冷的MI355X两种型号，功耗上限分别达到1000W与1400W，最高频率分别为2.2GHz和2.4GHz。其核心架构采用8个XCD加速计算芯粒与2个IOD IO芯粒，通过第四代Infinity Fabric互联技术，实现了双向带宽高达1075GB/s的惊人数据传输速率，并内置了256MB Infinity Cache。HBM3e控制器支持8颗36GB堆叠显存，形成了总容量高达288GB的显存系统。

在计算单元方面，MI350系列单卡配备了256个计算单元，共计16384个流处理器及1024个矩阵核心，支持FP8、MXFP6/MXFP4、INT8/INT4等多种低精度数据类型。其FP4/FP6算力最高可达20PFLOPs，FP8算力最高可达80.5PFLOPs。与上代MI300系列相比，MI350系列在运行Llama 3.1 405B推理时的吞吐性能提升了高达35倍，Deepseek R1推理能力也提升了3倍。

此外，MI350系列还支持GPU和显存按需分区，可在单插槽内运行多达8个700亿参数模型实例，并可在多卡配置下通过154GB/s双向链路互联，实现了高效的并行计算能力。标准OAM封装设计使得MI350系列可轻松安装至UBB2.0底板，8卡系统可搭配最新第五代EPYC处理器与400GbE网络接口，完美部署于数据中心机架。

值得一提的是，MI355X在FP6、FP64等指标上相比英伟达的GB200/B200具备2倍以上的优势，HBM容量也领先1.6倍。AMD表示，MI350系列将于2025年第三季度由合作伙伴正式供货，并已着手研发下一代MI400系列，计划于2026年推出。