吉祥访体育手机官网 AMD发布用于AI推理PCIe GPU卡

你不错围绕一款全新GPU,借助悉心野心的膨胀网络、特有的芯粒架构以及先进的液冷时间,搭建一整座数据中心。或者如AMD,不错推出一款性能刚烈的GPU,让客户大要径直插入现存做事器的PCI总线,为开动新的AI责任负载立即取得性能提高。
这恰是AMD上周发布的MI350P——其Instinct系列的最新GPU所遴荐的战略。MI350P领有1,850亿个晶体管、144GB HBM3e显存容量,以及每秒4TB的峰值内存带宽,专为开动大中小边界谈话模子野心,适用于AI推理和RAG(检索增强生成)场景。

AMD MI350P时间规格
MI350P插入程序PCIe Gen 5总线,与主机之间提供每秒128GB的贯串速率。其热野心功耗为600W,支握BF16、FP8、MXFP6和MXFP4精度责任负载,通过128个AMD CDNA第四代计较单位,可提供2,299万亿次浮点运算性能,MXFP4精度下峰值可达4,600万亿次浮点运算。
单节点最多可设置8块MI350P GPU,客户还可将每块MI350P GPU诀别为4个分区,每个分区配备36GB HBM3内存。该GPU野心用于处理参数目达2,000亿至2,500亿的AI模子,同期还提供视频和JPG解码功能。
这款新GPU遴荐程序风冷野心,AMD对此成心强调。"遴荐AI并不料味着要透顶重建基础治安,"AMD负责计较和企业级AI业务开垦团队负责东谈主Suresh Andani在AMD博客著作中写谈。"借助AMD Instinct MI350P PCIe卡,企业不错在现存数据中心内开动更多模子、做事更多用户。"

AMD Instinct MI350系列GPU及 MI350P PCIe卡
相接伙伴支握
AMD发布MI350P时取得了包括戴尔科技在内的计较机厂商支握。戴尔居品惩办副总裁David Schmidt暗示,吉祥访体育手机官网这款新GPU将匡助客户更快鼓动业务。"关于老成布局AI的企业而言,土产货基础治安不是调解,"他说,"这是一种竞争上风,能提供最要紧的管控力、安全性和可掂量的遗弃。"
技嘉也在其AI做事器居品声势中遴荐MI350P。技嘉总司理Daniel Hou赞好意思这款新GPU的实用性。"凭借基于PCIe的野心,AMD Instinct MI350P罢了了天真部署和无缝系统集成,使企业大要构建高性能AI环境,具备人人膨胀所需的天真性和后果,"Hou暗示。

AMD的其他GPU居品线
AMD同期也在研发更高端的风冷GPU以及液冷居品。举例,该公司推出了Instinct UB B8,这是一款基于MI350X和MI355X系列的8-GPU风冷设置,以通用基板神色委派。
UB B8提供2.3TB HBM3显存,提供每秒8TB的内存带宽。它还将接入AMD的Infinity Fabric互联架构,提供AMD称其膨胀能力可与英伟达Blackwell终点。UB B8将支握参数目最高达5,000亿的模子,专为大边界AI覆按和推理野心。
AMD还提供Instinct MI355X的液冷版块,其热野心功耗高达1,400W。超微和TensorWave正与AMD相接支握这些液冷芯片。AMD还提供其Radeon游戏GPU的液冷版块。

市集定位
大发官方网站手机app毫无疑问,大要以荒谬花式串联起来覆按最大型AI模子、撑握巨型AI工场的超高端GPU如实有其市集。这些居品竣工需要液冷吉祥访体育手机官网,甚而可能需要不同的供电决策,举例英伟达转向800V直流供电。但也有大皆客户需要高性能计较建造来在现存时间栈上开动稍小一些的AI模子,且不肯为此建造全新的数据中心。这恰是AMD以MI355P GPU所对准的细分市集。