6月7日消息,虽然目前在AI加速芯片市场,英伟达可谓是一家独大,占据了大约超过90%的市场份额,但是英伟达AI加速芯片的供应瓶颈和高昂的价格也让不少客户颇有微词。
对此,AMD和英特尔也在持续推出更具性价比AI加速芯片来争夺市场份额。根据最新披露的数据显示,英特尔新推出的 Guadi 3 的价格仅为15,650美元左右,只有英伟达H100 80G版本价格的一半左右。
资料显示,Gaudi 3将基于台积电5nm工艺,拥有 8 个矩阵数学引擎、64 个张量内核、96MB SRAM(每个Tile 48MB,可提供12.8 TB/s的总带宽) 和 128 GB HBM2e 内存,16 个 PCIe 5.0 通道和 24 个 200GbE 链路 。
在计算核心的周围,则是八个HBM2e内存堆栈,总容量为128 GB,带宽为3.7 TBps。
根据英特尔官方公布的数据显示,Gaudi 3 在流行的大语言模型(LLM)训练速度方面,比英伟达H100平均快了40%;在流行大模型的推理能效表现上,比如英伟达H100领先50%。
英特尔 Gaudi 3 与英伟达 H100 在相同节点数量下,相关大模型训练时间对比上最高快了1.7倍,其中,LLAMA2 70 亿参数对比有 1.5 倍于 H100 的优势,LLAMA2 130 亿参数最高有 1.7 倍的优势,GPT-3 1750 亿参数有 1.4 倍优势。在大模型推理速度表现上,Gaudi 3 相比 H100 平均快了1.5倍,最高快了4倍。
英特尔CEO帕特 基辛格在Computex 2024展会上表示,其Xeon处理器与Gaudi系列加速器不仅具备高效能,整体成本低于其他平台的三分之一,这两款产品也可以整合在单一系统中,整体平台也比其他竞争者的解决方案更具竞争力。
目前,英特尔Gaudi 3已经上市,并且与戴尔、慧与科技、联想、美超威、华硕、鸿海、技嘉、英业达、广达和纬创展开合作。
根据Tirias Research 分析师 Jim McGregor 最新公布的数据显示,英特尔集成了8个Gaudi 2 芯片的加速器售价为 65,000 美元,集成了8个Gaudi 3 芯片的加速器售价为 125,000 美元。
这也意味着单个 Gaudi 2 芯片价格约为 8,125 美元,而单个 Gaudi 3 芯片价格约为 15,650 美元。当然,这是批量购买时的价格,如果采购量更大,英特尔可能还会进一步提供折扣。
对比之下,英伟达当前热销的 H100 80GB 加速卡售价约为 30,000 美元。
汇丰银行预计,基于 Blackwell 架构的英伟达 入门级 下一代 B100 GPU 的平均售价 (ASP) 将在 30,000 美元至 35,000 美元之间,与当前的 H100 价格相当(B100上市后,H100会进一步降价)。
性能更强大的 GB200 则集成了一个 Grace CPU 和两个 B200 GPU,预计售价在 60,000 美元至 70,000 美元之间。但是,需要注意的是,这些只是分析师的估计,实际价格可能会更高。
显然,英特尔最新的 Guadi 3 不仅性能优于英伟达H100 80G,价格更是仅只有其一半左右,这个价格显然还是非常有吸引力的。
如果与英伟达对华特供的AI加速芯片H20,以及华为的昇腾910B相比,英特尔Gaudi 3 则更具性价比优势。
此前的消息显示,AI算力只有英伟达H100不到15%的H20的批量价格已经降至了10万元人民币左右(约13,800美元),而华为昇腾910B售价约在12万元人民币(约合16,556美元)左右。
当然由于美国出口限制的存在,英特尔Gaudi 3 也无法直接对华销售。
不过,根据之前曝光的消息,英特尔也准备对华推出 特供版 的Gaudi 3,AI性能似乎只有原版的Gaudi 3的不到10%,不过即便如此应该还是要优于英伟达H20,毕竟英特尔Gaudi 3的128GB HBM内存容量更大(英伟达H20 HBM容量为96 GB)。
对于AI芯片来说,AI算力固然重要,但绝不能小看更大HBM容量所带来的优势。此前的分析数据显示,拥有更大HBM容量的英伟达H20在多数大模型推理场景中的速度表现比英伟达H100更优异。
据此不难推测,拥有更大HBM容量的英特尔对华特供版Gaudi 3 整体的性能表现要更优于英伟达H20,并且特供版的Gaudi 3 价格预计也将会更低。
参考英伟达H20的定价,其价格大约仅为H100的一半,如果对华特供版Gaudi 3 也只有原版的一半,那么价格大约为7825美元,仅为英伟达H20最初价格(约15,000美元)的一半左右。
不过,以上对于特供版Gaudi 3 价格只是推测,毕竟目前还没在国内上市,但可以确定的是定价必定会比英伟达H20更低,这意味着英伟达H20接下来不仅将面临昇腾910B的竞争,也将面临英特尔对华特供版Gaudi 3 的强力竞争,可谓是 压力山大 。