MI300X对比NVIDIA H100/200毫不逊色

9月5日消息,据媒体报道,在ai算力领域,nvidia长期占据主导地位,但amd的最新gpu产品mi300x在性能上终于展现出了与nvidia h100/200相媲美的实力。

根据the information发布的评测报告,amd的instinct mi300x gpu在ai推理基准测试中的表现与nvidia的h100 gpu相当,显示出amd在高性能ai计算领域的进步。

这份评测报告由mlcommons提供数据,在测试中,amd的mi300x gpu以及nvidia的h100和h200 gpu均得到了评估。

结果显示,在ai推理任务中,mi300x gpu的性能与h100 gpu不相上下,加上对gpu成本及系统总成本的估计,说mi300x gpu能媲美h100和h200 gpu也不为过。

值得注意的是,这些测试仅使用了来自meta的llama 2 70b,尽管测试存在局限性,但这一结果仍然表明,amd的mi300x gpu在处理大型ai模型方面具有强大的潜力。

业内人士也对amd在ai领域的发展前景持乐观态度,transformer作者及cohere公司创始人之一艾丹·戈麦斯表示,他相信amd和tranium等平台将很快进入主流市场。