9月5日消息,據媒體報道,在ai算力領域,nvidia長期佔據主導地位,但amd的最新gpu產品mi300x在性能上終於展現出了與nvidia h100/200相媲美的實力。
根據the information發布的評測報告,amd的instinct mi300x gpu在ai推理基準測試中的表現與nvidia的h100 gpu相當,顯示出amd在高性能ai計算領域的進步。
這份評測報告由mlcommons提供數據,在測試中,amd的mi300x gpu以及nvidia的h100和h200 gpu均得到了評估。
結果顯示,在ai推理任務中,mi300x gpu的性能與h100 gpu不相上下,加上對gpu成本及系統總成本的估計,說mi300x gpu能媲美h100和h200 gpu也不為過。
值得注意的是,這些測試僅使用了來自meta的llama 2 70b,儘管測試存在局限性,但這一結果仍然表明,amd的mi300x gpu在處理大型ai模型方面具有強大的潛力。
業內人士也對amd在ai領域的發展前景持樂觀態度,transformer作者及cohere公司創始人之一艾丹·戈麥斯表示,他相信amd和tranium等平台將很快進入主流市場。