快科技4月2日消息，近日，MLCommons公布了针对AI推理的MLPerf v4.0基准测试结果，其中Intel Emerald Rapids五代至强处理器表现优异，相比Sapphire Rapids四代至强性能大幅提升。

迄今为止，Intel仍然是是唯一一家提交MLPerf CPU测试结果的厂商，从2020年开始提交基于四代至强的测试结果，如今五代至强也加入了进来。

具体来说，五代至强经过硬件、软件优化，对比四代至强在MLPerf v3.1中的表现相比，平均提升了1.42倍。

其中，针对具备连续批处理（continuous batching）等软件优化的GPT-J模型，性能提升约1.8倍。

得益于MergedEmbeddingBag、Intel AMX加速器等其他优化，DLRMv2的测试性能提升约1.8倍，准确率达99.9。

Intel正在与思科、戴尔、广达、超微、纬颖科技等OEM厂商合作，提交基于各自产品的MLPerf测试结果。


                                        
友情提示
本站部分转载文章，皆来自互联网，仅供参考及分享，并不用于任何商业用途；版权归原作者所有，如涉及作品内容、版权和其他问题，请与本网联系，我们将在第一时间删除内容！  
                                        
联系邮箱：1042463605@qq.com