今天，MLCommons公布针对 60 亿参数GPT-J的 MLPerf推理v3.1 性能基准测试结果，测试结果中，有的是Habana Gaudi 2 加速器的，有的是第四代英特尔至强可扩展处理器的。
英特尔提交了基于第四代英特尔至强可扩展处理器的7个推理基准测试，其中包括GPT-J模型。
结果显示，包括视觉、语言处理、语音和音频翻译模型，以及更大的 DLRM v2 深度学习推荐模型及ChatGPT-J 模型在内，第四代至强处理器对于通用 AI 工作负载拥有出色的性能。
此外，截至目前，英特尔仍是唯一一家使用行业标准的深度学习生态系统软件提交公开 CPU 结果的厂商。第四代英特尔至强可扩展处理器是通过流行的AI框架与库构建及部署通用AI工作负载的理想选择。
对于GPT-J对约 1000-1500 字新闻稿进行100 字总结的任务，第四代至强可扩展处理器可在离线模式下完成每秒两段的总结提要，在实时服务器模式下完成每秒一段的总结提要。
英特尔首次提交了英特尔至强CPU Max 系列的MLPerf 结果，该系列可提供高达64 GB的高带宽内存。对于 GPT-J而言，它是仅有的能够达到 99.9% 准确度的 CPU，这对于对精度要求极高的应用来说至关重要。
英特尔与OEM厂商合作提交了测试结果，进一步展示了其AI性能的可扩展性，以及基于英特尔至强处理器的通用服务器的可获取性，充分满足客户服务水平协议 (SLA)。
MLPerf 是业内享有盛名的 AI 性能基准测试，旨在实现公平、可重复的产品性能比较。英特尔计划为下一个 MLPerf测试提交新的AI训练性能结果。
未经允许不得转载：DOIT » 英特尔至强成行业首个用标准软件跑MLCommons测试的CPU
