MLCommons推理测试:英特尔Gaudi 2险胜英伟达H100
朱 朋博 发布于 2023-09-12
今天,MLCommons公布针对 60 亿参数GPT-J的 MLPerf推理v3.1 性能基准测试结果,测试结果中,有的是Habana Gaudi 2 加速器的,有的是第四代英特尔至强可扩展处理器的。 根据6月披露的MLCommons验证了Gaudi2 在先进的视觉语言模型上表现...
朱 朋博 发布于 2023-09-12
今天,MLCommons公布针对 60 亿参数GPT-J的 MLPerf推理v3.1 性能基准测试结果,测试结果中,有的是Habana Gaudi 2 加速器的,有的是第四代英特尔至强可扩展处理器的。 根据6月披露的MLCommons验证了Gaudi2 在先进的视觉语言模型上表现...
朱 朋博 发布于 2023-07-11
2023年7月11日,英特尔正式面向中国市场发布AI加速器Gaudi2,作为市场上为数不多的英伟达H100加速器的替代品,Gaudi2有着更高的性价比。 Gaudi2可用于AI训练及推理,此次发布,将为中国用户带来更高的深度学习性能和效率,进而成为大规模部署AI的新选择。 英特尔...