有了分布式集群,第五代英特尔至强CPU也能推理大模型
朱 朋博 发布于 2024-03-18
在生成式AI的技术浪潮下,算力不足的问题非常突出,高性能的数据中心级GPU成了备受追捧的计算资源。然而,英特尔更希望让用户看到至强可扩展处理器在生成式AI方面的就业前景,为用户提供除了GPU以外的另一个方案。 2023年12月,英特尔发布第五代英特尔至强可扩展处理器,对微处理器架...
朱 朋博 发布于 2024-03-18
在生成式AI的技术浪潮下,算力不足的问题非常突出,高性能的数据中心级GPU成了备受追捧的计算资源。然而,英特尔更希望让用户看到至强可扩展处理器在生成式AI方面的就业前景,为用户提供除了GPU以外的另一个方案。 2023年12月,英特尔发布第五代英特尔至强可扩展处理器,对微处理器架...
谢 世诚 发布于 2023-12-29
智能革命的浪潮之中,算力普慧、算法进化、数据爆发对AI基础设施产品组合的要求更进一步,第五代英特尔® 至强® 可扩展处理器的发布则强化了英特尔在AI产品的完整版图。 2023年,生成式AI研究和应用的爆发给云计算产业带来了全新的机遇和挑战:大模型需要庞大的算力支持,用户普遍需要向...
朱 朋博 发布于 2023-12-18
2023年12月15日,英特尔发布代号为Emerald Rapids的第五代英特尔至强可扩展处理器,更多的核心,更大的缓存,全新的芯片底层架构,相较于年初发布的第四代又有了更多提升。 从英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立的介绍中了解到,第五代英特尔至强可扩展处...
朱 朋博 发布于 2023-08-29
英特尔最近于硬件大会Hot Chips 2023上公布了下一代英特尔至强可扩展处理器的新动态。 众所周知,从第五代开始,以后的英特尔至强可扩展处理器将分为两大类。 一类是全P(Performance)核的至强,包括代号为Emerald Rapids的第五代和代号为Granite ...
朱 朋博 发布于 2023-06-30
2023年6月25日,英特尔宣布,Aurora超级计算机在阿贡国家实验室完成部署,可提供 2 Exaflops 的 FP64 (双精度)算力,将成为全球首台峰值性能可达每秒计算 200 亿亿次的超级计算机,性能可持续稳定在1 Exaflops 的 FP64的水平。 Aurora是...
朱 朋博 发布于 2023-04-13
2023年4月12日,在“可持续 共未来”2023英特尔可持续发展高峰论坛上,英特尔全方位展示其如何携手生态伙伴推动冷板方案标准化,并通过将绿色数据中心技术框架升级至2.0版本,以及围绕处理器、系统及软件与工具等创新,助推数据中心低碳、高能效可持续发展。 会上,英特尔数据中心与人...
朱 朋博 发布于 2023-03-27
有研究显示,到2025年,新开发的企业级应用中有90%都会嵌入AI能力,人工智能的应用将越来越普遍。另外一组数据显示,数据中心里70%的英特尔至强可扩展处理器都在运行着推理工作负载。随着AMX加速器的引入,新一代至强还可以进行机器学习训练,也将更适合机器学习场景。 最适合人工智能...
朱 朋博 发布于 2023-03-17
2023年1月10日,英特尔正式向全球数据中心客户推出第四代英特尔至强可扩展处理器(代号“Sapphire Rapids”)。得益于在数据中心领域深耕多年,英特尔成功推出这款具备卓越加速性能的至强产品,且已实现快速出货并得到客户与生态伙伴的强有力支持。 凭借业界领先的加速器、更多...
朱 朋博 发布于 2023-01-11
2023年1月11日,英特尔发布了第四代至强可扩展处理器,英特尔将其称之为内置加速器最多的x86处理器。 与一些强调多核优势的处理器厂商不同,英特尔强调加速器对于提升性能表现更有价值,据了解,英特尔在此次内置了十款加速器,分别是: Intel Advanced Matrix Ex...
朱 朋博 发布于 2023-01-11
2023年1月11日,英特尔发布了一款采用HBM技术的x86处理器——英特尔至强CPU Max系列,它内置了64GB的HBM(HBM2e规格)内存,支持DDR5、PCIe 5.0和CXL 1.1。 以前只听说HBM用于数据中心GPU,ASIC和FPGA上,还有少数超算系统上,这次...