英特尔推动IPU普及,不局限于超大规模数据中心

2021年8月20日,英特尔架构日期间,英特尔介绍了两款新的IPU:Oak Springs Canyon和Mount Evans,在随后采访中,英特尔专家表示相对DPU,更准确地描述应该是IPU。

英特尔发言人在采访中认可了将IPU(Infrustracture Processing Unit)跟AWS Nitro、阿里云MoC和Mellanox Bluefield归为一类的说法,而我们也知道,目前流行的叫法是DPU,是数据处理单元,而英特尔则对此有更多考量。

在英特尔英特尔公司数据平台事业部首席技术官Guido Appenzeller看来,包括至强处理器在内的许多处理器本来就是处理数据的,DPU的叫法不够准确,而将这些称作IPU,称作基础设施处理单元要好的多,因为这些都是面向基础设施的负载,而非业务代码的负载。

Guido还做了一个非常形象的比喻,来形容IPU所代表的一种趋势,一种将用户业务负载和云厂商基础负载分离的趋势,这就好比酒店的客人跟酒店工作人员要分开住一样。

IPU带来的优势有很多,最核心的点就在于,将负载分离和卸载(Offload),原本都由CPU来完成的工作,有一部分迁移到了IPU上,IPU负责运行云服务商的管理软件,以及网络和存储功能,CPU全交给用户运行业务代码,而且,IPU在安全性、性能和效率上会有较大提升。

上图是Facebook在生产环境中,运行微服务时候的CPU周期的分布情况,蓝色的部分是编排之类的开销,而灰色部分是真正用于运行业务逻辑的部分,看来真正给用户业务用的部分占比非常低。

而IPU要做的就是默默地扛下这些开销。

优化过的IPU具有加速功能,更擅长处理存储协议,压缩,解压缩,加密校验等事务,由于CPU不用管这些了,所以,云服务提供商可以把整个CPU都给用户。

英特尔的IPU提供存储管理功能,而要管理的硬盘不在服务器内部,而是在通过网络连接的外部共享存储上,这里说的是所有硬盘都不在服务器上,甚至连系统启动盘也不在服务器内部,创建云主机的时候才在共享存储上创建个虚拟的NVMe固态盘。

这种服务器上没有硬盘的架构被称作是Diskless架构,服务器架构得以简化,意味着成本降低,整个存储的管理无需CPU进行任何干预,意味着CPU开销的降低。而且,英特尔表示无需担心性能表现,时延和抖动都非常低,性能很高。

英特尔提到,目前业内在用的IPU主要都是基于FPGA来打造的,但趋势是都在往ASIC方案上转型,两者各有优势,英特尔选择的技术路线是:两个都要!

英特尔的IPU既有基于FPGA的方案,也有基于ASIC的方案。

第一款是Oak Springs Canyon,它基于Intel的Agilex FPGA和Xeon-D片上处理器,Agilex FPGA拥有业界领先的功率、效率和性能。Oak Springs Canyon支持PCIe Gen 4 x16、2 x 100Gbit以太网,并且可通过Intel OFS来进行一些定制化开发。

第二款IPU叫Mount Evans,英特尔表示,Mount Evans是与云服务商共同设计的,拥有同类产品中最好的数据包处理引擎。

Mount Evans包含左侧的IO子系统和右侧计算子系统两部分。

网络部分用ASIC芯片进行数据包处理,ASIC面向特定负载而设计,在执行效率上比FPGA要高得多。性能方面,其200Gbit/sec全双工网络可以支持最多四台至强主机。支持的ROCEv2可以提供更强的网络传输性能。

计算部分使用的是16个ARM Neoverse N1核心,此外,计算部分还配有Lookaside加密与压缩引擎,该引擎源自英特尔的QAT技术。

有人说Mount Evans最大的亮点是用上了ARM核心,对于英特尔来说,或许是最合理的选择吧。

评论

英特尔虽然是DPU领域的新人,但一入场就带着自己的思考:比如,英特尔认为IPU是更合理的叫法,比如说,在FPGA方案和ASIC方案上的全面布局,并且认为两种方案将长期共存。

IPU(DPU)这类产品起源于超大规模数据中心,最早大范围应用的就是AWS的Nitro,凭借专用设备Offload替代昂贵的通用处理器,从而带来更大的额外收益,而随着英特尔入局这一领域,或将改变IPU(DPU)超大规模数据中心专属的局面。

Guido认为,IPU适合任何拥有类似于云的数据中心的客户,并非必须是大型云,也可以是小型云和企业数据中心,只要运营模式类似于云,IPU就非常适合。

单单是在超大规模数据中心应用已经决定了IPU有庞大市场规模,如果未来进一步普及,IPU的市场规模必然会引起更大关注,Guido表示,虽然市场上有一些创新公司,但总体上,IPU还是大公司主导的市场。

提起英特尔,普通人首先能想到的是CPU,英特尔有许多方案都是围绕至强而打造的,而英特尔的IPU则不是英特尔至强的专属,虽然面向英特尔面向IPU有一些优化,但没有任何绑定关系,保持了很好的开放性。

从本质上来讲,IPU释放了CPU的工作负担,在一定工作负载下,可以减少CPU和服务器的采购量,但在数据爆炸和计算需求不断增加的背景下,对CPU的需求还会继续增长,英特尔也完全不担心IPU业务会影响CPU业务。

这种不必要的担心就好比当年VMware虚拟化技术刚开始流行时的担忧,有人说一台服务器虚拟化成多台服务器,是否就意味着减少服务器的采购量,但事实证明,虚拟化推动着服务器市场的发展和技术进步。

英特尔目前没有公布IPU的技术演进路线,但可以肯定的是,未来肯定会将Hypervisior也放到IPU来运行,从而给用户交付更足量的通用CPU资源,英特尔的专家表示已经在进行一些探索,未来也不排除在IPU上集成x86核心的可能。