一个全新的英特尔呼之欲出！全面解读英特尔IPU战略

如果说X86CPU创造了英特尔辉煌的过去，那么IPU将成为英特尔未来世界的钥匙。

英特尔宣布推出基础设施处理器。

最近，在六五峰会上，英特尔宣布了其基础设施处理器(IPUs)的愿景。IPU是一种可编程的网络设备，旨在使云和通信服务提供商减少在中央处理器(CPU)上的支出，充分释放性能价值。借助IPU，客户可以部署安全、稳定和可编程的解决方案，从而更好地利用资源并平衡数据处理和存储的工作负载。

英特尔数据平台部门首席技术官Guido Appenzeller表示，“IPU是一个全新的技术类别，也是英特尔云战略的重要支柱之一。它扩展了我们智能网卡的功能，旨在应对当前复杂的数据中心，提高效率。在英特尔，我们致力于与客户和合作伙伴一起构建解决方案和创造新技术，IPU是这种合作的典范。”

在物联网时代，我们已经看到了太多以“xPU”命名的处理器，无论是英伟达的DPU，还是谷歌的NPU和TPU。作为处理器领域的领头羊，英特尔推出的IPU指向何方，会给市场带来哪些变化？

指剑数据中心

在具体分析英特尔IPU的技术路线和规格之前，不妨先从其市场定位入手，然后对IPU形成一个整体的认识。

根据英特尔的官方介绍，面向基础设施应用的IPU处理器是为了满足数据中心和云服务提供商的最新需求而推出的。据悉，IPU被称为“基础设施处理单元”，官方描述为可编程网络设备，旨在帮助云和通信服务提供商降低相关任务对中央处理器(CPU)的资源开销需求，进一步释放相关平台的性能潜力。

在X86时代，英特尔原本在数据中心市场拥有绝对的话语权，但随着5G、AI、云计算等新兴技术的兴起，以及数据中心技术和应用的变革，大量的ASIC芯片和FPGA芯片逐渐渗透到市场中，极大地动摇了英特尔在数据中心市场的地位。

面对市场的变化，英特尔这次选择了积极拥抱1PU处理的变化。它一经亮相，许多人就直接把它放到了DPU处理器“死敌”的位置上。非常相似的市场定位也预示着数据中心即将迎来一场“核心”之战。当然，除了相似的市场定位，英特尔IPU在功能设计和产品性能上具有明显的后发优势，其产品设计显然能够更好地满足数据中心和云计算领域应用需求的变化。

揭开IPU的神秘面纱

在了解了IPU的市场定位和“潜在”竞争对手之后，让我们回头看看IPU的工作原理。

在英特尔的官方描述中，基础设施处理器(IPU)是一种网络设备，可以将CPU或xPU连接到网络，加速主机基础设施功能，适用于现有和新兴的基础设施用例，包括虚拟网络功能和微服务的安全、虚拟化、存储、负载均衡和数据路径优化。IPU增强了基本网卡中丰富的以太网功能，并通过结合高度优化的硬件加速器和紧密耦合的计算引擎来加速它。适应性是通过一个标准且易于使用的编程框架实现的，该框架结合了硬件和软件功能。

一般来说，IPU(基础设施处理器)是一种网络设备，可以安全地加速和管理数据中心的基础设施功能和可编程硬件。

IPU可以提供的能力包括:

通过专用协议加速器加速基础设施功能，包括存储虚拟化、网络虚拟化和安全性。

通过将软件中的存储和网络虚拟化功能从CPU转移到IPU，释放了CPU核心。

允许灵活的工作负载分配并提高数据中心利用率。

在了解了IPU的工作原理和能力后，我们会发现，英特尔IPU在“释放CPU内核”、“智能网络”等应用方向上，与现在的DPU甚至英特尔自己的SmartNIC有很多相似之处。进一步的比较将有助于我们更好地理解IPU。

SmartNIC的高级产品

大数据、云计算等新兴技术的兴起，对IT基础设施提出了新的要求，也拉开了网络“核心”基础设施的序幕。在IPU之前，英特尔N3000SmartNIC等经典产品一直是市场上广受欢迎的网络名人。过去，位于高效迁移服务器中的常见网卡的网络数据包通常包含传统的卸载，旨在不同程度地优化性能。SmartNIC集成了各种额外的计算资源，但这些架构就像雪花一样各不相同。英特尔的FPGA拥有115万个可编程逻辑元件和两组4GB DDR4存储器，每组都有足够的空空间来处理SmartNIC任务，例如:

虚拟宽带网络网关

分级服务质量(HQoS)

数据分组的分类、控制、调度和整形

虚拟化演进分组核心(vEPC)

5G下一代核心网络(NGCN)

互联网协议安全(IPSec)

IPv6分段路由(SRv6)

矢量数据包处理(VPP)

虚拟无线接入网

英特尔已经实现了N3000平台的上述工作负载。从英特尔N3000SmartNIC我们也可以看出，SmartNIC的主要目的是安全加速网络和存储基础设施，IPU是SmartNIC的进化。除了通过专门的协议加速器安全地加速存储和网络虚拟化，IPU还将成为云或通信服务提供商管理系统级基础设施资源的控制点，以最大限度地减少资源的保留或过度使用。

另外需要注意的是，基本网卡虽然可以承担以太网的密集工作负载，但是不可编程，可编程是IPU的一大特色。

后发优势明显的IPU

最初了解IPU之后，很多人脑海中会浮现出“数据处理器(DPU)”的形象。事实上，从市场定位到产品功能，英特尔IPU公司和DPU公司有许多相似之处。在IPU问世之前，英伟达、Marvell、博通、VMware等网络硬件厂商已经推出了多代DPU产品。

DPU的出现源于CPU对超大规模数据处理的需求。当CPU的计算能力出现瓶颈，在数据中心无法执行敏感任务的情况下无法单独为更多任务分配加速卡时，DPU此时可以率先完成基本任务，构建强大的基础设施层，让上层CPU和GPU完成其他更有价值的任务。

DPU是一种新型的可编程处理器。DPU是一种片上系统(system-on-chip，SoC)，它结合了三个关键因素:(1)行业标准、高性能、软件可编程的多核CPU，通常基于广泛使用的Arm架构，并与其他SoC组件紧密耦合。(2)高性能网络接口，能够以线速或网络其余部分的速度解析、处理并有效地向GPU和CPU传输数据。(3)丰富的一套灵活的可编程加速引擎，可以针对AI和机器学习、安全、电信和存储等领域卸载和提升应用性能。

从这个角度来看，DPU在数据中心领域一直是一个相当不错的存在，但英特尔多年来一直与超大规模云服务提供商合作，了解加速功能。IPU基础设施处理器作为基础设施提供商的控制点，更好地抓住了这些功能的本质。谷歌和脸书都发表了论文，讨论与管理微服务的成本相关的“数据中心税”。IPU用于加速基础设施功能，可以更准确地实现网络虚拟化、存储虚拟化、安全隔离和提供信任根等功能。

而“数据处理单元(DPU)”是一个非常笼统的术语，因为所有的处理器都在处理数据，所以这个名称并不提供任何实际的信息。市面上有很多xpu。根据工作负载的不同，处理“数据”的合适的xpu可能是GPU、CPU、FPGA或ASIC。当然，很多人会把IPU相对于DPU的优势解读为后发优势带来的好处，但事实上，英特尔已经是全球最大的DPU供应商，IPU的出现更像是自身生态的延伸和产品的自然变化。

世界上最大的DPU供应商

DPU本身是一个“普遍的”和有些模糊的概念。丹霞DPU是由特定的CPU芯片，FPGA和/或ASIC的供应商，如可替代的，英伟达，Pensando和Nebulon。这是一个迅速发展的领域。设备类型包括现场处理器、智能网卡、服务器卸载卡、存储处理器、组合集线器和组件。

英特尔公司执行副总裁兼数据平台部总经理Navin Shenoy在第六届五年峰会上说，英特尔公司开发并销售了它所称的基础设施处理单元(IPU)——其他人称之为DPU。英特尔设计它们的目的是让超大规模客户能够降低服务器CPU开销并释放周期，从而加快应用运行速度。

英特尔数据平台集团首席技术官Guido Appenzeller在一份声明中表示:“IPU是一项新技术，也是我们云战略的战略支柱之一。它扩展了我们的SmartNIC功能，旨在解决现代数据中心的复杂性和低效率。”

Guido Appenzeller表示，IPU使客户能够平衡处理和存储，而英特尔的系统具有专用功能，可以加速使用基于微服务的架构构建的应用。这是因为英特尔表示，微服务之间的通信可以占用主机服务器22%到80%的CPU周期。

英特尔数据平台事业部副总裁兼以太网产品事业部总经理Patty Kummrow提出了这一想法:“由于英特尔与大多数超大规模制造商的合作，英特尔凭借至强-D、FPGA和以太网组件成为IPU市场的销售领导者。英特尔首款基于FPGA的IPU平台部署在多家云服务提供商，我们的首款ASIC IPU正在测试中。”

快速增长的计算能力

据IDC统计，过去10年，全球计算能力增长明显落后于数据增长。全球对计算能力的需求每3.5个月就会翻一番，远远超过目前计算能力的增长速度。而计算能力来自芯片。业内人士预测，DPU将成为继CPU和GPU之后的重要计算能力芯片。

面对庞大的数据，CPU需要“帮手”来完成基础数据的处理，而IPU很好地扮演了这个角色。今后，所有服务器都将配备1-2张IPU卡”。作为计算能力新基础设施中的新物种，IPU将在数据传输、存储和运营中扮演越来越重要的角色。在计算机时代，IPU可以把不可能变成可能。

随着5G应用的落地和万物互联时代的到来，边缘数据中心的兴起将为数据中心行业的发展带来新的变化。

以最新数据为例。截至3月底，全国已建成近20万个5G基站。伴随着三大运营商5G集合产品的落地和交付，中国将建成全球规模最大、覆盖最广、最先进的5G网络，随之而来的智能交通、新零售、自动驾驶、工业互联网等大量边缘应用场景，以及大量物联网设备入网和更大规模海量数据的诞生、流动和应用，无疑将带动大量边缘数据中心的诞生。

超大规模的数据中心更像是核心交通枢纽，而各种边缘数据中心则像是星罗棋布的小枢纽。它们不仅需要适应各种运行环境，而且对设备功耗、成本、空、软硬件集成优化、自动部署和运维都有极高的要求。

除了满足边缘计算的需求，IPU本身还可以通过AI学习来处理一些数据，可以减轻CPU核心的负担，提高整个网络的数据处理效率。

数据中心的效率悖论

19世纪后期，一位名叫威廉·斯坦利·杰文斯(William Stanley jevons)的经济学家观察到，提高煤炭使用效率的技术进步最终导致了广泛行业煤炭消耗量的增加。这被认为是一个悖论，因为当时的人们通常将效率与使用量的减少联系在一起，但实际上恰恰相反，更高的效率会导致更低的成本，创造更多的使用量。当然，这也适用于科技行业。以数据中心行业为例。自20世纪90年代推出标准大容量服务器以来，服务器市场一直在增长。直到21世纪初，在那个时期，我们看到了虚拟化的发明。vmware为x86服务器创造了这一概念，使IT专业人员能够通过在一台机器上虚拟化更多机器来更好地利用物理资源。这无疑有助于减少停机时间，提高控制和安全性。

但一些业内人士开始怀疑服务器市场是否处于巅峰。事实上，当你看这张图表时，你可以看到市场确实开始停滞了。这部分是因为互联网泡沫破裂，但也是因为随着服务器的虚拟化，it部门不需要购买那么多服务器，所以效率和利用率提高了。我们确实在一段时间内看到了消费的减少，但杰文斯悖论最终成立——效率的提高导致了更多的消费。

AWS、Azure和其他服务提供商的崛起，通过软件和算法让硬件计算变得更加高效。然而，数字时代各行各业的大规模增长导致工作负载越来越多样化，数据中心越来越大，这给底层基础设施带来了压力。

如今集中式的数据中心已经很难满足差异化计算的需求。海量碎片化数据大大降低了集中式数据中心的效率，软件行业已经率先对此类问题做出了调整。应用程序被分解成更小的面向服务的组件，这些组件运行在称为微服务的容器中。每个微服务本身都包含自己的负载均衡器，负载均衡器是高度去中心化的，具有分解的架构。这种方法的好处包括更容易从软件崩溃中恢复。当一个容器中的某个功能失效时，其工作负载可以被重定向到不同的容器或微服务上继续运行，对整体服务的影响很小，或者如果单个微服务对资源的需求很大，系统可以适当请求更多的动态自动增加计算资源内存来支持特定的微服务。因此，所有这些高度复杂的可扩展和高性能微服务都需要并产生了对高效编排的需求。这些服务需要以高效的方式进行转移。

以脸书为例。人们日常关心的各种工作负载的计算，其实大部分都是用于日常工作负载的，比如移动内存或者哈希压缩。过去，IT技术人员认为数据中心的主要工作负载运行在通用处理器上，但上面的例子意味着人们过去看待计算的方式实际上只是云中整体计算的一部分。这张图的暗部(应用逻辑)占手头整体任务的比例很小，而这张图的亮部(编排)占的比例很大。显然，这个“税”的问题必须解决。

为了解决这样那样的问题，人们需要硬件解决方案作为整个云基础设施的控制点，来加快日常工作负载，也就是基础设施功能。在这样的行业背景和企业的迫切需求下，英特尔IPU本身可以理解为应运而生的产物。

IPU迅速着陆

深谙数据中心企业需求、洞察行业发展的英特尔1PU产品，凭借在数据中心领域多年的耕耘和积累，从设计、生产到上市，每一步都能看到合作伙伴的身影。目前，基于英特尔FPGA的IPU已被引入多家云服务提供商，首款使用ASIC的IPU产品也正在测试中。英特尔还强调，接下来将推出更多基于FPGA的IPU和专用ASIC，为新一代数据中心带来更加灵活、安全、高效的XPU架构。

百度首席系统架构师王表示:“百度和英特尔在IPU领域展开了全面合作。百度自主研发的智能网卡基于英特尔的IPU解决方案，在网络和存储功能上实现了裸机、虚拟机、容器的全面卸载和统一，极大地赋能了百度云主机产品。”谷歌和脸书的研究表明，微服务的通信开销可以消耗22%到80%的CPU性能。

通过让客户参与进来，IPU可以更好地满足终端市场的需求，在量化生产的同时，满足个性化的差异化需求，从而赢得未来的数据中心市场。

成长中的IPU生态

英特尔在数据中心领域的多年积累，使得IPU一经推出就获得了众多合作伙伴的全力支持。一系列适用于企业、云和网络的IPU案例和解决方案在终端市场快速上线，有力推动了IPU生态的成长。

Silicom FPGA IPU N5010作为首款硬件可编程4x100GE FPGA加速IPU适配器，具有适用于5G核心(UPF)等的性能和规模。英业达FPGA IPU C5020X是一款基于FPGA的IPU，采用Intel？至强？D SoC实现硬件可编程数据路径，提高内核利用率——基于Intel？对于云？Ipu15000x-pl平台。

在企业和云的IPU阵营中，英特尔？已使用。加快英特尔的采用？对于由FPGA提供数据中心的云服务提供商来说，FPGA的IPU有助于充分利用网络功能，增加基础设施投资的收益；英特尔？IPU支持VMware的下一代基础架构。英特尔技术使VMware能够为客户提供虚拟机、容器和裸机环境的统一管理。蒙特雷项目重新定义混合云架构，英特尔？IPU创新为边缘节点、网络基础设施和数据中心计算提供更高的性能。

此外，在网络IPU领域，英特尔？对于电信？基于英特尔的IPU？FPGA的IPU可以帮助优化融合无线有线网络的效率和性能；FPGA虚拟无线电接入网络(vRAN)使用英特尔广泛的网络加速器产品组合和Altiostar的5G ready开放式虚拟无线电接入网络(Open vRAN)软件解决方案，以解锁新的用例并提高网络效率；英特尔和Kaloom使用P4编程语言和英特尔？创建P4可编程网络解决方案。Tofino系列以太网交换机ASIC的高级网络系统。

创造另一个情报。

大众英特尔的知识来源于个人消费市场的CPU产品。英特尔成立于1968年，是半导体行业和计算创新领域的全球领导者。现在，英特尔正在转型为一家以数据为中心的公司。我们将与英特尔合作伙伴一起，推动人工智能、5G、智能边缘等转折性技术的创新和应用突破，驱动智能互联世界。

英特尔的转型不是愿景或期望。其产品RD和营销策略都围绕这一目标进行了调整。从终端市场数据来看，英特尔近年来重心的转移更加明显。2019年Q4，英特尔数据中心业务超越PC业务，成为其收入的主要来源；2020年，英特尔技术组织和高管团队的重组也被外界视为数据中心业务全面转型的开始。对于英特尔来说，数据中心业务也正在成为其核心业务组成部分。

IPU不仅是英特尔数据中心战略中极其重要的一部分，而且不断发展的数据中心需要全新的智能架构。在这个框架中，大规模分布式异构计算可以协同工作，无缝连接，形成一个独立的计算平台。这种新的架构将有助于解决资源搁浅、数据流拥塞和不兼容平台安全等挑战。这种智能数据中心架构将拥有三种类型的计算单元——用于通用计算的CPU、用于特定应用或工作负载加速的XPU以及用于基础设施加速的IPU——它们将通过可编程网络相互连接，从而有效利用数据中心资源。

写在最后:

DPU领域没有基准，因此很难比较不同供应商的表现。每个企业都想争夺DPU市场的话语权，这让整个DPU市场混乱不堪，但以英特尔为主的IPU市场却大不相同。除了推出IPU产品，英特尔还将生产更多基于FPGA的IPU平台和专用ASIC。他们将伴随一个软件基金会，帮助客户开发云编排软件，为用户提供全面的服务，并创建大量的IPU产品和应用。