CPU、GPU之后,DPU 在数据中心“上位”一体满足数据中心等需求的不止英伟达

这篇文章内容给诸位网民产生的新闻资讯是：CPU、GPU 以后，DPU 在数据中心“上台” 敬请赏析下面

AI、5G、云技术的发展趋势早已逐渐改变命运，数据中心做为安装这种技术性，支撑点企业战略转型的关键媒介，遭遇着诸多挑戰。这在其中，现有的通用性 CPU 和 GPU 不可以彻底达到迅速转变 的运用要求，性能更强劲，更为专用型，更为对映异构的集成ic更能达到数据中心要求。

集成ic大佬们都看到了那样的要求和发展趋势，根据回收或是自研有着了更全方位的集成ic种类。大家先前详细介绍过，在数据中心占有优势的英伟达起先在上年十月公布了首代 DPU Blue Field-2。在今年的 4 月，英伟达CEO黄仁勋在 GTC 21 上又公布英伟达数据中心集成ic发展战略升級为 GPU CPU DPU，三类集成ic，逐渐飞越，自研 Arm 架构 CPU Grace 也与此同时现身。

DPU（Data Processing Unit）做为一个不被绝大多数人所熟识的集成ic种类，其价值是什么？为何 DPU 能在数据中心“上台”？数据中心的将来为什么是 3U 一体？

DPU 的双向使用价值

掌握 DPU 的使用价值以前，先表述为何必须 DPU。黄仁勋先前公布 DPU 时表明，时下的数据中心是由软件定义的，这促使数据中心更为灵便的与此同时，也造成了极大的压力，数据中心基本架构的运作可以耗费 20%-30% 的 CPU 核，因而必须一种新的CPU，也就是 DPU。

换句话说，以 CPU 为中心的数据中心架构早已不可以满足需求，以数据信息为中心才可以更强达到销售市场和运用要求。英伟达互联网业务部亚太地区市场开拓高級主管宋庆春在这周的一场沟通交流会中表明：“之前测算经营规模和信息量没那么大，冯诺依曼架构很切实解决了提升 测算性能的难题，伴随着信息量越来越大，及其 AI 技术性的发展趋势，传统式的测算实体模型会导致互联网时延，再次提高数据中心的性能遭遇挑戰。”

以数据信息为中心的架构，代表着数据信息在哪儿测算就在哪儿。宋庆春强调，以数据信息为中心的新架构能够 处理数据传输中的发展瓶颈或丢包率难题，典型性通讯延迟能够 从 30-40 分秒减少到 3-4 分秒，有 10 倍的性能提高。

更具体地说，英伟达 DPU 归属于 SoC，集三个重要因素于一身：

• 国家标准的、最大性能及手机软件可编程控制器的多核 CPU，一般根据普遍的 Arm 架构，与其说 SoC 部件密切配合；

• 高性能网线端口，能以线速或互联网中的可以用速率分析、解决数据信息，并高效率地将传输数据到 GPU 和 CPU。

• 各种各样灵便和可编程控制器的加快模块，能够 卸载掉 AI、深度学习、安全性、电信网和储存等运用，并提高性能。

换句话说，DPU 能对于安全性、互联网、储存、AI、HPC 等业务流程开展加快，它是 DPU 的第一层使用价值。而 DPU 的第二层使用价值取决于为以数据信息为中心的测算架构给予了自主创新的构思，可以完成之前无法或没法完成的作用。

之前的数据中心全部实际操作都由 CPU 进行，不但必须许多 CPU 核心，高效率也很低。假如将一些实际操作，例如 OVS（Open vSwitch，是分布式系统虚似多层交换机的开源系统完成）卸载掉到 DPU 上运作，不但能够 提高高效率，降低 CPU 的使用率，还能完成业务流程的防护。

宋庆春举了2个事例，在云情景下，英伟达和 VMWare 合作开发了 Monterey 新项目，VMWare 把它在 Hypervisor 里的一些作用卸载掉到 DPU 上，例如服务器防火墙、储存、管理方法等，那样把业务流程和基础设施建设实际操作彻底防护，完成了高安全系数，也完成了裸金属的业务流程性能。

“它是 VMWare 第一次把他的源码对外开放给合作方，合作开发根据 VMWare 公司级的云解决方法。”宋庆春注重。

另一个事例是英伟达与 RedHat 的协作。RedHat 无论在数据中心运作器皿或是虚拟化技术，就算应用全部的 CPU 核来运作虚拟化技术或器皿，也没有办法做到 100G 线速。这时候，选用 DPU 运作 Hypervisor、OVS 或器皿实际操作，能够 在没有耗费一切 CPU 的状况下为完成 100G 乃至 200G 全程速，并将 CPU 資源所有给予给业务流程。

DPU 能产生是多少提高？

“大家最初挑选 DPU，是由于碰到了传统式网络带宽短板，大家想处理互联网性能短板的难题，也想控制成本。”Ucloud 技术专家马彦青进表明，“彼此最初都是有同样的认知能力，那便是 DPU 能够 完成硬件配置的卸载掉，手机软件和硬件配置的融合会变成 将来的发展趋势。”

依靠 DPU 和与之配对的手机软件栈 DOCA，Ucloud 完成了一系列的数据中心性能提高。

马彦青详细介绍，Ucloud 原来的互联网架构应用的是 VPC 网关ip，做为裸金属集群服务器的 VPC 中间区划的方式，必须许多网关ip集群服务器来开展管理方法，集群服务器自身就产生了成本费挑戰（大约 4-8 台网络服务器是一个小群集），当跨网关ip的情况下会出现网络带宽短板。拥有 DPU 就可以将 VPC 管理方法集成化到 DPU 內部，包含 OVS 包转发及其 GRE 封裝都能够根据 DPU 硬件配置完成，大幅度提高分享高效率。原先 10G 的网口升級到 25G 后，性能也大大的提高。

那样的改善获得了顾客的认同。“有 DPU 的解决方法早已在一些互联网大数据、金融业、数据库查询、容器云等业务流程中应用，她们的意见反馈很好。例如一家做大数据服务的企业，VPC 群集削掉后，开展 N 对 N 数据信息测算，网络带宽和性能都是有提高，维护保养成本费也减少了。也有一家金融业顾客，选用原来的 VPC 架构，必须为她们布署四台网络服务器，这会导致資源消耗，拥有 DPU，多张卡就可以取代四台网络服务器。”

数据中心的储存也获益于 DPU。以往，Ucloud 应用本底盘来储存，缺陷是非常容易发生坏盘或是掉卡，维护保养十分不便，内容丢失要想修复也十分艰难。在新架构里，Ucloud 选用 RSSD 网盘做为后面储存机群，关键是根据 DPU 的 NVMe SNAP 作用，完成了测算和储存的解耦。解耦的优点包含客户能够 免电脑装机，完成分鐘级交货，运维管理也降低了型号，硬盘能够 按需应用，可以迅速完成常见故障转移，三团本也更为可以信赖。

DPU 还让数据中心的安全系数有明显提高。据了解，以往数据中心常常应用 CPU 运作 Hyperscan 做深层包检验的现行政策关系式配对。“依靠 Blue Field-2，大家检测对比手机软件的 Hyperscan 有 3.5 倍的加快。”马彦青与此同时详细介绍，“加解密层面，DPU 卡还可以对 SSL、TLS 开展加解密。IPSec 的优化算法还可以完成硬件配置的卸载掉，把 CPU 的算率释放出。”

Ucloud 的最后极的总体目标，是完成一张卡完成虚拟化技术和裸金属架构的统一。她们仍在根据 InfiniBand 互联网的 DPU，探寻怎样加快 AI 和高性能测算。

DPU 在数据中心上台的重要

数据中心和云服务供应商完成大量探寻，充分发挥 DPU 使用价值的基本是英伟达 DPU 硬件配置的不断提高，及其 DOCA 手机软件栈的逐步完善。依据英伟达的路线地图，下一代 DPU Blue Field-4 预估在 2023 年公布，可能是业内第一个 800G 的 DPU，也会集成化 GPU。

DOCA 是致力于 DPU 开发设计的程序包，如同 CUDA 对英伟达 GPU 的使用价值。DOCA 根据软件定义，能够 启用 DPU 里的硬件配置模块，完成安全性、互联网、储存等性能的提高。

DOCA 的手机软件栈一层是 Driver 和 Runtime，关键开展生产调度硬件加速器模块。一层是 DOCA Library，主要是对于业务流程给予插口。也有 DPU 管理方法连接顶层，例如做编辑（Orchestration）和服务项目布署（Provisioning）的情况下应用 DPU 管理方法开展启用。

现阶段，DOCA 1.0 最新版本早已公布。

“我觉得，云计算技术销售市场是 DPU 非常好的切入点，可以处理合作方碰到的发展瓶颈，让她们可以更为高效率、安全性、低延迟的给予服务项目。”宋庆春表明，“云原生高性能计算机也应当会迅速运用到 DPU 销售市场。由于伴随着非常测算的发展趋势、算率早已变成了服务项目，怎样给予一种安全性的算率服务项目，DPU 在这里里边便会饰演十分的人物角色。最后，DPU 也会在基础设施建设、数据中心、通讯等行业变成 一个关键部件。

自然，DPU 的发生并不是要取代 CPU 和 GPU，只是能够更好地达到数据中心销售市场的要求。“3U（CPU、GPU、DPU）一体的架构可能让管理流程、生产调度程序流程都是会越来越很容易。3U 一体是要完成从边沿到关键数据中心，统一架构、统一管理方法、统一生产调度。”

要想根据 3U 一体达到数据中心等要求的不仅英伟达，英特尔这周也公布了与 DPU 精准定位相近的 IPU（Infrastructure Processing Unit），发展趋势早已非常明显，最后会产生什么变革？