2024下一代高性能算力底座技术白皮书-70正式版.docx

IaaSonDPU(IoD)下一代高性能算力底座IaaSonDPU(IoD):ANewApproachforNext-GenC1.oudComputingInfrastructure技术臼皮书处理器芯片全国陋点实验室中国计算机学会集成电路设计专业委3会SKUP始芯片全AB.点实”CVMTKTVMAVMOCtWOaCT.CM-X-4raS=a前百DPU是当下算力基础设施的核心创新之一。如果把CPU比做大脑,那么GPU就好比是肌肉，而DPU就是神羟中枢。CPU承载了应用生态，提供了通用型算力；GPU提供了高密度各类精度的算力，特别是在智算领域，对系统算力大小有决定性作用；DPU负责数据在各种CPU之间、CPU与GPU、以及GPU与GPU之间高效流通，很大程度上决定了系统是否能协同工作。DPU作为数据中心的第三颗“主力芯片”，主要通过其专用处理器优化数据中心的网络、存储、安全等处理性能，助力服务器运行效率显著提升，有效降低成本。因此，在新型数据中心建设时，围绕DPU构建数据中心网络的基础设施，在其上挂载了各种计算、存储资源的节点，对于系统的资源弹性、运行效率、性能都大有益处。但是这种使用方式的变化，需要对现有云计算架构进行一定程度的变革，才能充分发挥出DPU的优势。云计算中的头部企业AWS与阿里云在DPU的应用方面也有成功案例.借助其软硬件全桃自研的优势，快速完成了云计算系统的改造工作，实现了DPU大规模落地部署，在降低自身运营成本的同时为客户提供更好的使用体验，并产生了可观的经济效益。这种正向循环促进了相关技术栈的快速迭代与成熟，也帮助他们发展成为云计算业务领域的领军企业。随着众多芯片厂商投身到DPU技术领域后，业界对DPU的产品形态定义逐渐清晰，DPU的技术标准也在不断完善。从此DPU不再是行业巨头的“专享”技术，基础设施与云计算相关产业参与者都在寻求一种简单高效的方法，将DPU的优势运用到自身业务系统之中，WRedHat,VMware.Pa1.。A1.t。等公司纷纷推出相关解决方案。这些方案背后共同的本质思想是：将云计算的IaaS层组件从服务器侧卸载后围绕DPU构筑高性能算力底座，与AWS、阿里云的技术路线不谋而合。我们将这种思想所代表的技术路线统一归纳命名为"IaaSonDPU(I。D)-技术路线.简称2D。本文重点阐述了I。D技术的构成以及与当前主流云计算体系的融合方案，从计算、网络、存储、安全、管控等几个方面进行深度分析，论证了蔑于DPU构建云计算基咄设施服务(IaaS)的性能优势与建设路径。随着DPU技术的成熟.不论从功能完备性、系统稳定性还是性价比角度.DPU均已经具备在大规模生产环境落地应用的条件。某种程度上，IOD技术已成为下一代高性能算力底座的核心技术与最佳实践。目录trBs*云计算发JgUI第11.1 云计算系统已经成为数字世界的“操作系统”11.1.1 云计算的发展历程11.1.2 云计算技术特点21.2 A1.产业催生高性能云计算需求31.2.1 A1.技术发展概述31.2.2 云计算性能对AI计算影响重大41.2.3 主流A1.训练的云计算支撑架构51.3 IaaSOnDPU(IOD)算力底座技术路线61.3.1 IoD发展历程61.3.2 I。D技术路线解析71.3.3 高性能云计算的规格定义101.4 I。D高性能云计算应用范式131.4.1 “兼容并包”的公有云131.4.2 -安全强大”的私有云141.4.3 “小巧精美”的边缘云151.4.4 -异军突起的智算云151.4.5 “电光火石”的低时延云16«2«云计M务曲分析182.1 当前主流云计算体系结构182.1.1 硬件部分182.1.2 基础软件192.1.3 云管平台192.1.4 业务服务202.2 计算业务分析202.2.1 裸金属服务器212.2.2 虚拟机212.2.3 容器222.2.4 GPU服务器222.2.5 应用场景与选择策略232.3 网络业务分析242.4 存储业务分析252.5 安全业务分析262.6 平台服务业务分析272.6.1 数据库272.6.2 中间件272.6.3 服务治理28«3*鹰性能云计91»/晚修293.1 通用算力技术分析293.1.1 CPU的计算能力发展历程293.1.2 云计算卸载技术为CPU算力提升带来的优势303.1.3 I。D技术为HyPerViSor卸载提供最佳支撑323.2 智算算力技术分析343.2.1 GPU的计算能力发展历程343.2.2 GPU算力提升带来与网络吞吐的矛盾现状353.2.3 无损网络技术为A1.训练带来的性能提升363.3 云计算网络技术分析383.3.1 云计算网珞是算力连通的基础383.3.2 云计算网关是算力开放的门户393.3.3 高性能云计算需要网络卸载进行性能提升393.4 云计算存储技术分析423.4.1 单一存储技术方案无法满足云计算要求423.4.2 云存储需要引入新技术突破性能限制433.4.3 I。D技术可以提升存算分离架构下的处理性能443.5 云计算安全技术分析453.5.1 纷繁庞杂的云计算安全体系453.5.2 安全处理性能提升需要异构算力加持463.5.3 安全卸载技术在高性能云安全中至关重要473.5.4 DPU将成为可信计算服务中的重要组件473.5.5 I。D技术助力构建“零信任”网络483.6 云计算服务治理技术分析503.6.1 服务治理技术是云原生时代的重要基础503.6.2 传统服务治理技术的局限性503.6.3 I。D技术带来新的服务治理模式513.7 IaaSonDPU(IoD)高性能云计算全景51«4«育性修云计算系传架构持演进534.1 高性能云计算可观测性建设534.1.1 可观测建设是云计算运维体系的关键环节534.1.2 当前观测方法所面临的难题544.1.3 高性能云可观测性建设建议554.2 轻量级虚拟化系统演进架构革新564.2.1 轻量级虚拟化技术演进路线564.2.2 轻量级虚拟化技术为云计算带来新气象574.2.3 DPU+轻量级虚拟化=新一代技术革命584.3 “一云多芯”系统庭合594.3.1 "一云多芯1的应用困境594.3.2 I。D技术有肋于完善“一云多芯”的服务评估体系59«5«育性鲁云计算为PaaS1.K务JRgB615.1 高性能大数据计算服务615.2 高性能中间件服务625.3 高性能数据库服务62«6*未来AM64第1章云计算发展趋势1.1 云计算系统已经成为数字世界的“操作系统”1.1.1 云计算的发展历程云计算技术的最初起源可以追溯到20世纪50年代ChristopherStrachey发表的CrimeSharingin1.argeFastComputer）论文,开启了对虚拟化技术探讨的大门。随后的60年代，以旧M与M1.T为首的产业与学术巨头纷纷投入相关研究并在虚拟化领域取得了众多突破,最具代表性的事件是1974年,Gera1.dJ.Popek和RobertP.Go1.dberg发表论文（Forma1.RequirementsforVirtua1.izab1.eThirdGenerationArchitectures',提出了波佩克与戈德堡虚拟化需求（PopekandGo1.dbergvirtua1.izationrequirements）和I型与I1.型虚拟化类型。随着虚拟化技术的不断成熟与基础算力设施能力的提升，使得具备一弹性、按用计量、在线、无限这几个云计算典型特征的业务类型逐步具备了落地应用的可行性.期间虚拟化技术领域也涌现出了Qemu、Xen、KVM等众多明星项目。终于在2006年，Goog1.e时任CEOEricSchmidt在搜索引擎大会上首次提出PoudComPUting-概念.亚马逊在同年成立了亚马逊网络服务公司（AWS）,云计算产业轰轰烈烈的发展起来。2010年,OPenStaCk项目创建，标志着云计算技术进入平民化时代，将云计算行业发展正式推向了高潮。云计算技术的另一个分支，容器技术起源于20世纪70年代UnixV7引入的Chroot工具，并在2009年以1.XC形式成为1.inux内核的容器管理器。容器技术凭借显著的轻化优势取得快速发展并借助CNCF社区进行大力推广，在2018年发布的云原生技术定义中，容器被确立为云原生的代表技术之一。随着业务的多样化发展，云原生技术逐渐显现出强大的统治力，成为未来发展的主要方向。伴陵酒云计算的蓬勃发展，当前世界上的主要算力基础设施几乎都是通过云计算技术进行管理与调度，可以说云计算技术已经成为数字世界的操作系统1.1.2 云计算技术特点云计算的发展呈现出显著的业务驱动特征，当前AIGC、IoT、5GB5G.Web3.0等行业的发展一方面要求云计算技术随为其提供融合性的底层技术支撑，能够按需以裸金属、容器或虚拟机形式承载上层业务，另一方面对云计算性能也提出了前所未有的要求。于是我们看到，OpenStaCk社区涌现出大容器相关项目，如ZUn、Magnum、Kyrur等，CNCF社区中的KUbeVirtMetaI3等项目也逐渐成熟，这些都是为提供多模态服务类型做出的努力。同时.融合了CPU、GPU与DPU的“3U一体”新型服务器成为当前云计算算力基础设施的主力形式，CPU负责调度管理与运行业务进程,是通用“算力”的承载组件，GPU负责提升大规模并行运算能力，是智算“算力”的核心引擎，DPU负责算力集群菽础设施卸载与集群的联通，三者通力合作，构成了高性能云计算的菽础底座。历史的经验告诉我们，技术的发展总是呈现出摆旋式上升的样貌。也总有人调侃，当前的问题都可以在故纸堆中找到答案。虽然异构运算并非新鲜事物,但随着单项技术的突破与不同技术领域间的融合，在当下，如图1.1所示的基于“3U一体”的融合算力基咄设施构建的融合性云计算平台,正是支撑不断爆发的上层业务应用运转的最佳实践方案。算力中心i三P算力节点J1.力单元CP5通用算力GPU-智能算力DPU-基础算力维护应用生态大模型训练/推理远程资源本地化局部资源管理视频/VR/AR异构资源虚拟化B1.1:"3U一体”融合基础设施总体来说，当前云计算技术的发展呈现出如下典型特征：业务承载多模化为了满足业务向云端平滑迁移的需求，会要求云平台能够适配业务系统的当前情况，从容器、虚拟机、裸金麻中选择最佳的云上承载方式。例如对逐件设施有特殊需求的业务褥要通过裸金属承载,对操作系统有特殊需求的业务以虚拟机承载,其余业务以容器承载。计算性能极致化在A1.GC大爆发的背景下，上层业务系统从网络性能、存储性能、安全性能等众多方面都对云平台提出了更高的要求，百G级别的以太网络接入能力已经逐渐成为云计算系统的标配，400G的无损网络接入也逐渐在行业落地。系统构成组件化云计算技术体系越来越庞杂，单独的封闭体系很难满足来自业务系统层出不穷的各种需求，良好的模块划分与AP1.设计已经成为主流云计算系统的构成基础。“开放、可替换”模式已经成为云计算技术架构的主旋律。1.2A1.产业催生高性能云计算需求1.2.1 A1.技术发展柢述