当前,推出探索数据已经成为企业的各项核心资产。随着企业数字化转型步入“深水区”,举措景赋加速人工智能、应用场大数据、创新云计算、推出探索物联网等技术的各项不断落地,企业获取数据的举措景赋加速方式越来越简单,数据量呈现出爆炸式增长的应用场态势。面对庞大的创新数据总量,一方面对数据中心的推出探索算力提出了更高的要求;另一方面,也对网络带宽提出了更大的各项挑战。为了提高响应,举措景赋加速降低延迟,应用场DPU应运而生。创新
根据赛迪顾问的数据,自2023年起,全球 DPU 市场规模将突破百亿美元,并进入年增长率超过50% 的增长快车道。在中国,DPU 市场规模在2023年也将有 300亿元人民币以上,会出现跳跃式增长。DPU 的广泛采用,高防服务器将会催生大量新的应用和服务,带动相关硬件和软件系统平台的增长。
为了帮助现代化数据中心构建高性能的网络,在今年的NVIDIA GTC上,NVIDIA正式对外发布了Spectrum-4以太网平台,包括NVIDIA Spectrum-4交换机系列、ConnectX-7智能网卡、NVIDIA BlueField-3 DPU,以及DOCA数据中心基础设施软件组成。在近期组织的一次媒体沟通上,NVIDIA网络专家崔岩和NVIDIA网络市场总监孟庆详细分享了关于DPU和DOCA的最新进展,以及DPU黑客马拉松的相关事项。
简化开发流程,赋能开发者加速创新
为了帮助开发者加速基于NVIDIA BlueField DPU的开发,NVIDIA于2020年秋季正式推出了NVIDIADOCA 1.0。
众所周知,NVIDIA DOCA 是一个为 BlueField DPU 量身定做的软件开发框架,主要目的就是为开发者打造一个全面、开放的开发套件,支持广大的云南idc服务商开发者在 BlueField DPU 上进行简单、灵活的软件开发,让开发者可以快速创建BlueField DPU 加速的、高性能应用程序和服务。
自发布之后,NVIDIA DOCA经历了多次的升级,并也今年5月份正式推出了DOCA 1. 3。NVIDIA网络专家崔岩告诉记者,DOCA 1.3提供了121个新的API开发接口及一些全新的和增强的功能,包括优化数据流插入的DOCA Flow库、通信通道库、正则表达式库以及App Shield SDK和基于OVN的IPSec完全加密卸载,以及DOCA新增和增强的服务等。
据介绍,DOCA依托于面向未来、API驱动的思维模式而构建,可让 BlueField DPU 硬件加速器变得易于使用,从而实现非凡的数据中心性能、效率和安全性。
对于开发者而言,DOCA 能够让他们利用行业标准 API 在 BlueField DPU 上快速创建应用程序和服务(类似于 GPU 的 CUDA)。源码库它能解锁数据中心创新功能,并且能更好的向下平滑兼容持续演进的新一代 BlueField DPU,包括今年下半年上市的 BlueField-3 DPU和未来的 BlueField-4 DPU。
NVIDIA网络市场总监孟庆表示,DOCA 可以加快应用程序和服务的上市时间,使客户和合作伙伴在各自的行业竞争中取得成功,并基于BlueField DPU 的应用场景方面发挥着关键的灵魂作用。
孟庆强调,DOCA是DPU的灵魂,二者不能分开。因此,DPU+DOCA软硬皆施才是DPU最好的市场形态。对于硬件来说,DPU可以作为单独的芯片或者作为DPU卡,也可以作为额外的芯片集成在GPU或者CPU里,这就需要根据用户需求,为相应的使用场景来定制。
探索更多场景,推进DPU在应用中的落地
为了探索更多DPU场景,NVIDIA正在通过一系列的举措,加速DPU的应用落地。
在生态建设方面,NVIDIA BlueField DPU已经作为核心部件应用到NVIDIA认证系统中,包括HGX、EGX和OVX,并为认证系统平台提供加速的以太网或InfiniBand解决方案。同时,连接 NVIDIA Spectrum 端到端以太网平台或 QuantumInfiniBand网络平台,为现代数据中心工作负载提供所需的精确定时、极致的性能、高级的安全性和强大的功能,成为构建 AI 工厂的核心骨干网络,有力支撑上层系统软件、高性能计算、人工智能和虚拟仿真平台应用。
为了帮助开发者更好的学习和应用DPU,NVIDIA还组织举办了DPU中国黑客松竞赛。首届竞赛也于近期正式落幕,60多支队伍报名参赛,并发布自己的作品。
本次采访中,来自高校的DPU开发者胡效赫也分享了他所在团队的参赛经验与成果。据介绍,胡效赫的开发团队提出了“DeepTrace”项目,面向DPU驱动的基础设施网包级函数粒度业务可观测性。该项目以DOCA提供的网流及粗粒度可观测性为基础,利用DOCA中的Netflow API库,结合DPU的高性能网络处理功能(ASAP2网包分类引擎),以及DOCA中的Flow API库、数据平面和控制平面的可编程能力,将可观测性的力度提升至网包级,并精确到每个函数功能。同时,实现了可以忽略不计的性能损耗。
崔岩指出,DPU 中国虚拟黑客松竞赛可以更好的激发 DOCA 开发者的创新,在 NVIDIA BlueField DPU 和 NVIDIA DOCA 应用场景方面给我们带来一些启发,比如在分布式存储、数据流跟踪分析、裸金属云管理、RDMA数据包加解密等。他表示,通过本次竞赛,以及未来的黑客松竞赛,给开发者带来一个更好地学习氛围,帮助大家学习、熟悉DPU和DOCA应用场景,掌握编程方式。同时,通过和别的队伍同场竞技,互相学习和参考,获得更大启发。
据了解,NVIDIA正在计划今年下半年的第二届 DPU 中国虚拟黑客松活动,并在第二届活动中为广大的 DOCA 中国开发者提供为 DPU 中国虚拟黑客松训练营,为他们提供最新的 DPU 和 DOCA 发布信息,随后会组织 DPU 中国虚拟黑客松竞赛。
除此之外,NVIDIA 授权合作伙伴DPU和DOCA 卓越中心也在为DOCA中国开发者提供在线实践的免费DOCA开发环境,并与NVIDIA一起构建和拓展 DPU 和 DOCA生态体系;与NVIDIA 共同推动 DOCA 中国开发者社区的发展,提供培训课程和专业讲师,组织DOCA 中国开发者社区活动,支持DOCA 开发者训练营和 DPU 黑客松竞赛。