摩登3咨询:_Arm Neoverse路线图再添新员:持续赋能计算基础设施新变革 原创

近年来,以5G为代表的数字化转型引发了一系列数据爆炸,导致人们对计算能力和数据存储的需求日益增长。这一变革对全球计算基础设施的发展,特别是对云计算的处理能力提出了更高的要求。

为了应对海量数据挑战,近日Arm对Arm® Neoverse™ 路线图进行了再次更新。据悉,新产品植根于Arm的可扩展效率和技术领先地位,同时强化了Arm支持合作伙伴持续快速创新的承诺,旨在实现高性能、高能效和可持续的云计算,满足企业IT与数据中心不断增长的工作负载和不断提升的性能需求。

为了让大家全面地了解这一创新成果,近日在Arm技术媒体沟通会上,来自Arm公司的几位高管对其进行了详细的介绍,并对最近一年的市场及业务进行了简要总结。

坚持创新驱动,实现新的突破

据Arm高级副总裁兼基础设施事业部总经理Chris Bergey介绍,随着新应用的不断涌现,如今的基础设施都是定制化打造。从SSD到HDD,从DPU到视频加速器,服务器CPU算是最后的标准产品,未来将不会作为通用型产品继续发展。另外,功耗问题也不容小觑。通常大型互联网公司的电力支出会占到总拥有成本(TCO)的30-40%,仅微次于电信网络运营商。由于数据速率发展太过迅猛,计算工作负载正在极力增长,而且愈加复杂。

“Arm Neoverse具有独特定位,可以帮助我们的生态系统引领全球计算基础设施的发展。”Chris Bergey指出,基础设施的未来需要基于Arm Neoverse的高性能、高能效的计算基础,还需要Arm生态系统所提供的专用处理和工作负载加速能力。为此,Arm更新了Arm Neoverse路线图——推出Neoverse V2平台(代号“Demeter”)。

▲Arm架构是未来基础设施的基石

据了解,此次Arm Neoverse新增的产品是基于“可扩展效率、技术领先地位、快速的创新步伐、独一无二的开发者社区的有力支持”四项关键原则所打造的。虽然目前Arm在获得技术领导者的赞誉还不够多,但也已创下了多项行业第一:

• 第一个总内存带宽超过每秒1TB的CPU;

• 第一个单块裸片上能配置超过100个核心的CPU,核心数达到128个;

• 第一个将DDR5和PCIe Gen5.0推向市场的CPU;

• 第一个在SPEC CPU 2017基准测试中打破500整型跑分的CPU。

▲Arm生态系统创下多项行业第一

除此之外,Arm Neoverse还在今年取得了若干具有里程碑意义的成就:

• 在全球范围内,Arm现已被用于各个主要公有云,包括AWS、微软、谷歌、阿里巴巴、甲骨文等科技巨头。这意味着,世界各地的每一位开发者都可获取Arm Neoverse。

• Arm在5G RAN领域无处不在,比如在2022世界移动通信大会(MWC)上,Arm的合作伙伴Marvell与戴尔宣布强强联手,而高通也与乐天、HPE达成了合作。他们携手诺基亚、联想、三星等公司,正在酝酿许多更加激动人心的项目。

• NVIDIA发布了面向AI及高性能计算(HPC)的Grace。

• Arm正逐步迈入更为传统的“企业”领域。比如VMware运用DPU开展Monterrey项目;RedHat的OpenShift支持Arm架构;SAP HANA正将其云基础设施迁移到AWS Graviton上;6月份HPE推出了ProLiant第11代平台,搭载了基于Arm Neoverse的Ampere Altra处理器。

▲Arm生态系统的势头正在加速

“随着今天Neoverse路线图又添新品,我们已经准备就绪,并坚信Arm架构是未来基础设施的基石。”Chris Bergey表示。

丰富产品矩阵,助力行业前行

多年来,Arm一直致力于开发和增强AMBA CHI,这是实现高速、低延迟的芯片到芯片通信的重要协议。然而,随着应用需求和技术发展,各种规模与各个垂直领域的企业都开始拥抱人工智能(AI)和机器学习(ML)。大家渴望利用人工智能进行大数据分析,以识别商业趋势,同时改善服务和产品。

作为一家芯片架构的领先供应商,Arm自然也不例外。从2018年推出面向基础设施市场的全新独立品牌Arm Neoverse,至今,Arm对其进行了多次更新,而Neoverse也迅速被采用。现如今,所有主要的公有云都提供基于Neoverse的实例。为了不断提升计算和处理性能,这些年Arm更是投入了大量精力来思考如何为该领域打造解决方案。

据Arm基础设施事业部产品解决方案副总裁Dermot O’Driscoll介绍,多年来,我们一直在努力实现并优化在Arm架构上运行的全栈解决方案。从架构和IP,到技术库、运行环境和编译器,我们已经启用了多个基础设施软件来提取最大性能。

▲Arm软件生态系统

为了进一步推动云工作负载性能,此次Arm推出的Neoverse V2平台配备了最新的V系列核心和产业广泛部署的Arm CMN-700 mesh互连技术。Neoverse V2将为云和HPC工作负载提供市场领先的整型性能,并引入若干Armv9架构安全增强功能。

与此同时,作为Arm持续投入于高效的性能和高效的吞吐量的一部分,新一代N系列产品也在开发之中,并计划将于2023年推出。据Dermot O’Driscoll透露,与N2的市场领先效率相比,新一代N系列CPU将在性能和效率方面实现代际提升。

除此之外,Arm还推出了Neoverse E2平台,通过结合Arm Cortex®-A510 CPU与可扩展的Neoverse CMN-700和N2系统背板,可使条件相对受限的应用也能充分利用诸如可扩展的核心数量范围、Arm SystemReady™ 兼容性,以及PCIe、CXL、IO和接口等云技术。

▲Arm Neoverse路线图

在Dermot O’Driscoll看来,云基础设施市场的下一个发展趋势就是机器学习(ML)。“就像Java在如今的云工作负载中占据大比例一样,ML正逐渐成为未来的首选工作负载。在ML中,我们可以对BERT实现同样的启用”。

据悉,Arm的V1核心拥有一组专门用于增强ML应用程序性能的功能:

• 在架构方面,添加了Bfloat16(BF16);

• Arm调整了V1、N2以及后续设计的微架构,旨在通过BERT提高BF16的执行;

• 为Arm计算库(ACL)增加BF16支持;

• 将ACL集成到oneDNN ML框架中;

• oneDNN框架与Tensorflow搭配使用以运行BERT。

值得一提的是,在V1添加的BF16和Int8 MatMul,意味着ML模型可以更紧凑地植入内存,因此它们需要更少的内存带宽,从而使Graviton3的ML性能达到Graviton2的3倍。

▲Arm Neoverse引领未来云计算新浪潮

“总体来说,得益于我们与客户在其未来设计需求上的紧密合作,目前Neoverse平台解决方案在云、无线网络用例中均受到了市场青睐。对此,我们感到十分自豪。”Dermot O’Driscoll谈道,以Neoverse V2平台为例,目前我们收到的反馈包括“希望提升云工作负载的性能”、“在平衡功耗和面积的同时继续推进单线程性能”以及“尽早发货,帮助我们快速开拓市场”等。

除此之外,客户还想要特定于Armv9的安全功能和极具竞争力的系统平台,以帮助他们能够在激烈的CPU市场中脱颖而出。“就满足云和AI市场的现阶段需求而言,我们认为Neoverse V2表现十分出色,而市场对Arm Neoverse平台的采纳和接受度也是非常高的”。Dermot O’Driscoll如是说。

▲Arm Neoverse V2平台的特点与优势

当前,全球计算基础设施市场正在被重新定义。基于“可扩展效率、技术领先地位、快速的创新步伐,以及独一无二的开发者社区的有力支持”四项关键原则,未来Arm将持续推动围绕计算基础设施的生态系统发生重大变化。

正如Dermot O’Driscoll所言:“在Arm Neoverse平台路线图的原则基础上,我们将为全球计算基础设施奠定新的起点。”