Arm: AI的未来在边缘,Armv9 边缘AI计算平台加速行业变革

2025年02月27日 13:59来源于:网络
分享:
Arm控股有限公司(纳斯达克股票代码:ARM,以下简称Arm)今日发布Armv9边缘人工智能(AI)计算平台,该平台以全新的Arm Cortex-A320 CPU和领先的边缘AI加速器Arm Ethos-U85 N

Arm 控股有限公司(纳斯达克股票代码:ARM,以下简称“Arm”)今日发布 Arm®v9 边缘人工智能 (AI) 计算平台,该平台以全新的 Arm Cortex®-A320 CPU 和领先的边缘 AI 加速器 Arm Ethos-U85 NPU 为核心,可支持运行超 10 亿参数的端侧 AI 模型。

1740632969691161.png

Arm 高级副总裁兼物联网事业部总经理 Paul Williamson 表示:AI 新已不再局限于云端。随着世界的互联和智能化水平的日益提升,从智慧城市到工业自动化,在边缘侧处 AI 工作负载不仅带来显著的优势,其必要性更是不可或缺。专为物联网打造 Armv9 边缘 AI 计算平台的推出标志着这一发展趋势迈入了重要的里程碑

Armv9 边缘 AI 计算平台——在边缘集成效率、安全和智能

OEM 厂商面临着前所未有的压力,迫切需要快速推出解决方案,以应对物联网应用不断攀升的计算需求,这些需求包括自动驾驶车辆在工厂环境中的精准导航、智能摄像头通过软件升级灵活调整功能,以及构建能够提供更自然AI 交互体验的人机界面。

为了快速创新和扩展,OEM 厂商需要在合适的位置灵活执行 AI 工作负载,实现更强大的安全性和更高的软件灵活性,Armv9 技术正是能在大规模应用中满足这些需求的理想之选Arm 此次发布计算平台集成了全新的超高 Armv9 CPU——Cortex-A320 和支持 Transformer 算子网络的 Ethos-U85 NPU,打造出全球首个专为物联网优化的 Armv9 边缘 AI 计算平台。相较于去年推出的基于 Cortex-M85 的平台,新的边缘 AI 计算平台的机器学习 (ML) 性能提高了倍。

Arm 技术的广泛应用,使得合作伙伴现在能够在从云端到边缘的各种计算场景中部署强大的 Armv9 技术。从授权该技术以构建 SoC 芯片的合作伙伴,到构建下一代设备的 ODM 和 OEM 厂商,平台受到了包括亚马逊云科技(AWS)、西门子、瑞萨电子、研华科技和 Eurotech 在内的多家业界领先合作伙伴的支持

全新 Cortex-A320 为下一代智能物联网设备奠定安全基础

新型边缘 AI 计算平台的推出标志着边缘计算发展的重要里程碑。Cortex-A320 为物联网带来了先进的 AI 功能和开发者优势,将 Armv9 架构的功能扩展到高能效设备,并提供全面的软件支持。

Cortex-A320 充分发挥了 Armv9 架构的优势,如针对 ML 性能的 SVE2相较于前代产品 Cortex-A35Cortex-A320 的 ML 性能提升了倍,标量性能提升了 30%

该平台所采用 Armv9.2 架构还为最小的 Cortex-A 设备带来了高级安全功能,例如指针验证 (PAC)、分支目标识别 (BTI) 和内存标记扩展 (MTE)。这功能至关重要,因为边缘设备通常在暴露的环境中运行并处理敏感数据。

随着边缘 AI 在 Arm 平台上持续集成,这一全新产品的加入使 Arm 现已能为物联网提供最为先进的 Armv9 Cortex 处理器系列从极致性能到成本和能效受限的设备。

 Arm Kleidi 扩展到物联网

边缘 AI 普及面临的最主要障碍之一是软件开发和部署的复杂性,这正是 Armv9 边缘 AI 计算平台软件生态系统发挥优势的关键所在。Arm 将 Arm Kleidi 扩展到物联网,这是一套面向 AI 框架开发者的计算库,旨在优化基于 Arm CPU 的 AI 和 ML 工作负载,无需开发者额外操作。KleidiAI 已集成到常见的物联网 AI 框架中,如 Llama.cpp 和 ExecuTorch  LiteRT(通过 XNNPACK),加速了 meta Llama 3 和 Phi-3 等关键模型的性能。例如,在 Llama.cpp 上运行微软的 Tiny Stories 数据集时,KleidiAI 为新的 Cortex-A320 带来了高达 70% 的性能提升。

这些提升至关重要,因为在当今快节奏的技术环境中,产品的上市速度往往决定其成败。新的边缘 AI 计算平台确保了与更高性能 Cortex-A 处理器在软件层面的无缝兼容。这种可扩展性使开发者能够打造可随需求变化而灵活调整的解决方案。借助庞大的 Armv9 生态系统,以及与 Linux 功能丰富的操作系统和 Zephyr 等实时操作系统的兼容性,开发者拥有了前所未有的灵活性。他们可以充分利用现有的工具和知识以及软件复用的优势,从而加快产品上市时间,并降低总体拥有成本。全球范围内 2,000 多万活跃的 Arm 开发者,这为未来的技术创新提供了巨大潜力。

展望未来

展望未来,显然 AI 的未来趋势将转向边缘,而全新 Arm 边缘 AI 计算平台将成为新一轮物联网创新的催化剂。Armv9 架构的特性、先进的 AI 功能和全面软件支持结合,为 OEM 厂商和开发者创造了新的可能性。

平台能够支持基于智能体 AI 应用运行经过调优的大语言模型 (LLM) 和小语言模型 (SLM)从而开辟全新类别的边缘应用场景在未来的场景中,智能决策将更接近数据采集源头,这不仅能显著减少延迟,还能有效提升隐私保护水平。

这不仅仅是一渐进式的进步,它代表着行业对边缘计算和 AI 处理方式的根本性变革。这是行业首次迎来专为物联网应用优化的 Armv9 CPU将超高能效与先进 AI 能力结合,实现了前所未有的突破

###

合作伙伴证言

边缘 AI 的发展步伐日益加速,Arm 物联网计算架构方面的进步将为边缘智能带来新的可能性。作为边缘计算和边缘 AI 领域的领先企业,研华科技认为这一创新代表着 Arm 生态系统向前迈出了重要一步,它将助力各行各业打造出更智能、更高效、更安全的 AI应用。这一创新将激发边缘计算市场的行业繁荣和技术突破。

研华科技嵌入式物联网部门总裁 张家豪


“全新的 Arm 边缘 AI 计算平台为我们的客户实现在 Armv9 技术上运行 AWS IoT Greengrass 的轻量级设备运行时环境—— Nucleus Lite,从而让边缘设备以最低的内存需求高效运行。这两项技术的无缝集成为开发者提供了优化的解决方案,支持构建现代边缘 AI 应用,例如精准农业中、智能制造和自动驾驶的异常检测

亚马逊云科技物联网技术负责人 Yasser Alsaied


随着物联网市场的不断扩展,Eurotech 将继续为客户提供最新边缘 AI 应用所需的性能、安全性和解决方案。Arm 的全新边缘 AI 计算平台为我们提供了构建下一代多样化物联网设备的基础,Armv9 让我们能够将安全性能、能效和软件灵活性提升到全新水平。

Eurotech 首席技术官Marco Carrer


瑞萨电子致力于在真正可扩展的计算平台上,通过多样化的用例和日益智能化的工作负载,服务于广泛的 AI 物联网细分市场。我们对最新的 Armv9 Cortex-A320 CPU 感到兴奋,它不仅AI/ML 高性能和安全性方面表现出色,还显著优化了功耗和面积效率。这一突破有助于我们加快创新步伐,进一步效率和可扩展性。

瑞萨电子嵌入式处理部副总裁 Daryl Khoo


西门子致力于在边缘应用中释放 AI 潜能。基于 Armv9 架构的全新边缘 AI 计算平台有助于我们将高度安全、高性能和高能效的 AI 创新产品组合扩展到所有客户,涵盖一系列工业、智能基础设施和移动应用。

西门子集成电路与电子研究及预开发部门副总裁Herbert Taucher


分享:
相关阅读

交出高质量发展稳健答卷!小熊电器2025Q1业绩:营

在复杂的商业环境里,短期波动虽是难免的周期规律,但在长期主义的企业眼里,却是去腐生肌、蜕变生长的转折机遇。历经多年市场变化,小家电行业如今迎来新的拐点,从规模角

2025-05-04 News

穿透财报业绩增长表象,看见小熊电器的“长期主义

企业发展有时代浪潮的托举,更需要自身立得住。行业顺风时借势易,潮退方见真章。真正的强者,应该善用硬核实力在周期起伏中劈波斩浪、逆势突围。奥维云网的数据显示,2023

2025-05-04 News

五一电视购机必看!海信100吋电视国补后7599元起

五一黄金周期间,作为2025FIFA世俱杯全球官方合作伙伴,海信将推出世俱杯百吋风暴限时促销,覆盖E8Q Pro、E7N Pro、E5N Pro等旗舰机型。活动期间,消费者可享满20%国家节能

2025-04-30 News

五一假期高端购物指南:三款好物让生活松弛下来

五一假期纠结要不要去旅游?你可千万别去遭那个罪了,到处人挤人不如宅家躺平!真正想度过一个高品质假期,只需要把家里布置得舒舒服服,再配上几件度假神器,让生活回归本

2025-04-30 News