广告

由Arm驱动的NVIDIA Project DIGITS为数百万开发者带来高性能AI算力

2025-01-15 Arm 阅读:
鉴于AI创新的步伐空前加快,行业需要确保开发者在云端及边缘侧均能获得高性能算力,从而直接获得更多的新功能。

当前,一个令人振奋的趋势是,人工智能 (AI) 应用和功能正在各种边缘侧设备上快速扩展和普及。随着 AI 的不断发展和进步,对于 AI 研究员、数据科学家、开发者和学生而言,获取高性能算力以开发或运行新的模型(如语言模型、视觉模型或多模态模型)变得至关重要。鉴于 AI 创新的步伐空前加快,行业需要确保开发者在云端及边缘侧均能获得高性能算力,从而直接获得更多的新功能。

开发者实现唾手可得的突破性 AI 性能

在今年的国际消费类电子产品展览会 (CES) 上,中发布了个人 AI 超级计算机 NVIDIA Project DIGITS,朝着 “随处可开发和部署 AI” 的愿景又迈近了重要一步。基于 Linux 系统的 Project DIGITS 搭载了 Arm CPU 核心,使每位 AI 开发者都能拥有一套高性能的 AI 桌面系统。

图:由 Arm 驱动的 NVIDIA Project DIGITS 为数百万开发者带来高性能 AI 算力

Project DIGITS 采用了全新 NVIDIA GB10 Grace Blackwell 超级芯片,搭载 NVIDIA Grace CPU 、 NVIDIA Blackwell GPU、新一代 CUDA® core和第五代 Tensor Cores,通过 NVIDIA NVLink®-C2C 片间互连技术实现连接,并配有 128GB 的统一的高一致性内存。NVIDIA Grace CPU 搭载了先进的高性能 Arm Cortex-X 和 Cortex-A 技术,配置 10 个 Cortex-X925 和 10 个 Cortex-A725 CPU 核心。NVIDIA GB10 超级芯片能以 FP4 计算精度提供高达 1 PFLOPS (1,000 TFLOPs) 的 AI 性能,使开发者能对 AI 大模型进行原型设计、微调和推理,同时还能与云端或数据中心环境无缝对接,实现协同工作。

Arm 计算平台的价值

借助无处不在的 Arm 计算平台,新的 AI 模型和应用能更高效、更快速地在边缘侧运行。在消费级技术市场,不论是用于 Project DIGITS 的最新 Arm CPU,或是集成在 Arm 终端计算子系统 (CSS) 的一部分,Arm CPU 技术已成为市场中高性能边缘侧设备的核心驱动力。这些 CPU 技术经过精心优化,可在各种实际用例和工作负载中实现最大性能和最高效率。

Arm 计算平台还兼具灵活性,可针对不同的 AI 应用场景使用不同的计算引擎。在 NVIDIA Project DIGITS 中,基于 Arm 架构的 NVIDIA Grace CPU 和 NVIDIA Blackwell GPU 互相协作,使开发者能够将这些组件用于各种工作负载。这种异构计算策略对于最大化 AI 性能,同时管理内存利用率和功耗至关重要。

NVIDIA SoC 产品副总裁 Ashish Karandikar 表示:“我们与 Arm 在 GB10 超级芯片的合作上,巧妙地结合了 NVIDIA 的 AI 专业知识与 Arm 可扩展的计算平台,实现了出众的性能和能效,将推动下一代 AI 创新。随着 Project DIGITS 的推出,每位 AI 开发者和研究员都将能拥有一台功能强大的超级计算机。”

释放软件创新潜能

对于开发者而言,拥有一个完全集成的软硬件 AI 平台至关重要。Project DIGITS使用开源 Linux 操作系统,用户可以访问资源丰富的 NVIDIA AI 软件库,包括 NVIDIA NGC 目录和 NVIDIA 开发者门户网站中提供的软件开发套件、编排工具、框架和 AI 模型,以加快生成式 AI 的工作流程。 

Arm 和 NVIDIA Grace Hopper 和 Grace Blackwell 在数据中心的合作,为数据中心和边缘侧设备环境提供一致的平台架构,使开发者能够无缝地使用同一套工具进行 AI 应用开发。此外,Arm 不断积极推动开源开发者社区的重要工作,旨在开发出适配的软件,加速AI 的全面部署。目前,全球已有超过 2,000 万软件开发者在 Arm 计算平台上构建自己的应用程序,共同推动着一个快速创新、日益壮大的开源社区。

赋予高性能 AI 算力的理想平台

Arm 作为当前和未来 AI 领域应用最广泛的计算平台,自然而然地成为了 Project DIGITS 中 GB10 超级芯片的理想平台。Project  DIGITS是一个功能强大的个人计算机桌面平台,能够运行高达 200B 参数的 AI 大模型,让原本的不可能变为可能。这种对 AI 生态系统的广泛影响力,为全球数百万开发者带来了灵活、高性能且高能效的 AI 功能。通过与 NVIDIA 及 Arm 强大的软件生态系统紧密的合作,我们翘首以待下一代极具创新的 AI 应用的问世。

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
您可能感兴趣的文章
  • 英国CMA暂时接受补救措施,新思科技350亿美元收购Ansys有望推进  CMA机构已暂时接受了芯片设计软件制造商新思科技为解决其拟议的350亿美元收购Ansys交易可能引发的竞争问题而提出的补救措施。作为条件性批准的一部分,新思科技承诺将剥离Ansys的PowerArtist业务以及出售自身的光学解决方案集团,以回应CMA对合并后实体可能减少市场竞争的担忧。这一进展标志着此笔EDA领域“世纪大收购”迈向完成的重要一步,预计整个过程将在2025年上半年内完成......
  • 四大合作揭秘新兴AI芯片设计模型 IP供应商、芯片设计服务提供商和AI专家在以AI为中心的设计价值链中的地位正变得更加突出。本文给出了四个设计用例,强调了服务于AI应用的芯片设计模型的重新调整。
  • 这款工具可以做到,AI芯片设计的一周一迭代 芯片设计周期久,决定了AI芯片如果没有在设计之初就“压对宝”,上市时就可能已经过时。有没有什么工具能大幅加速AI芯片的设计流程?
  • Arm:赋能开发者,软硬协同重塑AI计算生态 硬件若无软件支持就毫无意义。而软件始终是Arm计算平台不可或缺的一部分,其技术已经涵盖整个软件栈的各个层面。从底层固件和操作系统的开发,到与游戏引擎、开源社区和独立软件供应商(ISV)的战略合作,确保所有这些在Arm平台上都能“开机即用”。
  • 芯原汪洋:塑造智能计算未来,为AI技术应用赋能 汪洋特别提到,第十三届芯原CEO论坛五大预测之一是2028年用于端侧微调卡和推理卡的销售额将超过用于云侧的训练卡。目前,推理和端侧微调也是芯原重点关注的领域,同时也希望在这一发展趋势中寻找新的机遇。 
  • 集成电路性能应如何验证? 随着对复杂IC的需求不断增长,供应商面临着越来越大的压力,需要在尽可能短的时间内交付最高质量的IC。本文阐述了测试工程在交付定制IC以满足这一需求方面的重要性。
相关推荐
    广告
    近期热点
    广告
    广告
    可能感兴趣的话题
    广告
    广告
    向右滑动:上一篇 向左滑动:下一篇 我知道了