广告

由 Arm 驱动的 NVIDIA Project DIGITS 为数百万开发者带来高性能 AI 算力

2025-01-10  Arm 阅读:
Arm 作为当前和未来 AI 领域应用最广泛的计算平台,自然而然地成为了 Project DIGITS 中 GB10 超级芯片的理想平台。

当前,一个令人振奋的趋势是,人工智能 (AI) 应用和功能正在各种边缘侧设备上快速扩展和普及。随着 AI 的不断发展和进步,对于 AI 研究员、数据科学家、开发者和学生而言,获取高性能算力以开发或运行新的模型(如语言模型、视觉模型或多模态模型)变得至关重要。鉴于 AI 创新的步伐空前加快,行业需要确保开发者在云端及边缘侧均能获得高性能算力,从而直接获得更多的新功能。

开发者实现唾手可得的突破性 AI 性能

在今年的国际消费类电子产品展览会 (CES) 上,创始人兼首席执行官黄仁勋在主题演讲中发布了个人 AI 超级计算机 NVIDIA Project DIGITS,朝着 “随处可开发和部署 AI” 的愿景又迈近了重要一步。基于 Linux 系统的 Project DIGITS 搭载了 Arm CPU 核心,使每位 AI 开发者都能拥有一套高性能的 AI 桌面系统。

图1:由 Arm 驱动的 NVIDIA Project DIGITS 为数百万开发者带来高性能 AI 算力

Project DIGITS 采用了全新 NVIDIA GB10 Grace Blackwell 超级芯片,搭载 NVIDIA Grace CPU 、 NVIDIA Blackwell GPU、新一代 CUDA® core和第五代 Tensor Cores,通过 NVIDIA NVLink®-C2C 片间互连技术实现连接,并配有 128GB 的统一的高一致性内存。NVIDIA Grace CPU 搭载了先进的高性能 Arm Cortex-X 和 Cortex-A 技术,配置 10 个 Cortex-X925 和 10 个 Cortex-A725 CPU 核心。NVIDIA GB10 超级芯片能以 FP4 计算精度提供高达 1 PFLOPS (1,000 TFLOPs) 的 AI 性能,使开发者能对 AI 大模型进行原型设计、微调和推理,同时还能与云端或数据中心环境无缝对接,实现协同工作。

Arm 计算平台的价值

借助无处不在的 Arm 计算平台,新的 AI 模型和应用能更高效、更快速地在边缘侧运行。在消费级技术市场,不论是用于 Project DIGITS 的最新 Arm CPU,或是集成在 Arm 终端计算子系统 (CSS) 的一部分,Arm CPU 技术已成为市场中高性能边缘侧设备的核心驱动力。这些 CPU 技术经过精心优化,可在各种实际用例和工作负载中实现最大性能和最高效率。

Arm 计算平台还兼具灵活性,可针对不同的 AI 应用场景使用不同的计算引擎。在 NVIDIA Project DIGITS 中,基于 Arm 架构的 NVIDIA Grace CPU 和 NVIDIA Blackwell GPU 互相协作,使开发者能够将这些组件用于各种工作负载。这种异构计算策略对于最大化 AI 性能,同时管理内存利用率和功耗至关重要。

NVIDIA SoC 产品副总裁 Ashish Karandikar 表示:“我们与 Arm 在 GB10 超级芯片的合作上,巧妙地结合了 NVIDIA 的 AI 专业知识与 Arm 可扩展的计算平台,实现了出众的性能和能效,将推动下一代 AI 创新。随着 Project DIGITS 的推出,每位 AI 开发者和研究员都将能拥有一台功能强大的超级计算机。”

释放软件创新潜能

对于开发者而言,拥有一个完全集成的软硬件 AI 平台至关重要。Project DIGITS使用开源 Linux 操作系统,用户可以访问资源丰富的 NVIDIA AI 软件库,包括 NVIDIA NGC 目录和 NVIDIA 开发者门户网站中提供的软件开发套件、编排工具、框架和 AI 模型,以加快生成式 AI 的工作流程。 

Arm 和 NVIDIA Grace Hopper 和 Grace Blackwell 在数据中心的合作,为数据中心和边缘侧设备环境提供一致的平台架构,使开发者能够无缝地使用同一套工具进行 AI 应用开发。此外,Arm 不断积极推动开源开发者社区的重要工作,旨在开发出适配的软件,加速AI 的全面部署。目前,全球已有超过 2,000 万软件开发者在 Arm 计算平台上构建自己的应用程序,共同推动着一个快速创新、日益壮大的开源社区。

赋予高性能 AI 算力的理想平台

Arm 作为当前和未来 AI 领域应用最广泛的计算平台,自然而然地成为了 Project DIGITS 中 GB10 超级芯片的理想平台。Project  DIGITS是一个功能强大的个人计算机桌面平台,能够运行高达 200B 参数的 AI 大模型,让原本的不可能变为可能。这种对 AI 生态系统的广泛影响力,为全球数百万开发者带来了灵活、高性能且高能效的 AI 功能。通过与 NVIDIA 及 Arm 强大的软件生态系统紧密的合作,我们翘首以待下一代极具创新的 AI 应用的问世。

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
您可能感兴趣的文章
相关推荐
    广告
    近期热点
    广告
    广告
    可能感兴趣的话题
    广告
    广告
    向右滑动:上一篇 向左滑动:下一篇 我知道了