欢迎来到中发网

客户端

首页> 业界新闻> 资讯详情

由 Arm 驱动的 NVIDIA Project DIGITS 为数百万开发者带来高性能 AI 算力

王涛
来源 : ARM 2025-01-13 14:07    点赞数:       阅读量:0   

当前,一个令人振奋的趋势是人工智能 (AI) 应用和功能在各种边缘侧设备上快速扩展和普及。随着 AI 的不断发展和进步,对于 AI 研究员、数据科学家、开发者和学生而言,获取高性能算力开发或运行的模型(语言模型、视觉模型或多模态模型)变得至关重要。鉴于 AI 创新的步伐空前加快,行业需要确保开发者在云端边缘侧能获得高性能算力,从而直接获得更多的新功能。

 

开发者实现唾手可得的突破性 AI 性能

 

在今年的国际消费类电子产品展览会 (CES) 上,NVIDIA 创始人兼首席执行官黄仁勋在主题演讲中发布了个人 AI 超级计算机 NVIDIA Project DIGITS,朝着 “随处可开发和部署 AI” 的愿景又迈近了重要一步。基于 Linux 系统的 Project DIGITS 搭载了 Arm CPU 核心,使每位 AI 开发者都能拥有一套高性能的 AI 桌面系统。

 

由 Arm 驱动的 NVIDIA Project DIGITS 为数百万开发者带来高性能 AI 算力0

图:由 Arm 驱动 NVIDIA Project DIGITS 数百万开发者带来高性能 AI 算力

 

Project DIGITS 采用了全新 NVIDIA GB10 Grace Blackwell 超级芯片,搭载 NVIDIA Grace CPU  NVIDIA Blackwell GPU、新一代 CUDA® core和第五代 Tensor Cores,通过 NVIDIA NVLink®-C2C 片间互连技术实现连接,并配有 128GB 的统一的高一致性内存。NVIDIA Grace CPU 搭载了先进的高性能 Arm Cortex-X Cortex-A 技术,配置 10 Cortex-X925  10  Cortex-A725 CPU 核心NVIDIA GB10 超级芯片能以 FP4 计算精度提供高达 1 PFLOPS (1,000 TFLOPs)  AI 性能,使开发者能对 AI 大模型进行原型设计、微调和推理,同时还能与云端或数据中心环境无缝对接,实现协同工作。

 

Arm 计算平台的价值

 

借助无处不在的 Arm 计算平台,新的 AI 模型和应用能更高效、更快速地在边缘侧运行。在消费级技术市场,不论是用于 Project DIGITS 最新 Arm CPU,或是集成在 Arm 终端计算子系统 (CSS) 的一部分,Arm CPU 技术已成为市场中高性能边缘侧设备的核心驱动力这些 CPU 技术经过精心优化,可在各种实际用例和工作负载中实现最大性能和最高效率。

 

Arm 计算平台还兼具灵活性,可对不同的 AI 应用场景使用不同的计算引擎。在 NVIDIA Project DIGITS 中,基于 Arm 架构的 NVIDIA Grace CPU NVIDIA Blackwell GPU 互相协作,使开发者能够将这些组件用于种工作负载。这种异构计算策略对于最大化 AI 性能,同时管理内存利用率和功耗至关重要。

 

NVIDIA SoC 产品副总裁 Ashish Karandikar 表示:我们与 Arm  GB10 超级芯片的合作上巧妙地结合了 NVIDIA AI 专业知识与 Arm 可扩展计算平台,实现出众的性能和,将推动下一代 AI 创新。随着 Project DIGITS 的推出,每位 AI 开发者和研究员都拥有一台功能强大的超级计算机。

 

释放软件创新潜能

 

对于开发者而言,拥有一个完全集成的软硬件 AI 平台至关重要。Project DIGITS使用开源 Linux 操作系统,用户可以访问资源丰富的 NVIDIA AI 软件库,包括 NVIDIA NGC 目录和 NVIDIA 开发者门户网站中提供的软件开发套件编排工具、框架和 AI 模型,以加快生成式 AI 的工作流程。

 

Arm  NVIDIA Grace Hopper Grace Blackwell 在数据中心的合作为数据中心和边缘侧设备环境提供一致的平台架构,使开发者能够无缝地使用同一套工具进行 AI 应用开发。此外,Arm 不断积极推动开源开发者社区的重要工作,旨在开发出适配的软件,加速AI 的全面部署。目前全球超过 2,000 万软件开发者在 Arm 计算平台上构建自己的应用程序,共同推动着一个快速创新、日益壮大的开源社区

 

赋予高性能 AI 算力的理想平台

 

Arm 作为当前和未来 AI 领域应用最广泛的计算平台,自然而然地成为了 Project DIGITS GB10 超级芯片的理想平台。Project  DIGITS是一个功能强大的个人计算机桌面平台,能够运行高达 200B 参数的 AI 大模型,让原本的不可能变为可能。这种对 AI 生态系统的广泛影响力,为全球数百万开发者带来了灵活、高性能且高能效的 AI 功能。通过与 NVIDIA Arm 强大的软件生态系统紧密的合作,我们翘首以待下一代极具创新的 AI 应用的问世


声明: 本网站原创内容,如需转载,请注明出处;本网站转载内容(文章、图片、视频等资料)的版权归原网站所有。如我们转载或使用了您的文章或图片等资料的,未能及时和您沟通确认的,请第一时间通知我们,以便我们第一时间采取相应措施,避免给双方造成不必要的经济损失或其他侵权责任。如您未通知我们,我们有权利免于承担任何责任。 我们的联系邮箱:news@cecb2b.com。

好文章,需要你的鼓励!
分享到:
参与评论
剩下299
中发自媒体
微信公众号
头条公众号
微博公众号
最新最热 行业资讯
订阅栏目 效率阅读