如影随形

由Arm驱动的NVIDIA Project DIGITS为数百万开发者带来

发布时间：2025-01-13 08:35编辑：[db:作者]浏览（94）

以后，一个令人奋发的趋向是，人工智能 (AI) 利用跟功效正在种种边沿侧装备上疾速扩大跟遍及。跟着 AI 的一直开展跟提高，对 AI 研讨员、数据迷信家、开辟者跟先生而言，获取高机能算力以开辟或运转新的模子（如言语模子、视觉模子或多模态模子）变得至关主要。鉴于 AI 翻新的步调绝后放慢，行业须要确保开辟者在云端及边沿侧均能取得高机能算力，从而直接取得更多的新功效。本文援用地点：图 由Arm驱动的NVIDIA Project DIGITS为数百万开辟者带来高机能AI算力为开辟者实现唾手可得的冲破性AI机能在往年的国际花费类电子产物博览会 (CES) 上，NVIDIA开创人兼首席履行官黄仁勋在主题报告中宣布了团体 AI 超等盘算机 NVIDIA Project DIGITS，朝着 “到处可开辟跟安排 AI” 的愿景又迈近了主要一步。基于 Linux 体系的 Project DIGITS 搭载了 Arm CPU 中心，使每位 AI 开辟者都能领有一套高机能的 AI 桌面体系。Project DIGITS 采取了全新 NVIDIA GB10 Grace Blackwell 超等芯片，搭载 NVIDIA Grace CPU 、 NVIDIA Blackwell GPU、新一代 CUDA® core跟第五代 Tensor Cores，经由过程 NVIDIA NVLink®-C2C 片间互连技巧实现衔接，并配有 128GB 的同一的高分歧性内存。NVIDIA Grace CPU 搭载了进步的高机能 Arm Cortex-X 跟 Cortex-A 技巧，设置 10 个 Cortex-X925 跟 10 个 Cortex-A725 CPU 中心。NVIDIA GB10 超等芯片能以 FP4 盘算精度供给高达 1 PFLOPS (1,000 TFLOPs) 的 AI 机能，使开辟者能对 AI 年夜模子停止原型计划、微协调推理，同时还能与云端或数据核心情况无缝对接，实现协同任务。Arm盘算平台的代价借助无处不在的 Arm 盘算平台，新的 AI 模子跟利用能更高效、更疾速地在边沿侧运转。在花费级技巧市场，不管是用于 Project DIGITS 的最新 Arm CPU，或是集成在 Arm 终端盘算子体系 (CSS) 的一局部，Arm CPU 技巧已成为市场中高机能边沿侧装备的中心驱能源。这些 CPU 技巧经由经心优化，可在种种现实用例跟任务负载中实现最年夜机能跟最高效力。Arm 盘算平台还兼具机动性，可针对差别的 AI 利用场景应用差别的盘算引擎。在 NVIDIA Project DIGITS 中，基于 Arm 架构的 NVIDIA Grace CPU 跟 NVIDIA Blackwell GPU 相互合作，使开辟者可能将这些组件用于种种任务负载。这种异构盘算战略对最年夜化 AI 机能，同时治理内存应用率跟功耗至关主要。NVIDIA SoC 产物副总裁 Ashish Karandikar 表现：“咱们与 Arm 在 GB10 超等芯片的配合上，奇妙地联合了 NVIDIA 的 AI 专业常识与 Arm 可扩大的盘算平台，实现了出众的机能跟能效，将推进下一代 AI 翻新。跟着 Project DIGITS 的推出，每位 AI 开辟者跟研讨员都将能领有一台功效强盛的超等盘算机。”开释软件翻新的潜能对开辟者而言，领有一个完整集成的软硬件 AI 平台至关主要。Project DIGITS应用开源 Linux 操纵体系，用户能够拜访资本丰盛的 NVIDIA AI 软件库，包含 NVIDIA NGC 目次跟 NVIDIA 开辟者流派网站中供给的软件开辟套件、编排东西、框架跟 AI 模子，以放慢天生式 AI 的任务流程。Arm 跟 NVIDIA Grace Hopper 跟 Grace Blackwell 在数据核心的配合，为数据核心跟边沿侧装备情况供给分歧的平台架构，使开辟者可能无缝地应用统一套东西停止 AI 利用开辟。别的，Arm 一直踊跃推进开源开辟者社区的主要任务，旨在开辟出适配的软件，减速AI 的片面安排。现在，寰球已有超越 2,000 万软件开辟者在 Arm 盘算平台上构建本人的利用顺序，独特推进着一个疾速翻新、日益强大的开源社区。付与高机能 AI 算力的幻想平台Arm 作为以后跟将来 AI 范畴利用最普遍的盘算平台，天然而然地成为了 Project DIGITS 中 GB10 超等芯片的幻想平台。Project  DIGITS是一个功效强盛的团体盘算机桌面平台，可能运转高达 200B 参数的 AI 年夜模子，让底本的弗成能变为可能。这种对 AI 生态体系的普遍影响力，为寰球数百万开辟者带来了机动、高机能且高能效的 AI 功效。经由过程与 NVIDIA 及 Arm 强盛的软件生态体系严密的配合，咱们翘首以待下一代极具翻新的 AI 利用的问世。