桌面AI计算需求
 

生成式AI模型的规模和复杂性不断增加，这使得在本地系统上进行开发工作颇具挑战。在 本地对大型模型进行原型设计、调整和推理，需要大量内存和强大的计算性能。随着企 业、软件供应商、政府机构、初创企业和研究人员加大AI领域的投入，对AI计算资源的需 求持续增长。

在您的桌面上运行 2000 亿参数模型
 

NVIDIA DGX™ Spark 是一类全新设计的计算机，专为构建和运行AI而打造。NVIDIA DGX™ Spark 由 NVIDIA GB10 Grace Blackwell 超级芯片驱动，基于 NVIDIA Grace Blackwell 架构，可提供高达 1000 TOPS 的AI性能，能够支持大型的AI工作负载。凭借 128GB 的统一系统内存，开发者可以对参数高达 2000 亿的模型进行实验、微调或推 理。此外，NVIDIA ConnectX™网络技术可连接两台 NVIDIA DGX Spark 超级计算机， 从而能够对参数高达 4050 亿的模型进行推理。

为了给开发者带来熟悉的体验，NVIDIA DGX Spark 采用了与驱动工业级AI工厂相同的软 件架构。它搭载 NVIDIA DGX OS 和 Ubuntu Linux 系统，预置最新的 NVIDIA AI 软件堆 栈，开发者还可通过开发者计划使用NVIDIA DGX Spark访问 NVIDIA NIM™和 NVIDIA Blueprints。借助这些，开发者可以使用 Pytorch、Jupyter 和 Ollama 等常用工具，在 NVIDIA DGX Spark 上快速进行原型设计、微调及推理工作，并可无缝部署到数据中心或 云端。

NVIDIA DGX Spark 以紧凑的外形提供强大的性能和丰富的功能，让开发者、研究人员、 数据科学家和学生能够不断突破生成式AI的界限。

支持运行大参数AI模型
 

凭借 128GB 的统一系统内存和对 FP4 精度的支持，NVIDIA DGX Spark 能够支持参数高 达 2000 亿的AI模型，使AI开发人员可以在桌面上对大型模型进行原型设计、微调及推 理。借助内置的 NVIDIA ConnectX 网络技术，两台 NVIDIA DGX Spark 系统可以连接起 来，处理更大的模型，如 Llama 3.1（4050 亿参数）。

本地开发，随心部署，弹性扩展
 

NVIDIA DGX Spark 为组织和开发者提供了一个强大且经济的模型原型实验平台，从而 释放了用户集群环境中宝贵的计算资源，这些资源更适合训练和部署生产模型。借助 NVIDIA AI平台软件架构，NVIDIA DGX Spark 用户几乎无需更改代码，即可将模型从 桌面无缝迁移到 DGX Cloud 或任何加速云平台、数据中心基础设施，使原型设计、微 调及迭代比以往任何时候都更加容易。