美邦天下科技出品
扫描关注微信公众账号

扫一扫微信二维码

产品简介

[ NVIDIA DGX A100 ]

产品方案AI加速平台产品及方案

NVIDIA DGX A100

NVIDIA® DGX™ A100 是适用于所有 AI 工作负载的通用系统,为全球首款 5 petaFLOPS AI 系统提供超高的计算密度、性能和灵活性。NVIDIA DGX A100 采用全球超强大的加速器 NVIDIA A100 Tensor Core GPU,可让企业将深度学习训练、推理和分析整合至一个易于部署的统一 AI 基础架构中,该基础架构具备直接联系 NVIDIA AI 专家的功能。。

产品标签
gpu服务器
ai加速卡
产品方案详情

全球首款基于 NVIDIA A100 构建的 AI 系统

NVIDIA DGX™ A100 是适用于所有 AI 工作负载的通用系统,为全球首款 5 petaFLOPS AI 系统提供超高的计算密度、性能和灵活性。NVIDIA DGX A100 采用全球超强大的加速器 NVIDIA A100 Tensor Core GPU,可让企业将深度学习训练、推理和分析整合至一个易于部署的统一 AI 基础架构中,该基础架构具备直接联系 NVIDIA AI 专家的功能。

观看视频 下载性能数据表

AI 数据中心的基本组成部分

各种 AI 工作负载的通用系统

NVIDIA DGX A100 是适用于所有 AI 基础架构(包括分析、训练、推理基础架构)的通用系统。该系统设定了新的计算密度标杆,将 5 petaFLOPS 的 AI 性能装进 6U 尺寸,用一个平台代替所有 AI 工作负载的传统基础架构孤岛。

DGXperts:集中获取 AI 专业知识

NVIDIA DGXperts 是一个拥有 14000 多位 AI 专业人士的全球团队,这些团队成员在过去十年间积累了丰富的经验,能够帮助您更大限度地提升 DGX 投资价值。

更快的加速体验

NVIDIA DGX A100 是在全球率先采用 NVIDIA A100 Tensor Core GPU 的系统。通过集成八块 A100 GPU,此系统可出色完成加速任务,并可针对 NVIDIA CUDA-X™ 软件和整套端到端 NVIDIA 数据中心解决方案进行全面优化。

卓越的数据中心可扩展性

NVIDIA DGX A100 内置 Mellanox ConnectX-6 VPI HDR InfiniBand 和以太网适配器,其双向带宽峰值为 450Gb/s。此优势是使 DGX A100 成为 NVIDIA DGX SuperPOD™ 等大型 AI 集群基础构件的诸多因素之一,也是成为可扩展 AI 基础架构企业蓝图的原因之一。

划时代的性能

分析

PageRank

更快的分析意味着对 AI 开发有更深入的见解

训练

NLP: BERT-Large

更快的训练速度带来更先进的 AI 模型

推理

Peak Compute

更快的推理通过最大化系统利用率提高投资回报率

探索功能强大的 DGX A100 组件

1 八块 NVIDIA A100 GPU,GPU 总显存高达 320 GB

每块 GPU 支持 12 个 NVLink 连接,GPU 至 GPU 带宽高达 600 GB/s

2 六个第二代 NVSWITCH

双向带宽高达 4.8 TB/s,比上一代产品高出 2 倍

3 九个 Mellanox ConnectX-6 VPI HDR InfiniBand/200 Gb 以太网

双向带宽峰值高达 450 GB/s

4 两块 64 核 AMD CPU 和 1 TB 系统内存

以 3.2 倍核心数量满足超密集的 AI 作业

4 15 TB 第四代 NVME SSD

带宽峰值高达 25 GB/s,比三代 NVME SSD 快两倍

NVIDIA DGX A100 技术特性

内置安全机制

DGX A100 采用多层方法为 AI 部署提供了最强大的安全性,该方法可以保护所有主要的硬件和软件组件,包括自加密驱动、签名软件容器、安全管理和监控等。

了解 NVIDIA DGX 系统的企业级支持

NVIDIA DGX SuperPOD

前沿 AI 基础架构

采购 NVIDIA DGX 系统

了解更多
 
GPUs 8块 NVIDIA® A100 Tensor Core GPUs
GPU 显存 共 320GB
性能 5 petaFLOPS AI
10 petaOPS INT8
NVSwitches 6
最大功率 6.5kW max
CPU Dual AMD Rome 7742,
128 cores total, 2.25 GHz
(base), 3.4 GHz (max boost)
系统内存 1TB
网络 8x Single-Port Mellanox
ConnectX-6 VPI
200Gb/s HDR InfiniBand
1x Dual-Port Mellanox
ConnectX-6 VPI
10/25/50/100/200Gb/s
Ethernet
存储空间 OS: 2x 1.92TB M.2 NVME drives
Internal Storage: 15TB
(4x 3.84TB) U.2 NVME drives
软件 Ubuntu Linux OS
系统重量 123 千克
系统尺寸 高:264.0 毫米
宽:482.3 毫米
长:897.1 毫米
运行温度范围 5°C 至 30°C