人工智慧訓練：輸送量比 v100 高出 3 倍，比 T4 高 6 倍

BERT 大型推論 (正規化)

訓練人工智慧模型處理更高一級的挑戰 (如對話式人工智慧)，需要極強大的運算和擴充能力。

若使用精度為 Tensor Float (TF32) 的 NVIDIA A30 Tensor 核心 可在完全不變更程式碼的情況下，提供比 NVIDIA T4 高 10 倍的效能，若使用自動混合精度和 FP16，還可進一步將效能提高 2 倍，且記憶體輸送量總共提升 20 倍。與 NVLink^®、第四代 PCIe、NVIDIA 網路和 NVIDIA Magnum IO™ SDK 搭配使用時，還可以擴充到使用數千個 GPU。

Tensor 核心和 MIG 讓 A30 能夠全天動態應用於工作負載。A30 可在需求達到高峰時用於產生推論，而部分 GPU 可以重新調整用途，在離峰期間快速重新訓練這些相同的模型。

NVIDIA 在人工智慧訓練的業界級基準測試 MLPerf中，創下多項效能記錄。

人工智慧推論：即時對話式人工智慧的輸送量可高達 V100 的 3 倍

BERT 大型推論 (正規化)
輸送量延遲 < 10 毫秒

人工智慧推論—在即時圖像分類中，吞吐量比 T4 高出 3 倍以上

RN50 v1.5 推論 (標準化)
吞吐量延遲小於 7 秒

高效能運算：輸送量比 V100 高出 1.1 倍，比 T4 高 8 倍

LAMMPS (正規化)

為了推進新一代的發現，科學家需要模擬技術以更透徹地瞭解我們周圍的世界。

NVIDIA A30 搭載 FP64 NVIDIA Ampere 架構 Tensor 核心，自 GPU 問世以來，在高效能運算方面達到了最大進展。此外還結合了 24GB 的 GPU 記憶體和每秒 933GB (GB/秒) 的頻寬，讓研究人員可以快速解決雙精度計算的問題。在執行單精度的密集矩陣乘法作業時，高效能運算應用程式還可以利用 TF32，提供更高的輸送量。

藉由結合 FP64 Tensor 核心和 MIG，研究機構便能安全地分割 GPU，讓多名研究人員能夠使用運算資源，確保服務品質保障 (QoS) 並達到最高的 GPU 使用率。部署人工智慧的企業可以在需求達到高峰時使用 A30 的推論功能，然後在離峰期間將相同的運算伺服器重新用於高效能運算和人工智慧訓練工作負載。

資料科學家要能夠分析、視覺化，並將龐大資料集轉換成深入分析。但是，由於這些資料集分散在多個伺服器上，經常無法實行擴充解決方案。

使用 A30 的加速伺服器同時搭載大型 HBM2 記憶體、每秒 933GB (TB/秒) 的記憶體頻寬以及 NVLink—的擴充能力，可提供處理這些工作負載所需的運算能力。NVIDIA 資料中心平台結合了 NVIDIA InfiniBand、NVIDIA Magnum IO 以及 RAPIDS™ 開放原始碼函式庫套件，包括適用於 Apache Spark 的 RAPIDS 加速器，能夠以前所未有的效能與效率，加速這些龐大的工作負載。

運用 MIG 的 A30 可將 GPU加速的基礎架構使用率提升到最高。MIG 可將 A30 GPU 安全地分割成多達四個獨立的執行個體，讓多名使用者存取 GPU 加速功能。

MIG 能與 Kubernetes、容器和以監視器為基礎的伺服器虛擬化搭配使用。MIG 讓基礎架構管理員能為每項作業提供適當規模的 GPU 及服務品質保障，將加速運算資源的範圍延伸至每位使用者。

主流 NVIDIA 認證系統

搭載 NVIDIA A30 的 NVIDIA 認證系統™ 將運算加速以及快速、安全的 NVIDIA 網路融入 NVIDIA OEM 合作夥伴所打造及銷售的企業級資料中心伺服器。此計畫讓客戶能夠在單一高效能、符合成本效益且可擴充的基礎架構上，從 NVIDIA NGC 目錄中找出、取得及部署適用於傳統與多元化現代人工智慧應用程式的系統。