第三代 Tensor 核心

HPC 和 AI 的效能和多功能性

NVIDIA Tensor Core 技術首次在 NVIDIA Volta™ 架構中導入，為 AI 訓練和推論運算帶來了顯著的加速，將訓練時間從幾週縮短到幾小時，並為推論提供了巨大的加速。

NVIDIA Ampere 架構以這些創新為基礎，為 AI 提供高達 20 倍的 FLOPS。它透過提高現有精度的效能並增加新的精度（TF32、INT8 和 FP64）來實現這一目標，從而加速和簡化 AI 的採用，並將 NVIDIA Tensor 核心的功能擴展到 HPC。

多GPU 執行個體 (MIG)

安全、隔離的多用戶

每個 AI 和 HPC 應用程式都可以從加速中受益，但並非每個應用程式都需要完整的 A800 40GB Active GPU 的效能。 多執行GPU 個體 (MIG) 允許將 A800 40GB 活動 GPU 劃分為多達 7 個獨立實例，並在硬體層級完全隔離，進而最大限度地提高 GPU 加速基礎設施的利用率。這使多個用戶可以使用自己的高頻寬記憶體、快取和運算核心來存取 GPU 加速。現在開發人員可以為他們的所有應用程式（無論大小）獲得突破性的加速，並獲得保證的服務品質。IT 管理員可以提供適當大小的 GPU 加速，以實現最佳利用率，並擴大對每個使用者和應用程式的存取。

第三代 NVIDIA NVLink

可擴展到具有 80GB 記憶體的多個 GPU

使用 NVLink 連接一對 NVIDIA A800 40GB Active 卡，以高達 100GB/s（雙向）的速率實現 GPU 到 GPU 資料傳輸，總頻寬達到 200GB/s，從而增加有效記憶體佔用並擴展應用程式效能。跨數個 GPU 擴充應用程式需要極快的資料移動。A800 40GB Active 中的第三代 NVLink 提供 400GB/s 的 GPU 到 GPU 直接頻寬。

超快速 HBM2 記憶體

為了滿足其龐大的運算吞吐量，NVIDIA A800 40GB Active GPU 配備 40GB 高速 HBM2 記憶體，記憶體頻寬達到同類領先的 1,555GB/s，與 NVIDIA Quadro^® GV100 相比提高了 79%。除了 40GB HBM2 記憶體之外，A800 40GB Active 還擁有更多的單晶片記憶體，包括 40 兆位元組 (MB) 二階快取記憶體，比上一代多了近 7 倍。這提供了極限頻寬單晶片快取記憶體和大型封裝高頻寬記憶體的絕佳組合，以加速計算最密集的人工智慧模型。

資料科學和數據分析

憑藉強大的效能加速端到端資料科學和分析工作流程，快速從大規模資料集中提取有意義的見解。 透過將 A800 40GB Active 的高效能運算功能與 NVIDIA AI Enterprise 結合，資料從業者可以利用大量函式庫、工具和技術來加速資料科學工作流程 - 從資料準備和訓練到推論。

訓練與開發

A800 40GB Active GPU 配備40GB HBM2 記憶體和強大的第三代Tensor Core，效能高達上一代的2 倍，可提供令人難以置信的效能，以應對工作站平台上要求苛刻的AI 開發和訓練工作流程，包括資料準備和處理、模型最佳化和調整以及早期訓練。

NVIDIA AI Enterprise 軟體平台可加速並簡化 AI 的大規模部署，讓組織能夠一次開發，隨處部署。 將此強大的軟體平台與A800 40GB Active GPU 相結合，使AI 開發人員能夠使用隨附的框架在工作站上建立、迭代和完善AI 模型，進而簡化擴展過程並保留高昂的資料中心運算資源，以進行更昂貴的大規模計算。

推論

推論是人工智慧提供結果的地方，透過操作訓練有素的模型來提供可行的見解。 A800 40GB Active 擁有 432 個第三代 Tensor 核心和 6,912 個 CUDA^® 核心，推論運算效能是上一代產品的 2 倍，並支援結構稀疏性和廣泛的精度，包括 TF32、INT8 和 FP64。 AI 開發人員可以使用 NVIDIA 推論軟體（包括 NVIDIA TensorRT™、NVIDIA Triton™ 推論伺服器和 NVIDIA Triton™ 管理服務）（這些軟體是 NVIDIA AI Enterprise 的一部分）來大規模簡化和最佳化 AI 模型的部署。

生成式人工智慧

生成式 AI 使用神經網路識別現有資料中的模式和結構，使用戶能夠從各種輸入和輸出（包括圖像、聲音、動畫和 3D 模型）生成新的原創內容。 利用 NVIDIA AI Enterprise 中包含的 NVIDIA 生成式 AI 解決方案 NeMo™ Framework 以及 NVIDIA A800 40GB Active GPU，實現輕鬆、快速且可自訂的生成式 AI 模型開發。

製造、產品開發及工程

A800 40GB Active 為 GPU 加速的電腦輔助工程 (CAE) 應用程式提供令人難以置信的效能。 工程和產品開發專業人員可以以令人難以置信的速度，以全FP64 精度運行有限元素分析(FEA)、計算流體動力學(CFD)、建築工程管理(CEM) 和其他工程分析程式碼的大規模擬，進而縮短開發時間並加速實現價值的時間。 透過搭配提供顯示功能的 RTX GPU，科學家和工程師可以以完全設計擬真度視覺化大規模模擬和模型。

能源與地球科學

A800 40GB Active 具有 9.7 TFLOPS 的 FP64 運算效能，使地球科學專業人員能夠為最新的人工智慧增強勘探和生產軟體工作流程提供支持，並加速模擬過程，而能更快地洞察地下資料。 對於大規模資料集，可以透過 NVLink 橋接器連接兩個 A800 40GB Active ，提供 80GB 記憶體和兩倍的處理能力。

生命科學

借助 A800 40GB Active，生命科學學科的專業人員可以加速複雜的資料處理任務，實現更快的探索結果並改善決策。 基因組定序、醫學影像和個人化醫療等人工智慧加速的生命科學應用可以受益於更快的訓練和推論效能，進而加速大型資料集的分析。 對於需要高精度的複雜模擬和數據處理工作，FP64 功能允許分子動力學、藥物開發和基因組分析等科學應用，以更高的準確度和精度運行，進而產生更可靠的結果。