語系 :
專為資料中心提供前所未有的人工智慧和繪圖效能
透過 NVIDIA L40S GPU 體驗突破性的多工作負載效能。
L40S GPU 結合強大的人工智慧運算與一流的繪圖技術和媒體加速，專為支援新一代資料中心工作負載而打造，從生成式人工智慧和大型語言模型 (LLM) 推論與訓練，到 3D 繪圖、渲染和影片。
為結構化稀疏性和最佳化 TF32 格式提供硬體支援，實現優異的即時效能提升，加速人工智慧和資料科學模型訓練。運用 DLSS 加速人工智慧強化的繪圖運算功能，為特定應用程式升級解析度，提供更優異的效能。
經強化的輸送量和並行的光線追蹤與著色功能，可提升光線追蹤效能，並加速產品設計與建築、工程和營造工作流程的渲染器。透過硬體加速的動態模糊與令人驚豔的即時動畫，呈現栩栩如生的動態設計。
經過加速的單精度浮點 (FP32) 輸送量和提升的能源效率，大幅改善 3D 模型開發和電腦輔助工程 (CAE) 模擬等工作流程的效能。運用強化的 16 位元數學功能 (BF16)，可進行混合精度工作負載。
Transformer Engine 可大幅加速人工智慧效能，並改善訓練和推論的記憶體使用率。Transformer Engine 運用 Ada Lovelace 第四代 Tensor 核心的強大功能，以智慧方式掃描 Transformer 架構神經網路層，並自動在 FP8 和 FP16 精度之間重新轉換，以提供更快速的人工智慧效能，並提升訓練和推論的速度。
L40S GPU 專為 24 小時全年無休的企業資料中心營運量身打造而進行最佳化，並由 NVIDIA 設計、打造、測試與支援，確保能提供極致效能、最佳耐用性與最長運作時間。L40S GPU 符合最新的資料中心標準，可支援網路設備建構系統 (NEBS) Level 3，並具備安全開機與信任根技術，為資料中心多增加一層安全保護。
L40S GPU 可透過 NVIDIA DLSS 3 實現超高速渲染和更流暢的畫面播放速率。這項突破性的畫面產生技術在 Ada Lovelace 架構和 L40S GPU 中，運用深度學習和最新的硬體創新技術，包括第四代 Tensor 核心和光流技術加速器，以提升渲染效能、提供更高的每秒顯示畫面數 (FPS)，並大幅改善延遲狀況。
1,466 兆次浮點運算1
212 兆次浮點運算
91.6 兆次浮點運算
L40S 搭載新一代人工智慧、繪圖技術和媒體加速功能，可提供比前一代 NVIDIA A40 高 5 倍、比 NVIDIA HGX™ A100 高 1.2 倍的推論效能。L40S 具備突破性效能和 48 GB 的記憶體容量，是加速多型態生成人工智慧工作負載的理想平台。
第四代 Tensor 核心支援 FP8，可提供卓越的人工智慧運算效能，加速最先進的大型語言模型和生成式人工智慧模型的訓練和推論。
第三代 RT 核心可提供比前一代高出 2 倍的即時光線追蹤效能，從互動式渲染到即時虛擬製作，都能支援創作令人驚豔的視覺內容和高擬真度的創作工作流程。
NVIDIA Omniverse™ 讓連接、開發和運作新一代工業數位化應用程式成為可能。L40S 具備強大的 RTX 繪圖技術和人工智慧功能，為建立於 Omniverse 的通用場景描述 (OpenUSD) 3D 和模擬工作流程提供卓越效能。
| 架構 | NVIDIA Ada Lovelace |
| CUDA 核心 | 18,176 |
| Tensor 核心 | 568 |
| RT 核心 | 142 |
| FP32 (TF) | 91.6 |
| TF32 Tensor 核心 (TF) | 183 I 366* |
| BFLOAT16 Tensor 核心 (TF) | 362.05 I 733* |
| FP16 Tensor 核心 (TF) | 362.05 I 733* |
| FP8 Tensor 核心 (TF) | 733 I 1,466 |
| INT8 Tensor 核心 (TOPS) | 733 I 1,466 |
| INT4 Tensor 核心 (TOPS) | 733 I 1,466* |
| RT 核心 (TF) | 209 |
| 媒體引擎 | 3 NVENC (+AV1) 3 NVDEC 4 NVJPEG |
| GPU 記憶體 | 48GB GDDR6 ECC |
| Memory 頻寬 | 864GB/s |
| Memory 介面 | 384-bit |
| NVLink 互連技術 | 不支援 |
| Multi-Instance GPU (MIG) | 不支援 |
| 虛擬化 GPU 軟體 | 支援 |
| 支援 NEBS | 是 / 3 級 |
| 散熱 | 被動式 |
| 顯示輸出 | 4x DisplayPort 1.4a |
| 最大功耗 | 350W |
| 介面 | PCI-E 4.0 x16 |
| 尺寸 | 4.4” H x 10.5” L, 雙插槽 |
* 具有稀疏性
未來展望
