第 3 世代Tensor コア

HPCとAIのための性能と多用途性

NVIDIA Volta™アーキテクチャで初めて導入されたNVIDIA Tensor Coreテクノロジーは、AIのトレーニングと推論操作に劇的な高速化をもたらし、トレーニング時間を数週間から数時間に短縮し、推論に大規模なアクセラレーションを提供しました。 NVIDIA Ampere アーキテクチャは、AI 向けに最大 20 倍の FLOPS を提供することで、これらのイノベーションを基盤として構築されています。これは、既存の精度性能を向上させ、新しい精度（FF32、INT8、FP64）を導入することで実現され、AIの採用を加速・簡素化し、NVIDIA Tensor CoreのパワーをHPCに拡張します。

マルチインスタンス GPU (MIG)

安全に分離されたマルチテナント

各AIおよびHPCアプリケーションはアクセラレーションの恩恵を受けることができますが、すべてのアプリケーションがA800 40GB Active GPUの性能をフルに必要とするわけではありません。マルチインスタンスGPU（MIG）は、A800 40GBアクティブGPUを、ハードウェアレベルで完全に分離された、最大7つの独立したインスタンスに分割化できるようにすることで、GPUアクセラレーションインフラストラクチャの利用率を最大化します。これにより、複数のユーザーがそれぞれの高帯域幅メモリ、キャッシュ、およびコンピュートコアでGPUアクセラレーションにアクセスできるようになります。これで開発者は、大小を問わずすべてのアプリケーションで画期的なアクセラレーションを利用し、保証されたサービス品質を得ることができます。また、IT管理者は、最適な利用のために適切なサイズのGPUアクセラレーションを提供し、すべてのユーザーとアプリケーションへのアクセスを拡大することができます。

第3世代 NVIDIA NVLink

80GB のメモリを備えた複数の GPU に拡張可能

NVLink を使用して 2枚の NVIDIA A800 40GB アクティブ カードを接続すると、最大 100GB/秒 (双方向) の速度で GPU 間のデータ転送が可能になり、総帯域幅が 200GB/秒になるため、実効メモリ フットプリントが増加し、アプリケーション パフォーマンスが拡張されます。複数の GPU 間でアプリケーションをスケーリングするには、極めて高速なデータ移動が必要です。A800 40GB アクティブの第 3 世代 NVLink は、400GB/秒の GPU 間直接帯域幅を提供します。

超高速 HBM2 メモリ

NVIDIA A800 40GB Active GPUは、40GBの高速HBM2メモリを搭載し、クラス最高の1,555GB/秒のメモリ帯域幅を実現しています。40GBのHBM2メモリに加え、A800 40GB Active は、40メガバイト（MB）のレベル2キャッシュを含む、大幅に多くのオンチップメモリを搭載しており、これは、前世代よりも約7倍大きくなっています。これにより、極めて帯域幅の広いオンチップ・キャッシュと大容量のオンパッケージ高帯域幅メモリの適切な組み合わせが実現し、最も計算負荷の高いAIモデルを高速化することができます。

データサイエンスとデータ分析

強力なパフォーマンスでエンドツーエンドのデータサイエンスとアナリティクスのワークフローを加速し、大規模なデータセットから意味のある洞察を迅速に引き出します。A800 40GB Activeの高性能コンピューティング機能とNVIDIA AI Enterpriseを組み合わせることで、データ担当者は、ライブラリ、ツール、テクノロジーの大規模なコレクションを活用し、データ準備、トレーニングから推論に至るまで、データサイエンスのワークフローを加速することができます。

トレーニングと開発

40GBのHBM2メモリと、前世代の最大2倍の性能を実現する強力な第3世代Tensorコアを搭載したA800 40GB Active GPUは、データの準備と処理、モデルの最適化とチューニング、初期段階のトレーニングなど、ワークステーション・プラットフォーム上で要求の厳しいAI開発とトレーニングのワークフローを克服するための驚異的な性能を提供します。

NVIDIA AI Enterpriseソフトウェア・プラットフォームは、大規模なAIの展開を加速し、簡素化します。この強力なソフトウェア・プラットフォームとA800 40GB Active GPUを組み合わせることで、AI開発者は、付属のフレームワークを使用してワークステーション上でAIモデルを構築、反復、改良することができ、スケーリング・プロセスを簡素化し、より高価で大規模な計算のために高価なデータセンターのコンピューティング・リソースを確保することができます。

推論

推論ではAIが結果を提供し、トレーニングされたモデルを運用することで実用的な洞察を提供します。432個の第3世代Tensorコアと6,912個のCUDA^®コアを搭載したA800 40GB Activeは、構造的なスパース性とTF32、INT8、FP64を含む幅広い精度をサポートすることで、前世代と比較して2倍の推論演算性能を実現します。AI開発者は、NVIDIA AI Enterpriseの一部であるNVIDIA TensorRT™、NVIDIA Triton™ Inference Server、NVIDIA Triton™ Management Serviceを含むNVIDIA推論ソフトウェアを使用することで、大規模なAIモデルの展開を簡素化し、最適化することができます。

生成AI

既存のデータ内のパターンや構造を識別するためにニューラルネットワークを使用することで、生成AIアプリケーションは、画像、サウンド、アニメーション、3Dモデルなどの多種多様な入力や出力から、新しいオリジナルコンテンツを生成することを可能にします。NVIDIA A800 40GB Active GPUとともにNVIDIA AI Enterpriseに含まれるNVIDIA生成AIソリューション、NeMo™ Frameworkを活用することで、簡単、高速、カスタマイズ可能な生成 AI モデル開発を実現します。

製造、製品開発、エンジニアリング

A800 40GBアクティブGPUは、GPUアクセラレーションによるコンピュータ支援エンジニアリング（CAE）アプリケーションで驚異的なパフォーマンスを発揮します。エンジニアリングや製品開発のプロフェッショナルは、有限要素解析（FEA）、数値流体力学（CFD）、建設工学管理（CEM）、およびその他のエンジニアリング解析コードの大規模シミュレーションを、FP64フル精度で驚異的なスピードで実行することができ、開発期間を短縮し、価値実現までの時間を短縮します。表示機能を提供するRTXアクセラレーテッドGPUの追加により、科学者やエンジニアは、大規模シミュレーションやモデルを完全な設計忠実度で視覚化できます。

エネルギーと地質科学

9.7TFLOPSのFP64演算性能を持つA800 40GB Active GPUにより、地球科学の専門家は、最新のAIを活用した探査・生産ソフトウェアのワークフローを強化し、シミュレーション・プロセスを高速化することで、地下データをより迅速に把握することができます。大規模なデータセットの場合、2つのA800 40GB Active GPUをNVLinkで接続して、80GBのメモリと2倍の処理能力を提供することができます。

ライフサイエンス

A800 40GB を使用すると、ライフ サイエンス分野のアクティブな専門家が複雑なデータ処理タスクを加速し、より迅速な発見を可能にし、意思決定を向上させることができます。ゲノミクスシークエンシング、医療画像処理、個別化医療などの AI を活用したライフ サイエンス アプリケーションは、トレーニングと推論のパフォーマンスの高速化による恩恵を受けて、大規模なデータセットの分析を加速できます。高精度を必要とする複雑なシミュレーションやデータ処理タスクの場合、FP64 機能により、分子動力学、創薬、ゲノム分析などの科学アプリケーションをより高い精度と精度で実行できるようになり、より信頼性の高い結果が得られます。