NVIDIA 認證課程

使用大型語言模型構建具代理能力的 AI 應用
Building Agentic AI Applications with LLMs

近年來，AI 驅動的代理系統所能達成的能力門檻持續提升，最新的創新技術使它們不僅能參與對話，還能使用工具、進行研究，並在大規模上執行複雜任務。本課程將幫助你建立能夠進行深入思考、研究、呼叫軟體，以及分散式操作的高階代理系統。

在整個課程中，你將親手體驗設計能有效檢索與精煉資訊、智慧導向查詢、並利用如 LangGraph 等協調工具及良好的軟體工程實踐，同步執行任務的代理系統。

完成課程後，你將擁有穩固的代理系統架構基礎，並能構建有趣的代理整合應用，以強化你現有的工作流程與軟體架構。

學習目標

參加本實作坊可學會：

  • 了解大型語言模型（LLMs）的優勢與限制，以及為何基於代理（Agent-based）的模型範式能在現代軟體環境中強化其應用能力。
  • 學習如何產生結構化輸出，以實現可供機器解析的函式呼叫或 API 整合。
  • 探索用於領域知識的檢索機制與知識圖譜（Knowledge Graphs）。
  • 使用如 LangGraph 等框架，實驗多代理系統的協同操作。

使用的工具、程式庫與框架：Python、PyTorch、HuggingFace、Transformers、LangChain，以及 LangGraph。

實作坊大綱

概覽
  • 認識講師
  • 在 learn.nvidia.com/join 建立帳號
代理抽象與大型語言模型（LLMs）的基礎概念
  • 討論 LLM 的能力與限制
  • 將代理（Agents）作為任務拆解的抽象模型介紹
  • 示範一個最簡單的代理系統，使用自由文字與 LLM 互動
結構化輸出與基本任務執行機制
  • 透過 JSON 或任務導向輸出來控制 LLM 的行為
  • 確保領域對齊與穩定的結構格式執行
  • 認識認知架構（Cognitive Architectures）的基本概念
休息時間 (60 分鐘)
檢索機制與環境工具整合
  • 建立代理與其他系統互動的環境存取策略
  • 開發與外部資料庫或 API 整合的工具介面
  • 使用向量檢索（Vector-RAG）進行語意層級的文件查詢
多代理系統與框架應用
  • 將任務拆解並分派給專職代理執行
  • 建立通訊緩衝區與處理流程分配機制
  • 分析各種多代理框架的特色與差異
評估 部署一個代理，能進行多重檢索操作，並回傳整合的研究結果給使用者
Q&A (60 mins)
  • 回顧關鍵學習內容並回答問題。
  • 獲得本次研討會的能力認證證書。
  • 完成研討會問卷調查。

實作坊詳情

時間： 8 小時

必備基礎能力：

  • 具備基礎的深度學習知識（包括注意力機制與 Transformer 模型）。建議具備 DLI 課程「Getting Started with Deep Learning」或「Fundamentals of Deep Learning」的學習經驗。
  • 具備中階 Python 程度（包含物件導向程式設計，並熟悉機器學習相關的程式庫）。可透過像是 W3Schools 的 Python 教學課程或具備同等實務經驗來達成。

認證證書： 完成測驗後，參與者將會收到 NVIDIA DLI 認證證書，證明他們具有相關主題的能力，支援其專業職涯成長。