NVIDIA 認證課程

使用大語言模型建構RAG代理
Building RAG Agents with LLMs

由於大型語言模型（LLMs）技術的進步和整體使用門檻的降低，為企業提供了前所未有的機會。大型語言模型（LLMs）不但能協助企業簡化運營、降低支出並大規模提高生產力。此外，企業可以使用基於LLMs的應用程式為客戶提供創新且優化的服務，加強客戶關係。例如，企業可以透過AI提供虛擬客服，透過情感分析來取得重要的客戶資訊。

學習目標

參加本實作坊可學會：

  • 了解並實驗HuggingFace模型庫和Transformers API。
  • 使用編碼器模型(Encoder Model)進行語義分析、內嵌(Embedding)、問答和零樣本分類等任務。
  • 使用條件式解碼器(Conditioned Decoder-Style)模型來接收和生成有趣的數據格式、風格和模態。
  • 建立並測試生成式人工智慧(Generative AI)解決方案，以安全、有效且可擴展的方式處理自然數據任務(Natural Data Tasks)。
  • 探索使用LangChain和LangGraph來協調管理(Orchestrate)數據流程(Pipeline)及環境感知的代理人(Environment-Enabled Agent)。

本工作坊涵蓋開發大型語言模型應用系統的主要過程，從Transformers基礎開始，進展到基礎大型語言模型，最後完成模型/代理(Agent)的流程協調管理(Orchestration)。每個部分都旨在為參與者提供必要的知識和技能，以便正確有效的開發的LLMs驅動的應用程式。

實作坊大綱

時程 程序項目
30 分鐘   概覽
  • 認識講師
  • 在 learn.nvidia.com/join 建立帳號
  • HuggingFace和Transformers介紹
  • 討論LLMs如何強化企業應用程式
60 分鐘   Transformers和LLMs
  • 介紹深度學習基本概念和Transformer架構的發展緣由。
  • 了解使用符記(Token)、內嵌(Embedding)和注意力機制(Attention Mechanisms)的輸入輸出處理。
30 分鐘   任務導向的處理流程(Task-Specific Pipelines)
  • 不同NLP任務配置編碼器模型，使其發揮最大效用。
  • 研究輕量級模型在自然語言內嵌(Embedding)、分類(Classification)、子集(Subsetting)和零樣本預測(Zero-Shot Prediction)中的應用。
60 分鐘   使用解碼器(Decoders)進行序列到序列(Seq2Seq)轉換
  • 介紹GPT風格的解碼器模型，用於序列生成(Sequence Generation)和自迴歸(Autoregressive)任務。
  • 應用編碼器-解碼器架構於機器翻譯和少樣本任務(Few-shot Task)等應用。
60 分鐘 休息時間
60 分鐘   多模態(Multimodal)架構
  • 將不同數據模態（文本、圖像、音頻）整合到LLM工作流程中。
  • 探索多模態模型，如用於跨模態學習的CLIP、用於圖像問答的視覺語言模型，以及用於文本引導圖像生成(Text-Guided Image Generation)的擴散模型(Diffusion Models)。
60 分鐘   擴大(Scaling)文本生成(Text Generation)效能
  • 探索LLM推論(inference)挑戰和部署策略，包括優化的服務器部署。
  • 將LLMs整合到有趣的應用程式中，這些應用程式可以擴展到更大的存儲庫(Repositories)和用戶群。
60 分鐘   流程協調管理(Orchestration)和代理系統(Agentics)
  • 介紹LangChain用於LLM流程協調管理(Orchestration)和代理工作流程(Agentic Workflows)。
  • 研究代理(Agentics)和工具調用(Tool-Calling)的使用，以整合自然語言與標準應用程式和數據。
45 分鐘   最終評量(Assessment)

構建基於LLM的應用程式，整合文本生成(Text Generation)、多模態(Multimodal)學習和代理人流程協調管理(Agentic Orchestration)。
15 分鐘   最後回顧
  • 回顧主要學習內容並總結問題。
  • 完成測驗並取得認證。
  • 填寫實作坊調查問卷。

實作坊詳情

時間： 8 小時

必備基礎能力：

  • 入門級深度學習，最好熟悉PyTorch和遷移學習(Transfer Learning)。由DLI的深度學習入門或深度學習基礎課程所涵蓋的內容，或類似經驗即可。
  • 中級Python經驗，包括物件導向程式開發和函式庫。由Python教程（w3schools.com）所涵蓋的內容或類似經驗即可。

使用的工具、函式庫、框架： Python、PyTorch、 HuggingFace、 Transformers、 LangChain和 LangGraph

認證證書： 完成測驗後，參與者將會收到 NVIDIA DLI 認證證書，證明他們具有相關主題的能力，支援其專業職涯成長。