發佈日期 : 2024/03/01

青年學子未來科技之路,國立台中教育大學陳昭儒同學以NVIDIA RTX 4500 Ada提升自動化機器學習效率


目前是國立台中教育大學資訊工程學系的新鮮人,陳昭儒同學從小在父母的薰陶下,對科學充滿好奇心,一直以來都專注於深入研究新技術,以解決現實生活中的各種問題。然而,在自發性的研究過程中卻面臨到計算效能不足的挑戰,這促使他積極尋找提升速度的解決方案,在整體的考量下,選擇麗臺科技的NVIDIA RTX 4500 Ada Generation 專業繪圖卡,引領他的科技探索之旅。

陳同學的研究涵蓋了多個領域,其中包括目前流行的LLaMA大語言模型應用,以及使用AutoML技術分析教育大數據。LLaMA模型是當前的熱門話題,陳同學探討如何使用LLaMA模型進行文本理解、生成、翻譯等任務,如收集相關領域的文本資料,進行清理和預處理,以及透過調整參數進行微調、運用收集的數據訓練模型,他探討了這種方法如何提升效率或針對某些產業問題提供解決方案,如客服、教育或科技領域的應用,可以利用AI互問式對答來解決使用者所遇到的問題,例如蝦皮拍賣上的客服機器人及銀行的智慧AI小幫手,這些都能迅速針對客戶問題進行分類並提供答案。

(圖為陳昭儒同學進行研究)

陳同學表示:「在分析教育大數據的過程中,因為GPU升級,使AutoML技術顯著提升了資料處理和模型訓練的效率,利用GPU的強大平行運算能力,讓AutoML能夠在短時間內自動完成從數據處理、特徵篩選、到模型挑選和調整參數的全過程。」這使得教育機構能夠快速分析學生的行為數據和學習成效,並根據分析結果進行個性化教學設計。此外,升級後的GPU讓AutoML技術的處理大數據能力大幅強化,為教育研究提供了更深入、精確的分析能力,從而幫助教育者做出更有根據的決策。

(圖為陳同學的伺服器搭配NVIDIA RTX 4500 Ada Generation專業繪圖卡)

在過往的各項研究中,從問題的發掘、分析到探討都是他一手包辦,經常遇到的挑戰是效能不足,因為研究經費是自掏腰包,受限於預算和算力,不得不在軟硬體配置上花很多心思去平衡和最佳化。一開始使用NVIDIA TESLA T4,但隨著技術日益進步,為了追求更好的效能與提升效率,陳同學決定升級GPU,對他來說,最重要的考量因素包括效能、顯存大小、散熱效果、所需的插槽數、整體功耗(TDP),以及顯存是否支援ECC功能,起初考慮RTX 4000 Ada,或是更高階的RTX 6000 Ada和RTX 5000 Ada,由於單卡的CUDA核心數量並未超越兩張RTX 4500 Ada,因此他在深入思考後選擇了2張RTX 4500 Ada,不僅符合預算,同時透過平行計算也能達到高效的運算效能。

(圖示為陳同學開發之新冠肺炎肺部X光圖判定系統)

儘管面臨預算上的限制,陳同學依舊運用自己有限的資源推動科研實驗,展現了對科技的堅持與追求,更體現了他對AI研究的認真態度。他目前自行開發聊天機器人、訓練AWS DeepRacer,並開發新冠肺炎的肺部X光圖判定系統,未來他更希望能跨足長照領域。

(圖為陳昭儒同學與麗臺科技莊漢龍先生)

陳同學也透露了未來在AI研究方面的願景,計劃實現靠語音辨識,由AI協助製作出網頁、API,展現了他在科技領域的前瞻性思維和對未來的雄心。

專業繪圖卡的應用不限於特定領域、研究機構,麗臺科技支持每一位渴望探索科技的人,我們堅持以「研究創新、品質至上」為不變的信念,成就每個人的科技探索之旅,讓科技夢想得以啟航。

(圖:NVIDIA RTX 4500 Ada Generation 專業繪圖卡)

NVIDIA RTX 4500 Ada 搭載 NVIDIA Ada Lovelace 架構,具有7,680個 NVIDIA CUDA 核心和240個 NVIDIA Tensor 核心,能夠提供快速光線追踪和 AI 驅動的圖形處理。它還配有24GB的 GDDR6 記憶體,支援 PCI Express Gen 4,它提供的頻寬是 PCIe Gen 3 的兩倍,提高了 CPU 記憶體的資料傳輸速度,適用於 AI 和資料科學等數據密集型任務。

而用戶最在乎的售後問題,麗臺提供獨家3年保固,並成立全球GPU技術咨詢中心,讓各行各業使用者享有最專業且安心的服務及AI運算效能。