Introduction to GenAI and ML 2025 Fall

News

17

Nov

️本週公告️️

同學們好，
以下是本週的重要提醒：
1.本週五 (11/21)是作業六的死線，這份作業也需要花較多時間訓練模型，且每天有繳交次數上限，請同學務必把握時間完成，並將訓練結果交到Judgeboi上評分。
若因死線接近時，系統繁忙而無法即時獲得分數，助教和老師不會提供任何補救機會，因此請同學盡早開始作業。
(註: 如果遇到colab用量限制問題，助教更新kaggle版本的sample code到作業投影片上，這裡也附上連結，供大家參考)
HW6 kaggle sample code: link
2. Lecture 7與HW7已上傳到課程網站下方影片和作業區
注意HW7分成兩個部分，第一部分SFT需要交到judgeboi系統評分，第二部分RL需要執行程式碼觀察結果後回答NTU COOL。
HW7投影片有更新，請同學參考最新版本的投影片，更新重點如下：

注意JudgeBoi submission是以最高public score作為最終提交的結果。

Phase 1 SFT我們預期大家照跑sample code可以拿到3/6分

關於chat template有沒有正確可以在submission的結果頁面查看

另外，本週沒有課程，讓同學專心完成作業。
3.如果有問題想要向助教即時詢問，可以在TA hour的時間加到google meet詢問
HW6 TA hour:
11/17 Monday 20:00~22:00
11/21 Friday 17:30~19:30
Google meet 連結: link
HW7 TA hour:
11/17 11/24 12/1 Monday 20:00~22:00
12/21 12/28 12/5 Friday 17:30~19:30
Google meet 連結: link

Course Materials

Date	Topic	Slides (PDF)	Slides (PPT)	Videos	Extra	Course Live Streaming Link
9/12	課程簡介 & 一堂課搞懂生成式人工智慧的基本原理	course intro	course intro	第0講：課程簡介第0講：課程規定第1講：一堂課搞懂生成式人工智慧的原理		第一講直播連結
9/19	從語言模型到AI Agent	Agent	Agent	第 2 講：上下文工程 (Context Engineering) — AI Agent 背後的關鍵技術	一堂課搞懂 AI Agent 的原理大型語言模型是如何進行「深度思考」（Reasoning）的？	第二講直播連結
9/26	解析生成式人工智慧內部的運作機制	LLMunderstand	LLMunderstand	第3講：解剖大型語言模型	AI 的腦科學 — 語言模型內部運作機制剖析 Transformer 的時代要結束了嗎？介紹 Transformer 的競爭者們	第三講直播連結
10/3
10/10
10/17	如何評量生成式人工智慧	Evaluation	Evaluation	第 4 講：評估生成式人工智慧能力時可能遇到的各種坑	語言模型的偏見	第四講直播連結
10/24	機器學習基本概念	BasicML	BasicML	第 5 講：一堂課搞懂機器學習與深度學習的基本原理	寶可夢、數碼寶貝分類器 — 淺談機器學習原理 Backpropagation	第五講直播連結
10/31	深度學習基本概念	Training Tip	Training Tip	第 6 講：一堂課搞懂訓練類神經網路的各種訣竅	Dropout Pretrain 的詳細介紹 Pre-train 有多有用？ CNN Normalization	第六講直播連結
11/7
11/14	生成式人工智慧是怎麼被訓練出來的	course	course	第 7 講：大型語言模型的學習歷程	概述增強式學習 (Reinforcement Learning, RL) Policy Gradient	第七講直播連結
11/21
11/28	後訓練					第八講直播連結
12/5
12/12	生成式人工智慧如何產生影像					第九講直播連結
12/19	生成式人工智慧如何聽與說					第十講直播連結

Homework

The information here is tentative and subject to change.

You should NOT plagiarize
You should NOT modify your prediction files manually
Do NOT share codes or prediction files with any living creatures
Do NOT use any approaches to submit your results more than 3 times a day
Please protect your own work and ensure that your answers are not accessible to others. If your work is found to have been copied by others, you will be subject to the same penalties
Your final grade x 0.9 and get a score 0 for that homework if you violate any of the above rules first time (within a semester)
Your will get F for the final grade if you violate any of the above rules multiple times (within a semester)
Prof. Lee & TAs preserve the rights to change the rules & grades

#	Name	Date	Slides	Code	Video	Deadline (UTC+8)	TA
Guide	Pytorch Guide	10/25		N/A		N/A	袁紹翔
Guide	Judge Boi Guide	8/31		N/A		N/A	吳典叡許景淯傅啟恩李冠儀
Bonus	Bonus HW	9/25		N/A		12/21/2025 23:59	李冠儀
HW1	Understand the fundamentals of GenAI	9/12				10/17/2025 23:59	陳竣瑋蔡昀劭袁紹翔
HW2	Build a Basic RAG System	9/19				10/17/2025 23:59	馮柏翰林堅壬李梁玉軒
HW3	Exploring Generative AI	9/26				10/17/2025 23:59	蔡昀劭上官世昀標彥廷
HW4	LLM Malicious Instruction Defense	10/17				11/07/2025 23:59	標彥廷董家愷林芷妤
HW5	Regression	10/24				11/14/2025 23:59	徐啓惇李梁玉軒袁紹翔
HW6	Deep Learning for Image Classification	10/31				11/21/2025 23:59	劉建蘴馮柏翰李梁玉軒
HW7	Finetuning LLM	11/14				12/05/2025 23:59	林堅壬徐啓惇董家愷
HW8	Fine-tuning Leads to Forgetting	11/28	-->	N/A	-->	12/19/2025 23:59
HW9	Diffusion Model and Its Customization	12/12	-->	N/A	-->	01/02/2026 23:59
HW10	Speech Generation	12/19	-->	N/A	-->	01/09/2026 23:59

FAQs

Read the FAQs before emailing the TAs. We will not respond to any questions that are already answered in the FAQ. Please be polite in the email.

Q：可以旁聽嗎?
A：歡迎旁聽，旁聽生可以獲取課程中幾乎所有的內容，唯一的差別只有助教不會批改旁聽生的作業。
如果要 以旁聽身份 加入NTU COOL的話，請寄信到助教信箱: ntu-gen-ai-ml-2025-fall-ta@googlegroups.com
信件主旨以 [GenAI-ML 旁聽申請] 開頭，並在信件內容附上姓名與信箱
Q：上課時間是甚麼時候？
A：本課程上課時間固定為週五下午 2:20 開始，本課程總共有十講，每一講的上課日期請見以下《課程進度》。
Q：上課方式是什麼？
A：老師會在台灣大學的某一間教室進行直播，直播平台預計使用YouTube，連結已經公告在以下《課程進度》中，同學們可以線上觀看，另外課程都會錄影放到 NTU COOL 上，所以沒有參與直播還是可以聽到完整的上課內容。因為教室不大，所以鼓勵大家以線上觀看直播的方式聽課。
Q：這門課會學到甚麼? 教我怎麼用 ChatGPT 嗎?
A：在這門課中，我們不會特別專注於特定軟體或平台的操作，而是要深入探索其背後的魔法 (也就是原理)。就好像，當你理解了魔術師是如何讓兔子從帽子中跳出來的原理後，你不僅能欣賞魔術的精彩，還能有機會在未來創造出自己的魔術。今天，使用 ChatGPT 等平台已經變得非常簡單，任何人都可以輕鬆上手，網路上也充斥著各式各樣的學習資源，但這門課的目標是帶你更進一步，讓你不僅只是使用工具，而是理解其背後的原理，修完這門課，當你再次使用 ChatGPT 或其他類似工具時，你將能夠更深入地理解它們的運作方式，利用它們的潛力和了解他們可能的極限。
Q：我需要準備任何硬體(例如：GPU)、或是安裝任何軟體嗎？
A：本課程將利用 Colab等平台提供的免費 GPU 計算資源。本課程的作業設計，正常情況下能夠在免費資源限制下順利完成作業，拿到及格（C-）以上的成績。當然，免費資源雖然方便，但有其使用上的限制，如時間限制等。總之，作業的設計是讓同學們不用花錢的情況下完成，但是有時候花點小錢可能會有不同的體驗，大家會更了解運算資源的重要性。
Q：修這門課程，需要具備哪些先備知識？
A：這門課程的目標受眾為初學者，理論上一般台灣大專院校學生都應該具備修習這門課的能力，不需要額外的先備知識。如果你對於人工智慧相關領域有興趣，這是一個絕佳的起點，我們將從基礎開始，逐步深入，讓你在完成這門課程後，可以去探索更進階的機器學習和人工智慧課程。
Q：課程評分標準是什麼？
A：本課程共有十個作業，每個作業都會教大家一個觀念，目標也都不一樣（有回答單純回答問題、有要自己訓練模型的），詳細內容等上課會再說明。我知道每一個學校開學時間不同，開學前幾週可能比較混亂，所以前三個作業會刻意把結束的時間延後，讓大家有比較充裕的時間完成作業。
Q：如果我之前從未接觸過程式設計，我能修這門課程嗎？會不會非常困難？
A：這門課程旨在引導初學者進入這個有趣的領域，作業設計的目標是「體驗」，希望學生能夠體會到生成式人工智慧可能帶來的應用以及訓練模型的過程。作業中會包含一些程式編寫的元素，但助教們會提供詳細的指導和範例，即使你以前沒有程式編寫的經驗，按照助教的指示操作，至少可以獲得及格以上的成績。
Q：這門課跟過去的老師上的課程有什麼不同？
A：這堂課將帶你從基礎概念出發，一步步體驗如何訓練生成式AI模型。本課程以《生成式人工智慧導論2024》為基礎，內容經過更新，並新增了機器學習與深度學習的核心觀念。此外，與前版課程最大的差異在於，本課程更加注重概念與實作的結合，讓你不僅學到概念，也能透過實作強化對於概念的理解。
Q：這門課跟林軒田老師的機器學習課程有什麼不同？
A：沒有什麼相同的內容。修過林軒田老師的課程在這門課也可以有收穫，也可以修完這門課後再去修林軒田老師的課，了解機器學習的原理。
Q：我還有其他問題怎麼辦呢？
A：如果還有其他問題，請寫信到助教信箱 ntu-gen-ai-ml-2025-fall-ta@googlegroups.com

Contact

Email:ntu-gen-ai-ml-2025-fall-ta@googlegroups.com