FAQ

1. 如 2.0 投影片第二頁上方的圖， 第一個 state 對應了3個 o ( o₁ o₂ o₃ )， 第二個 state 對應了4個 o ( o₄ o₅ o₆ o₇ )， 第三個... 。 這些 state 每個分別對應到多少個 o，是不是必須先把 o₁ ~ o_T 都有了之後，再根據演算法得到最佳的一條路徑，才能推出每個 state 對應多少個 o (停留次數) ？
在 2.0 投影片第二頁的圖中，state 1 會有 3 個 observation，是因為頭兩次的 transition 都是 state 1 → state 1，這在 training 和 testing 的時候會因為 a₁₁ 比 a₁₂ , a₁₃ ... 都大而顯現出來。換個角度說，在 2.0 投影片第二頁的圖中，state sequence 應該是 q₁q₁q₁q₂q₂q₂q₂q₃... 。這樣看的話就很清楚每個 state 是對應到一個 observation。因此演算法中 q 和 o 的下標都是從 1 到 T 。
2. train 出來的 model_01.txt ~ model_05.txt 該是什麼樣子?
就長得像 model_init.txt 一樣，其中 π 向量的總和需為 1， A 矩陣的每個 row sum 和 B 矩陣的每個 column sum 也都需是 1 。
3. 投影片裡第五張的 seq_model_01~05 都各自代表ㄅ的 HMM 嗎？ 就是說 seq_model_01 是ㄅ的 HMM，seq_model_02也是，這樣想對嗎？
seq_model_01~05 可以想成是五個 phoneme 的 model，比方說知道以下的話只會出現ㄚ、ㄛ、ㄞ、ㄟ、ㄢ 五個音，於是就把ㄚ的 training data 合在一起 train 一個ㄚ的 model，ㄛ的 training data 合在一起 train 一個ㄛ的 model，...等等。於是有了五個 model 對應到五個 phoneme，在 testing 的時候就把 data 拿去在這五個 model 裡各求一個機率，如果是ㄟ的 model 機率最大就說答案是ㄟ。雖然現在我們沒有說 seq_model_01~05 是什麼東西，不過你可以想成 seq_model_01 是ㄚ的 training data，seq_model_02 是ㄛ的 training data 等等。
4. 如果我們有一筆 training data， state 數目是變動的，可能是 4 個 state 也可能是 5 個 state， 那對於 4 個 state 來說，我如何用 trainging data 來算出這 4 個 state 上的 Observation 機率呢？ 改成定義 5 個 state 的話， Observation 的機率又該如何呢？ 而定義每個 state 的初始機率 A_ij 又是怎麼定義呢？
語音辨識中的 state 數目是使用者自己決定的，畢竟一個 phoneme 裡有很多 state 可說是我們因為語音連續性所做的假設。 因此究竟要訂定 4 個還是 5 個 state 並不是 data dependent，而是 user dependent。 使用 3~6 個 state 都是有看過的，甚至每個 model 都用不同數目的 state 理論上也是有可能的 (雖然實際上很少人這樣做)。 不過一但決定好，在 training/testing 流程中就不會再改變，因為演算法都是在假設 state 數目已知的情況下運作的。 在這個作業中只需要像 model_init.txt 裡一樣假設有 6 個 state 就好 (因此 A 是 6*6 矩陣，π 是 1*6 向量)。 至於初始機率，只要滿足適當的限制 (如 A 矩陣的每個 row sum 是 1 ) 即可，在 training 的 iteration 次數夠多的情況下應不至於對結果有太大的影響。
5. model_init.txt 的 observation 機率是否有問題呢? (為何不是根據 train_seq_0x.txt 去統計出 A 之機率多大... B 之機率多大去寫初始值...)
用 train_seq_0x.txt 去統計當做初始值當然也是可以的。 其實在語音辨識中，因為 B 的參數變成 Gaussian 的 mean 和 variance，它們的值無範圍限制難以隨便假設，此時有一種設定初始值的方法就是去算所有 observation 的 global 平均。 然而即使如此也無法分開 state 估計，每個 state 的初始值只能都設一樣， A_ij 的初始值也無法估計只能任意假設。 所以終究還是要跑 training algorithm。 而在跑過之後收斂到的結果雖然會跟初始值有關，但是我們無法知道哪個初始值會產生較好的結果。 在作業中也可以嘗試不同的初始值，看看結果的差異。
6. 對 test_seq.txt 的資料要把每列的資料分別餵給 5 個 model 得到最大機率的就是答案，觀測值都固定是要 50 個嗎？ 要算這筆是某個 model 多大的機率，也是把這 50 個丟演算法得到？
在每一行有幾個字母就是幾個觀測值，建議不要寫死，寫成讓程式讀出觀測值的個數比較好。 觀測值的個數並不用固定，training 和 testing 可以用不同的個數，甚至 training 裡頭或 testing 裡頭也可以每筆資料有不同的個數。 以語音辨識為例，觀測值的個數相當於錄音的長度。 雖然也許可以硬性規定每筆聲音資料都錄一樣長，但是這相當麻煩，實際上不需要假設每筆資料都一樣。 在作業裡為了方便所以才會都是 50 個。
7. 關於 observation 機率的 adjust ，以 Σ (γ )分子的部份除以分母的部份如何區分？上面是寫 o_t = v_k，但是還是不太清楚？
對每個 state i 和 時間 t ，你的程式都會算出 γ_t(i)，而 update B 矩陣的分子部分，是要把不同 observation 的 t 的 γ_t(i)累積起來。 舉例來說如果 observation 是 AABCCBFFAEDD...，那麼 update b_i(A) 的分子部分就是 γ₁(i) + γ₂(i) + γ₉(i) + ...，update b_i(B) 的分子部分就是 γ₃(i) + γ₆(i) + ... 等等。
8. 我想用 C 寫，但是不太懂 Makefile，如果要編譯成 .exe 檔要怎麼做？
寫 Makefile 的用意代表要在 Linux command line 下執行，若是使用Windows的同學，可以使用如VirtualBox, VMware等虛擬機來安裝Linux環境。 Linux 下的基本指令操作可參考鳥哥，應該只需學會簡單的複製移動檔案指令就夠用了。 在 Linux 下並非以副檔名而是以權限作為能否當作執行檔的依據。 作業當中 Makefile 的作用就是從 C 的 source code 編譯出執行檔。

如果不想在虛擬機上做，也可以使用一種在 Windows 下模擬 Linux 環境的程式，叫做 Cygwin

• 官方網站
• 安裝教學: (1) | (2) | (3)
在安裝選單中，請裝上：make、gcc、bash


或是也可以考慮 WSL (Windows Subsystem for Linux)，同樣也能在 Windows 下使用 Linux 環境。

• 安裝教學

9. test_hmm.c 裡最前面那段 load_models 為甚麼要註解掉？
那段是介紹如何用 load_models 和 dump_models 這兩個函數，它們能一次讀取和印出 5 個名稱列在 modellist.txt 的 model，當然這 5 個 model 要都已經存在於資料夾中。你可以複製幾個 model 檔然後觀察他的效果。
10. train_seq_01~05.txt 裡面的資料有 10000 筆，是否每一行代表一次 iteration？
每一行代表一筆 sample，但是 training 時每次 update 都是把每一筆 training data 的 γ 和 ε 累加起來，相當於 4.0 投影片 update A, B 的公式，分子分母外面都多一層 Σ，確切的訓練公式可以參考投影片第15頁。
11. iteration 次數增加，accuracy 卻變低，是正常的嗎？
很正常，可以參考hw1投影片18頁的圖。
12. 請問一分鐘的時間限制是所有 model 的訓練時間合起來計時，還是每一個 model 都有一分鐘呢？
助教在使用你們的 training program 訓練多個 model 時，每個 model 各自都有一分鐘的訓練時間限制。
13. 請問 test_lbl.txt 檔是用來做什麼的，因為它好像不是程式輸入或輸出的檔案？

TL;DR: 它是 test_seq.txt 的答案。

在 training 過程中，我們所使用的每個 train_seq_0x.txt 各自都是由單一 HMM 模型產出的 sequences； 而在 testing 的時候，我們所使用的 test_seq.txt 則是由多個 HMM 模型產出的 sequences 混合出來的。 所以才需要一份 test_lbl.txt (testing label)，讓大家在訓練和測試程式都寫完後，能夠將這份檔案和 testing program 的輸出比對一下，檢視自己的模型訓練的如何，或是看看測試程式有沒有寫對。

14. 請問Makefile中的哪些部分是可以自己調整的？
Makefile中的所有指令皆可以自己調整，只要能讓助教使用make來編譯出train與test這兩個程式即可。
15. test中model數量是固定的嗎？還是必須讀完modellist.txt才會知道？
比較general的方法是去讀modellist.txt來得到model的數量。不過在這次作業中，無論是train data, public test data, private test data 都只有用到五個model，同學可以將model數量固定為五即可。
16. 上傳ceiba時會將檔案名稱改變，是否對評分有影響？
只要上傳時以hw1_[學號].zip的命名上傳即可，ceiba將檔案名稱改變並不會影響各位的評分，請大家放心。
17. input sequence的長度一定會是50嗎？最大值為何？
sequence的長度最大值可以參考hmm.h中的MAX_SEQ，不過原則上在批改時所有的sequence長度皆是50。
18. 準確率一直維持在60%~80%之間，一直無法超過80%怎麼辦？
原則上只要照著投影片的公式實作，應該可以直接超過80%，可以注意以下幾點：
• train完的model機率分佈是否合理，initial與transition的row總合要為1，observation則是column總合要為1。
• 將forward-algorithm中最後一個timestep的值加起來(\( P ( \overline{O} | \lambda ) = \sum_{i=1}^{N} \alpha_{T}(i) \))，它所代表的(大約)是這筆資料由這個HMM產生的機率，並將所有資料的值累加起來，理論上在每次iteration結束後這個值都會上升，如果在訓練過程中這個值不升反降（後期可能會降，但訓練前期會上升的很明顯），就代表你的train過程可能有寫錯。

• 在更新model參數時是看完所有data後才更新一次，因此總共只會更新100次（同training iteration次數）。
• 再檢查一下train，test，以及你計算accuracy的程式是否哪裡有錯誤。
19. train時會超過一分鐘的限制，該如何改進？
這次的程式在普通的筆電上，以單核單緒的方式執行，應該都可以在時間限制內跑完，不需要其他特別的加速方法。 可以注意以下幾點：
• state與observation種類的最大值都定義在hmm.h之中，因此在做Baum-Welch Algorithm時若有需要使用較大的陣列，可以以靜態的方式產生。
• 若有需要將大陣列初始化或是歸零，可以使用memset()。
• hmm.h中有提供讀寫model的函式，有需要的話可以直接使用。
• 在更新model參數時是看完所有data後才更新一次，因此總共只會更新100次（同training iteration次數）。