PR 07・軟分配如何移動平均值?
進階PR 07・分群、混合模型與 EM互動圖表
題目說明
逐步執行 Gaussian 混合模型的 EM,觀察責任值、概似值與對稱初始化的陷阱。
試試看:將初始間距設為零並增加迭代次數。為什麼兩個平均值保持相同?再以小間距重新開始。
實驗 · PR 07・軟分配如何移動平均值?
- 成分平均值
- -1.857 / 1.537
- 對數概似值(nat)
- -15.863
- 相對初始化的增加量
- 10.555
E 步驟重新計算軟分配;M 步驟計算責任值加權平均。初始平均值相同時,所有責任值都是 1/2,對稱狀態不會自行打破。
試試看:將初始間距設為零並增加迭代次數。為什麼兩個平均值保持相同?再以小間距重新開始。
受限制的兩成分混合模型:權重固定為 1/2,兩個標準差固定為選定的 σ。EM 只更新平均值。每個點依成分 1 的目前責任值著色;這是成分歸屬程度,不是監督式類別標籤。