過擬合與欠擬合 - 互動教學

😕 Underfitting

模型太簡單 (Degree = 1)

✅ Just Right

複雜度適中 (Degree = 3)

🤯 Overfitting

模型太複雜 (Degree = 15)

⚙️ 參數設定

多項式階數 (Degree) 1

數據雜訊 (Noise) 20

訓練樣本數 20

測試樣本數 10

顯示真實函數 (Ground Truth)

📊 誤差指標 (RMSE)

訓練誤差 (Train Loss) 0.00

測試誤差 (Test Loss) 0.00

誤差比率 (Test/Train) 1.00x

🧠 核心概念：權衡 (Trade-off)

機器學習的目標是找到 Bias (偏差) 與 Variance (變異) 的最佳平衡點。

Underfitting：高偏差 (High Bias)，模型太笨。
Overfitting：高變異 (High Variance)，模型太敏感。

📈 如何判斷？

觀察 Loss (損失函數) 的變化曲線：

1 如果訓練誤差高，測試誤差也高 ➝ 欠擬合
2 如果訓練誤差低，測試誤差卻很高 ➝ 過擬合
3 兩者都很低且接近 ➝ 訓練良好

⚠️ 常見發生原因

模型太複雜：參數太多 (如本例 Degree 很高)。
資料量太少：沒看過夠多題型，只好死背。
資料太髒：模型努力去擬合錯誤的雜訊 (Noise)。

💡 解決方案 (Solutions)

增加資料量：若能取得有代表性的資料，通常有幫助。
特徵選取：移除不重要的輸入特徵。
正規化 (Regularization)：限制權重的大小 (L1/L2)。
早停法 (Early Stopping)：以驗證集誤差決定何時停止訓練；測試集留待最後評估。