激活函數 (Activation Functions) 互動教學

👆 滑鼠移動查看函數值

激活函數類型

顯示導函數 f'(x)

輸入 x 0.00

輸出 f(x) 0.00

導數 f'(x) 0.00

f(x) = max(0, x)

f'(x) = 0 if x<0 else 1

輸出範圍： [0, +∞)

激活函數是神經網路中的非線性轉換，用於決定神經元是否應該被「激活」。

沒有激活函數，神經網路只能學習線性關係，無法處理複雜問題。

當使用 Sigmoid 或 Tanh 時，輸入值很大或很小時，導數接近 0。

這會導致深層網路的權重無法有效更新，訓練變得困難。