Dalam
backpropagation,
fungsi
aktivasi
yang
dipakai
harus
memenuhi beberapa
syarat,
yaitu
:
kontinu,
terdiferensial dengan
mudah dan
merupakan
fungsi
yang
tidak
turun. Salah
satu
fungsi
yang
memenuhi
ketiga
syarat
tersebut
sehingga
sering
dipakai
adalah
fungsi
sigmoid biner yang memiliki range (0, 1).
f (x) =
?
?
?
?
dengan turunan
f ’ (x) = f (x) ( 1 – f (x))
Grafik fungsinya tampak pada gambar 2.12
Gambar 2.12 fungsi sigmoid
Fungsi
lain
yang
sering
dipakai
adalah
fungsi
sigmoid
bipolar
yang
bentuk
fungsinya
mirip
dengan fungsi sigmoid biner, tapi dengan range (-1, 1).
f (x) =
?
?
?
?
?
?
?
??? ?? ?????
?
1 dengan turunan
f ’(x) =
?
Grafik fungsinya tampak pada gambar 2.13
 |