30
d
j
(n) = ?
'
j
(v
j
(n))
?
d
k
(n)w
kj
(n)
k
=
ay
j
(n)[1 -
y
j
(n)]
?
d
k
(n)w
kj
(n)
k
neuron j adalah node tersembunyi
perlu untuk dicatat bahwa fungsi turunan tersebut mencapai nilai maksimum
ketika y
j
(n) = 0.5 dan nilai minimum ketika y
j
(n) = 0 atau y
j
(n) = 1
b)
Fungsi hyperbolic tangent.
Bentuk umum dari fungsi ini adalah
?
j
(v
j
(n)) =
a
tanh(bv
j
(n)), (a, b) > 0
a dan b adalah konstan. Dalam kehidupan nyata, fungsi hyperbolic tangent hanya
merupakan fungsi logistic yang diskalakan kembali dan diberikan bias. Dengan
mengingat v
j
(n) diberikan dalam bentuk
?
'
j
(v
j
(n)) =
ab sec h
2
(bv
(n))
=
ab(1 - tanh
2
(bv
(n))))
=
b
[a -
y
a
j
(n)][a + y
j
(n)]
untuk setiap neuron j terletak pada layer output, gradient local-nya adalah
 |