21
Namun training pada
Backpropagationnetworks lebih
sulit dilakukan, walau lebih besar
peluang keberhasilannya.
a.
Inisialisasi Bobot
Inisialisasi
Bobot
Secara
UmumMenurut
Fausett(1994, p.15),
metode
untuk
memberi
nilai-nilai
bobot
koneksidisebut
juga
“training”.Training merupakan
hal
yang
sangat penting yang membedakankarakter Neural Networksyang berbeda.
Inisialisasi
bobot,
yaitu
masukan
ke
unit
tersembunyi, dirancang
agar
dapat
meningkatkan kemampuan
dari
unit
tersembunyi pada
tahap
pembelajaran.
Inisialisasi
dilakukan
dengan
mendistribusikan bobot
awal
untuk
tiap
pola
masukan,
sehingga
jaringan
akan
memasukkan
bobot
awal
ke
dalam
salah
satu
unit
tersembunyi yang
nilainya
akan
berada
dalam
rentang
dimana
unit
tersembunyi akan
melakukan
pembelajaran secara cepat.
Inisialisasi
bobot
yang
terlalu
besar
mengakibatkan
sinyal
masukan
yang
telah
diinisialisasikan akan jatuh pada daerah dimana
turunan dari
fungsi sigmoid
mempunyai
nilai
yang
sangat
kecil
(daerah
saturasi).
Sedangkan jika
inisialisasi awal
bobot
terlalu
kecil,
masukan
yang
menuju
unit
tersembunyi
atau
unit
keluaran
akan
mendekati
nol,
dan akam menyebabkan proses pembelajaran menjadi sangat lambat.
b.
Fungsi Aktivasi
Fungsi
aktivasi adalah
suatu
fungsi
yang
memproses
nilai
input
untuk
menghasilkan suatu
nilai
output.
Operasi
dasar
pada
sebuah
neuron
mencakup
penjumlahan
bobot
(weight)
dari
sinyal
input
dan
menghasilkan output
serta
mengaplikasikan fungsi
aktivasi
untuk
input
unit,
digunakan
semua
neuron,
khususnya
pada
input
unit.
Pada
berbagai
kasus,
umumnya
digunakan
fungsi
aktivasi
non-linear.
Fungsi-fungsi aktivasi yang sering digunakan dalam Neural Networks adalah:
 |