Keterbatasan jaringan neural satu lapis dalam pemetaan dapat diatasi oleh jaringan multi lapis, karena dapat belajar setiap pemetaan kontinyu dengan akurasi yang lebih baik. Jaringan multi lapis dapat menggunakan metode pelatihan yang merambatkan balik galat yang merupakan metode penurunan gradien. Metode ini meminimisasikan galat kuadrat total dan keluaran jaringan.
Pelatihan jaringan perambatan balik melibatkan tiga langkah:
1. Umpan maju pola pelatihan masukan
2. Perhitungan dan perambatan balik galat terkait.
3. Pengaturan bobot
Setelah pelatihan, aplikasi jaringan hanya komputasi fase umpan maju. Walaupun pelatihannya lama, tetapi jaringan yang terlatih dapat menghasilkan keluaran dengan sangat cepat.
Arsitektur
Jaringan neural multi lapis dengan satu lapis unit tersembunyi terlihat pada Gambar
Unit keluaran dan tersembunyi mempunyai bias yang berlaku sebagai bobot koneksi dan unit yang keluarannya selalu satu.
Fungsi Aktivasi
Fungsi aktivasi jaringan BP mempunyai syarat sebagai berikut.
a. Kontinyu
b. Terdiferensialkan
c. Naik monoton
d. Derivatifnya mudah dihitung
Fungsi aktivasi yang memenuhi syarat tersebut adalah fungsi sigmoid biner (gambar 6.2a) dan fungsi sigmoid bipolar (gambar 6.2b).
