Aturan Hebb dapat digunakan untuk pola yang disajikan sebagal vector biner atau bipolar. Berikut diberikan prosedur umum untuk mencari bobot dengan outer product.
Algoritma
Langkah 0. Inisialialisasi semua bobot (i = 1, …………. n; j = 1 …………. m):
wij =0,
Langkah 1. Untuk setiap pasangan vector masukan pelatihan-keluaran target s : t,
lakukan langkah 2-4.
Langkah 2. Tetapakan aktivasi unit masukan dengan rnasukan pelatihan
(i=1, …………, n):
xi = si
Langkah 3. Tetapkan aktivasi unit keluaran dengan keluaran target
(j = 1, …………, m):
yj = tj
Langkah 4. Atur bobot (j = 1, ………, n : j = 1, ………, m),
wij (baru) = wij (lama)+xi yj.
Outer pruduct untuk dua vector berikut:
s=[s1 … si …..sn] dan t= [tl…… tj ……,tm ]
Crosstalk
Bila vektor-vektor masukan tidak terkorelasi atau vektor saling orthogonal maka Hebb akan menghasilkan bobot yang benar. Tanggapan jaringan yang diuji vektor pelatihan merupakan ingatan dari target yang terasosiasi dengan vector yang diskalakan dengan kuadrat norm dan vector masukan yang dicari.
Bila vektor-vektor masukan tidak orthogonal, maka tanggapan akan berisi bagian nilai target yang disebut crosstalk (cakap-silang).
Dua vector s(k) dan s(p), k ≠ p adalah orthogonal bila produk titik (dot product) nya sama dengan nol.
s(k) sT(p)=o atau
Σ si(k) si(p) = 0
i
Tanggapan jaringan terhadap pemberian pola ke k dari vector masukan s(k) adalah (dengan fungsi aktivasi identitas ) adalah:
Bila s(k) orthogonal terhadap s(p) untuk p ≠ k , maka tidak ada kontribusi ke tanggapan dari setiap suku penjumlahan. Tanggapannya adalah vector target t(k) yang kalakan oleh kuadrat norm vector masukan, yaitu s(k) sT(k). Universitas Gadjah Mada 3
Tetapi bila s(k) tidak orthogonal terhadap vector s yang lain, maka akan ada kontribusi ke tanggapan yang terlibat dengan nilai target untuk setiap vector yang mana s(k) tidak orthogonal.