简单手写体数字识别系统

3.2 算法描述

（1）学习

设输入层为n个输入，隐层是m个输入，输出层是p个输出

1.初始化V,W,α,ε //给V,W赋初值，这里用随机值，有经验的话可以给V和W

//赋一个近似的初值，这样的话可以加快收敛速度。

// 是学习因子，可以根据学习的进度来动态改变，这里自始

//至终取0.7, 是精度系数，

2.循环学习直到误差小于精度

e=(I,T) //对每一个样本取样放到集合e中 ,I代表输入样本，T代表输出样板

求a[j]=g(in[j])=g(//求隐层的值，其中V是各个权值的向量，

//I是样板值

o[i]=g(in[i])=g(//求输出层的值，其中W是各个隐层输入的

//权值,a[j]是输入的隐层的值

Err[i]=T[i]-O[i] (1<=i<=p) //Err是误差值
求 Δ[i]=Err[i]*g`(in[i])　　　(1<=i<=p)　　//g`(in[i])是g(in[i])函数的求导
W[j,i]=W[j,i]+　*a[j]*Err[i]*g`(in[i])　　　//权值调整，即训练学习， 是学习因子，用
　　　　　　　　　　　　　　　　　　　　　　//来反映学习的频率，可以自己根据程序需要来定

这里遇到一个难题是隐层的误差值怎么求，因为输出层有准确的输出值作参考，所以能够求到误差值，但是隐层没有相应的准确值。我们可以观察输出层的误差值，这个值其实蕴涵了隐层的误差值所在，经过证明可以用下面公式获取误差值。

Err[j]= //Err(1<=j<=P)是输出层的误差，这里
//利用这个误差蕴涵的信息来获取隐
//层的误差
V[k,j]=V[k,j]+ *I[k]*Err[j]*g`(in[j]) //隐层权值修正