NIST提供的是28 * 28的图片,因此输入层是754维的向量。隐层输出层为10维向量
公式定义:
输出层:01 ... 01
隐层:Y1 ... YN
输入层:X1 ... XM
输入层与隐层间的权值$ V_ {ij} $
隐层与输出层之间的权值$ W_ {jk} $
使用函数$ F(X)= \压裂{1} {1个+ E ^ { - X}} $
准确值D1 ... DL
学习率ETA
隐层与输出层间误差$ \ delta ^ o_k =(d_k - O_k)O_k(1-O_k)$
输入层与隐层间误差$ \ delta ^ y_j =(\ sum ^ {l} {k = 1} \ delta ^ o_kW {jk})y_j(1-y_j)$
误差反传时$ \ Delta W_ {jk} = \ eta(d_k-O_k)O_k(1-O_k)* y_j $
$ \ Delta V_ {ij} = \ eta(\ sum ^ {l} {k = 1} \ delta ^ o_kW {jk})y_j(1-y_j)X_i $
每次计算时先从输入层计算到输出层,然后算出三层间的两个误差,然后更新网络间的权值
2021-12-08 12:50:11
10.96MB
BP神经网络
1