使用BP神经网络识别手写数字

NIST提供的是28 * 28的图片，因此输入层是754维的向量。隐层输出层为10维向量 公式定义： 输出层：01 ... 01 隐层：Y1 ... YN 输入层：X1 ... XM 输入层与隐层间的权值$ V_ {ij} $ 隐层与输出层之间的权值$ W_ {jk} $ 使用函数$ F（X）= \压裂{1} {1个+ E ^ { - X}} $ 准确值D1 ... DL 学习率ETA 隐层与输出层间误差$ \ delta ^ o_k =（d_k - O_k）O_k（1-O_k）$ 输入层与隐层间误差$ \ delta ^ y_j =（\ sum ^ {l} {k = 1} \ delta ^ o_kW {jk}）y_j（1-y_j）$ 误差反传时$ \ Delta W_ {jk} = \ eta（d_k-O_k）O_k（1-O_k）* y_j $ $ \ Delta V_ {ij} = \ eta（\ sum ^ {l} {k = 1} \ delta ^ o_kW {jk}）y_j（1-y_j）X_i $ 每次计算时先从输入层计算到输出层，然后算出三层间的两个误差，然后更新网络间的权值