deep-learning
personal practice
深度学习个人练习,该项目实现了深度学习中一些常用的算法,内容包括:
四种初始化方法:zero initialize, random initialize, xavier initialize, he initialize。
深度神经网络
正则化
dropout
三种梯度下降方法:BGD, SGD, mini-batch
六种优化算法:momentum、nesterov momentum、Adagrad、Adadelta、RMSprop、Adam
梯度检验
batch normalization
recurrent neural network (RNN)
Note: 下列 1-10中网络架构主要为四大块: initialize parameters、forward propagation、backward propagati
1