去噪自动编码器
可以训练去噪自动编码器,以无人监督的方式学习特征空间的高级表示。 可以通过将经过预训练的自动编码器的一层一层堆叠在一起来创建深度神经网络。 整个网络的培训分三个阶段进行:
1.预训练:在此阶段中,对每个层进行训练,以从损坏的版本中重建原始数据。 破坏输入的不同有效方法包括: -添加小高斯噪声-将变量随机设置为任意值-随机将输入变量设置为0 2.学习:在此阶段中,将S形层和softmax层放置在堆栈的顶部,并接受有关分类任务的培训。 3.微调:使用标准反向传播算法对整个网络进行微调
#创建堆叠降噪自动编码器的结构sDA = StackedDA([300,100]) # Pre-train layers one at a time, with 50% Salt and Pepper noise
sDA.pre_train(X[:1000], rate=0.5, n_iters
2021-08-20 16:02:55
16.55MB
Python
1