上传者: 38648037
|
上传时间: 2022-03-29 09:35:21
|
文件大小: 48KB
|
文件类型: -
matlab精度检验代码神经网络修剪
描述
神经网络修剪是压缩单个隐藏层神经网络以减小模型大小的方法。
该机器学习算法专门针对物联网设备和其他边缘设备等资源受限的环境而开发。
修剪方法基于通过将相应的权重设为零来从网络中删除神经连接。
该策略源自以下论文:“学习有效的神经网络的权重和连接”,宋涵,杰夫·普尔,约翰·特兰,威廉·J·达利。
NIPS,2015年。
用法
源文件:存储库包含五个用于神经网络修剪的Matlab(.m)文件。
NeuralNetSparse.m,train.m和predict.m是主要的源文件。
nnCostFunction.m和fmincg.m是有助于使用梯度下降训练网络的支持文件。
源文件说明:
“
NeuralNetSparse.m”是主文件,其中包含训练网络所需的所有超参数,数据集和训练参数。
不同的超参数可帮助用户训练具有不同配置的神经网络,从而有助于优化精度与模型尺寸之间的权衡。
给定内存预算约束取决于底层设备的限制,那么在稀疏网络和超薄网络之间要进行权衡。
这种权衡取决于所使用的数据集,学习率和内存预算。
因此,为了找出最佳配置,NeuralNet