matlab提取文件要素代码CUDA深度神经网络
这是某些深度神经网络(DNN)的实现。
我们密切关注,但是使用C
++
/代替Matlab或Octave。
每个神经网络体系结构都在单独的类中实现,其中一些由其他类组成。
我们已经有了以下架构的工作版本:
稀疏自动编码器(AE)
Softmax回归(SM)
堆叠式自动编码器(SAE)
线性解码器(LD)(测试中)
数学
作为参考,我们在此提供每种体系结构的摘要信息。
实际上,我们主要给出了我们在代码中使用的方程式,因此请参阅参考资料以获取完整的说明。
请注意,我们的方程看起来可能与那里的方程并不完全一样,因为我们将给出同时处理大量数据的向量化版本。
但是首先,一些通用的符号:
象征
描述
数据输入大小。
特征向量的维数。
数据列大小。
要训练多少个特征向量。
尺寸数据矩阵。
每列都是一个特征向量。
维度的标签向量。
元素包含特征向量的标签。
向量和维度。
这不是单位矩阵。
1和维的矩阵。
这不是单位矩阵。
成本函数中的权重衰减参数。
梯度下降的学习率。
sigmod功能。
可能是什么(实数或矩阵)。
当应用于矩阵时,返回一个向量,该
2023-01-02 01:21:32
12.03MB
系统开源
1