径向基(Radial Basis Function:RBF)神经网络学习笔记-附件资源

径向基(Radial Basis Function:RBF)神经网络学习笔记-附件资源

PyTorch径向基函数（RBF）层 使用PyTorch的RBF层/模块的实现。 RBF层是常规人工神经网络中使用的激活函数的替代方法。 通常，RBF网络中的每个RBF层后面都有一个线性层。 在RBF层中，将计算和缩放输入与多个称为中心的位置之间的距离。 然后，将RBF应用于每个缩放距离。 IE， 其中x是输入，phi是径向基函数，sigma是比例因子，c是中心。 通常，通过对数据进行聚类来找到中心位置。 这对于具有许多RBF层的RBF网络是不切实际的。 在这种实施方式中，中心和比例因子通过梯度下降进行训练，这允许具有许多RBF层的RBF网络。 特征 径向基函数（RBF）层 少数径向基函数 通过梯度下降而不是聚类训练的中心和比例因子 示范 在演示中，RBF网络用于学习玩具分类问题的决策边界。

在这篇提交中，我实现了一个径向基函数 (RBF) 神经网络，用于预测混沌时间序列预测。 特别是设计了一个 Mackey Glass 时间序列预测模型，该模型可以使用过去的时间样本预测几步的值。 RBF 是使用传统的梯度下降学习算法训练的，核函数是高斯核，其中心和散布是从 K-mean 聚类算法获得的。

RBFNN是使用径向基函数作为激活函数的人工神经网络。 图显示了 RBFNN 的结构。 RBFNN 是三层前馈神经网络。 第一层是线性的，只分配输入信号，而下一层是非线性的，使用高斯函数。 第三层线性组合高斯输出。 在训练期间只修改隐藏层和输出层之间的抽头权重。 RBFNN 有 5 个优化参数： 1- 隐藏层和输出层之间的权重。 2- 激活函数。 3- 激活函数的中心。 4- 激活函数中心的分布。 5- 隐藏神经元的数量。 隐藏层和输出层之间的权重使用 Moore-Penrose 广义伪逆计算。 该算法克服了传统梯度算法中的许多问题，如停止标准、学习率、时期数和局部最小值。 由于其较短的训练时间和泛化能力，适合实时应用。 选择的径向基函数通常是用于模式识别应用的高斯核。 通常激活函数的中心和分布应该具有与数据相似的特征。 这里，使用 Kmeans 聚类算法选择高斯的中心和宽度。 基于通用逼