LSTM(Long Short Term Memory,长短期记忆网络)介绍 介绍:LSTM,也就是长短期记忆网络,是一种 RNN 特殊的类型,可以学习长期依赖信息。要想较好理解LSTM请先查看之前写的RNN的简单理解文章。在传统RNN训练经常会出现无法解决长期依赖、梯度消失和梯度爆炸的问题,学习能力有限,在实际任务中的效果往往达不到预期效果。此时引入LSTM,LSTM是RNN的一种变体,是为了解决长期依赖问题而专门设计出来的,可以对有价值的信息进行长期记忆,减小了循环神经网络的学习难度。 应用领域:语音识别、语言建模、机器翻译、命名实体识别、图像描述文本生成。 图说LSTM结构 LSTM图标
2022-03-16 19:53:33 169KB lstm sigmoid 长短期记忆
1
提出了一种基于卷积神经网络和长短期记忆(LSTM)神经网络的深度学习网络结构。采用特征融合的方法,通过卷积网络提取出浅层特征与深层特征并进行联接,对特征通过卷积进行融合,将获得的矢量信息输入LSTM单元。分别使用数据光流信息与红绿蓝信息训练网络,将各网络的结果进行加权融合。实验结果表明,所提模型有效地提高了行为识别精度。
2022-03-04 18:35:40 4.68MB 机器视觉 深度学习 行为识别 卷积神经
1
为解决软件定义网络场景中,当前主流的基于启发式算法的QoS优化方案常因参数与网络场景不匹配出现性能下降的问题,提出了基于深度强化学习的软件定义网络QoS优化算法。首先将网络资源和状态信息统一到网络模型中,然后通过长短期记忆网络提升算法的流量感知能力,最后基于深度强化学习生成满足QoS目标的动态流量调度策略。实验结果表明,相对于现有算法,所提算法不但保证了端到端传输时延和分组丢失率,而且提高了22.7%的网络负载均衡程度,增加了8.2%的网络吞吐率。
1
matlab自相关代码“基于变分模式分解和长短期记忆的流量预测的分解集成模型”的代码存储库 左建义 电子邮件:Github: 这项研究在很大程度上依赖于开源软件。 Pandas(McKinney,2010)和numpy(Stéfanet al。,2011)用于管理和处理流数据。 Matlab用于执行流分解任务并计算子信号的PACF。 Matlab的实现分别来自Dragomiretskiy和Zosso(2014)以及Wu和Huang(2009)。 这是基于Matlab内置工具箱(“ Wavelet Analyzer”中的“ Wavelet 1-D”)执行的。 (Pedregosa et al。,2011)中的GBRT模型用于衡量分解后的子信号的重要性。 使用Matplotlib(Hunter,2007)绘制数字,并使用(Abadi等人,2016)训练LSTM模型。 这些开源软件也被先前的研究人员(例如Kratzert等人)部分使用。 (2018)。 如何验证研究结果 克隆此存储库表单。 git clone https://github.com/zjy8006/DailyStreamflo
2021-12-12 20:26:23 1.2MB 系统开源
1
我国城市轨道交通已进入快速发展期,准确预测城轨交通短时客流量,对于城轨运营安全、运营效率及运营成本具有重要意义.城轨交通短时客流量由于具有强随机性、周期性、相关性及非线性的特征,浅层模型的预测精度并不理想.对此,基于深度信念网络(DBN)和支持向量回归机(SVM),提出城轨交通短时客流深层预测模型(DBN-P/GSVM),同时基于遗传算法(GA)和粒子群算法(PSO)实现SVM的参数寻优.最后,对成都地铁火车北站客流量预测进行实例分析.结果表明,DBN-P/GSVM深度预测模型在均方误差、均方根误差、绝对误差均值及绝对百分比误差均值等方面均优于浅层模型——GA-SVM模型、PSO-SVM模型和BP神经网络模型,以及深层模型长短期记忆网络(LSTM)与LSTM-Softmax.
1
针对注意缺陷多动障碍(attention deficit hyperactivity disorder,ADHD)儿童和正常儿童的分类问题,实验采用经典干扰控制任务范式对两类儿童的事件相关电位(event-related potential,ERP)进行了研究,旨在通过ERP特征实现其分类。实验首次使用长短期记忆(long-short term memory,LSTM)方法分析两类儿童前额叶与顶枕叶脑区最佳电极(p<0.05)潜伏期(200~450 ms)的脑电信号,并自动学习和分类其ERP特征。相比常规分类方法,LSTM方法的分类率略高,可达95.78%。研究结果表明LSTM方法有助于ADHD儿童脑电信号的分类,为ADHD儿童个体诊断技术提供了一种新思路。
1
滚动轴承的运行状态对整机工作状态影响重大, 但目前其故障诊断方法存在依赖手工特征提取、鲁棒性不高等问题. 因此, 本文提出了一种基于改进的一维卷积神经网络(1D-CNN)和长短期记忆网络(LSTM)集成的滚动轴承故障诊断方法(1D-CNN-LSTM). 首先, 利用改进的1D-CNN-LSTM模型对滚动轴承6种不同的工作状态进行了分类识别实验, 实验结果表明提出的分类模型能够以较快的速度识别出滚动轴承的不同状态, 平均识别准确率达99.83%; 其次, 将提出的模型与部分传统算法模型进行对比实验, 结果表明所提方法在测试精度方面有较大优势; 最后, 引入迁移学习测试模型的鲁棒性和泛化能力, 实验结果表明提出的改进模型在不同工况下有较好的适应性和高效性, 模型有较强的泛化能力, 具备工程应用的可行性.
1
在金融二级市场上对数据的分析方法主要是基于统计学和人工建模的方法,本文的提出了使用神经网络的方法分析二级市场金融数据。本文首先提出了在金融二级市场上使用神经网络方法的思路,其次证明了在二级市场使用神经网络进行数据分析的可行性,并且根据金融数据的特点设计出一种适合于处理金融数据的CNN-LSTM网络来处理数据。该网络对比传统的简单的统计方法和一些神经网络方法比如逻辑回归,卷积神经网络(CNN),长短期记忆网络(LSTM)等方法,在对市场价格变化在较短时间内的预测和在较长时间内的预测都有显著的提高,比简单的统计方法提高10%,比其他神经网络提高5%。提出了一种能够较为有效分析金融二级市场数据的方法。
1
微博情感分析旨在研究用户关于热点事件的情感观点,研究表明深度学习在微博情感分析上具有可行性。针对传统卷积神经网络进行微博情感分析时忽略了非连续词之间的相关性,为此将注意力机制应用到卷积神经网络(CNN)模型的输入端以改善此问题。由于中文微博属于短文本范畴,卷积神经网络前向传播过程中池化层特征选择存在丢失过多语义特征的可能性,为此在卷积神经网络的输出端融入树型的长短期记忆神经网络(LSTM),通过添加句子结构特征加强深层语义学习。在两种改进基础上构造出一种微博情感分析模型(Att-CTL),实验表明该模型在微博情感分析上具有优良的特性,尤其在极性转移方面仍保持较高的F1值。
1