当前基于油中溶解气体分析(DGA)的变压器故障诊断方法往往仅考虑单一时刻数据点,容错性差,难以充分挖掘在线监测数据的时序信息。提出一种考虑变压器油特征参量序列间复杂关系的基于双向长短时记忆(Bi-LSTM)网络的变压器故障诊断方法。首先构建了变压器油特征参量序列,基于序列数据构建了Bi-LSTM变压器故障诊断模型。工程实际中不同变压器油特征参量序列长短不一,需通过排序、分组填充对模型输入进行重构改进,然后对超参数进行优化。基于同一自建数据库对比所提方法与其他方法,结果表明:经过数据重构后所提方法的准确率可达91.9 %;当特征指标数量减少约2/3时,所提方法的准确率仅下降约1%,而其他方法的准确率平均下降约6 %;当采样数据存在10%的随机错误时,所提方法诊断准确率仅下降2%~6 %,且通过改变隐藏层的数量可得到改善。
1
我国城市轨道交通已进入快速发展期,准确预测城轨交通短时客流量,对于城轨运营安全、运营效率及运营成本具有重要意义.城轨交通短时客流量由于具有强随机性、周期性、相关性及非线性的特征,浅层模型的预测精度并不理想.对此,基于深度信念网络(DBN)和支持向量回归机(SVM),提出城轨交通短时客流深层预测模型(DBN-P/GSVM),同时基于遗传算法(GA)和粒子群算法(PSO)实现SVM的参数寻优.最后,对成都地铁火车北站客流量预测进行实例分析.结果表明,DBN-P/GSVM深度预测模型在均方误差、均方根误差、绝对误差均值及绝对百分比误差均值等方面均优于浅层模型——GA-SVM模型、PSO-SVM模型和BP神经网络模型,以及深层模型长短期记忆网络(LSTM)与LSTM-Softmax.
1
针对注意缺陷多动障碍(attention deficit hyperactivity disorder,ADHD)儿童和正常儿童的分类问题,实验采用经典干扰控制任务范式对两类儿童的事件相关电位(event-related potential,ERP)进行了研究,旨在通过ERP特征实现其分类。实验首次使用长短期记忆(long-short term memory,LSTM)方法分析两类儿童前额叶与顶枕叶脑区最佳电极(p<0.05)潜伏期(200~450 ms)的脑电信号,并自动学习和分类其ERP特征。相比常规分类方法,LSTM方法的分类率略高,可达95.78%。研究结果表明LSTM方法有助于ADHD儿童脑电信号的分类,为ADHD儿童个体诊断技术提供了一种新思路。
1
滚动轴承的运行状态对整机工作状态影响重大, 但目前其故障诊断方法存在依赖手工特征提取、鲁棒性不高等问题. 因此, 本文提出了一种基于改进的一维卷积神经网络(1D-CNN)和长短期记忆网络(LSTM)集成的滚动轴承故障诊断方法(1D-CNN-LSTM). 首先, 利用改进的1D-CNN-LSTM模型对滚动轴承6种不同的工作状态进行了分类识别实验, 实验结果表明提出的分类模型能够以较快的速度识别出滚动轴承的不同状态, 平均识别准确率达99.83%; 其次, 将提出的模型与部分传统算法模型进行对比实验, 结果表明所提方法在测试精度方面有较大优势; 最后, 引入迁移学习测试模型的鲁棒性和泛化能力, 实验结果表明提出的改进模型在不同工况下有较好的适应性和高效性, 模型有较强的泛化能力, 具备工程应用的可行性.
1
针对传统数据驱动的故障诊断方法难以从QAR数据中提取有效特征的问题,提出一种融合卷积神经网络(convolutional neural network,CNN)与长短时记忆网络(long short-term memory,LSTM)的双通道融合模型CNN-LSTM。CNN与LSTM分别作为两个通道,通过注意力机制(attention)融合,从而使模型能同时表达数据在空间维度和时间维度上的特征,并以时间序列预测的方式验证融合模型特征提取的有效性。实验结果表明,双通道融合模型与单一的CNN、LSTM相比,能够更有效地提取数据特征,模型单步预测与多步预测误差平均降低35.3%,为基于QAR数据的故障诊断提供一种新的研究思路。
1
在金融二级市场上对数据的分析方法主要是基于统计学和人工建模的方法,本文的提出了使用神经网络的方法分析二级市场金融数据。本文首先提出了在金融二级市场上使用神经网络方法的思路,其次证明了在二级市场使用神经网络进行数据分析的可行性,并且根据金融数据的特点设计出一种适合于处理金融数据的CNN-LSTM网络来处理数据。该网络对比传统的简单的统计方法和一些神经网络方法比如逻辑回归,卷积神经网络(CNN),长短期记忆网络(LSTM)等方法,在对市场价格变化在较短时间内的预测和在较长时间内的预测都有显著的提高,比简单的统计方法提高10%,比其他神经网络提高5%。提出了一种能够较为有效分析金融二级市场数据的方法。
1
超短期负荷预测为实时电力市场运行提供重要依据, 预测准确度的提升对于揭示负荷变化的不确定性以及日前 预测偏差具有重要意义。基于电力系统中含有的丰富大数据 资源,提出了一种针对区域级负荷的深度长短时记忆网络超 短期预测方法,该方法包括输入数据的预处理、深度长短时 记忆(long short-term memory,LSTM)网络的构建以及模型 的训练和超参数的寻找等步骤。其中采用随机搜索的方法寻 找最优超参数,并在该超参数下选择泛化能力最优的模型,与前沿机器学习预测算法进行对比。实验结果证实,深度 LSTM 网络可以取得更好的预测效果,适合于离线训练实时 预测。此外,通过对隐藏层激活向量的可视化
1
传统文本分类使用word embedding作为文档表示,忽略词在当前上下文的含义,潜在地认为相同词在不同文本中含义相同。针对此问题提出一种词义消歧的卷积神经网络文本分类模型——WSDCNN(word sense disambiguation convolutional neural network)。使用双向长短时记忆网络(BLSTM)建模上下文,得到词义消歧后的文档特征图;利用卷积神经网络(CNN)进一步提取对文本分类最重要的特征。在四个数据集上进行对比实验,结果表明,所提出方法在两个数据集,特别是文档级数据集上优于先前最好的方法,在另外两个数据集上得到与此前最好方法相当的结果。
1
基于深度学习的方面情感分析是自然语言处理的热点之一。针对方面情感,提出基于方面情感分析的深度分层注意力网络模型。该模型通过区域卷积神经网络保留文本局部特征和不同句子时序关系,利用改进的分层长短期记忆网络(LSTM)获取句子内部和句子间的情感特征。其中,针对LSTM添加了特定方面信息,并设计了一个动态控制链,改进了传统的LSTM。在SemEval 2014的两个数据集和Twitter数据集上进行对比实验得出,相比传统模型,提出的模型的情感分类准确率提高了3%左右。
1
命名实体识别是自然语言处理的一项关键技术. 基于深度学习的方法已被广泛应用到中文实体识别研究中. 大多数深度学习模型的预处理主要注重词和字符的特征抽取, 却忽略词上下文的语义信息, 使其无法表征一词多义, 因而实体识别性能有待进一步提高. 为解决该问题, 本文提出了一种基于BERT-BiLSTM-CRF模型的研究方法. 首先通过BERT模型预处理生成基于上下文信息的词向量, 其次将训练出来的词向量输入BiLSTM-CRF模型做进一步训练处理. 实验结果表明, 该模型在MSRA语料和人民日报语料库上都达到相当不错的结果, F1值分别为94.65%和95.67%.
1