AI前线导读:Flink已经渐渐成为实时计算引擎的首选之一,从简单的实时 ETL到复杂的CEP场景,Flink都能够很好地驾驭。本文整理自携程实时计算负责人潘国庆在 QCon全球软件开发大会(北京站)2019的演讲,他介绍了携程如何基于Flink与TensorFlow 构建实时智能异常检测平台,以解决规则告警系统准确率低、时效性低、规则配置复杂与耗费人力等诸多问题,实现了业务指标毫秒级延迟与智能
1
一类神经网络 用于非线性异常检测的一类神经网络的简化Keras实现。 该实现基于此处描述的方法: : 。 我包括了ODDS( )的几个数据集。 设置 pipenv install . 应该配置一个python环境并在该环境中安装所有必需的依赖项。 跑步 在新的python环境中(通过CLI或IDE)运行python driver.py应该开始进行50个纪元的培训,并生成一些输出图。 测验 在test/test_basic.py中定义了两个单元测试:构建模型,以及基于本文示例的分位数损失测试: 执行pytest test以运行。 结果 HTTP数据集 失利 特征 局限性 使演示脚本更加灵活 添加更多的单元测试
2021-12-06 20:56:13 3.48MB Python
1
用以制作中文的英文版,完整目录,对照阅读 Author(s): Charu C. Aggarwal Publisher: Springer, Year: 2016 ISBN: 3319475770,9783319475776
2021-12-06 12:53:49 6.36MB 异常 检测
1
SOM 异常检测 这个 Python 模块提供了一个非常简单但高效的 Kohonen 自组织映射实现,用于异常检测目的。 该想法基于以下论文: Tian, J., Azarian, MH, Pecht, M. (2014)。 使用基于自组织图的 K 近邻算法进行异常检测。 欧洲预后与健康管理学会会议论文集。 算法简单描述 在一组正常数据(可能包含一些噪声或异常值)上训练某个维度的自组织图。 SOM 中的每个节点,计算映射到该节点的训练向量的数量,假设我们称这个数字为degree 。 删除所有度数小于某个阈值的节点。 对于要评估的数据中的每个观察,执行 k-NN wrt。 SOM 节点。 并计算到找到的节点的平均距离。 这是异常度量。 订购评估数据wrt。 到异常度量。 如何安装 安装可以通过执行: git clone https://github.com/FlorisHoog
2021-12-04 15:15:32 321KB Python
1
:evergreen_tree:IsoTree-使用Isolation Forest进行异常值/异常检测-对于Ruby IsoTree:evergreen_tree:IsoTree-使用Isolation Forest进行异常值/异常检测-对于Ruby了解Isolation Forest的工作原理安装将这行添加到应用程序的Gemfile中:gem'isotree'入门准备数据x = [[1,2],[3,4],[5,6],[7,8]]训练模型模型= IsoTree :: IsolationForest.new model.fit(x)获得离群值分数model.predict (x)分数介于0到1之间,分数越高,表示离群值。参数传递参数-IsoTree以下的默认值:
2021-12-03 13:11:11 51KB Ruby Miscellaneous
1
网络流量异常的检测和分类 实验基于 数据集的版本。 1.先决条件 1.1。 安装项目依赖项 不 姓名 版本 描述 1个 3.8.8 程式语言 2个 0.24.1 Python机器学习工具 3 1.19.5 Python科学计算工具 4 1.2.2 Python中的数据分析和数据处理工具 5 3.3.4 用Python可视化 6 0.11.1 统计数据可视化 7 5.8.0 跨平台库,用于检索Python中正在运行的进程和系统利用率(CPU,内存,磁盘,网络,传感器)的信息 8 0.3.7 可视化库 9 -- 用于模型序列化的Python对象序列化 1.2。 下载并提取数据集 下载的较轻版本(存档大小-8.8 GB) 较轻的版本仅包含带标签的流,而没有pcaps文件 提取档案(大小-大约44 GB) 2.安装项目 克隆此仓库 安装缺少的库 打开config.py并
1
系统日志反映了系统运行状态,记录着系统中特定事件的活动信息,快速准确地检测出系统异常日志,对维护系统安全稳定具有重要意义。提出了一种基于GRU神经网络的日志异常检测算法,基于log key技术实现日志解析,利用执行路径的异常检测模型和参数值的异常检测模型实现日志异常检测,具有参数少、训练快的优点,在取得较高检测精度的同时提升了运行速度,适用于大型信息系统的日志分析。
2021-11-29 18:41:35 2.24MB 日志异常检测 深度学习 GRU神经网络
1
异常检测 异常检测的Pytorch实现,可检测到工业数据集中的非正常图像 它只有简单的图层,但是如果您要查看mvtec纸,请单击。 实际上,我在mvtecAD上无法很好地工作,因为我认为在微调阶段会找到自动阈值。 因此,仅手动修复阈值即可实现此代码。 那是周。 Tensorflow版本 MVTEC Tensorflow实现是在上面链接的mvtec论文中实现的。 简单的CNN模型(自动编码器) 对抗变式自动编码器 先决条件 Linux或macOS python3 + 火炬0.4+ 安装 git clone https://github.com/CY-Jeong/anomaly-detection-mvtec.git cd anomaly-detection-mvtec PIP用户,PIP pip install -r requirements.txt Conta用户, conda e
2021-11-28 21:36:24 722KB Python
1
使用LSTM和其他算法进行无监督的异常检测 在合成时间序列数据上使用LSTM(长期短期记忆)算法进行无监督的异常检测。 它使用均方误差作为此类数据中离群值的度量。 原始信号,平滑信号和通过MSE进行异常检测的图表。 一些待办事项: Keras(TF后端) 估算真实数据(例如,) PyTorch端口 其他方法: 带有状态转换的有限状态自动机,用于时间序列数据分段( ) 一类NN() 待定 参考
2021-11-28 15:28:31 58KB keras lstm anomaly-detection Python
1
嵌套循环算法NL 将内存缓冲区空间划分成相等的两部分,数据集分成几个大小和每部分缓冲区相等的逻辑块,通过认真选择调入每一部分缓冲区的次序,使I/O次数最小 算法复杂度是O(k N2 ) k——维数 N——数据点数 特点: 不需要建立多维索引结构 较费时
2021-11-26 22:36:09 359KB 统计 距离 偏差 密度
1