许多学习任务需要处理包含丰富元素之间关系信息的图形数据。物理系统建模、学习分子指纹、预测蛋白质界面和疾病分类需要一个模型来从图形输入中学习。在其他领域,例如从文本和图像等非结构数据中学习,对提取的结构(如句子的依赖树和图像的场景图)进行推理是一个重要的研究课题,也需要图推理模型。图神经网络 (GNN) 是神经模型,它通过图节点之间的消息传递来捕获图的依赖性。近年来,图卷积网络 (GCN)、图注意力网络 (GAT)、图循环网络 (GRN) 等 GNN 的变体在许多深度学习任务上都表现出了突破性的表现。在本次调查中,我们为 GNN 模型提出了一个通用的设计流程,并讨论了每个组件的变体,系统地对应用程序进行了分类,并为未来的研究提出了四个开放性问题。
1
Keras混合物密度网络层 使用TensorFlow的发行模块的Keras的混合密度网络(MDN)层。 这使得使用神经网络进行实验变得更加简单,该神经网络预测了多个可能包含多个可能值的实值变量。 该层可以帮助构建类似于 , ,甚至所使用的MDN- 。 您可以使用MDN做很多很酷的事情! 此实现的一个好处是您可以预测任意数量的实值。 TensorFlow的Mixture , Categorical和MultivariateNormalDiag分布函数用于生成损失函数(多元正态分布与对角协方差矩阵混合的概率密度函数)。 在以前的工作中,通常会手动指定损失函数,这对于1D或2D预测是合适的,但此后会变得更加烦人。 提供了两个重要的功能用于训练和预测: get_mixture_loss_func(output_dim, num_mixtures) :此函数生成具有正确输出尺寸a和混合
2021-08-30 14:08:20 746KB neural-network tensorflow mdn keras
1
近年来,深度学习彻底改变了许多机器学习任务,从图像分类和视频处理到语音识别和自然语言理解。这些任务中的数据通常在欧几里得空间中表示。 然而,越来越多的应用程序从非欧几里得域中生成数据,并表示为对象之间具有复杂关系和相互依赖性的图形。图数据的复杂性给现有的机器学习算法带来了重大挑战。最近,出现了许多关于扩展图数据深度学习方法的研究。在本次调查中,我们全面概述了数据挖掘和机器学习领域的图神经网络 (GNN)。我们提出了一种新的分类法,将最先进的图神经网络分为四类,即循环图神经网络、卷积图神经网络、图自动编码器和时空图神经网络。我们进一步讨论了图神经网络在各个领域的应用,并总结了图神经网络的开源代码、基准数据集和模型评估。最后,我们提出了这个快速发展领域的潜在研究方向。
1
图神经网络 (GNN) 已成为分析和学习图数据的标准工具包。随着该领域的发展,识别关键架构并验证可推广到更大、更复杂的数据集的新想法变得至关重要。不幸的是,在缺乏具有一致实验设置的标准化基准的情况下,越来越难以衡量新模型的有效性。在本文中,我们介绍了一个可重复的 GNN 基准测试框架,使研究人员能够方便地为任意数据集添加新模型。我们通过对最近的 Weisfeiler-Lehman GNN (WL-GNN) 与基于消息传递的图卷积网络 (GCN) 进行各种图任务(即图回归/分类和节点/链路预测,具有中等规模的数据集。
2021-08-26 09:12:01 1.6MB 图神经网络 OBG 图嵌入表示
1
Qt的BPNN人脸识别:Q Qt开发的基于BPNN(反向传播神经网络)的人脸识别系统
2021-08-25 22:32:25 1.47MB qt recognition neural-network cpp
1
随机方差减少算法:深度学习的 SVRG 和 SAGA 优化算法的实现。 随机梯度 (SGD) 是通过神经网络进行反向传播最常用的优化算法,因为它的成本比梯度下降要小。 但是,它的收敛速度非常慢,并且需要降低学习率才能收敛。 2013 年和 2014 年,出现了两种新的“混合算法”。 随机方差减少梯度 (SVRG) 和随机平均梯度增强 (SAGA) 是混合体,因为它们使用梯度的无偏估计,但它们的方差正在消失。 这两种算法具有指数收敛速度。 虽然它们的行为以机器学习目的而闻名,但它们并不用于深度学习主题。 例如,您现在可以在 scikit 学习库 ( ) 中使用 SAGA 对于这个项目,我想对这些算法进行编码以用于深度学习。 我已经使用 PyTorch 框架对这些算法进行了编码。 用法:此代码是用 Python3 编写的,我使用了 jupyter notebook。 您将需要下载以下
2021-08-25 17:41:45 262KB JupyterNotebook
1
SEGAN:语音增强生成对抗网络 介绍 这是SEGAN项目的存储库。 我们的原始文件可以在找到,并且测试样本可以。 在这项工作中,采用了一种对抗性生成方法,以一种完全卷积的体系结构来进行语音增强(即从损坏的语音信号中去除噪声),如下所示: 该模型处理处于不同SNR的许多噪声条件下的原始语音波形(训练时为40,测试时为20)。 它还可以对来自混合在同一结构中的许多说话者的语音特征进行建模(无需任何身份监督),这使得生成的结构在噪声和说话者维度上具有普遍性。 所有项目都是使用TensorFlow开发的。 关于GAN的定义和部署,有两个很好的参考资料库: GAN:实施改进以更稳定的方式训练G
1
适用于Windows和Linux的Yolo v4,v3和v2 (用于物体检测的神经网络) 纸YOLO v4: : Paper Scaled : : 用于重现结果: 有关媒体的文章中的更多详细信息: 手册: : 讨论: 关于Darknet框架: : 如何在Linux上编译 如何在Windows上编译 AP50:95-FPS(Tesla V100)论文: : AP50:95 / AP50-FPS(Tesla V100)论文: : tkDNN-TensorRT将批次1的YOLOv4加速约2倍,将批次4的YOLOv4加速3倍至4倍。 tkDNN: : Op
1
让彩色!:灰度图像的自动着色 概述 这段代码使用Tensorflow在python中提供了的实现: "Let there be Color!: Joint End-to-end Learning of Global and Local Image Priors for Automatic Image Colorization with Simultaneous Classification" Satoshi Iizuka, Edgar Simo-Serra, and Hiroshi Ishikawa ACM Transaction on Graphics (Proc. of SIGGRAPH 2016), 2016 本文提供了一种使用深层网络自动为灰度图像着色的方法。 该网络在单个框架中共同学习局部特征和全局特征,然后可以将其用于任何分辨率的图像上。 通过合并全局特征,可以使用
1