【导读】预训练模型是当下研究的热点，来自西电的研究人员发布《知识增强的预训练模型》，非常值得关注！ 预训练模型通过自监督学习方法在大规模文本语料库上学习上下文化的词表示，该方法经过微调后取得了良好的性能。然而，这些模型的健壮性差，且缺乏可解释性。带有知识注入的预训练模型(knowledge enhanced pre- training model, KEPTMs)具有深刻的理解和逻辑推理能力，并在一定程度上引入了可解释性。在这个综述中，我们提供了自然语言处理的KEPTMs的全面概述。首先介绍了预训练模型和知识表示学习的研究进展。然后我们从三个不同的角度对现有KEPTMs进行了系统的分类。最后，对KEPTMs的未来研究方向进行了展望。

数据包括SDSS所进行的10,000次空间观测。每个观测结果都由17个特征列和1个类别列描述，这些特征列将其标识为恒星，星系或类星体。 Skyserver_SQL2_27_2018 6_51_39 PM.csv

Survey_of_Deep_Metric_Learning：深度度量学习和相关作品的全面调查

A Survey of Vehicle to Everything (V2X) Testing.pdf

迁移学习入门级综述文章：A Survey on Transfer Learning。分享给大家~

OWASP_CISO_Survey_Report_–_Tactical_Insights_for_Managers web安全 安全方案与集成 安全意识教育 APT 安全建设

最近Shaoxiong Ji, Shirui Pan, Erik Cambria, Pekka Marttinen, Philip S. Yu等学者发表了关于知识图谱的最新综述论文《A Survey on Knowledge Graphs: Representation, Acquisition and Applications》，25页pdf涵盖107篇参考文献，对知识图谱进行了全面的综述，涵盖了知识图谱表示学习、知识获取与补全、时序知识图谱、知识感知应用等方面的研究课题，并总结了最近的突破和未来的研究方向。我们提出对这些主题进行全视角分类和新的分类法。是关于知识图谱最近非常重要的参考文献。

Michael T. Heath holds four positions at the University of Illinois at Urbana-Champaign: Professor in the Department of Computer Science, Director of the Computational Science and Engineering Program, Director of the Center for Simulation of Advanced Rockets, and Senior Research Scientist at the National Center for Supercomputing Applications (NCSA). He received a B.A. in Mathematics from the University of Kentucky, an M.S. in Mathematics from the University of Tennessee, and a Ph.D. in Computer Science from Stanford University. Before joining the University of Illinois in 1991, he spent a number of years at Oak Ridge National Laboratory, rst as Eugene P. Wigner Postdoctoral Fellow and later as Computer Science Group Leader in the Mathematical Sciences Research Section. His research interests are in numerical analysis|particularly numerical linear algebra and optimization|and in parallel computing. He has has been an editor of the SIAM Journal on Scientic Computing, SIAM Review, and the International Journal of High Performance Computing Applications, as well as several conference proceedings. In 2000, he was named an ACM Fellow.

图上的深度学习最近引起了人们的极大兴趣。然而，大多数工作都集中在（半）监督学习上，导致存在标签依赖重、泛化能力差和鲁棒性弱等缺点。为了解决这些问题，自监督学习 (SSL) 通过精心设计的借口任务提取信息知识，而不依赖于手动标签，已成为图数据的一种有前途和趋势的学习范式。与计算机视觉和自然语言处理等其他领域中的 SSL 不同，图上的 SSL 具有独特的背景、设计思想和分类法。在图自监督学习的框架下，我们及时全面地回顾了使用SSL技术处理图数据的现有方法。我们构建了一个统一的框架，在数学上形式化了图 SSL 的范式。根据借口任务的目标，我们将这些方法分为四类：基于生成的方法、基于辅助属性的方法、基于对比的方法和混合方法。我们进一步总结了图 SSL 在各个研究领域的应用，并总结了图 SSL 的常用数据集、评估基准、性能比较和开源代码。最后，我们讨论了该研究领域的剩余挑战和潜在的未来方向。

图的机器学习在学术界和工业界都得到了广泛的研究。然而，随着大量新兴方法和技术的出现，关于图形学习的文献蓬勃发展，为不同的图形相关任务手动设计最优机器学习算法变得越来越困难。为了解决这一关键挑战，图上的自动机器学习（AutoML）将图机器学习和AutoML的优点结合在一起，正受到研究界的关注。因此，本文对图自动建模进行了全面的研究，主要研究了图机器学习的超参数优化（HPO）和神经结构搜索（NAS）。我们进一步概述了与自动图形机器学习相关的库，并深入讨论了AutoGL，这是第一个针对图形的AutoML的专用开源库。最后，我们分享了我们对自动化图机器学习未来研究方向的见解。本文是我们所知的第一篇关于图自动机器学习的系统和全面的综述。