知识蒸馏在文本方向上的应用 模型相关等内容在有具体介绍。 目录 更新日志 2020.08.28 整理代码结构,抛弃借鉴的Bert模型,增加xlnet模型,预训练xlnet模型效果较差,可以在模型基础上再进行预训练,因此添加了模型预训练代码。 2020.07.15 修复bug,添加textGCN模型(单独训练,模型效果较差)。 2020.07.06 移除模型介绍&部分模型实现,增加使用说明及运行环境。 2020.05.28 增加了直接使用学生模型训练代码,并使用公开测试集完成测试。 运行环境 python 3.7 pytorch 1.1 (BERT模型参考Bert-Chinese-Text-Classification-Pytorch,有较多改动) transformers 3.0.2 torch 1.5.0 使用说明 下载Wikipedia_zh 中文维基百科 预训练词向量放入Knowl
2021-10-03 16:16:24 1.11MB pytorch knowledge-distillation bert Python
1
Agricultural Knowledge Graph 由于工作原因,该项目已停止维护。因此项目代码仅供参考,项目中包含的数据可免费用于学术等非商业用途。 相关工作请引用paper: AgriKG: An Agricultural Knowledge Graph and Its Applications[C]. DASFAA (3) 2019: 533-537 项目介绍: 本项目是上海市《农业信息服务平台及农业大数据综合利用研究》子课题《上海农业农村大数据共享服务平台建设和应用》的研究成果。 该课题是由上海市农业委员会信息中心主持,以“致富农民、服务市民、提高行政管理效能”为目标,充分发挥大数据在农业农村发展中的重要功能和巨大潜力,重点建设上海市级农业农村大数据中心,促进信息资源的共建共享和创新应用。 华东师范大学数据科学与工程学院(以下简称华师大数据学院)作为课题主要参与单位以实现智慧
1
EAkit 实体对齐工具包(EAkit),是许多实体对齐算法的轻量级,易于使用且高度可扩展的PyTorch实现。 算法列表来自 。 目录 设计 我们对现有的实体对齐算法进行排序并对其组成进行模块化,然后将抽象结构定义为1 Encoder-N Decoder(s) ,其中将不同的模块视为不同编码器和解码器的特定实现,以恢复算法的结构。 组织 ./EAkit ├── README.md # Doc of EAkit ├── _runs # Tensorboard log dir ├── data # Datasets. (unzip data.zip) │   └── DBP15K ├── examples
1
Michael Galkin撰写了AAAI2020知识图谱论文相关研究趋势包括:KG-Augmented语言模型,异构KGs中的实体匹配,KG完成和链路预测,基于kg的会话人工智能和问题回答,包括论文,值得查看!
2021-09-23 17:58:09 15.16MB KG AAAI_2020
1
ZKP ZKP是一种实用的零知识证明系统,可提供任意计算的小型且计算效率高的零知识证明。 该系统使我们能够以廉价,快速的验证时间构造简洁的非交互式证明。 下图描述了证明生成系统的拓扑。 编译阶段 程序建设 受信任的设置 证明生成 证明验证 程序建设 程序构建是由其他库开发的,这些库发出标准的JSON协议,该协议描述了门的功能组成,这些门计算加法,乘法和带线运算。 该库可以简单地使用任何其他编译器或库来发出JSON作为其交换格式。 包提供了电路构造语言的参考库。 受信任的设置 可以从命令行运行受信任的设置。 这将生成为特定电路设置所需的一次参数。 设置参数可以随后销毁,也可以在Shamir秘密共享配置中分发。 Shamir共享允许一个n-of-m的设置,其中至少n个参与者必须组合其秘密部分以重建受信任的设置。 zkp setup --prover Groth16 --input
1
Handbook of Knowledge Representation知识表示手册,完整版(1035页),2008年第一版 豆瓣简介:https://book.douban.com/subject/3138327/
2021-09-20 16:47:42 10.96MB 知识表示
1
Toprovidemoreaccurate,diverse,andexplainablerecommendation, it is compulsory to go beyond modeling user-item interactions andtakesideinformationintoaccount.Traditionalmethodslike factorizationmachine(FM)castitasasupervisedlearningproblem, whichassumeseachinteractionasanindependentinstancewith side information encoded. Due to the overlook of the relations amonginstancesoritems(e.g., thedirectorofamovieisalsoan actorofanothermovie),thesemethodsareinsufficienttodistillthe collaborativesignalfromthecollectivebehaviorsofusers.
2021-09-16 17:04:34 1.36MB KG
1
一种用于关系三重提取的级联二进制标记框架 该存储库包含该论文的源代码和数据集:一种用于关系三重提取的新颖级联二进制标记框架。,,,袁田,。 ACL2020。 概述 提出的CasRel框架的核心是全新的观点,即我们将关系建模为将主体映射到对象的函数,而不是将关系视为实体对上的离散标签。更确切地说,我们不是学习关系分类器f(s,o)-> r,而是学习特定于关系的标记f_ {r}(s)-> o,每个标记都可以识别给定主题下的可能对象。一个特定的关系。在这种框架下,关系三重提取是一个分为两个步骤的过程:首先,我们确定句子中所有可能的主语;然后针对每个主题,我们应用特定于关系的标记器来同时识别所有可能的关系和相应的对象。 要求 此仓库已在Python 3.7和Keras 2.2.4上进行了测试。主要要求是: tqdm 编解码器 凯拉斯伯特= 0.80.0 tensorflow-gpu = 1.
1
这篇文章利用知识蒸馏方式对PSPNet进行了模型压缩,包含传统logits蒸馏和logits与特征混合蒸馏两种方式。 Teacher:PSPNet model of ResNet18 backbone Student: PSPNet model of ResNet50 backbone. Dataset: PASCAL-VOC2012
2021-09-03 18:12:40 1022KB 知识蒸馏 模型压缩 深度学习
信息安全_数据安全_Zero-knowledge_proofs_(ZKP):Priv 安全测试 安全分析 移动安全 业务安全 安全实践
2021-08-23 13:00:39 790KB 安全测试 自动化 金融安全 大数据