排名：6 队名：爆写规则一万行 成员： ， ， 环境环境 Ubuntu 18.04 的Python：3.6.5 火炬：1.1.0 CUDA：9.0 CUDNN：7.1.3 所需的包 我们将软件包用于主干BERT模型。 （请注意，原始在比赛期间已更新为 ，但出于稳定性考虑，我们选择使用旧版本。） 所需的Python软件包： fuzzywuzzy==0.17.0 numpy==1.17.0 torch==1.1.0 pytorch-pretrained-bert==0.6.2 tqdm==4.24.0 records 安装所需的python软件包的命令： pip install

BERT扩展 （来自变压器的双向编码器表示）是Google AI语言小组提出的一种通用的自动编码预训练方法，它在11个NLP任务（包括问题回答，自然，语言推理和情感分析）方面获得了最新的技术成果。 BERT旨在通过在所有层的左，右上下文上共同进行条件调节来预训练来自未标记文本的深层双向表示，这使它可以轻松地针对下游任务进行微调，而无需进行大量针对特定任务的体系结构修改。 该项目旨在提供基于当前BERT的扩展，并将BERT的功能带给NER和NLU等其他NLP任务。 图1：在不同任务上对BERT进行微调的图示 环境 的Python 3.6.7 Tensorflow 1.13.1 NumPy 1.13.3 数据集 是一个多任务数据集，包含3个子任务，POS标记，语法块和NER。 对于NER子任务，它包含4种命名实体：不属于前三组的人员，位置，组织和杂项名称。 （航空公司旅行信息系统）

在云上进行情感分析的全面评估 Ashwin Nalwade，陈名喜。 科技栈 应用程序和数据：Python，Flask，Gunicorn，CSS，spaCy，PyTorch，Pandas，HuggingFace。 云：Paperspace的Google Cloud Platform（GCP），IBM Cloud，Gradient Cloud。 容器：Docker [Docker Hub]，Kubernetes，Google Kubernetes Engine。 跨平台比较 我们在3个不同的云平台上测试了不同的方法，并通过在GPU上运行时使用探查器来分析训练时间[历时平均值]，准确性和内存利用率[峰值]。 GPU详细信息[Colab Pro] Fri Nov 27 20:47:34 2020 +----------------------------------------------

教程

斯坦福-张量流教程 该存储库包含课程CS 20：TensorFlow for Deep Learning Research的代码示例。 它会随着课程的进行而更新。 详细的教学大纲和讲义可在找到。 在本课程中，我使用python3.6和TensorFlow 1.4.1。 有关上一年课程的代码和注释，请参阅文件夹2017和网站 有关安装说明和依赖项列表，请参见此存储库的安装文件夹。

ACL选集 这些是生成ACL Anthology网站的基本说明，如。 该存储库的官方主页是 。 选集 先决条件 要构建Anthology网站，您需要： Python 3.7或更高版本 在bin/requirements.txt列出的Python软件包； 要安装，请运行pip -r bin/requirements.txt 或更高版本（可以；需要扩展版本！） 用于创建非BibTeX引用格式的 （并非严格要求构建网站，但是如果没有它们，则您需要按照所述手动调用构建步骤） 可选：如果在第一次运行make之前安装libyaml-dev和Cython ，将使用libyaml C库而不是python实现，从而加快了构建速度。 使用GitHub构建和部署 有一个GitHub action操作直接从GitHub执行部署。 要使用此功能，您需要在存储库设置（Web界面：设置->机密）中定义以下变量： PUBLISH_TARGET ：rsync将把选集推送到该目标（例如， user@aclweb.org:anthology-static ） PUBLISH_SSH_KEY ：标准pem格式的密

timewords：多语言库，可轻松将日期字符串解析为java.util.Date对象

使用Botfuel对话框构建高度对话的机器人。 对话框 什么是botfuel-dialog？ Botfuel Dialog是一个开源SDK，可帮助您在Botfuel NLU之上使用MVC设计模式构建高度对话的聊天机器人。 跟着我们 :red_heart: 支持我们 如果您喜欢我们的开发人员构建的内容，请别忘了在Github上给我们注目。 我们的团队将不胜感激！ 从哪儿开始 ？ 要开始使用Botfuel，建议您遵循我们的。 适应后，您可以继续其他许多。 如果您想了解有关如何使用Botfuel的更多信息，请查看我们的，该将不断更新。 最受欢迎平台的机器人 使用我们的适配器之一或创建自己的适配器，使您的机器人与任何平台兼容。 查看我们的示例机器人 Botfuel Dialog带有，它们也可以用作集成测试。 我们还提供了一些用Botfuel Dialog编写的独立 。 这些用于博客文章和文档中。 参与Botfuel对话 如果您有任何问题，请随时。 除了您的反馈意见，我们也欢迎您的贡献。 请参阅。 执照 请参阅文件。

This book attempts to simplify and present the concepts of deep learning in a very comprehensive manner, with suitable, full-fledged examples of neural network architectures, such as Recurrent Neural Networks (RNNs) and Sequence to Sequence (seq2seq), for Natural Language Processing (NLP) tasks. The book tries to bridge the gap between the theoretical and the applicable. It proceeds from the theoretical to the practical in a progressive manner, first by presenting the fundamentals, followed by the underlying mathematics, and, finally, the implementation of relevant examples. The first three chapters cover the basics of NLP, starting with the most frequently used Python libraries, word vector representation, and then advanced algorithms like neural networks for textual data. The last two chapters focus entirely on implementation, dealing with sophisticated architectures like RNN, Long Short-Term Memory (LSTM) Networks, Seq2seq, etc., using the widely used Python tools TensorFlow and Keras. We have tried our best to follow a progressive approach, combining all the knowledge gathered to move on to building a questionand- answer system. The book offers a good starting point for people who want to get started in deep learning, with a focus on NLP. All the code presented in the book is available on GitHub, in the form of IPython notebooks and scripts, which allows readers to try out these examples and extend them in interesting, personal ways.

Natural Language Processing with PyTorch Build Intelligent Language Applications Using Deep Learning By Delip Rao and Brian McMahan