GPT-2 PyTorch实施 目录 介绍 该项目是OpenAI GPT-2模型的PyTorch实现。 它提供模型训练,句子生成和量度可视化。 它被认为是可以理解和优化的。 我们设计的代码易于理解。 另外,我们使用来提高性能。 依存关系 正则表达式 tqdm 火炬 麻木 matplotlib 用法 怎么训练? 在训练GPT-2模型之前,应准备语料库数据集。 我们建议使用构建自己的语料库。 相反,训练模块需要带有词汇表文件的标记化训练和评估数据集。 准备数据集后,可以使用以下方法训练GPT-2: $ python -m gpt2 train --train_corpus build/corpus.train.txt \ --eval_corpus build/corpus.test.txt \
1
2020版新教材高中英语 Unit 5 What an adventure Using language练习 外研版3.doc
2021-10-20 09:02:52 31KB
2020版新教材高中英语 Unit 6 Disaster and hope Using language练习 外研版3.doc
2021-10-20 09:02:51 33KB
2020版新教材高中英语 Unit 4 Amazing art Using language练习 外研版3.doc
2021-10-20 09:02:50 34KB
Visual Studio Code中用于快速查看函数、变量等的实现以及定义(基于python语言),类似Visual Studio中F12的功能。GitHub官网下载地址为:https://github.com/hansec/fortran-language-server/
2021-10-19 18:57:07 3.87MB vscode fortran
1
语音聊天 Проектсостоитиздвухчастей-голосовойботиRESTfulсервердлявзаимодействиясним。 Длязапускаботалокальнонужновыполнить python3 bot.py (или run_bot.sh )ивпредложенномменювыбратьжелаемыйвариантработы( )。 Длязапуска的RESTfulсервера,предоставляющегоинтерфейсдлявзаимодействиясмодулямиголосовогобота,нужно
2021-10-19 17:39:19 75.29MB nlp bot flask natural-language-processing
1
美国手语数据集:包含A到Z字母的手语,适用于目标检测
2021-10-19 12:08:47 23.15MB 目标检测 手语 深度学习
1
哈工大最新《自然语言处理数据增强方法》综述论文,155页pdf阐述复述、噪声和抽样三大数据增强方法 数据增强(DA)是一种有效的策略,可以缓解深度学习技术可能失败的数据稀缺情况。它在计算机视觉中得到了广泛的应用,然后被引入到自然语言处理中,并在许多任务中取得了改进。DA方法的重点之一是提高训练数据的多样性,从而帮助模型更好地泛化到未见测试数据。在本研究中,我们根据扩充数据的多样性,将数据增强方法分为三大类,即复述、噪声和抽样。本文从以上几个方面对数据挖掘方法进行了详细的分析。此外,我们还介绍了它们在自然语言处理任务中的应用以及面临的挑战。 引言 数据增强(Data Augmentation,简称DA),是指根据现有数据,合成新数据的一类方法。毕竟数据才是真正的效果天花板,有了更多数据后可以提升效果、增强模型泛化能力、提高鲁棒性等。然而由于NLP任务天生的难度,类似CV的裁剪方法可能会改变语义,既要保证数据质量又要保证多样性,使得大家在做数据增强时十分谨慎。 作者根据生成样本的多样性程度,将DA方法分为了以下三种: Paraphrasing:对句子中的词、短语、句子结构做一些更改,保留原始的语义 Noising:在保证label不变的同时,增加一些离散或连续的噪声,对语义的影响不大 Sampling:旨在根据目前的数据分布选取新的样本,会生成更多样的数据
2021-10-18 22:10:51 2.24MB 自然语言处理
1
C# Language Specification
2021-10-18 17:05:46 3.46MB c#
1
Go语言圣经英文文字版
2021-10-18 15:42:22 6.59MB Go Golang Go语言
1