ERNIE 3.0中文预训练模型进行MSRA序列标注
文章链接：https://blog.csdn.net/sinat_39620217/article/details/125071909?csdn_share_tail=%7B%22type%22%3A%22blog%22%2C%22rType%22%3A%22article%22%2C%22rId%22%3A%22125071909%22%2C%22source%22%3A%22sinat_39620217%22%7D&ctrtid=UfDbk
2024-06-06 14:22:35
2KB
1
Bert作为目前自然语言处理领域最流行的技术之一，文本分类作为自然语言处理领域最常见的任务之一，Pytorch作为目前最流程的深度学习框架之一，三者结合在一起将会产生什么样的花火，本套课程基于Pytorch最新1.4版本来实现利用Bert实现中文文本分类任务，延续动手学系列课程风格，全程手敲代码，跟着杨博一行一行代码撸起来。
2023-02-19 11:18:18
461B
1
三个标点符号的标点符号模型，包括，。？这三个标点符号，使用教程：https://blog.csdn.net/qq_33200967/article/details/126858763
2022-09-16 09:07:46
268.77MB
1
Bert-Chinese-Text-Classification-Pytorch
LICENSE
中文文本分类，Bert，ERNIE，基于pytorch，开箱即用。
介绍
模型介绍、数据流动过程：还没写完，写好之后再贴博客地址。 工作忙，懒得写了，类似文章有很多。
机器：一块2080Ti ， 训练时间：30分钟。
环境
python 3.7
pytorch 1.1
tqdm
sklearn
tensorboardX
pytorch_pretrained_bert(预训练代码也上传了, 不需要这个库了)
2022-07-09 11:07:18
6.11MB
|简体中文
ERNIE是百度开创性提出的基于知识增强的持续学习语义理解框架，该框架将大数据预训练与多源丰富知识相结合，通过持续学习技术，不断吸收海量文本数据中文字句，结构，语义等方面ERNIE在情感分析，文本匹配，自然语言推理，词法分析，阅读理解，智能问答等16个公开数据集上全面显着超越世界领先技术，在国际权威的通用语言理解上评估基准GLUE上，突破首次突破90分，获得全球第一。在今年3月落下帷幕的全球最大语义评价。SemEval2020上，ERNIE摘得5项世界冠军，该技术也被全球顶级科技商业杂志《麻省理工科技评论》官方网站报道，相关创新成果也被国际顶级学术会议AAAI，IJCAI收录。E
2022-01-18 20:42:41
2.3MB
1
| 简体中文
pycorrector
中文文本纠错工具。音似、形似错字（或变体字）纠正，可用于中文拼音、笔画输入法的错误纠正。python3.6开发。
pycorrector依据语言模型检测错别字位置，通过拼音音似特征、笔画五笔编辑距离特征及语言模型困惑度特征纠正错别字。
Guide
Question
中文文本纠错任务，常见错误类型包括：
谐音字词，如 配副眼睛-配副眼镜
混淆音字词，如 流浪织女-牛郎织女
字词顺序颠倒，如 伍迪艾伦-艾伦伍迪
字词补全，如 爱有天意-假如爱有天意
形似字错误，如 高梁-高粱
中文拼音全拼，如 xingfu-幸福
中文拼音缩写，如 sz-深圳
语法错误，如 想象难以-难以想象
当然，针对不同业务场景，这些问题并不一定全部存在，比如输入法中需要处理前四种，搜索引擎需要处理所有类型，语音识别后文本纠错只需要处理前两种，
其中'形似字错误'主要针对五笔或者笔画手
2021-07-15 12:34:01
13.6MB
1
BERT的最好的朋友。
安装
Ernie需要Python 3.6或更高版本。
pip install ernie
微调
句子分类
from ernie import SentenceClassifier , Models
import pandas as pd
tuples = [( "This is a positive example. I'm very happy today." , 1 ),
( "This is a negative sentence. Everything was wrong today at work." , 0 )]
df = pd . D
2021-05-28 15:48:32
201KB
1
Bert-Chinese-Text-Classification-Pytorch
中文文本分类，Bert，ERNIE，基于pytorch，开箱即用。
介绍
模型介绍、数据流动过程：还没写完，写好之后再贴博客地址。 工作忙，懒得写了，类似文章有很多。
机器：一块2080Ti ， 训练时间：30分钟。
环境
python 3.7
pytorch 1.1
tqdm
sklearn
tensorboardX
pytorch_pretrained_bert(预训练代码也上传了, 不需要这个库了)
中文数据集
我从中抽取了20万条新闻标题，已上传至github，文本长度在20到30之间。一共10个类别，每类2万条。数据以字为单位输入模型。
类别：财经、房产、股票、教育、科技、社会、时政、体育、游戏、娱乐。
数据集划分：
数据集
数据量
训练集
18万
验证集
1万
测试集
1万
更换自己的数据集
按照
2021-05-27 22:00:01
6.11MB
1