上传者: 42134144
|
上传时间: 2021-12-13 08:06:26
|
文件大小: 19.88MB
|
文件类型: -
YoungCorrector
本项目是参考开源框架 ,自己实现了一套基于规则的纠错系统。总体来说,基于规则的文本纠错,性能取决于纠错词典和分词质量。目前与相比,在准确率差不多的情况下,本模型所用的时间会少很多(归功于前向最大匹配替代了直接索引替换字典)。代码还没有完善,还有很多优化的空间,后续会持续更新。。。
中文文本纠错
介绍
文本纠错的核心步骤:错误检测,预期召回,纠错排序。
错误检测:找到某些词是错误的。
初步召回:选出纠错错误词。
纠错排序:对预期词进行排序。
主流的三种方法:
基于规则:pycorrector
基于深度模型:百度纠错系统
基于垂直领域:腾讯DCQC纠错框架
中文纠错需要解决的问题:
谐音字词,如配副眼睛-配副眼镜
擅长音字词,如流浪织女-牛郎织女
字词顺序颠倒倒,如伍迪艾伦-艾伦伍迪
字词补全,如爱有天意-假如爱有天意
形似字错误,如高梁-高粱
中文拼音全拼,如x