上传者: 42153615
|
上传时间: 2021-11-03 12:39:42
|
文件大小: 4.19MB
|
文件类型: -
cail2019_track2
中国法研杯CAIL2019要素抽取任务第三名方案分享
欢迎大家使用
(修改了一下readme,之前那一版感觉写的太水了。)
这次比赛和前两名差距很大,但是也在此给大家分享一下我所用的方案。
主要的trick包括领域预训练、focal loss、阈值移动、规则匹配以及模型优化、调参。
没有使用模型融合。
效果对比
由于是第一次参赛,很多比赛细节没有做记录,效果对比的分数是我从凭印象在上传历史记录里边找的,可能分数不一致,但是大概就在那个范围,还请见谅。
Model
详情
线上评分
BERT
使用bert_base做多标签分类
69.553
BERT+RCNN+ATT
在BERT后增加RCNN层,并把最大池化换成Attention
70.143
BERT+RCNN+ATT
增加阈值移动
70.809
BERT+RCNN+ATT
增加focal loss
71.1