本文是BERT实战的第二篇,使用BERT进行命名实体识别(序列标注类任务)。
1. 准备
1.1 环境
python 3.7;
pytorch 1.3;
transformers 2.3 (安装教程);
1.2 数据
数据链接(链接:https://pan.baidu.com/s/1spwmV3_07U0HA9mlde2wMg
提取码:reic);
2. 实战
2.1 训练代码
lr = 5e-5
max_length = 256
batch_size = 8
epoches = 20
cuda = True
# cuda = False
max_grad_norm = 1
warmup_s
1