electra_pytorch:使用fastai和gearingface进行预训练和微调ELECTRA。 (论文结果重复!)

上传者: 42138525 | 上传时间: 2022-10-18 21:47:16 | 文件大小: 52KB | 文件类型: ZIP
非官方的PyTorch实现 Kevin Clark的。 Minh-Thang Luong。 Quoc V. Le。 克里斯托弗·曼宁 复制结果 我从头开始对ELECTRA-small进行了预培训,并已在GLUE上成功复制了论文的结果。 模型 可乐 SST MRPC STS QQP MNLI 秦皇岛 RTE 平均的平均值 电子小OWT 56.8 88.3 87.4 86.8 88.3 78.9 87.9 68.5 80.36 ELECTRA-Small-OWT(我) 58.72 88.03 86.04 86.16 88.63 80.4 87.45

文件下载

资源详情

[{"title":"( 13 个子文件 52KB ) electra_pytorch:使用fastai和gearingface进行预训练和微调ELECTRA。 (论文结果重复!)","children":[{"title":"electra_pytorch-master","children":[{"title":"Pretrain.ipynb <span style='color:#111;'> 22.81KB </span>","children":null,"spread":false},{"title":"finetune.py <span style='color:#111;'> 21.40KB </span>","children":null,"spread":false},{"title":"Finetune_GLUE.ipynb <span style='color:#111;'> 45.61KB </span>","children":null,"spread":false},{"title":"requirements.txt <span style='color:#111;'> 113B </span>","children":null,"spread":false},{"title":"_utils","children":[{"title":"would_like_to_pr.py <span style='color:#111;'> 6.46KB </span>","children":null,"spread":false},{"title":"utils.py <span style='color:#111;'> 10.03KB </span>","children":null,"spread":false},{"title":"wsc_trick.py <span style='color:#111;'> 9.62KB </span>","children":null,"spread":false},{"title":"multi_task.py <span style='color:#111;'> 17.76KB </span>","children":null,"spread":false},{"title":"wsc.py <span style='color:#111;'> 1.56KB </span>","children":null,"spread":false},{"title":"wsc_ijiri.py <span style='color:#111;'> 5.79KB </span>","children":null,"spread":false}],"spread":true},{"title":".gitignore <span style='color:#111;'> 111B </span>","children":null,"spread":false},{"title":"README.md <span style='color:#111;'> 9.16KB </span>","children":null,"spread":false},{"title":"pretrain.py <span style='color:#111;'> 17.67KB </span>","children":null,"spread":false}],"spread":true}],"spread":true}]

评论信息

免责申明

【只为小站】的资源来自网友分享,仅供学习研究,请务必在下载后24小时内给予删除,不得用于其他任何用途,否则后果自负。基于互联网的特殊性,【只为小站】 无法对用户传输的作品、信息、内容的权属或合法性、合规性、真实性、科学性、完整权、有效性等进行实质审查;无论 【只为小站】 经营者是否已进行审查,用户均应自行承担因其传输的作品、信息、内容而可能或已经产生的侵权或权属纠纷等法律责任。
本站所有资源不代表本站的观点或立场,基于网友分享,根据中国法律《信息网络传播权保护条例》第二十二条之规定,若资源存在侵权或相关问题请联系本站客服人员,zhiweidada#qq.com,请把#换成@,本站将给予最大的支持与配合,做到及时反馈和处理。关于更多版权及免责申明参见 版权及免责申明