Getting-Started-with-Google-BERT:Packt发行的Google BERT入门-源码

Google BERT入门 这是Packt发布的《 的代码库。 使用BERT构建和训练最先进的自然语言处理模型 这本书是关于什么的？ BERT（来自变压器的双向编码器表示形式）以令人鼓舞的结果彻底改变了自然语言处理（NLP）的世界。 本书是入门指南，可帮助您掌握Google的BERT架构。 通过对变压器架构的详细说明，这本书将帮助您了解变压器的编码器和解码器如何工作。 您将通过学习如何对BERT模型进行预训练以及如何对下游任务使用经过预训练的BERT进行学习，来探索BERT体系结构，方法是通过使用Hugging Face转换器库对NLP任务（例如，情感分析和文本摘要）进行微调来对BERT模型进行调整。 随着您的前进，您将了解BERT的不同变体，例如ALBERT，RoBERTa和ELECTRA，并查看SpanBERT，它用于NLP任务（如问题解答）。 您还将介绍基于知识提炼的更简单，