Getting-Started-with-Google-BERT:使用BERT构建和训练最先进的自然语言处理模型-源码

使用BERT构建和训练最先进的自然语言处理模型 关于这本书 BERT（来自变压器的双向编码器表示）以令人鼓舞的结果彻底改变了自然语言处理（NLP）的世界。 本书是入门指南，可帮助您掌握Google的BERT架构。 通过对变压器架构的详细说明，这本书将帮助您了解变压器的编码器和解码器如何工作。 通过学习如何对BERT模型进行预训练以及如何对下游任务使用经过预训练的BERT，以及通过使用Hugging Face转换器库对NLP任务（例如，情感分析和文本摘要）进行微调，您将探索BERT架构。 随着您的前进，您将了解BERT的不同变体，例如ALBERT，RoBERTa和ELECTRA，并查看SpanBERT，它用于NLP任务（如问题解答）。 您还将介绍基于知识提炼的更简单，更快的BERT变体，例如DistilBERT和TinyBERT。 本书详细介绍了MBERT，XLM和XLM-R，然后向您