Transformers for Natural Language Processing.pdf

图书简介 该书将带您学习使用Python的NLP，并研究了由Google，Facebook，Microsoft，OpenAI和Hugging Face等先驱者创建的变压器体系结构中的各种杰出模型和数据集。 这本书分三个阶段训练您。在向RoBERTa，BERT和DistilBERT模型过渡之前，第一阶段向您介绍从原始变压器开始的变压器体系结构。您会发现一些小型变压器的培训方法在某些情况下可以胜过GPT-3。在第二阶段，您将应用自然语言理解（NLU）和自然语言生成（NLG）的转换器。最后，第三阶段将帮助您掌握高级语言理解技术，例如优化社交网络数据集和假新闻识别。 在这本NLP书籍的最后，您将从认知科学的角度理解变压器，并精通将技术巨头预先训练好的变压器模型应用于各种数据集。 您将学到什么 使用最新的预训练变压器模型 掌握原始Transformer，GPT-2，BERT，T5和其他变压器模型的工作原理 使用优于经典深度学习模型的概念创建理解语言的Python程序 使用各种NLP平台，包括Hugging Face，Trax和AllenNLP 将Python，TensorFlow和Keras程序应用于情感分析，文本摘要，语音识别，机器翻译等 测量关键变压器的生产率，以定义其范围，潜力和生产限制