基于 pytorch-transformers 实现的 BERT 中文文本分类代码 数据： 从 THUCNews 中随机抽取20万条新闻标题，一共有10个类别：财经、房产、股票、教育、科技、社会、时政、体育、游戏、娱乐，每类2万条标题数据。数据集按如下划分： 训练集：18万条新闻标题，每个类别的标题数为18000 验证集：1万条新闻标题，每个类别的标题数为1000 测试集：1万条新闻标题，每个类别的标题数为1000

本课件是对论文 BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding 的导读与NLP领域经典预训练模型 Bert 的详解，通过介绍NLP领域对通用语言模型的需求，引入 Bert 模型，并对其架构进行宏观微观的解读，然后详细介绍 Bert 每预训练阶段采用的两个任务，以及常见的微调下游任务场景。最后通过可视化的方式，给出 Bert 在向量表征上的优势所在。

chatbot_simbert 检索类型的微信聊天机器人/问答系统，通过API异步通信，实现在微信上交互，可以查询天气、重复问句识别等情况；本项目包括模型和工程化部署一体化。用到SimBert等模型。 描述 各位可以根据自己的需求部署或修改： 问答库如果是任务型的，就是一个任务型聊天机器人，如果闲聊的问答库，那就是闲聊型聊天机器人； 后续也可以添加意图，用来用意图识别的匹配；也可以添加个知识图谱的API... 总之可以添加的模块很多，扩展性非常强大。 品尝方式（使用说明） 准备： 环境准备：安装requirement中的依赖包 下载模型，并放置在code/1.retrieve_match/3.simbert_match/config路径下： simbert模型： 启动： 1、 启动code/2.API_serve/KG_service.py 2、 启动code/3.wx_project/c

BERT+BiLSTM+CRF是一种用于命名实体识别（Named Entity Recognition, NER）的深度学习模型。其中，BERT（Bidirectional Encoder Representations from Transformers）是一种预训练的语言模型，用于捕捉上下文信息；BiLSTM（双向长短时记忆网络）用于处理序列数据；CRF（条件随机场）用于解决标签偏置问题，提高模型的预测准确性。 在训练过程中，需要将输入数据转换为适当的格式，并使用适当的损失函数和优化器进行训练。在推理阶段，可以使用训练好的模型对新的文本进行命名实体识别。

人工智能深度学习，语音克隆项目 Bert-vits2项目，目前效果最完美的开源TTS项目 版本号：2.3 文件包括，模型本体G_6000.pth 配置文件config.json 天童爱丽丝语音模型，语言：日语，训练步数：6000 语气韵律完美，抑扬顿挫，语笑嫣然，自然流畅，适合作为小说阅读、口播、口替等功能领域。 请勿用于非法用途，也不得用作商业领域。

twitter_sentiment_bert_scikit Twitter美国航空数据集情感分析（情感分析），使用Bert句子编码作为特征，实现了SVM，XGBoost，RandomForest（随机森林）等多个分类算法，从而进行了交叉验证。 数据来自 预安装 我们在Python 3环境中运行该项目，建议您使用Anaconda 3通过以下脚本安装所需的软件包。 当然，您可以使用pip进行安装。 conda create -n tweet_sentiment -c anaconda python=3.7 numpy scikit-learn xgboost pandas tensorflo

SoftMaskedBert Soft-Masked Bert 复现论文:

基于bert的韵律预训练模型，用于中文语音生成，生成自然韵律的声音，听起来效果更加自然流畅

详细介绍文章地址： https://blog.csdn.net/c851666395/article/details/127703876