ALBERT-蒙古语
这个 repo 提供了在蒙古语文本语料库上训练的预训练 ALBERT 模型(BERT 的“A Lite”版本)和 SentencePiece 模型(无监督文本分词器和去分词器)。
内容:
用法
您可以使用库在 PyTorch 和 TensorFlow2.0 中使用 。
import torch
from transformers import AlbertTokenizer , AlbertForMaskedLM
tokenizer = AlbertTokenizer . from_pretrained ( 'bayartsogt/albert-mongolian' )
model = AlbertForMaskedLM . from_pretrained ( 'bayartsogt/albert-mongolian' )
教程
[Colab]在 Colab
1