素描变压器
建模绘图,快速! 使用变压器的数据集。
火车模型
$ python train.py --on-memory-dataset
预训练模型
一个预先训练的模型( test llh: 3.002 assets/model_1000000.pt )在assets/model_1000000.pt
$ python train.py --num-transformer-layers=8 --dropout-rate=0.1 --batch-size=128 --learning-rate=1e-3 --on-memory-dataset --log-freq=10000
产生样品
$
1