pytorch中的训练模型示例
PyTorch中的深度学习算法的一些实现。
排名-学习排名
排名网
前馈NN,最小化文档对交叉熵损失函数
训练模型
python ranking/RankNet.py --lr 0.001 --debug --standardize
--debug打印参数规范和参数grad规范。 这可以评估是否存在梯度消失和梯度爆炸问题- --standardize可确保将输入缩放为平均值为0且标准差为1.0
NN结构:136-> 64-> 16-> 1,ReLU6作为激活函数
优化器
r
时代
损失(火车)
损失(评估)
ndcg @ 10
ndcg @ 30
秒/纪元
因式分解
对/秒
亚当
0.001
25
0.63002
0.635508
0.41785
0.49337
312
损失函数
203739
亚当
0.001
50
0.6
1