在对新类进行训练时,少样本学习(FSL)方法通常假设具有准确标记样本的干净支持集。这种假设通常是不现实的: 支持集,无论多小,仍然可能包括错误标记的样本。因此,对标签噪声的鲁棒性对于FSL方法的实用性是至关重要的,但令人惊讶的是,这个问题在很大程度上仍然没有被探索。为了解决FSL设置中标签错误的样品,我们做了一些技术贡献。(1)我们提供简单而有效的特征聚合方法,改进了ProtoNet(一种流行的FSL技术)所使用的原型。(2)我们描述了一种新的Transformer 模型用于有噪声的少样本学习(TraNFS)。TraNFS利用Transformer的注意力机制来权衡标签错误和正确的样本。(3)最后,我们在噪声版本的MiniImageNet和TieredImageNet上对这些方法进行了广泛的测试。我们的结果表明,在干净的支持集上,TraNFS与领先的FSL方法相当,但到目前为止,在存在标签噪声的情况下,TraNFS的性能优于FSL方法。
1