KMT-PLL:K-Means交叉注意力变压器用于部分标签学习

科学领域:

• 计算机科学 计算机科学
• 机器学习 机器学习
• 人工智能的人工智能

背景情况:

• 部分标签学习 (PLL) 解决了使用多个候选标签的实例分类,其中只有一个是正确的.
• 视觉转换器 (ViT) 在清洁数据方面表现有希望,但在PLL应用中面临挑战.
• 现有的方法在部分标签数据集中与固有的噪音和模糊性作斗争.

研究的目的:

• 开发一种新的方法来提高视觉转换器在部分标签学习中的性能.
• 为了有效地处理杂的标签,并在部分标签设置中明确实例.
• 引入代表标签类的集群中心的持续学习方法.

主要方法:

• 拟议的K-means交叉注意力转换器用于PLL (KMT-PLL) 学习集群中心.
• 使用K-手段交叉注意力,以有效地表示标签类和噪声检测.
• 引入了基于实例对标签相关性的修正过的交叉公式权重候选标签.

主要成果:

• KMT-PLL有效地学习集群中心,使实例和标签之间具有可测量的相似性.
• 该方法在培训期间成功检测和减轻噪音标签的影响.
• 模拟结果验证了KMT-PLL对PLL任务的显著优势和适用性.

结论:

• 通过完善实例到标签相关性,KMT-PLL为部分标签学习提供了一个强大的解决方案.
• 拟议的方法通过逐步识别的基础真理标签和精细的集群中心来增强分类员培训.
• 在具有挑战性的部分标签学习场景中,KMT-PLL表现出卓越的性能和适应性.