生成式分布式嵌入:将自动编码器提升到分布空间,用于多尺度表示学习

科学领域:

• 机器学习 机器学习
• 计算生物学 计算生物学
• 生成型模型 生成型模型

背景情况:

• 许多科学挑战需要分析整个数据分布,而不是孤立的数据点.
• 现有的模型经常在复杂的数据集中与多个规模的推理作斗争.
• 需要先进的框架,能够从分布中学习和表示分布.

研究的目的:

• 引入生成分布嵌入 (GDE),这是一个新的框架,可以将自动编码器扩展到数据分布的空间.
• 能够学习使用条件生成模型和分布不变性的强大的分布式表示.
• 证明GDE在捕获基本统计属性的有效性,并使有意义的潜伏空间操作成为可能.

主要方法:

• 开发了一个框架 (GDE),其中编码器处理样本集,解码器被与输入分布相匹配的生成器取代.
• 嵌入有条件生成模型与满足分布不变性的编码器网络.
• 利用瓦斯斯坦空间嵌入来学习足够的预测统计数据.

主要成果:

• GDEs学习隐性表示法,其中距离近似瓦斯斯坦 ($W_2$) 距离和插曲恢复高斯分布的最佳运输轨迹.
• 综合数据集的系统基准测试显示,与现有方法相比,其性能优越.
• 成功地将GDE应用于六个不同的计算生物学问题,包括单细胞基因组学,转录组学和蛋白质序列分析.

结论:

• GDE提供了一种强大的学习和表示概率分布的方法,其性能优于现有的方法.
• 该框架通过分析大规模,复杂的生物数据,显示了推进计算生物学的巨大潜力.
• 对于需要分布式推理的各种科学领域,GDE提供了一个多功能工具.