在ESM2中用于蛋白质定位预测的可解释特征提取和维度减小

科学领域:

• 计算生物学 计算生物学
• 生物信息学是一种生物信息学.
• 机器学习在生物学中的应用

背景情况:

• 大型语言模型 (LLM) 越来越多地应用于生物预测,特别是氨基酸序列特征表示.
• 以前的研究集中在LLM架构和微调上,对提取的特征性质的关注较少.
• 亚细胞局部化预测是一个关键的下游任务,LLM功能显示承诺.

研究的目的:

• 研究生物序列分析的ESM2模型中的多种特征提取策略.
• 了解提取的特征与特定的亚细胞定位之间的关系.
• 评估特征输入对预测性能和可解释性的影响.

主要方法:

• 提出并评估不同的ESM2表示提取策略,考虑序列字符类型和位置.
• 采用了缩小维度,预测分析和可解释性技术来分析特征关联.
• 使用随机森林和深度神经网络与各种特征输入评估预测性能和可解释性稳定性.

主要成果:

• 确定了特定特征类型和亚细胞局部之间的关联,例如对线粒体和戈尔吉器官的N端偏好.
• 证明了基于酸化部位的特征可以反映酸化特性.
• 展示了基于不同特征输入的各种预测性能和可解释性.

结论:

• 对最大限度地利用LLM来获取生物领域知识的新见解.
• 增强对基于LLM的生物学预测背后的机制的理解.
• 提供了可访问的代码和API,用于特征提取和进一步研究.