乌:在NIH拨款数据上的一个时刻意识的神经主题模型

科学领域:

• 计算语言学计算语言学
• 图书统计学 图书统计学
• 医疗服务研究 医疗服务研究

背景情况:

• 联邦拨款透明度倡议需要先进的方法来从大量文本中提取知识.
• 传统的调查方法不足以分析多方面的和不断变化的赠款主题.
• 资助文本的计算建模由于其复杂性和动态性质而带来了挑战.

研究的目的:

• 介绍Turtling,一个时刻意识的神经主题模型,旨在分析联邦赠款文本.
• 提高提取的研究主题的质量,并使资助机构的预测成为可能.
• 提供对研究主题随时间的演变的见解.

主要方法:

• 使用预训练的生物医学词嵌入来提取研究主题.
• 采用概率时间序列模型,以实现流和连贯的主题演变.
• 纳入主题多样性损失和资金机构分类损失,以提高主题质量和预测.

主要成果:

• 当应用于NIH赠款文本时,海在主题质量指标上显著优于现有的方法.
• 该模型成功地检测了几十年来研究主题的趋势,为科学进化提供了洞察力.
• 在提高主题质量和促进资金机构预测方面表现出有效性.

结论:

• 图尔特林是分析联邦拨款文本的宝贵工具,提供了卓越的主题建模功能.
• 该模型提供了研究趋势的动态视图,有助于理解科学进步.
• 图尔特林作为开源软件可用,促进了在授予文本分析中更广泛的采用.