在四重复体上对DNA大型语言模型进行基准测试
Oleksandr Cherednichenko1, Alan Herbert1,2, Maria Poptsova1
1International Laboratory of Bioinformatics, HSE University, Moscow, Russia.
Computational and structural biotechnology journal
|March 31, 2025
概括
这项研究对全基因组G-四重复 (GQ) 标注的大型语言模型 (LLM) 进行了基准测试,发现不同的LLM架构在检测不同的功能基因组元素方面表现出色.
科学领域:
- 基因组学就是基因组学.
- 生物信息学是一种生物信息学.
- 计算生物学 计算生物学
背景情况:
- 大型语言模型 (LLM) 在预测基因组元素方面表现有前途.
- 为特定任务 (如全基因组注释) 选择最佳的LLM仍然具有挑战性.
- 基因组学中的LLM广泛分为基于变压器的,基于长卷积的和状态空间模型 (SSM).
研究的目的:
- 为了对不同的大型语言模型 (LLM) 架构进行基因组G-四重复合体 (GQ) 的全基因组注释进行基准测试.
- 评估基于变压器,基于长卷积和状态空间模型在识别GQ结构中的性能.
- 确定哪些LLM架构最适合特定的下游基因组任务.
主要方法:
- 针对全基因组G-四重复 (GQ) 映射进行三种LLM架构 (基于变压器,基于长卷积的SSM) 的基准测试.
- 使用F1和马修斯相关系数 (MCC) 的指标评估模型性能.
- 分析全基因组注释,以确定每个模型类型所恢复的不同功能元素.
主要成果:
- 所有评估的LLM的表现都相当,DNABERT-2和HyenaDNA的F1和MCC得分都比较高.
- 在远端增强器和内在区域中,HyenaDNA表现出四重复的增强恢复.
- 不同的LLM架构,特别是HyenaDNA和Caduceus与基于变压器的模型相比,在de novo quadruplex生成中显示出不同的模式.
结论:
- 具有不同上下文长度的LLM架构可以检测不同的功能监管元素.
- 在特定的基因组任务中,选择LLM架构至关重要,因为不同的模型具有互补的优势.
- 这项研究强调了为准确和全面的全基因组注释选择适当的LLM的重要性.
关键词:
卡杜塞乌斯 (Caduseus) 是一个非常有趣的人.DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABERT DNABER在Flipons上使用.基金会模型 基金会模型在G-四重复合体中.这是一个HyenaDNADNA.大型语言模型.这就是MAMBA-DNA.非B型DNA的DNA相关概念视频
Maxam-Gilbert Sequencing
10.6K
In the same year as the discovery of the Sanger sequencing method, another group of scientists, Allan Maxam and Walter Gilbert, demonstrated their chemical-cleavage method for DNA sequencing. The Maxam-Gilbert method relies on using different chemicals that can cleave the DNA sequence at specific sites, the separation of resulting DNA fragments of variable size using electrophoresis, and deciphering the DNA sequence from the resulting gel bands.
Challenges of the Maxam-Gilbert Method
The...
Challenges of the Maxam-Gilbert Method
The...
10.6K
Ribosome Profiling
3.4K
Ribosome profiling or ribo-sequencing is a deep sequencing technique that produces a snapshot of active translation in a cell. It selectively sequences the mRNAs protected by ribosomes to get an insight into a cell’s translation landscape at any given point in time.
Applications of ribosome profiling
Ribosome profiling has many applications, including in vivo monitoring of translation inside a particular organ or tissue type and quantifying new protein synthesis levels.
The technique...
Applications of ribosome profiling
Ribosome profiling has many applications, including in vivo monitoring of translation inside a particular organ or tissue type and quantifying new protein synthesis levels.
The technique...
3.4K


