遺伝子解析のためのOpenAIモデルに代わる小さなオープンソースのテキスト埋め込みモデル
Dailin Gan1, Jun Li1
1Department of Applied and Computational Mathematics and Statistics, University of Notre Dame, Notre Dame, IN, USA.
Computational and structural biotechnology journal
|August 20, 2025
まとめ
オープンソースのテキスト埋め込みモデルは,遺伝子発現分析のためのOpenAIの費用対効果的でプライバシーを守る代替案を提供します. これらのモデルは,広範な微調整なしにGenePTの性能に匹敵し,またはそれを上回ります.
科学分野:
- バイオ情報学
- コンピュータ生物学
- ゲノミクス
背景:
- 遺伝子発現分析のための基礎トランスフォーマーモデルは計算的に高価です.
- GenePTは OpenAI のテキスト埋め込み機能を遺伝子情報エンコーディングに使用しています.
- OpenAIのサービスは,クローズドソースでオンライン化されているため,データプライバシーとアクセシビリティに関する懸念を提起しています.
研究 の 目的:
- OpenAIのテキスト埋め込みモデルをオープンソースの代替案に置き換える可能性を調査する.
- 遺伝子発現データ分析のための軽量でオープンソースのトランスフォーマーモデルの性能を評価する.
- これらのオープンソースモデルの最適な性能のために微調整が必要かどうかを判断します.
主な方法:
- Hugging Faceの10個の小さな 計算上軽いトランスフォーマーベースの テキスト埋め込みモデルを特定しました
- 4つの異なる遺伝子分類タスクのモデルパフォーマンスを評価した.
- OpenAIのテキスト埋め込み機能とオープンソースモデルのパフォーマンスを比較しました.
主要な成果:
- いくつかの特定されたオープンソースモデルは,遺伝子分類のタスクでOpenAIのテキスト埋め込み機能に匹敵または優れている.
- 選択されたオープンソースモデルは小さく,インストールが簡単で,計算リソースも少ない.
- オープンソースモデルの微調整は一貫して 性能の有意な改善をもたらしませんでした
結論:
- オープンソースのテキスト埋め込みモデルは,遺伝子発現分析のためのOpenAIのような独自のソリューションに対して,実行可能で潜在的に優れた代替案を提供します.
- これらのモデルはデータのプライバシー,コスト効率,アクセシビリティを向上させます.
- この研究は,遺伝子分類の作業に際して,事前に訓練されたオープンソースモデルを有効に利用できることを示唆しています.
さらに関連する動画
09:35A Protocol for Using Gene Set Enrichment Analysis to Identify the Appropriate Animal Model for Translational Research
Published on: August 16, 2017
17.9K
05:47Evidence-based Knowledge Synthesis and Hypothesis Validation: Navigating Biomedical Knowledge Bases via Explainable AI and Agentic Systems
Published on: June 13, 2025
565
関連する概念動画
Gene Families
2.8K
2.8K
Genome Annotation and Assembly
19.3K
The genome refers to all of the genetic material in an organism. It can range from a few million base pairs in microbial cells to several billion base pairs in many eukaryotic organisms. Genome assembly refers to the process of taking the DNA sequencing data and putting it all back together in a correct order to create a close representation of the original genome. This is followed by the identification of functional elements on the newly assembled genome, a process called genome annotation.
19.3K
Gene Evolution - Fast or Slow?
7.4K
The genomes of eukaryotes are punctuated by long stretches of sequence which do not code for proteins or RNAs. Although some of these regions do contain crucial regulatory sequences, the vast majority of this DNA serves no known function. Typically, these regions of the genome are the ones in which the fastest change, in evolutionary terms, is observed, because there is typically little to no selection pressure acting on these regions to preserve their sequences.
In contrast, regions which code...
In contrast, regions which code...
7.4K
Gene Therapy
25.8K
Gene therapy is a technique where a gene is inserted into a person’s cells to prevent or treat a serious disease. The added gene may be a healthy version of the gene that is mutated in the patient, or it could be a different gene that inactivates or compensates for the patient’s disease-causing gene. For example, in patients with severe combined immunodeficiency (SCID) due to a mutation in the gene for the enzyme adenosine deaminase, a functioning version of the gene can be...
25.8K
Genome Size and the Evolution of New Genes
2.6K
2.6K
Improving Translational Accuracy
11.8K
Base complementarity between the three base pairs of mRNA codon and the tRNA anticodon is not a failsafe mechanism. Inaccuracies can range from a single mismatch to no correct base pairing at all. The free energy difference between the correct and nearly correct base pairs can be as small as 3 kcal/ mol. With complementarity being the only proofreading step, the estimated error frequency would be one wrong amino acid in every 100 amino acids incorporated. However, error frequencies observed in...
11.8K
