对变压器架构的奇拉性识别困难从字符串表示中学习化学结构
Yasuhiro Yoshikai1, Tadahaya Mizuno2, Shumpei Nemoto1
1Laboratory of Molecular Pharmacokinetics, Graduate School of Pharmaceutical Sciences, The University of Tokyo, 7-3-1 Hongo, Bunkyo, Tokyo, Japan.
自然语言处理 (NLP) 模型从SMILES字符串中学习分子结构. 这项研究表明,变形金刚很快就会学习部分结构,但需要广泛的训练才能完全理解,特别是对于奇拉性.
科学领域:
- 计算化学是一种计算化学.
- 机器学习在化学中的应用
背景情况:
- 对分子描述符的表示学习正在迅速发展.
- 应用于SMILES字符串的自然语言处理 (NLP) 模型是一个关键领域.
- 这些NLP模型在理解化学结构方面的可解释性仍未得到充分探索.
研究的目的:
- 研究NLP模型,特别是变压器如何从SMILES中学习化学结构.
- 了解模型学习进度与化学结构理解之间的关系.
- 识别NLP模型学习中的挑战,特别是关于立体化学的挑战.
主要方法:
- 使用了一个变压器模型,一个代表性的NLP架构.
- 在SMILES字符串上训练模型,这些字符串代表各种分子.
- 分析了关于部分和整体分子结构的学习进展.
- 在不同训练阶段评估分子性质预测准确度.
- 研究了模型学习性和处理反体的能力.
主要成果:
- 变压器模型快速学习部分分子结构,但需要长时间的训练才能全面理解.
- 在整个培训过程中,无论学习阶段如何,分子性质预测的准确性始终保持一致.
- 该模型在学习性方面表现出重大挑战,经常误解酶体,导致性能停滞.
结论:
- 像变压器这样的NLP模型对分子结构的不同方面表现出不同的学习轨迹.
- 扩展培训对于NLP模型来说至关重要,以掌握复杂的化学特征,如性.
- 这些发现有助于更深入地理解NLP在化学信息学中的应用机制.
更多相关视频
06:35Construction and Systematical Symmetric Studies of a Series of Supramolecular Clusters with Binary or Ternary Ammonium Triphenylacetates
Published on: February 15, 2016
10:28Probing the Structure and Dynamics of Interfacial Water with Scanning Tunneling Microscopy and Spectroscopy
Published on: May 27, 2018
相关概念视频
Prochirality
Chirality
Chiral objects exhibit a sense of handedness when they interact with another chiral object. For example, our left foot can only fit in the left shoe and not in the right shoe. Achiral objects — objects that have...
Chirality at Nitrogen, Phosphorus, and Sulfur
A consequence of chirality is the need for enantiomeric resolution. While this is theoretically possible for all...
Naming Enantiomers
Stereoisomerism of Cyclic Compounds
Molecules with Multiple Chiral Centers
