材料 双源知识检索 - 在光催化剂中用于本地大语言模型的增强生成

科学领域:

• 材料科学 材料科学 材料科学
• 人工智能的人工智能
• 科学研究 科学研究

背景情况:

• 大型语言模型 (LLM) 显示出作为研究助理的希望,但在特定领域的知识整合方面存在困难.
• 适应LLM用于材料开发等专业领域,需要结合实际实验数据和理论见解.
• 确保数据保密需要线下操作,这对传统的LLM适应方法构成挑战.

研究的目的:

• 开发一个检索增强生成 (RAG) 框架,MDSK-RAG,用于专门的材料开发LLM.
• 为了实现域专业化的完全线下LLM操作,确保数据保密.
• 统一和利用实验 (CSV) 和文献 (PDF) 数据来源,以提高LLM的绩效.

主要方法:

• 开发了材料双源知识检索增强生成 (MDSK-RAG) 框架.
• 将表格实验数据转换为文本,并从实验和PDF文献来源中检索相关段落.
• 使用本地LLM总结检索到的信息,并在生成之前将其与用户查询合并.

主要成果:

• 在材料科学查询中,MDSK-RAG框架显著提高了本地LLM (例如,gemma-2-9b-it) 的准确性,增加了等号相似性和专家评级.
• 在多个本地LLM模型中,性能增长在统计学上显著,证明了框架的有效性和可扩展性.
• 使用MDSK-RAG的本地LLM在金属硫化物光催化剂的案例研究中表现优于基于云的LLM (GPT-4o).

结论:

• MDSK-RAG框架提供了一个实用且可扩展的解决方案,用于将本地LLMs适应特定领域的科学研究,特别是在材料开发方面.
• 该框架成功地整合了线下实验和理论知识,提高了LLM的准确性,同时保持了数据保密性.
• 未来的工作应该解决复杂推理任务中的挑战,其中不完整的上下文检索可能会影响模型性能.