导航人工智能的海洋:海上应用的边缘设备上的小语言模型的有效性
Nicolò Guainazzo1, Giorgio Delzanno1, Davide Ancona1
1Department of Informatics, Bioengineering, Robotics and Systems Engineering (DIBRIS), Università degli Studi di Genova, Via Dodecaneso 35, 16146 Genoa, Italy.
Sensors (Basel, Switzerland)
|March 14, 2026
概括
这项研究研究了在海上导航的边缘设备上使用小语言模型 (SLM) 的研究. 检索增强生成 (RAG) 通过外部数据增强SLM性能,确保在互联网不可用的情况下提供高质量的响应.
科学领域:
- 人工智能的人工智能
- 海事技术 在海事技术.
- 边缘计算 边缘计算
背景情况:
- 小语言模型 (SLM) 的资源需求低于大语言模型 (LLM),因此它们适合边缘设备.
- 海上航行需要访问特定数据,例如航行方向 (Enroutd) 和世界港口指数 (WPI),这些数据并不总是在海上图上提供.
- 在低连接环境中,以电池供电的边缘设备为部署AI模型带来了独特的挑战.
研究的目的:
- 评估在海上导航的电池驱动边缘设备上部署SLM的可行性.
- 评估获取增强生成 (RAG) 在提高海事数据的SLM响应质量的有效性.
- 在响应质量,RAG集成和推断速度方面比较各种最先进的SLM的性能.
主要方法:
- 在边缘设备上实施SLM,用于海上导航的用例.
- 整合检索增强生成 (RAG) 以增加SLM知识与外部海事数据集 (航行方向/WPI).
- 对不同SLM进行比较分析,重点关注响应准确性,RAG有效性和处理时间.
主要成果:
- 对于海上环境中的边缘设备来说,SLM是可行的,特别是当响应即时性不至关重要时.
- 通过整合外部海事信息,RAG显著提高了SLM响应的质量和相关性.
- 对比分析强调了SLM之间在RAG的准确性和效率方面的绩效差异.
结论:
- 与RAG相结合的SLMs为增强边缘设备上的海上导航信息访问提供了可行的解决方案.
- 该RAG方法有效地克服了SLM在海上航行等专业领域的知识限制.
- 未来的工作可以专注于为实时海事应用优化SLM和RAG性能.
