¿Cómo detectar textos científicos generados con inteligencia artificial?

Área de la Ciencia:

• Comunicación científica; Inteligencia artificial; Integridad académica

Sus antecedentes:

• Los modelos de lenguaje grandes (LLM) se utilizan cada vez más en la escritura científica, ofreciendo beneficios como asistencia en la redacción y promoción de la equidad lingüística.
• Sin embargo, su uso introduce importantes desafíos éticos y epistemológicos, como la falta de transparencia y la posible manipulación de la información.
• Estos problemas amenazan los principios fundamentales de la integridad académica.

Objetivo del estudio:

• Analizar el doble impacto de los LLM en la escritura científica, destacando tanto los avances como los riesgos.
• Evaluar la eficacia de las herramientas actuales de detección de IA para identificar contenido generado por IA.
• Enfatizar el papel indispensable de la evaluación crítica humana para preservar la integridad científica.

Principales métodos:

• Revisión de literatura sobre aplicaciones de LLM en escritura científica.
• Análisis de las capacidades y limitaciones del software de detección de IA (por ejemplo, Originality.ai, ZeroGPT, Turnitin).
• Evaluación cualitativa de las características del texto generado por IA (por ejemplo, coherencia formal, predecibilidad, uniformidad estilística).

Principales resultados:

• Los LLM mejoran la redacción y revisión de textos, fomentando la equidad lingüística.
• Los detectores de IA muestran una eficacia variable y luchan contra los sofisticados "humanizadores de texto".
• Los textos generados por IA a menudo muestran coherencia formal pero carecen de originalidad y diversidad estilística.

Conclusiones:

• La detección de contenido generado por IA requiere más que herramientas automatizadas; requiere evaluación ética y crítica humana.
• La verdadera integridad científica se basa en el juicio intelectual humano, no solo en la automatización tecnológica.
• Un enfoque equilibrado que integre herramientas de IA con supervisión humana es esencial para una comunicación científica responsable.