I Used AI to Fake a Scientific Paper. Here’s What Happened

Benjamin Skuse, sin experiencia especializada en IA, utilizó versiones gratuitas de ChatGPT y Gemini para crear paso a paso un artículo ficticio sobre solitones ópticos, incluyendo texto, figuras y referencias, y lo envió a la revista IEEE Access, donde los sistemas de integridad detectaron referencias fabricadas y el manuscrito fue rechazado.

En una segunda fase, empleó FARS, un sistema autónomo de investigación desarrollado por la startup singapurense Analemma, que generó una propuesta, ejecutó experimentos simulados y redactó un artículo en pocas horas; aunque las referencias fueron reales, el exceso de pre‑prints y errores visuales en las figuras hicieron que IEEE Access también lo rechazara.

El experimento muestra que, aunque los revisores humanos siguen siendo la última línea de defensa, la IA está capaz de producir documentos que parecen legítimos y que pueden colarse en la literatura científica, lo que plantea un riesgo de desinformación y de erosionar la confianza en la investigación.

Qué significa para una pyme colombiana y cucuteña: Revise siempre la procedencia y la integridad de los estudios técnicos antes de basar decisiones de compra o de inversión en ellos; solicite a sus proveedores evidencia de revisión por pares y, si es posible, use herramientas de detección de referencias falsas dentro de los 30 días posteriores a la recepción del documento.