Can Human Gatekeepers Keep Up With AI Generated Science?

El editor en jefe de IEEE Spectrum, Harry Goldstein, reflexiona sobre la pérdida de confianza causada por el 'AI slop' (contenido basura generado por IA). Este fenómeno ocurre cuando usuarios comparten información generada por máquinas que parece real pero es falsa, sembrando confusión.

Un experimento realizado por el escritor Benjamin Skuse demostró lo sencillo que es generar un artículo científico plausible con inteligencia artificial. Skuse logró que sus trabajos generados por IA pasaran por los procesos de defensa de IEEE, simplemente ejecutando comandos de 'correr experimento' y 'escribir artículo' sin intervención humana.

Actualmente, existe una carrera armamentista entre los editores y los usuarios de herramientas de IA. Mientras que las versiones gratuitas de los modelos de lenguaje cometen errores evidentes, los modelos más avanzados ya no cometen esos fallos básicos, lo que dificulta la detección por parte de los revisores humanos y los programas de integridad de investigación.

Este problema no solo afecta a las editoriales científicas, sino también a plataformas como Wikipedia. Grupos de voluntarios, como WikiProject AI Cleanup, trabajan para detectar y eliminar contenido generado por IA, pero enfrentan el reto de contar con menos recursos y herramientas que las grandes editoriales comerciales.