How a Fake Signal Could Fool Every Robot Safeguard

Un robot puede seguir sus reglas de seguridad y, aun así, actuar basándose en información manipulada. Por ejemplo, un robot móvil podría leer un pasillo como despejado cuando hay una persona presente, o un brazo robótico podría estimar erróneamente la distancia de un trabajador.

Investigaciones recientes muestran vulnerabilidades en modelos de visión-lenguaje-acción (VLA). En pruebas con un perro robot que usaba Gemma 4 E4B, el texto en un cartel fue interpretado como una instrucción, cambiando su movimiento. Asimismo, en simulaciones con Nemotron sobre NVIDIA Jetson AGX Orin, audio diseñado para ser inaudible para humanos logró cambiar el comportamiento del robot.

Los ataques no solo afectan la inteligencia, sino también los sensores físicos. Se ha demostrado que sonidos en la frecuencia de resonancia de un giroscopio pueden distorsionar la información de rotación, lo que podría causar que un controlador de equilibrio intente corregir una inclinación que nunca ocurrió.

La manipulación deliberada cambia la gestión del riesgo, ya que un atacante puede repetir un estímulo para lograr un resultado específico. Por ello, las normativas internacionales están evolucionando: China cuenta con la GB/T 45502-2025 para robots de servicio, la norma IEC TS 63074 para sistemas de control, y la Regulación de Maquinaria de la Unión Europea, que entrará en vigor el 20 de enero de 2027, exigiendo protección contra la corrupción de datos de seguridad.

Qué significa para una pyme colombiana y cucuteña: Si su empresa planea implementar robots colaborativos o automatización con IA para bodega o atención, no confíe solo en que el equipo tiene 'sensores de seguridad'. Asegúrese de que sus proveedores realicen pruebas de ciberseguridad física (como resistencia a ruidos o señales visuales falsas) para evitar que un error de datos cause un accidente físico en su operación.