Hackers hijack exposed AI models to launch cyberattacks at victims’ expense - Help Net Security

Una nueva herramienta de ataque basada en inteligencia artificial busca modelos de IA que cualquier persona en internet pueda alcanzar. El objetivo es usar estos modelos para planear intrusiones, mientras el dueño del modelo paga por la potencia de cómputo utilizada.

Los investigadores de Symantec capturaron el conjunto de instrucciones de este agente mediante un 'honeypot' (un sistema señuelo diseñado para atraer atacantes) que simulaba ser un servicio de IA desprotegido. Los operadores enviaron sus instrucciones completas al señuelo, esperando que un modelo real ejecutara las órdenes.

Lo que diferencia a esta herramienta es que el modelo robado no solo responde preguntas, sino que planifica y dirige el ataque. Una vez conectado a un modelo desprotegido, el agente puede escanear nuevos objetivos, explotar marcos de trabajo web comunes, robar bases de datos y credenciales, e instalar silenciosamente mineros de criptomonedas sin pedir aprobación humana.

Esta actividad se conoce como 'LLMjacking', donde los atacantes roban el acceso al modelo de IA de otra persona. Los objetivos incluyen servidores de modelos alojados por la propia empresa que quedaron abiertos por defecto, pasarelas de IA (gateways) que conectan con cuentas pagas, sistemas de prueba internos o servidores MCP que conectan un modelo con otras herramientas.

Al usar el acceso de un tercero o una clave de API (la llave digital que permite usar un servicio) robada, los atacantes trasladan el costo del procesamiento a la víctima, mantienen su anonimato y evitan que los proveedores bloqueen sus cuentas por mal uso.

Los atacantes utilizan técnicas de 'jailbreak' (saltarse las reglas de seguridad de la IA) para que el modelo coopere. Le ordenan tratar la lectura de archivos de configuración, claves de API y esquemas de bases de datos como un trabajo de desarrollo normal, evitando que el modelo se niegue o dé advertencias éticas.

Qué significa para una pyme colombiana y cucuteña: Si su empresa está empezando a usar herramientas de inteligencia artificial o tiene servidores propios para probar modelos, asegúrese de que no tengan acceso abierto a internet sin autenticación. Revise que sus claves de API (como las de OpenAI) estén guardadas de forma segura y no en archivos de texto visibles. Un error de configuración podría hacer que usted termine pagando la factura de la electricidad y el procesamiento de cómputo de un hacker que está usando su propia IA para atacar a otros.