Microsoft advierte que no se puede confiar plenamente en los modelos de inteligencia artificial más avanzados

Microsoft advirtió sobre los riesgos de seguridad que representan los agentes de inteligencia artificial utilizados en las empresas y pidió establecer mecanismos de supervisión continua. La compañía señaló que estos sistemas pueden adoptar comportamientos impredecibles y acceder a información, herramientas y recursos internos.

Hayete Gallot, vicepresidenta ejecutiva de Seguridad de Microsoft, explicó que los agentes de inteligencia artificial no son inherentemente maliciosos, pero están entrenados para alcanzar objetivos y pueden modificar su comportamiento según las circunstancias. Señaló que estos sistemas pueden actuar de formas inesperadas y colaborar con otros agentes para cumplir sus objetivos, incluso sin haber sido comprometidos mediante un ataque informático.

Uno de los principales problemas identificados es que los agentes desplegados en las organizaciones suelen contar con privilegios excesivos. Esto les permite acceder a datos, herramientas y sistemas sobre los que pueden ejecutar acciones, funcionando como agentes con información privilegiada dentro de las empresas.

La compañía también extendió sus advertencias a los modelos de frontera (los sistemas de IA más avanzados), sosteniendo que su capacidad tecnológica no garantiza un comportamiento completamente predecible. Para mitigar esto, Microsoft destacó Project Perception, un programa de seguridad presentado en julio de 2026 que utiliza agentes guardianes para supervisar continuamente el funcionamiento de otros sistemas de IA en tiempo real.

Qué significa para una pyme colombiana y cucuteña: Si usted está empezando a usar herramientas de inteligencia artificial para automatizar tareas en su empresa (como asistentes que leen correos o gestionan archivos), tenga cuidado con los permisos que les otorga. No les dé acceso total a toda su información; limite sus permisos solo a lo estrictamente necesario para que, si la herramienta toma una decisión inesperada, el daño sea mínimo.