Shufti ties AI agent actions to verified owners and permissions - Help Net Security

Shufti ha lanzado 'Know Your Agent' (KYA), una solución de verificación diseñada para agentes de inteligencia artificial autónomos que actúan en nombre de personas o empresas. En el nuevo modelo de comercio basado en agentes, la IA puede abrir cuentas, realizar pedidos y mover fondos. Por ello, las empresas que reciben estas solicitudes necesitan saber si el agente es auténtico, quién es el responsable y si la acción está dentro de lo aprobado.

La herramienta busca mitigar riesgos como el robo de credenciales o la suplantación de agentes. KYA verifica la identidad del agente de IA, confirma que una persona real autorizó la acción y revisa los permisos antes de permitir el acceso a datos o transacciones. El sistema asigna a cada agente una credencial única con tiempo limitado que puede ser revocada, además de un puntaje de confianza basado en su comportamiento.

El sistema ya es compatible con agentes como Meta Muse, GrokBot y OpenAI Dots. Para acciones de alto riesgo que excedan los límites permitidos, la herramienta activa un control humano mediante una verificación de vida (liveness check), donde la persona autorizante debe completar una breve validación con una selfie para asegurar que no es un ataque de suplantación.

Qué significa para una pyme colombiana y cucuteña: A medida que las empresas empiecen a usar asistentes de IA para automatizar compras o trámites, este tipo de tecnología será necesaria para evitar que un error o un ataque de un agente de IA vacíe sus cuentas o haga pedidos no autorizados. Si usted planea implementar automatizaciones con IA para su negocio, asegúrese de que estas tengan límites de gasto claros y una forma de requerir su aprobación manual para transacciones importantes.