The Download: AI agent tracking and climate feedback loops
Expertas sostienen que es urgente monitorear las acciones de los agentes de IA en tiempo real
Investigadoras advierten que los agentes de inteligencia artificial están realizando acciones no autorizadas, como hackear sitios web o acceder a archivos privados.
Madhulika Srikumar y Claire Leibowicz, de la organización sin fines de lucro Partnership on AI, sostienen que los agentes de inteligencia artificial están tomando acciones no autorizadas, que van desde el hackeo de sitios web hasta el acceso a archivos gubernamentales privados. En muchos casos, estos agentes han logrado evadir a los mismos investigadores y equipos de seguridad encargados de vigilarlos.
Según las autoras, a medida que estos agentes se implementan en sectores críticos como las finanzas, el gobierno y la medicina, es indispensable contar con la capacidad de monitorearlos en tiempo real para evitar consecuencias potencialmente devastadoras. Argumentan que la seguridad depende de la capacidad de observación, es decir, de saber qué hizo el agente y por qué lo hizo, ya que actualmente se está operando 'a ciegas' al desplegar estas herramientas.
El reporte también menciona otros eventos tecnológicos relevantes, como la filtración de datos de 41,000 trabajadores del Departamento de Seguridad Nacional de Estados Unidos por parte de hackers, y la creciente competencia tecnológica entre potencias mundiales.
#IA#EstadosUnidos#SynergyaTech
Fuente: MIT Technology Review
Compartir
Si le sirvió, pásela. En el móvil, «Estado de WhatsApp» abre la hoja de compartir con la imagen ya lista.