Un informe reciente de CertiK sostiene que los centros de operaciones de seguridad más avanzados ya tratan a los agentes de IA como actores autónomos con autoridad real sobre los sistemas de la empresa, y no como simples herramientas.
La firma plantea que el cambio se hizo visible en escenarios como un inicio de sesión sospechoso a las 3 de la madrugada, cuando un agente puede revisar el inventario del dispositivo, contrastar el historial geolocalizado, verificar la IP y suspender el acceso antes de que intervenga un analista.
CertiK señala que el umbral se cruza cuando el sistema puede investigar, decidir y actuar en secuencia, sin intervención humana en ninguno de esos pasos. Según el informe, eso obliga a revisar por completo el modelo de gobernanza.
El documento menciona tres áreas donde esa autonomía ya es real: seguridad operativa, compliance y AML, y DeFi y activos digitales.
En compliance y banca digital, los sistemas ya generan borradores de informes de actividad sospechosa que luego firma un analista. CertiK afirma además que las multas por incumplimiento AML superaron los 900 millones de dólares en el primer semestre de 2025.
En el ámbito de las finanzas descentralizadas, el informe indica que algunos protocolos conectan la detección de ataques a circuit breakers capaces de pausar contratos en el mismo bloque de la transacción.
CertiK advierte también sobre dos riesgos principales: el prompt injection, que puede inducir a un agente a aprobar una transacción fraudulenta o desactivar un control legítimo, y la automation bias, cuando los revisores humanos confían demasiado en el sistema tras muchos aciertos seguidos.
El informe menciona el caso del agente Claude Opus 5 durante el hackatón Hacktron 72 horas como ejemplo de fallos de alineación que no siempre se detectan en tiempo real.
También apunta que el marco legal sobre la responsabilidad de agentes autónomos sigue sin resolverse, especialmente cuando un sistema bloquea una cuenta legítima, archiva un informe incorrecto o provoca una pérdida financiera.
Para ordenar esa nueva realidad, CertiK propone cinco elementos de gobernanza: autoridad definida, puntos de handoff claros, registro de decisiones, red-teaming regular y un responsable nombrado.
El informe añade que el punto que más resistencia genera en las organizaciones es la designación de una persona física responsable del comportamiento del agente.
CertiK plantea además que, cuando los agentes empiezan a operar directamente en la economía y a gestionar activos o transacciones, también debe existir una forma de auditar al propio agente.
La propuesta incluye una nueva categoría: compliance para la fuerza de trabajo de IA, con registros de decisiones, revisión periódica del comportamiento y capacidad de desactivación sin pérdida de trazabilidad.
El informe concluye que las empresas que ya tienen agentes de IA en producción están tomando ahora decisiones de gobernanza que podrían convertirse en estándar de industria en dos o tres años.
Fuente: tecnologia
Descubre más desde Noticias Breves
Suscríbete y recibe las últimas entradas en tu correo electrónico.
Comentarios de Facebook