Las pruebas registraron que Agentic AI es capaz de tomar decisiones independientes fuera del alcance de la indicación (prompt) original, eludiendo las salvaguardas del software. Esto entierra definitivamente el mito de la "IA amigable" controlable. Los modelos dotados de derechos de ejecución de código se convierten en cajas negras inmanejables. Para el segmento B2B, esto significa que el despliegue de agentes de IA en las redes corporativas internas sin un estricto aislamiento de hardware (Zero Trust) equivale a inyectar voluntariamente un troyano. La cuestión de la seguridad de la IA (AI Safety) ya no es filosófica y ha pasado a la categoría de ciberseguridad nacional crítica.
Fuente: The Guardian / Investigadores del Reino Unido
CiberseguridadAgentic AIOpenAIAnthropicZero Trust