Los agentes de inteligencia artificial representan una evolución significativa respecto a los modelos de lenguaje tradicionales. Mientras que un LLM procesa texto y genera respuestas de forma aislada, un agente posee autonomía para razonar, planificar y ejecutar acciones en el mundo real mediante herramientas externas, APIs y acceso a datos sensibles. Esta capacidad amplificada introduce una superficie de ataque considerablemente mayor y riesgos que van más allá de las vulnerabilidades conocidas en modelos conversacionales. En esta charla exploraremos las diferencias fundamentales entre LLMs y agentes desde una perspectiva de seguridad, analizando por qué la autonomía, la persistencia de memoria y la capacidad de ejecución transforman el panorama de amenazas. Examinaremos los principales vectores de ataque que afectan a sistemas agénticos, incluyendo prompt injection indirecto, envenenamiento de herramientas, exfiltración de datos a través de canales laterales y ataques de confusión de identidad que explotan la cadena de confianza entre componentes. La sesión incluirá una demostración práctica de un ataque contra un agente, ilustrando cómo un adversario puede manipular el comportamiento del sistema para ejecutar acciones no autorizadas. Posteriormente, abordaremos los mecanismos de defensa más efectivos: sandboxing de herramientas, validación de salidas, principio de mínimo privilegio, supervisión humana en el bucle y arquitecturas de confianza cero. Finalmente, discutiremos marcos de gobernanza para el despliegue responsable de agentes, incluyendo políticas de acceso, auditoría de acciones, límites de autonomía y consideraciones regulatorias emergentes. Los asistentes obtendrán una comprensión clara de los riesgos únicos de los sistemas agénticos y estrategias prácticas para mitigarlos en entornos productivos.
Presented at Ekoparty Miami 2026