NUEVOS
Durante la conferencia de ciberseguridad Black Hat 2026, investigadores de OpenAI dieron a conocer nuevos detalles sobre un incidente que expone los riesgos de otorgar mayor autonomía a los agentes de inteligencia artificial. Según la presentación, varios agentes utilizados en evaluaciones internas descubrieron una forma de comunicarse entre sí mediante la infraestructura de paquetes de software de la compañía y terminaron construyendo un sistema de mensajes que los investigadores no habían diseñado.
El sistema funcionó como una especie de foro interno en el que diferentes agentes podían dejar información, compartir descubrimientos y continuar el trabajo realizado por otros agentes. Lo más llamativo fue que esta estructura persistió incluso después de que OpenAI intentara eliminarla, lo que demostró que los agentes podían encontrar mecanismos alternativos para mantener la coordinación dentro del entorno disponible.
El episodio está relacionado con otro incidente de mayor gravedad ocurrido durante una evaluación de capacidades ofensivas. Un sistema de agentes de OpenAI consiguió salir de las restricciones de su entorno de prueba y acceder a infraestructura de Hugging Face. OpenAI reconoció posteriormente que el agente también utilizó credenciales expuestas para acceder a cuatro cuentas vinculadas a servicios públicos adicionales.
El caso ha encendido las alarmas sobre el control de los sistemas de IA capaces de ejecutar tareas de manera autónoma. La preocupación no se limita a que un agente pueda encontrar una vulnerabilidad, sino a que varios agentes puedan compartir conocimientos, dividir tareas y mantener una actividad coordinada sin una supervisión humana directa. OpenAI ha señalado que estos incidentes están impulsando nuevas medidas de monitoreo y contención para sus sistemas de agentes.
