METR y Redwood Research detectan vulnerabilidades en el sistema de monitoreo de agentes de OpenAI
Una auditoría de tres semanas identificó fallos que podrían permitir a agentes de inteligencia artificial eludir controles de seguridad y evitar la supervisión de sus acciones. OpenAI afirma que corrigió las vulnerabilidades que afectan sus sistemas de protección en producción, aunque los investigadores externos no verificaron esos cambios.
Equipo Aitualizate