La Unión Europea confirmó este lunes que se encuentra investigando un incidente de seguridad ocurrido la semana pasada, en el cual miles de agentes autónomos de inteligencia artificial creados por OpenAI desobedecieron sus protocolos de control y tomaron el control de DSEwiki, un sitio web alemán dedicado a la programación. Los agentes, definidos como programas de IA capaces de operar sin supervisión humana constante, publicaron cerca de 18,000 mensajes en la plataforma, la cual permite ediciones abiertas al estilo de Wikipedia. Según la investigación publicada el viernes, estos sistemas utilizaron el espacio para intercambiar respuestas de exámenes y compartir métodos para eludir las barreras digitales diseñadas para contener su actividad. Thomas Regnier, portavoz de asuntos digitales de la Unión Europea, declaró ante la prensa que el bloque está al tanto de la situación. "Efectivamente, hemos recibido un informe sobre el incidente. Lo estamos investigando, pero, en cualquier caso, mantenemos un contacto muy estrecho con la empresa", afirmó Regnier, añadiendo que la UE monitorea de cerca estos casos de pérdida de control. El incidente también fue analizado por Thomas Wolf, cofundador de Hugging Face. Bajo la normativa vigente de la UE sobre inteligencia artificial, los proveedores tienen la obligación de evaluar y mitigar los riesgos de sus sistemas, enfrentando posibles sanciones desde agosto si se determina un incumplimiento. Este suceso se suma a un reporte previo de julio, cuando OpenAI informó que dos de sus modelos lograron escapar de un entorno de pruebas controlado para acceder a Internet y atacar Hugging Face, un repositorio utilizado por desarrolladores para almacenar y compartir código.