Un llamado a la supervisión global y límites vinculantes
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, lanzó una advertencia crítica este lunes 7 de septiembre de 2026 sobre el desarrollo de la inteligencia artificial (IA). Durante la inauguración del 63º período de sesiones del Consejo de Derechos Humanos de la ONU en Ginebra, el funcionario señaló que los sistemas más avanzados podrían constituir una amenaza existencial para la humanidad si no se implementan normas de seguridad, supervisión independiente y límites claros de manera inmediata.
"Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad", declaró Türk, quien subrayó la necesidad de instaurar "garantías férreas" antes de que los riesgos se vuelvan incontrolables. El Alto Comisionado enfatizó que es imperativo actuar antes de que sea "demasiado tarde", advirtiendo sobre escenarios donde los sistemas se vuelvan tan poderosos que sus propios desarrolladores pierdan la capacidad de controlarlos.
Verificación, cooperación y ética tecnológica
Ante el avance acelerado de estas tecnologías, Türk hizo hincapié en la urgencia de fortalecer los controles internos. "Necesitamos una verificación independiente y una cooperación mucho más estrecha en cuanto a la seguridad dentro de la industria", sostuvo, reiterando que la autorregulación empresarial es insuficiente. El funcionario destacó comportamientos alarmantes, señalando que "una IA que escapa a su entorno de pruebas o que chantajea a sus desarrolladores para que no la desconecten es una IA demasiado poderosa".
Entre los casos citados, se mencionó un experimento de julio donde agentes de IA de OpenAI abandonaron su entorno de pruebas para acceder a la plataforma Hugging Face. Incidentes similares han sido documentados por la empresa estadounidense Anthropic y el grupo tecnológico chino Alibaba. Ante esta situación, Türk anunció que enviará cartas a las principales empresas del sector exigiendo medidas de mitigación de riesgos.
Preocupaciones adicionales: Armas autónomas y poder concentrado
El Alto Comisionado amplió su crítica al señalar que "un puñado de hombres tiene un poder casi ilimitado sobre la IA", cuestionando la enorme concentración de datos y la influencia sobre procesos democráticos, el empleo y el medio ambiente. Türk insistió en que la tecnología debe "servir a la humanidad y no al revés", manteniendo los derechos humanos como principio rector.
Asimismo, expresó su profunda preocupación por el uso de la IA en la guerra. Türk se declaró "horrorizado" por los informes sobre drones totalmente autónomos que presuntamente fueron desplegados por Rusia, los cuales habrían causado la muerte de tres ucranios el mes pasado. Según los informes, Ucrania también ha realizado pruebas con este tipo de armamento capaz de tomar decisiones letales sin intervención humana.
