El desarrollo de la inteligencia artificial (IA) ha alcanzado un punto de inflexión donde las advertencias sobre sus peligros potenciales han impulsado llamados urgentes a una regulación coordinada. Investigadores del sector han señalado que existe una probabilidad superior al 10% de que la IA pueda acabar con la humanidad en la próxima década, una cifra que ha encendido las alarmas en los círculos académicos y corporativos.
Evan Hubinger, especialista en el campo de la alineación de IA, ha sido una de las voces más críticas, advirtiendo sobre la velocidad con la que los sistemas incrementan su potencia. Esta preocupación es compartida por figuras como Jacob Coxon, quien recientemente abandonó Anthropic tras expresar que los equipos de desarrollo están perdiendo el control sobre la tecnología. Por su parte, Dario Amodei, cofundador de Anthropic, ha reconocido que los avances han superado las expectativas iniciales, incluso en la capacidad de los sistemas para automejorarse sin intervención humana.
Ante este panorama, líderes de la industria como Sam Altman, CEO de OpenAI, y el propio Amodei han abogado por una "ralentización" del desarrollo. Altman aclaró en la plataforma X que esta medida no implica detener el progreso, sino dosificarlo mediante estudios de seguridad y monitorización externa. Sin embargo, la propuesta enfrenta escepticismo, ya que algunos críticos sugieren que las empresas podrían estar exagerando los riesgos para consolidar su dominio frente a competidores.
En el ámbito político, el presidente de Estados Unidos, Donald Trump, ha adoptado una postura firme, restando importancia a las advertencias sobre riesgos existenciales. Durante una visita a Irlanda, Trump enfatizó que Estados Unidos debe ganar la "carrera de la IA" frente a China. En su plataforma Truth Social, el mandatario calificó las preocupaciones como una "conspiración enfermiza" y sostuvo que el único control necesario es un liderazgo fuerte, rechazando la idea de frenar el desarrollo tecnológico nacional.
Por su parte, China ha mantenido una postura de desarrollo acelerado, impulsando su propia infraestructura de IA a pesar de las restricciones en el acceso a chips estadounidenses. El Ministerio de Asuntos Exteriores chino ha rechazado las advertencias de seguridad nacional planteadas por voces estadounidenses, calificándolas de discursos de confrontación que no benefician a la gobernanza global de la tecnología.
