El desarrollo acelerado de la inteligencia artificial ha generado una profunda inquietud entre quienes lideran su creación. Jacob Coxon, exinvestigador de la empresa Anthropic, declaró que existe un temor real dentro de la industria sobre el impacto que esta tecnología podría tener en el futuro inmediato. "Creo que, si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato", afirmó Coxon tras su renuncia.
La preocupación ha escalado a niveles donde figuras clave del sector, como Dario Amodei, director de Anthropic, han solicitado ralentizar el desarrollo de la IA para permitir que gobiernos y empresas establezcan regulaciones y supervisión independiente. Esta postura ha sido respaldada por líderes de empresas competidoras como Sam Altman, de OpenAI, y Elon Musk, de xAI. Coxon, quien también trabajó en OpenAI, enfatizó que cualquier medida de control debe coordinarse a nivel internacional, incluyendo a China, para evitar una carrera desmedida.
Sobre los riesgos específicos, Amodei advirtió sobre la posibilidad de que un enjambre de bots actúe como una supercomputadora capaz de tomar el control de internet, un escenario que Coxon estima podría materializarse en un plazo de seis meses a un año. Ante este panorama, el personal de las empresas tecnológicas vive bajo una presión constante, llegando incluso a considerar la compra de terrenos ante la inestabilidad percibida.
Por su parte, Anthropic respondió a través de un portavoz señalando que siempre han sido transparentes sobre los beneficios y riesgos de la IA, y que mantienen medidas de seguridad rigurosas. La empresa ha sido pionera en publicar marcos de mitigación de riesgos y somete sus modelos a pruebas constantes.
El debate sobre la probabilidad de una catástrofe global ha dividido opiniones. Mientras que el científico de Anthropic, Evan Hubinger, y el premio Nobel Geoffrey Hinton han sugerido que una probabilidad del 10% de aniquilación humana no es descabellada, otros críticos como Clement Delangue, de Hugging Face, y George Arison, de Grindr, han cuestionado la veracidad de estas advertencias, sugiriendo que podrían estar motivadas por intereses comerciales o la búsqueda de apoyo de inversores. En tanto, Jensen Huang, director ejecutivo de Nvidia, desestimó las afirmaciones de Coxon por considerarlas falsas. Por su parte, el expresidente de Estados Unidos, Donald Trump, subrayó la importancia de mantener la ventaja tecnológica sobre China, declarando que "quien gana en IA, gana en todo".
