SAN FRANCISCO, EE. UU. — Durante la reciente conferencia organizada por Goldman Sachs en el Palace Hotel de San Francisco, el sector tecnológico se vio sacudido por el debate sobre el futuro de la inteligencia artificial (IA). La reciente renuncia de Jacob Coxon, investigador de Anthropic de 27 años, puso el foco en los riesgos de seguridad, tras afirmar que los desarrolladores están "jugando con nuestras vidas" y que los sistemas sobrehumanos pronto podrán "piratear cualquier cosa".
La postura de Coxon, quien anteriormente trabajó en OpenAI, ha sido respaldada por otros expertos, como Evan Hubinger, líder de equipo en Anthropic, quien señaló en X que existe una probabilidad superior al 10% de que la IA acabe con la humanidad en la próxima década. Sin embargo, figuras prominentes como Jensen Huang, director ejecutivo de Nvidia, han desestimado estas alertas calificándolas de "completa tontería".
El escepticismo en el sector es notable. George Arison, director ejecutivo de Grindr, calificó las advertencias de "peligrosas" y de una "visión del mundo anticivilizatoria", sugiriendo que podrían ser una estrategia para justificar las altas valoraciones de mercado de empresas como Anthropic, valorada en 965.000 millones de dólares, y OpenAI, valorada en 852.000 millones de dólares. Por su parte, Clement Delangue, director ejecutivo de Hugging Face, comparó las advertencias de los investigadores con "preguntarle a tu técnico de aire acondicionado sobre el cambio climático".
El debate ha permeado el ámbito político. El senador demócrata Bernie Sanders ha impulsado la Ley para Prohibir la Superinteligencia Artificial, abogando por una pausa en el desarrollo avanzado ante el riesgo de perder el control sobre la tecnología. En contraste, la administración de Donald Trump mantiene una postura de desarrollo sin restricciones, argumentando que es vital para superar a China. El presidente Trump declaró recientemente: "No me preocupa en absoluto", enfatizando la necesidad de mantener el dominio tecnológico estadounidense.
Ante la presión, el director de Anthropic, Dario Amodei, publicó un ensayo el sábado solicitando una regulación global y una desaceleración en el desarrollo de modelos, reconociendo que los riesgos son "graves". Mientras tanto, el mercado sigue enfocado en la rentabilidad, con inversores esperando los próximos movimientos financieros de las compañías en medio de este complejo panorama regulatorio y ético.
