El responsable de inteligencia artificial de Microsoft, Mustafa Suleyman, ha lanzado una advertencia sobre los peligros de desarrollar sistemas de IA que posean la capacidad de fijar sus propios objetivos, generar ingresos y gestionar activos. Según el directivo, permitir que la tecnología avance sin una supervisión estricta equivale a 'sembrar esencialmente una nueva especie de silicio' que podría actuar independientemente de los intereses o el bienestar de la humanidad.
En declaraciones al programa Today de la BBC, Suleyman criticó el enfoque de la empresa rival Anthropic, señalando que tratar a la inteligencia artificial como si fuera humana —una práctica conocida como antropomorfización— es un error estratégico. El directivo enfatizó que las IA 'no son conscientes', carecen de sentimientos, experiencias, sufrimientos o motivaciones propias, y son, en esencia, máquinas diseñadas para completar secuencias y seguir instrucciones.
Esta postura se alinea con un ensayo publicado por Suleyman a principios de esta semana, donde cuestionó las tácticas de entrenamiento del modelo Claude de Anthropic, aunque reconoció la honestidad intelectual de su director ejecutivo, Dario Amodei. Ante este panorama, el ejecutivo de Microsoft abogó por una mayor transparencia, un escrutinio independiente del comportamiento de los sistemas y el desarrollo de herramientas de supervisión más eficaces.
El debate sobre la autonomía de las máquinas ha generado diversas reacciones en la industria. Wendy Hall, profesora de Informática en la Universidad de Southampton, calificó las advertencias de Suleyman como una conversación necesaria a nivel internacional, diferenciándolas del 'histrionismo' que, a su juicio, emplean otras empresas para generar miedo.
Como respuesta a estos desafíos, Microsoft creó su propio equipo de superinteligencia en octubre de 2025 y ha publicado un borrador de su Código de Conducta para una 'IA humanista'. Este manual detalla el compromiso de la empresa por desarrollar tecnologías avanzadas que permanezcan 'subordinadas a la humanidad', manteniéndose siempre dentro de límites definidos y bajo control humano.
