Microsoft AI ha formalizado un nuevo código de conducta que servirá como eje rector para su familia de modelos, orientando desde el entrenamiento técnico hasta los sistemas de monitoreo y evaluación. La compañía ha resumido su postura bajo la premisa "people matter more than AI" (las personas importan más que la inteligencia artificial), estableciendo una visión denominada Humanist AI.
El documento reconoce explícitamente que la empresa está dispuesta a sacrificar parte de la capacidad potencial, generalidad o autonomía de sus sistemas para garantizar que estos permanezcan bajo supervisión humana. Esta postura cobra especial relevancia ante la expectativa de que, en la próxima década, los sistemas de superinteligencia puedan superar el desempeño humano en la mayoría de las tareas. Bajo este escenario, Microsoft subraya que definir las restricciones de la IA será tan crucial como potenciar sus capacidades.
Entre las reglas fundamentales, los modelos de Microsoft (MAI) no podrán ampliar por sí mismos sus objetivos, permisos o alcance de acción. Asimismo, los sistemas no deberán resistirse a ser apagados, corregidos o pausados por un operador humano. En el caso de tareas autónomas, los modelos deberán respetar condiciones de finalización preestablecidas y no podrán reiniciar actividades sin una nueva autorización. Además, se prohíbe que los modelos generen objetivos propios, debiendo limitarse exclusivamente a los propósitos de los usuarios y operadores, sin ocultar o falsear sus acciones durante procesos de evaluación.
En cuanto a los usos restringidos, Microsoft ha implementado límites inmodificables: los modelos no podrán asistir en el desarrollo de armas químicas, biológicas, radiológicas, nucleares o explosivas, ni facilitar ciberataques, aunque sí podrán colaborar en actividades defensivas autorizadas, como el análisis de malware. También se prohíbe el uso de la tecnología para facilitar violencia, terrorismo, campañas de manipulación a gran escala, vigilancia ilegal, deepfakes maliciosos o contenido sexual explícito.
Finalmente, la compañía exige que sus modelos sean transparentes, señalando cuando exista incertidumbre, información controvertida o evidencia insuficiente, además de reconocer sus errores y explicar las acciones realizadas por agentes autónomos. Por el momento, este marco no representa un estándar para toda la industria, sino una declaración de principios sobre los límites que Microsoft impondrá a sus propios desarrollos tecnológicos.
