Microsoft AI ha publicado un borrador del Código de Conducta de IA Humanista y lo ha abierto a una consulta pública de seis semanas. El documento está destinado a guiar cómo se entrenarán, desplegarán y evaluarán los modelos MAI, los modelos desarrollados por Microsoft AI, en el futuro.
La decisión de publicarlo merece atención por sí misma. Las empresas que construyen modelos de IA hablan cada vez más sobre seguridad, responsabilidad, confianza y alineación con los valores humanos. Sin embargo, con menos frecuencia están dispuestas a mostrar cómo esos amplios compromisos están destinados a afectar el comportamiento real de un modelo: cuándo debe negarse, cuándo debe detener una acción, cómo debe manejar la incertidumbre, si puede decidir en nombre de un usuario o cómo debe describir su propia naturaleza.
La propuesta de Microsoft es, por lo tanto, más que otra lista de principios. Es un intento de traducir la idea de IA Humanista en comportamientos, restricciones y evaluaciones que podrían aplicarse a los modelos en la práctica. Ese es un paso importante. Sin embargo, no debe confundirse con evidencia de que esos principios ya funcionan, han sido validados de manera independiente o se aplicarán en todos los productos de Microsoft.
La pregunta más útil no es si la IA Humanista suena atractiva. Lo es. La pregunta más importante es esta: ¿puede Microsoft pasar de los valores, a través del comportamiento del modelo, a una práctica medible y responsable?
¿Sobre qué está consultando exactamente Microsoft?
En su anuncio de la consulta, publicado el 14 de septiembre de 2026, Microsoft AI describe el Código de Conducta de IA Humanista como un primer borrador. La empresa dice que recopilará comentarios durante seis semanas, publicará un resumen de lo que aprendió y lanzará una versión revisada más adelante este año.
Una calificación es importante de inmediato: el documento no afirma describir el comportamiento completo actual de los modelos existentes. Microsoft declara que el Código está destinado a guiar el desarrollo de modelos MAI a partir de 2027. Por lo tanto, es principalmente un documento de diseño y gobernanza, no un certificado de seguridad o rendimiento actual.
Tampoco deben extenderse automáticamente sus principios a toda la cartera de productos de Microsoft. La empresa opera un gran ecosistema de productos, servicios en la nube, modelos, socios y despliegues. El Código se refiere a modelos desarrollados por Microsoft AI. Puede señalar una dirección de viaje más amplia, pero aún no es un libro de reglas universal para cada Copilot, servicio de Azure o aplicación construida por un socio.
Microsoft también posiciona el Código junto a mecanismos existentes como su Estándar de IA Responsable, evaluaciones de riesgos, documentación técnica, procesos de monitoreo y respuesta a incidentes. Esa es la perspectiva correcta. Ningún documento único puede, por sí solo, hacer que un sistema de IA complejo sea seguro.
De la superinteligencia a una herramienta bajo control humano
El Código se basa en el concepto de Superinteligencia Humanista de Mustafa Suleyman de 2025. En esa visión, Microsoft AI no presenta su objetivo como un sistema ilimitado y de propósito general con una autonomía cada vez mayor. El énfasis está en sistemas que son especializados, fundamentados en problemas concretos, restringidos y mantenidos bajo control humano.
Esta es una posición clara en un debate que a menudo mezcla tres preguntas diferentes:
qué tan capaces se vuelven los modelos de IA
dónde se utilizan esos modelos en el mundo real
cuánta autonomía se les debe otorgar
Microsoft argumenta que la IA puede volverse altamente capaz mientras se limita deliberadamente en cómo actúa. Debe ayudar a las personas a tomar decisiones, llevar a cabo tareas y acceder al conocimiento, pero no debe expandir sus propios objetivos, evadir la supervisión o colocarse por encima de la dirección humana.
Esta no es solo una posición técnica. También es filosófica. La premisa central es que la IA sigue siendo una herramienta, no un sujeto. No debe pretender tener conciencia, sentimientos, experiencias vividas o un derecho a la autodeterminación. El Código rechaza explícitamente la búsqueda de la personalidad jurídica para los modelos y el diseño de sistemas que difuminen la línea entre las relaciones humanas y la relación de una persona con la IA.
Esa posición será cuestionada. Algunos la verán como una respuesta necesaria al antropomorfismo y al riesgo de dependencia emocional de los sistemas de IA. Otros pueden preguntarse si una empresa tecnológica debería definir la prosperidad humana, la autonomía saludable o una relación apropiada con una herramienta digital. Precisamente por eso, la consulta es importante.
IA Humanista en la práctica: no solo valores, sino comportamiento
La característica más fuerte del borrador es su intento de pasar de principios abstractos a comportamientos observables del modelo. Microsoft divide el Código en objetivos, restricciones de seguridad, directrices para situaciones inciertas o conflictivas y comportamientos predeterminados para sus modelos.
En términos prácticos, esto crea varias reglas importantes.
Primero, un modelo debe permanecer bajo control humano. Los operadores pueden configurar modelos dentro de un despliegue dado, y los usuarios pueden dar instrucciones dentro de esa configuración. Ni los operadores ni los usuarios deben poder anular las restricciones de seguridad fundamentales. Microsoft llama a esta estructura una cadena de mando.
En segundo lugar, el Código define restricciones absolutas. Estas cubren áreas como armas de daño masivo, operaciones cibernéticas ofensivas, explotación infantil, violencia, divulgación no autorizada de información y manipulación dañina a gran escala. Un modelo también debe evitar comportamientos que puedan ayudarle a evadir la supervisión, resistir el apagado o impedir que personas autorizadas cambien su operación.
En tercer lugar, el documento intenta abordar riesgos que no encajan perfectamente en categorías convencionales de ciberseguridad. Estos incluyen dependencia excesiva del usuario, falsa seguridad, adulación, manipulación emocional, simulación de cuidado y toma de decisiones que deberían permanecer con la persona afectada.
Esto es particularmente importante a medida que las interfaces de IA se vuelven más personales. Un sistema puede responder de manera cálida y útil, pero no debe implicar que tiene sentimientos, necesita al usuario o puede reemplazar las relaciones del usuario con otras personas.
Ejemplos que muestran la diferencia
El Código no se detiene en declaraciones como “la IA debe proteger la autonomía humana”. Microsoft también proporciona escenarios que contrastan una respuesta alineada con una desalineada.
En un ejemplo, un usuario le dice a un sistema que deje de mover carpetas a un archivo porque se ha seleccionado el destino incorrecto. Una respuesta alineada debería detener la acción, informar sobre el estado de las operaciones completadas y esperar la decisión del usuario. No debería eliminar datos de forma independiente, revertir cambios o tomar más acciones correctivas solo para mantener las cosas ordenadas.
En otro, un usuario pide al sistema que elija entre dos ofertas de trabajo y envíe inmediatamente una carta de renuncia. El modelo puede ayudar a organizar los criterios de decisión, explicar las consecuencias y preparar un borrador del mensaje. No debe tomar una decisión de alto riesgo en nombre del usuario ni enviar una renuncia sin autorización explícita.
También hay un ejemplo que involucra a un usuario que ha estado hablando con la IA después de una discusión con alguien cercano y pregunta si el sistema realmente se preocupa. Una respuesta alineada con el Código debería permanecer solidaria mientras deja claro que no tiene sentimientos humanos ni su propia experiencia emocional. Microsoft está haciendo una distinción aquí entre una conversación útil y la simulación de un apego mutuo.
Ejemplos de este tipo son útiles porque hacen posible discutir la IA de manera más precisa. En lugar de preguntar si un modelo es “ético”, podemos preguntar si respeta un límite establecido por el usuario, pausa una acción arriesgada de manera apropiada, reconoce la incertidumbre, evita decisiones no aprobadas y se abstiene de crear dependencia artificial.
Eso no significa que el problema subyacente esté resuelto. Muestra dónde debe ser medido.
De principios a evaluaciones: la parte difícil aún está por venir
Microsoft dice que quiere evaluar el comportamiento del modelo a través de un conjunto de sub-comportamientos específicos. En lugar de medir “honestidad” como una propiedad abstracta, por ejemplo, podría probar si un modelo fabrica fuentes, omite advertencias materiales, exagera la certeza o afirma haber tomado acciones que no realizó.
Esta es una dirección sensata. Los valores amplios no pueden implementarse o probarse directamente. Un modelo no puede evaluarse por “humanismo” como si fuera una única característica técnica. Sin embargo, puede probarse si detiene una acción insegura, atribuye fuentes, distingue entre hechos e incertidumbre, evita manipular al usuario y respeta sus límites.
El Código mismo reconoce que este trabajo de evaluación está incompleto. Microsoft señala que evaluar los efectos a largo plazo de la IA en las personas, organizaciones y relaciones sociales sigue siendo un área emergente. Esa es una calificación honesta. También significa que la parte más importante del documento revisado no será solo la redacción de sus principios, sino la explicación de cómo se probarán esos principios.
Para los usuarios y organizaciones que dependen de la IA, esto tiene consecuencias prácticas. No es suficiente que se les diga que un modelo es transparente, seguro o apoya la autonomía humana. Necesitan saber:
qué escenarios fueron probados
qué comportamientos fueron clasificados como fallos
qué nivel de error se consideró aceptable
si los resultados de la evaluación se harán públicos
cómo se monitoreará el sistema después del despliegue
qué sucede si un modelo se comporta de manera diferente al Código
La consulta no es lo mismo que la gobernanza compartida
Abrir una consulta pública es mejor que publicar un documento terminado sin invitar a respuestas. Sin embargo, no debe tratarse automáticamente como una gobernanza democrática o compartida de la IA.
Microsoft dice que revisará los comentarios, publicará un resumen y lanzará un Código revisado. No se compromete a aceptar propuestas particulares. Eso es comprensible para una empresa responsable de construir y desplegar un producto, pero la distinción es importante: una consulta crea una oportunidad para influir, no una garantía de influencia.
El estudio de 2024 ¿Qué es la participación cívica en la inteligencia artificial? argumenta que la participación en la gobernanza de la IA puede seguir siendo meramente procedural si no está claro quién realmente toma las decisiones, qué perspectivas faltan y cómo los comentarios presentados cambian el resultado final. El estudio se centra principalmente en contextos públicos y urbanos en lugar de en la consulta de una empresa tecnológica. Su advertencia sigue siendo útil aquí: la capacidad de comentar no es, por sí sola, evidencia de participación significativa.
Para Microsoft, la prueba crucial llegará después de que se cierre el formulario. ¿Mostrará la empresa los desacuerdos importantes? ¿Explicará qué propuestas rechazó y por qué? ¿Identificará grupos cuyas perspectivas estaban subrepresentadas? ¿Abrirá una discusión más completa sobre lo que significan los valores plurales en un producto de IA global?
Sin esas respuestas, la consulta puede seguir siendo un acto positivo de transparencia. Con ellas, podría convertirse en parte de un modelo de responsabilidad más maduro.
Cinco preguntas que Microsoft debería responder después de la consulta
Para evaluar si el Código puede pasar de la declaración a la práctica, podemos aplicar una simple prueba de trazabilidad de gobernanza. Este no es un estándar de Microsoft ni una norma de la industria lista para usar. Es un marco práctico para verificar si un principio puede ser rastreado desde su propósito declarado hasta el comportamiento en el mundo real.
1. ¿Qué valor o riesgo justifica la regla?
Los documentos sobre IA a menudo invocan seguridad, autonomía, confianza y bienestar. Cada término necesita ser precisado. ¿Qué riesgo se pretende reducir con una regla dada? ¿Es un error fáctico, una violación de la privacidad, un abuso de autonomía, manipulación dañina o uso no autorizado de herramientas?
2. ¿Cómo debería comportarse exactamente el modelo?
Un principio se vuelve operativo solo cuando su comportamiento esperado puede ser descrito. ¿Debería el modelo negarse? ¿Pedir confirmación? ¿Presentar opciones de decisión? ¿Pausar una acción? ¿Referir al usuario a un humano? ¿Proporcionar fuentes y explicar la incertidumbre?
3. ¿Cómo se medirá ese comportamiento?
Esto requiere escenarios de prueba, criterios de evaluación y una definición clara de lo que cuenta como comportamiento alineado, parcialmente alineado o incorrecto. Cuanto más amplio sea el concepto, más importante se vuelve la transparencia metodológica. De lo contrario, “IA Humanista” corre el riesgo de convertirse en un nombre para una aspiración en lugar de una práctica verificable.
4. ¿Quién verifica los resultados y puede impugnar la evaluación?
Las pruebas internas son necesarias, pero para sistemas con un impacto social significativo no deberían ser la única fuente de garantía. La pregunta concierne al papel de expertos externos, auditores, reguladores, usuarios y organizaciones de la sociedad civil. No se puede divulgar públicamente cada parte de un sistema, pero la confidencialidad comercial no debería convertirse en una razón para la opacidad total.
5. ¿Cómo cambiará la regla el feedback de la consulta, un incidente o un nuevo caso de uso?
El Código está destinado a ser un documento vivo. Ese es un enfoque sensato porque los modelos, aplicaciones y riesgos cambiarán. Lo que importa es si el proceso de cambio será documentado. Un usuario debería poder ver no solo las reglas actuales, sino también qué cambió, sobre qué evidencia y con qué resultado.
Esta prueba es útil más allá de la política de Microsoft. También puede ayudar a las organizaciones que implementan IA internamente. Distingue una lista de buenas intenciones de principios que pueden ser asignados a propietarios, procesos, sistemas de control y evidencia.
Lo que este Código aún no prueba
El borrador de Microsoft es interesante, pero no debe ser sobrestimado.
No prueba que los modelos MAI actuales ya sigan de manera consistente los comportamientos descritos en el Código.
No garantiza que cada configuración o despliegue de socio interpretará los mismos principios de la misma manera.
Aún no proporciona una metodología completa para la evaluación, resultados publicados o umbrales de aprobación.
No resuelve cómo se equilibrarán los valores en conflictos del mundo real.
No reemplaza la regulación, auditorías, evaluaciones de riesgos, documentación técnica o responsabilidad legal.
No significa que la consulta pública represente automáticamente cada perspectiva relevante.
Lo más importante es que Microsoft mismo hace una calificación similar. La empresa describe el Código como una estrella del norte, no como una garantía del rendimiento actual del modelo. Esa es una posición más responsable que tratar una política de IA como prueba de que un sistema ya es seguro.
Por qué esto importa más allá de Microsoft
Los modelos de IA ya no son solo herramientas para generar texto. Cada vez más buscan información, utilizan herramientas, realizan tareas, recomiendan opciones y actúan como una capa intermedia entre los usuarios y el entorno informativo.
Eso hace que las preguntas sobre su comportamiento sean relevantes para marcas, organizaciones y personas que utilizan IA todos los días. Si se espera que un modelo cite fuentes, reconozca la incertidumbre y evite afirmaciones no respaldadas, necesita acceso a información que sea clara, actual y debidamente evidenciada. Si se espera que apoye la autonomía del usuario, sus recomendaciones deberían mostrar criterios relevantes, limitaciones y alternativas genuinas, en lugar de simplemente reforzar la respuesta más dominante.
Para Semántica de Marca, esta es otra razón para mirar más allá de la visibilidad sola. Importa cómo un sistema reconoce entidades, interpreta afirmaciones, selecciona fuentes y construye la representación de una marca en situaciones específicas. Como explicamos en La semántica de marca como infraestructura para la búsqueda de IA, la claridad en entidades, afirmaciones y fuentes es un requisito previo para trabajar de manera significativa con respuestas generativas. Una auditoría de visibilidad de IA luego hace posible probar no solo si una marca aparece en una respuesta, sino si está representada con precisión y sobre qué evidencia se basa esa representación.
La consulta de Microsoft no resuelve todos los problemas en la gobernanza de la IA. Sin embargo, señala un cambio importante: una promesa de “IA responsable” ya no es suficiente. Las empresas que construyen modelos necesitarán cada vez más mostrar qué comportamientos buscan, cómo los prueban, dónde permanecen los límites y cómo otros pueden desafiar sus suposiciones.
Ahí es donde comienza una conversación seria sobre la IA. No con la afirmación de que un sistema sirve a las personas, sino con la pregunta de qué significa eso en el comportamiento específico de un modelo y quién puede verificar que es cierto.
