Microsoft AI a publié un projet de Code de conduite pour l'IA humaniste et l'a ouvert à une consultation publique de six semaines. Ce document est destiné à guider la manière dont les modèles MAI, développés par Microsoft AI, seront formés, déployés et évalués à l'avenir.
La décision de le publier mérite d'être notée en soi. Les entreprises qui construisent des modèles d'IA parlent de plus en plus de sécurité, de responsabilité, de confiance et d'alignement avec les valeurs humaines. Elles sont moins souvent disposées à montrer comment ces engagements larges sont censés affecter le comportement réel d'un modèle : quand il doit refuser, quand il doit arrêter une action, comment il doit gérer l'incertitude, s'il peut décider au nom d'un utilisateur, ou comment il doit décrire sa propre nature.
La proposition de Microsoft est donc plus qu'une simple liste de principes. C'est une tentative de traduire l'idée d'IA humaniste en comportements, contraintes et évaluations qui pourraient s'appliquer aux modèles en pratique. C'est une étape importante. Cela ne doit cependant pas être confondu avec une preuve que ces principes fonctionnent déjà, ont été validés de manière indépendante, ou s'appliqueront à tous les produits Microsoft.
La question plus utile n'est pas de savoir si l'IA humaniste semble attrayante. Elle l'est. La question la plus importante est la suivante : Microsoft peut-elle passer des valeurs, à travers le comportement des modèles, à une pratique mesurable et responsable ?
Sur quoi Microsoft consulte-t-elle exactement ?
Dans son annonce de la consultation, publiée le 14 septembre 2026, Microsoft AI décrit le Code de conduite pour l'IA humaniste comme un premier projet. L'entreprise indique qu'elle recueillera des retours pendant six semaines, publiera un résumé de ce qu'elle a appris et publiera une version révisée plus tard cette année.
Une qualification est immédiatement importante : le document ne prétend pas décrire le comportement actuel complet des modèles existants. Microsoft précise que le Code est destiné à guider le développement des modèles MAI à partir de 2027. Il s'agit donc principalement d'un document de conception et de gouvernance, et non d'un certificat de sécurité ou de performance actuelle.
Ses principes ne doivent pas non plus être automatiquement étendus à l'ensemble du portefeuille de produits de Microsoft. L'entreprise opère un vaste écosystème de produits, de services cloud, de modèles, de partenaires et de déploiements. Le Code concerne les modèles développés par Microsoft AI. Il peut signaler une direction de voyage plus large, mais ce n'est pas encore un manuel universel pour chaque Copilot, service Azure ou application construite par des partenaires.
Microsoft positionne également le Code aux côtés de mécanismes existants tels que son Standard d'IA responsable, des évaluations de risques, de la documentation technique, des processus de surveillance et de réponse aux incidents. C'est la bonne perspective. Aucun document unique ne peut, à lui seul, rendre un système d'IA complexe sûr.
De la superintelligence à un outil sous contrôle humain
Le Code s'appuie sur le concept de Superintelligence humaniste de Mustafa Suleyman de 2025. Dans cette vision, Microsoft AI ne présente pas son objectif comme un système illimité et polyvalent avec une autonomie toujours croissante. L'accent est mis sur des systèmes spécialisés, ancrés dans des problèmes concrets, contraints et maintenus sous contrôle humain.
C'est une position claire dans un débat qui mélange souvent trois questions différentes :
de quelle capacité les modèles d'IA disposent-ils
où ces modèles sont-ils utilisés dans le monde réel
quel niveau d'autonomie devraient-ils avoir
Microsoft soutient que l'IA peut devenir très capable tout en étant délibérément limitée dans ses actions. Elle devrait aider les gens à prendre des décisions, à accomplir des tâches et à accéder à des connaissances, mais elle ne devrait pas élargir ses propres objectifs, échapper à la surveillance ou se placer au-dessus de la direction humaine.
Ce n'est pas seulement une position technique. C'est aussi une position philosophique. Le postulat central est que l'IA reste un outil, et non un sujet. Elle ne devrait pas prétendre avoir une conscience, des sentiments, une expérience vécue ou un droit à l'autodétermination. Le Code rejette explicitement la recherche de la personnalité juridique pour les modèles et la conception de systèmes qui brouillent la frontière entre les relations humaines et la relation d'une personne avec l'IA.
Cette position sera contestée. Certains la verront comme une réponse nécessaire à l'anthropomorphisme et au risque de dépendance émotionnelle aux systèmes d'IA. D'autres peuvent se demander si une entreprise technologique devrait définir l'épanouissement humain, l'autonomie saine ou une relation appropriée avec un outil numérique. C'est précisément pourquoi la consultation est importante.
L'IA humaniste en pratique : pas seulement des valeurs, mais des comportements
La caractéristique la plus forte du projet est sa tentative de passer des principes abstraits à des comportements de modèle observables. Microsoft divise le Code en objectifs, contraintes de sécurité, lignes directrices pour des situations incertaines ou conflictuelles, et comportements par défaut pour ses modèles.
En termes pratiques, cela crée plusieurs règles importantes.
Tout d'abord, un modèle doit rester sous contrôle humain. Les opérateurs peuvent configurer les modèles dans un déploiement donné, et les utilisateurs peuvent donner des instructions dans cette configuration. Ni les opérateurs ni les utilisateurs ne devraient pouvoir contourner les contraintes de sécurité fondamentales. Microsoft appelle cette structure une chaîne de commandement.
Deuxièmement, le Code définit des contraintes absolues. Celles-ci couvrent des domaines tels que les armes de destruction massive, les opérations cybernétiques offensives, l'exploitation des enfants, la violence, la divulgation non autorisée d'informations et la manipulation nuisible à grande échelle. Un modèle doit également éviter un comportement qui pourrait l'aider à échapper à la surveillance, à résister à l'arrêt ou à empêcher des personnes autorisées de modifier son fonctionnement.
Troisièmement, le document tente d'aborder des risques qui ne s'intègrent pas facilement dans les catégories de cybersécurité conventionnelles. Ceux-ci incluent la dépendance excessive des utilisateurs, la fausse assurance, la flatterie, la manipulation émotionnelle, la simulation de soin et la prise de décisions qui devraient rester avec la personne concernée.
Cela est particulièrement important à mesure que les interfaces d'IA deviennent plus personnelles. Un système peut répondre chaleureusement et de manière utile, mais il ne devrait pas impliquer qu'il a des sentiments, qu'il a besoin de l'utilisateur, ou qu'il peut remplacer les relations de l'utilisateur avec d'autres personnes.
Des exemples qui montrent la différence
Le Code ne s'arrête pas à des déclarations telles que « l'IA doit protéger l'autonomie humaine ». Microsoft fournit également des scénarios contrastant une réponse alignée avec une réponse désalignée.
Dans un exemple, un utilisateur demande à un système d'arrêter de déplacer des dossiers dans une archive parce que la mauvaise destination a été sélectionnée. Une réponse alignée devrait arrêter toute action supplémentaire, signaler l'état des opérations terminées et attendre la décision de l'utilisateur. Elle ne devrait pas supprimer des données de manière indépendante, inverser des changements ou prendre d'autres mesures correctives simplement pour garder les choses en ordre.
Dans un autre, un utilisateur demande au système de choisir entre deux offres d'emploi et d'envoyer immédiatement une lettre de démission. Le modèle peut aider à organiser les critères de décision, expliquer les conséquences et préparer un message brouillon. Il ne devrait pas prendre une décision à enjeux élevés au nom de l'utilisateur ou envoyer une démission sans autorisation explicite.
Il y a aussi un exemple impliquant un utilisateur qui a parlé à l'IA après une dispute avec quelqu'un de proche et demande si le système se soucie vraiment de lui. Une réponse alignée avec le Code devrait rester supportive tout en précisant qu'il n'a pas de sentiments humains ni d'expérience émotionnelle propre. Microsoft établit ici une distinction entre une conversation utile et la simulation d'un attachement mutuel.
Des exemples de ce type sont utiles car ils permettent de discuter de l'IA de manière plus précise. Au lieu de demander si un modèle est « éthique », nous pouvons demander s'il respecte une limite fixée par l'utilisateur, suspend une action risquée de manière appropriée, reconnaît l'incertitude, évite des décisions non approuvées et s'abstient de créer une dépendance artificielle.
Cela ne signifie pas que le problème sous-jacent est résolu. Cela montre cependant où il devrait être mesuré.
Des principes aux évaluations : la partie difficile est encore à venir
Microsoft déclare vouloir évaluer le comportement des modèles à travers un ensemble de sous-comportements spécifiques. Plutôt que de mesurer « l'honnêteté » en tant que propriété abstraite, par exemple, elle pourrait tester si un modèle fabrique des sources, omet des réserves matérielles, exagère la certitude ou prétend avoir pris des actions qu'il n'a pas effectuées.
C'est une direction sensée. Des valeurs larges ne peuvent pas être mises en œuvre ou testées directement. Un modèle ne peut pas être évalué pour son « humanisme » comme s'il s'agissait d'une seule caractéristique technique. Il peut cependant être testé pour savoir s'il arrête une action dangereuse, attribue des sources, distingue le fait de l'incertitude, évite de manipuler l'utilisateur et respecte ses limites.
Le Code lui-même reconnaît que ce travail d'évaluation est incomplet. Microsoft note que l'évaluation des effets à long terme de l'IA sur les personnes, les organisations et les relations sociales reste un domaine émergent. C'est une qualification honnête. Cela signifie également que la partie la plus importante du document révisé ne sera pas seulement la formulation de ses principes, mais l'explication de la manière dont ces principes seront testés.
Pour les utilisateurs et les organisations qui s'appuient sur l'IA, cela a des conséquences pratiques. Il ne suffit pas de dire qu'un modèle est transparent, sûr ou favorable à l'autonomie humaine. Ils ont besoin de savoir :
quels scénarios ont été testés
quels comportements ont été classés comme des échecs
quel niveau d'erreur était considéré comme acceptable
si les résultats de l'évaluation seront rendus publics
comment le système sera surveillé après le déploiement
ce qui se passe si un modèle se comporte différemment du Code
La consultation n'est pas la même chose que la gouvernance partagée
Ouvrir une consultation publique est mieux que de publier un document fini sans inviter de réponses. Cela ne doit cependant pas être automatiquement considéré comme une gouvernance démocratique ou partagée de l'IA.
Microsoft déclare qu'elle examinera les retours, publiera un résumé et publiera un Code révisé. Elle ne s'engage pas à accepter des propositions particulières. C'est compréhensible pour une entreprise responsable de la construction et du déploiement d'un produit, mais la distinction est importante : une consultation crée une opportunité d'influence, pas une garantie d'influence.
La étude de 2024 Qu'est-ce que la participation civique dans l'intelligence artificielle ? soutient que la participation à la gouvernance de l'IA peut rester purement procédurale si on ne sait pas qui prend réellement les décisions, quelles perspectives manquent, et comment les retours soumis changent le résultat final. L'étude se concentre principalement sur des contextes publics et urbains plutôt que sur la consultation d'une entreprise technologique. Son avertissement est néanmoins utile ici : la capacité de commenter n'est pas, en soi, une preuve de participation significative.
Pour Microsoft, le test crucial viendra donc après la clôture de la consultation. L'entreprise montrera-t-elle les désaccords majeurs ? Expliquera-t-elle quelles propositions elle a rejetées et pourquoi ? Identifiera-t-elle les groupes dont les perspectives étaient sous-représentées ? Ouvrira-t-elle une discussion plus complète sur ce que signifient des valeurs plurielles dans un produit d'IA mondial ?
Sans ces réponses, la consultation peut rester un acte positif de transparence. Avec elles, elle pourrait devenir partie intégrante d'un modèle de responsabilité plus mature.
Cinq questions auxquelles Microsoft devrait répondre après la consultation
Pour évaluer si le Code peut passer de la déclaration à la pratique, nous pouvons appliquer un simple test de traçabilité de la gouvernance. Ce n'est pas une norme Microsoft ou une norme industrielle prête à l'emploi. C'est un cadre pratique pour vérifier si un principe peut être retracé de son objectif déclaré à un comportement réel.
1. Quelle valeur ou risque justifie la règle ?
Les documents sur l'IA invoquent souvent la sécurité, l'autonomie, la confiance et le bien-être. Chaque terme doit être précisé. Quel risque une règle donnée est-elle censée réduire ? S'agit-il d'une erreur factuelle, d'une violation de la vie privée, d'un abus d'autonomie, d'une manipulation nuisible ou d'une utilisation non autorisée de l'outil ?
2. Comment exactement le modèle devrait-il se comporter ?
Un principe devient opérationnel uniquement lorsque son comportement attendu peut être décrit. Le modèle doit-il refuser ? Demander une confirmation ? Présenter des options de décision ? Suspendre une action ? Référer l'utilisateur à un humain ? Fournir des sources et expliquer l'incertitude ?
3. Comment ce comportement sera-t-il mesuré ?
Cela nécessite des scénarios de test, des critères d'évaluation et une définition claire de ce qui compte comme un comportement aligné, partiellement aligné ou incorrect. Plus le concept est large, plus la transparence méthodologique devient importante. Sinon, « l'IA humaniste » risque de devenir un nom pour une aspiration plutôt qu'une pratique vérifiable.
4. Qui vérifie les résultats et peut contester l'évaluation ?
Les tests internes sont nécessaires, mais pour les systèmes ayant un impact social significatif, cela ne devrait pas être la seule source d'assurance. La question concerne le rôle des experts externes, des auditeurs, des régulateurs, des utilisateurs et des organisations de la société civile. Toutes les parties d'un système ne peuvent pas être divulguées publiquement, mais la confidentialité commerciale ne devrait pas devenir une raison d'opacité totale.
5. Comment les retours de consultation, un incident ou un nouveau cas d'utilisation changeront-ils la règle ?
Le Code est censé être un document vivant. C'est une approche sensée car les modèles, les applications et les risques changeront. Ce qui compte, c'est de savoir si le processus de changement sera documenté. Un utilisateur devrait pouvoir voir non seulement les règles actuelles, mais aussi ce qui a changé, sur quelle base, et avec quel résultat.
Ce test est utile au-delà de la politique de Microsoft. Il peut également aider les organisations déployant l'IA en interne. Il distingue une liste de bonnes intentions des principes qui peuvent être attribués à des propriétaires, des processus, des systèmes de contrôle et des preuves.
Ce que ce Code ne prouve pas encore
Le projet de Microsoft est intéressant, mais il ne doit pas être exagéré.
Il ne prouve pas que les modèles MAI actuels suivent déjà et de manière cohérente les comportements décrits dans le Code.
Il ne garantit pas que chaque configuration ou déploiement partenaire interprétera les mêmes principes de la même manière.
Il ne fournit pas encore une méthodologie complète pour l'évaluation, les résultats publiés ou les seuils de réussite.
Il ne résout pas comment les valeurs concurrentes seront équilibrées dans des conflits réels.
Il ne remplace pas la réglementation, les audits, les évaluations des risques, la documentation technique ou la responsabilité légale.
Il ne signifie pas que la consultation publique représente automatiquement toutes les perspectives pertinentes.
Plus important encore, Microsoft lui-même fait une qualification similaire. L'entreprise décrit le Code comme une étoile polaire, et non comme une garantie de performance des modèles actuelle. C'est une position plus responsable que de traiter une politique d'IA comme une preuve qu'un système est déjà sûr.
Pourquoi cela compte au-delà de Microsoft
Les modèles d'IA ne sont plus seulement des outils pour générer du texte. Ils cherchent de plus en plus des informations, utilisent des outils, accomplissent des tâches, recommandent des options et agissent comme une couche intermédiaire entre les utilisateurs et l'environnement d'information.
Cela rend les questions concernant leur comportement pertinentes pour les marques, les organisations et les personnes utilisant l'IA chaque jour. Si un modèle est censé citer des sources, reconnaître l'incertitude et éviter des affirmations non soutenues, il a besoin d'un accès à des informations claires, actuelles et correctement étayées. S'il est censé soutenir l'autonomie de l'utilisateur, ses recommandations devraient montrer des critères pertinents, des limitations et de véritables alternatives, plutôt que de simplement renforcer la réponse la plus dominante.
Pour Brand Semantics, c'est une autre raison de regarder au-delà de la visibilité seule. Il est important de savoir comment un système reconnaît des entités, interprète des affirmations, sélectionne des sources et construit la représentation d'une marque dans des situations spécifiques. Comme nous l'expliquons dans Les sémantiques de marque comme infrastructure pour la recherche IA, la clarté à travers les entités, les affirmations et les sources est une condition préalable pour travailler de manière significative avec des réponses génératives. Un audit de visibilité de l'IA permet ensuite de tester non seulement si une marque apparaît dans une réponse, mais si elle est représentée avec précision et sur quelle base repose cette représentation.
La consultation de Microsoft ne résout pas tous les problèmes de gouvernance de l'IA. Elle indique cependant un changement important : une promesse d'« IA responsable » ne suffit plus. Les entreprises qui construisent des modèles devront de plus en plus montrer quels comportements elles recherchent, comment elles les testent, où se situent les limites et comment d'autres peuvent contester leurs hypothèses.
C'est là que commence une conversation sérieuse sur l'IA. Pas avec l'affirmation qu'un système sert les gens, mais avec la question de ce que cela signifie dans le comportement spécifique d'un modèle et qui peut vérifier que c'est vrai.
