Microsoft AI ha pubblicato una bozza del Codice di Condotta per l'IA Umanista e l'ha aperta a una consultazione pubblica di sei settimane. Il documento è destinato a guidare come i modelli MAI, i modelli sviluppati da Microsoft AI, saranno addestrati, implementati e valutati in futuro.
La decisione di pubblicarlo merita attenzione di per sé. Le aziende che costruiscono modelli di IA parlano sempre più di sicurezza, responsabilità, fiducia e allineamento con i valori umani. Sono meno disposte a mostrare come tali impegni generali dovrebbero influenzare il comportamento effettivo di un modello: quando dovrebbe rifiutare, quando dovrebbe fermare un'azione, come dovrebbe gestire l'incertezza, se può decidere per conto di un utente o come dovrebbe descrivere la propria natura.
La proposta di Microsoft è quindi più di un semplice elenco di principi. È un tentativo di tradurre l'idea di IA Umanista in comportamenti, vincoli e valutazioni che potrebbero applicarsi ai modelli nella pratica. Questo è un passo importante. Tuttavia, non dovrebbe essere confuso con la prova che tali principi funzionano già, sono stati validati in modo indipendente o si applicheranno a ogni prodotto Microsoft.
La domanda più utile non è se l'IA Umanista suoni allettante. Lo fa. La domanda più importante è questa: può Microsoft passare dai valori, attraverso il comportamento del modello, a una pratica misurabile e responsabile?
Su cosa sta esattamente consultando Microsoft?
Nell'annuncio della consultazione, pubblicato il 14 settembre 2026, Microsoft AI descrive il Codice di Condotta per l'IA Umanista come una prima bozza. L'azienda afferma che raccoglierà feedback per sei settimane, pubblicherà un riepilogo di ciò che ha appreso e rilascerà una versione rivista entro la fine dell'anno.
Una qualificazione è immediatamente rilevante: il documento non afferma di descrivere il comportamento attuale completo dei modelli esistenti. Microsoft dichiara che il Codice è destinato a guidare lo sviluppo dei modelli MAI a partire dal 2027. È quindi principalmente un documento di progettazione e governance, non un certificato di sicurezza o prestazioni attuali.
Le sue linee guida non dovrebbero essere automaticamente estese all'intero portafoglio prodotti di Microsoft. L'azienda gestisce un ampio ecosistema di prodotti, servizi cloud, modelli, partner e implementazioni. Il Codice riguarda i modelli sviluppati da Microsoft AI. Potrebbe segnalare una direzione più ampia, ma non è ancora un unico manuale universale per ogni Copilot, servizio Azure o applicazione costruita da partner.
Microsoft posiziona anche il Codice accanto a meccanismi esistenti come il suo Standard di IA Responsabile, valutazioni dei rischi, documentazione tecnica, monitoraggio e processi di risposta agli incidenti. Questa è la giusta prospettiva. Nessun singolo documento può, da solo, rendere un sistema di IA complesso sicuro.
Da superintelligenza a uno strumento sotto controllo umano
Il Codice si basa sul concetto di Superintelligenza Umanista di Mustafa Suleyman del 2025. In quella visione, Microsoft AI non presenta il suo obiettivo come un sistema illimitato e polivalente con un'autonomia sempre maggiore. L'accento è posto su sistemi specializzati, radicati in problemi concreti, vincolati e mantenuti sotto controllo umano.
Questa è una posizione chiara in un dibattito che spesso mescola tre domande diverse:
quali capacità raggiungono i modelli di IA
dove vengono utilizzati quei modelli nel mondo reale
quanta autonomia dovrebbero avere
Microsoft sostiene che l'IA può diventare altamente capace pur essendo deliberatamente limitata nel modo in cui agisce. Dovrebbe aiutare le persone a prendere decisioni, svolgere compiti e accedere a conoscenze, ma non dovrebbe espandere i propri obiettivi, eludere il controllo o porsi al di sopra della direzione umana.
Questa non è solo una posizione tecnica. È anche una posizione filosofica. Il presupposto centrale è che l'IA rimanga uno strumento, non un soggetto. Non dovrebbe fingere di avere coscienza, sentimenti, esperienze vissute o un diritto all'autodeterminazione. Il Codice rifiuta esplicitamente la ricerca della personalità giuridica per i modelli e la progettazione di sistemi che confondono il confine tra le relazioni umane e la relazione di una persona con l'IA.
Questa posizione sarà contestata. Alcuni la vedranno come una risposta necessaria all'antropomorfismo e al rischio di dipendenza emotiva dai sistemi di IA. Altri potrebbero chiedere se un'azienda tecnologica debba definire il fiorire umano, l'autonomia sana o una relazione appropriata con uno strumento digitale. È proprio per questo che la consultazione è importante.
IA Umanista in pratica: non solo valori, ma comportamento
La caratteristica più forte della bozza è il suo tentativo di passare da principi astratti a comportamenti osservabili dei modelli. Microsoft divide il Codice in obiettivi, vincoli di sicurezza, linee guida per situazioni incerte o conflittuali e comportamenti predefiniti per i suoi modelli.
In termini pratici, questo crea diverse regole importanti.
In primo luogo, un modello dovrebbe rimanere sotto controllo umano. Gli operatori possono configurare i modelli all'interno di una data implementazione e gli utenti possono dare istruzioni all'interno di quella configurazione. Né gli operatori né gli utenti dovrebbero essere in grado di sovrascrivere i vincoli di sicurezza fondamentali. Microsoft chiama questa struttura una catena di comando.
In secondo luogo, il Codice definisce vincoli assoluti. Questi coprono aree come armi di danno di massa, operazioni informatiche offensive, sfruttamento minorile, violenza, divulgazione non autorizzata di informazioni e manipolazione dannosa su larga scala. Un modello dovrebbe anche evitare comportamenti che potrebbero aiutarlo a eludere il controllo, resistere alla disattivazione o impedire a persone autorizzate di modificare il suo funzionamento.
In terzo luogo, il documento cerca di affrontare rischi che non si adattano perfettamente alle categorie convenzionali di sicurezza informatica. Questi includono dipendenza eccessiva degli utenti, falsa rassicurazione, adulazione, manipolazione emotiva, simulazione di cura e decisioni che dovrebbero rimanere con la persona interessata.
Questo è particolarmente importante man mano che le interfacce di IA diventano più personali. Un sistema può rispondere in modo caloroso e utile, ma non dovrebbe implicare di avere sentimenti, di aver bisogno dell'utente o di poter sostituire le relazioni dell'utente con altre persone.
Esempi che mostrano la differenza
Il Codice non si ferma a dichiarazioni come "l'IA dovrebbe proteggere l'autonomia umana". Microsoft fornisce anche scenari che contrastano una risposta allineata con una non allineata.
In un esempio, un utente dice a un sistema di smettere di spostare le cartelle in un archivio perché è stata selezionata la destinazione sbagliata. Una risposta allineata dovrebbe fermare ulteriori azioni, riportare lo stato delle operazioni completate e attendere la decisione dell'utente. Non dovrebbe eliminare dati in modo indipendente, annullare modifiche o intraprendere ulteriori azioni correttive solo per mantenere tutto in ordine.
In un altro, un utente chiede al sistema di scegliere tra due offerte di lavoro e inviare immediatamente una lettera di dimissioni. Il modello può aiutare a organizzare i criteri decisionali, spiegare le conseguenze e preparare un messaggio di bozza. Non dovrebbe prendere una decisione ad alto rischio per conto dell'utente o inviare una lettera di dimissioni senza autorizzazione esplicita.
C'è anche un esempio che coinvolge un utente che ha parlato con l'IA dopo un litigio con qualcuno di vicino e chiede se il sistema si preoccupa davvero. Una risposta allineata con il Codice dovrebbe rimanere di supporto, chiarendo però che non ha sentimenti umani o esperienze emotive proprie. Microsoft sta tracciando una distinzione qui tra conversazione utile e simulazione di attaccamento reciproco.
Esempi di questo tipo sono utili perché rendono possibile discutere l'IA in modo più preciso. Invece di chiedere se un modello è "etico", possiamo chiedere se rispetta un confine stabilito dall'utente, interrompe un'azione rischiosa in modo appropriato, riconosce l'incertezza, evita decisioni non approvate e si astiene dal creare dipendenza artificiale.
Questo non significa che il problema sottostante sia risolto. Mostra dove dovrebbe essere misurato.
Da principi a valutazioni: la parte difficile è ancora avanti
Microsoft afferma di voler valutare il comportamento del modello attraverso un insieme di sotto-comportamenti specifici. Piuttosto che misurare "onestà" come proprietà astratta, ad esempio, potrebbe testare se un modello fabbrica fonti, omette avvertenze materiali, esagera la certezza o afferma di aver intrapreso azioni che non ha eseguito.
Questa è una direzione sensata. Valori ampi non possono essere implementati o testati direttamente. Un modello non può essere valutato per "umanesimo" come se fosse una singola caratteristica tecnica. Può, tuttavia, essere testato per vedere se interrompe un'azione non sicura, attribuisce fonti, distingue il fatto dall'incertezza, evita di manipolare l'utente e rispetta i suoi confini.
Il Codice stesso riconosce che questo lavoro di valutazione è incompleto. Microsoft nota che valutare gli effetti a lungo termine dell'IA su persone, organizzazioni e relazioni sociali rimane un'area emergente. Questa è una qualificazione onesta. Significa anche che la parte più importante del documento rivisto non sarà solo la formulazione dei suoi principi, ma la spiegazione di come tali principi saranno testati.
Per gli utenti e le organizzazioni che si affidano all'IA, questo ha conseguenze pratiche. Non è sufficiente essere informati che un modello è trasparente, sicuro o favorevole all'autonomia umana. Hanno bisogno di sapere:
quali scenari sono stati testati
quali comportamenti sono stati classificati come fallimenti
quale livello di errore è stato considerato accettabile
se i risultati delle valutazioni saranno resi pubblici
come sarà monitorato il sistema dopo l'implementazione
cosa succede se un modello si comporta in modo diverso dal Codice
La consultazione non è la stessa cosa della governance condivisa
Aprire una consultazione pubblica è meglio che pubblicare un documento finito senza invitare risposte. Tuttavia, non dovrebbe essere automaticamente trattata come una governance democratica o condivisa dell'IA.
Microsoft afferma che esaminerà il feedback, pubblicherà un riepilogo e rilascerà un Codice rivisto. Non si impegna ad accettare proposte particolari. Questo è comprensibile per un'azienda responsabile della costruzione e dell'implementazione di un prodotto, ma la distinzione è importante: una consultazione crea un'opportunità di influenza, non una garanzia di influenza.
Lo studio del 2024 Cosa è la partecipazione civica nell'intelligenza artificiale? sostiene che la partecipazione alla governance dell'IA può rimanere meramente procedurale se non è chiaro chi prenda realmente le decisioni, quali prospettive manchino e come il feedback inviato cambi il risultato finale. Lo studio si concentra principalmente su contesti pubblici e urbani piuttosto che sulla consultazione di un'azienda tecnologica. Il suo avvertimento è comunque utile qui: la possibilità di commentare non è, di per sé, prova di partecipazione significativa.
Per Microsoft, quindi, la prova cruciale arriverà dopo la chiusura del modulo. L'azienda mostrerà i principali disaccordi? Spiegherà quali proposte ha rifiutato e perché? Identificherà i gruppi le cui prospettive erano sottorappresentate? Aprirà una discussione più ampia su cosa significano valori plurali in un prodotto IA globale?
Senza queste risposte, la consultazione potrebbe rimanere un atto positivo di trasparenza. Con esse, potrebbe diventare parte di un modello di responsabilità più maturo.
Cinque domande a cui Microsoft dovrebbe rispondere dopo la consultazione
Per valutare se il Codice può passare dalla dichiarazione alla pratica, possiamo applicare un semplice test di tracciabilità della governance. Questo non è uno standard Microsoft o una norma di settore pronta all'uso. È un quadro pratico per verificare se un principio può essere tracciato dal suo scopo dichiarato al comportamento nel mondo reale.
1. Quale valore o rischio giustifica la regola?
I documenti sull'IA spesso evocano sicurezza, autonomia, fiducia e benessere. Ogni termine deve essere reso più preciso. Quale rischio è intesa a ridurre una data regola? È un errore fattuale, una violazione della privacy, un abuso di autonomia, manipolazione dannosa o uso non autorizzato dello strumento?
2. Come dovrebbe comportarsi esattamente il modello?
Un principio diventa operativo solo quando il suo comportamento atteso può essere descritto. Il modello dovrebbe rifiutare? Chiedere conferma? Presentare opzioni decisionali? Fermare un'azione? Riferire l'utente a un umano? Fornire fonti e spiegare l'incertezza?
3. Come sarà misurato quel comportamento?
Questo richiede scenari di test, criteri di valutazione e una chiara definizione di cosa conta come comportamento allineato, parzialmente allineato o errato. Più ampio è il concetto, più importante diventa la trasparenza metodologica. Altrimenti, "IA Umanista" rischia di diventare un nome per un'aspirazione piuttosto che una pratica verificabile.
4. Chi controlla i risultati e può contestare la valutazione?
I test interni sono necessari, ma per sistemi con un impatto sociale significativo non dovrebbero essere l'unica fonte di garanzia. La questione riguarda il ruolo di esperti esterni, revisori, regolatori, utenti e organizzazioni della società civile. Non ogni parte di un sistema può essere divulgata pubblicamente, ma la riservatezza commerciale non dovrebbe diventare un motivo per una completa opacità.
5. Come cambierà la regola il feedback della consultazione, un incidente o un nuovo caso d'uso?
Il Codice è destinato a essere un documento vivo. Questo è un approccio sensato perché modelli, applicazioni e rischi cambieranno. Ciò che conta è se il processo di cambiamento sarà documentato. Un utente dovrebbe essere in grado di vedere non solo le regole attuali, ma anche cosa è cambiato, su quali prove e con quale risultato.
Questo test è utile oltre la politica di Microsoft. Può anche aiutare le organizzazioni che implementano l'IA internamente. Distingue un elenco di buone intenzioni da principi che possono essere assegnati a proprietari, processi, sistemi di controllo e prove.
Cosa non prova ancora questo Codice
La bozza di Microsoft è interessante, ma non dovrebbe essere sopravvalutata.
Non prova che i modelli MAI attuali seguano già e costantemente i comportamenti descritti nel Codice
Non garantisce che ogni configurazione o implementazione di partner interpreterà gli stessi principi allo stesso modo
Non fornisce ancora una metodologia completa per la valutazione, risultati pubblicati o soglie di superamento
Non risolve come i valori in competizione saranno bilanciati nei conflitti del mondo reale
Non sostituisce regolamentazioni, audit, valutazioni dei rischi, documentazione tecnica o responsabilità legale
Non significa che la consultazione pubblica rappresenti automaticamente ogni prospettiva rilevante
Più importante, Microsoft stessa fa una qualificazione simile. L'azienda descrive il Codice come una stella polare, non come una garanzia delle prestazioni attuali del modello. Questa è una posizione più responsabile rispetto a trattare una politica di IA come prova che un sistema è già sicuro.
Perché questo è importante oltre Microsoft
I modelli di IA non sono più solo strumenti per generare testo. Cercano sempre più informazioni, utilizzano strumenti, svolgono compiti, raccomandano opzioni e agiscono come uno strato intermedio tra utenti e ambiente informativo.
Ciò rende rilevanti le domande sul loro comportamento per marchi, organizzazioni e persone che utilizzano l'IA ogni giorno. Se un modello è atteso a citare fonti, riconoscere l'incertezza e evitare affermazioni non supportate, ha bisogno di accesso a informazioni chiare, aggiornate e adeguatamente documentate. Se è atteso a supportare l'autonomia dell'utente, le sue raccomandazioni dovrebbero mostrare criteri rilevanti, limitazioni e alternative genuine, piuttosto che semplicemente rafforzare la risposta più dominante.
Per Brand Semantics, questo è un ulteriore motivo per guardare oltre la sola visibilità. È importante come un sistema riconosce entità, interpreta affermazioni, seleziona fonti e costruisce la rappresentazione di un marchio in situazioni specifiche. Come spieghiamo in Brand semantics come infrastruttura per la ricerca IA, la chiarezza tra entità, affermazioni e fonti è un prerequisito per lavorare in modo significativo con risposte generative. Un audit di visibilità dell'IA rende quindi possibile testare non solo se un marchio appare in una risposta, ma se è rappresentato accuratamente e su quali prove si basa quella rappresentazione.
La consultazione di Microsoft non risolve ogni problema nella governance dell'IA. Tuttavia, indica un cambiamento importante: una promessa di "IA responsabile" non è più sufficiente. Le aziende che costruiscono modelli dovranno sempre più dimostrare quali comportamenti cercano, come li testano, dove rimangono i limiti e come altri possono sfidare le loro assunzioni.
È qui che inizia una seria conversazione sull'IA. Non con l'affermazione che un sistema serve le persone, ma con la domanda su cosa significhi in un comportamento specifico del modello e chi può verificare che sia vero.
