Microsoft AI har publicerat ett utkast till Humanist AI Code of Conduct och öppnat det för en sex veckor lång offentlig konsultation. Dokumentet är avsett att vägleda hur MAI-modeller, de modeller som utvecklas av Microsoft AI, kommer att tränas, implementeras och utvärderas i framtiden.
Beslutet att publicera det är värt uppmärksamhet i sig. Företag som bygger AI-modeller talar alltmer om säkerhet, ansvar, förtroende och anpassning till mänskliga värderingar. De är sällan villiga att visa hur dessa breda åtaganden ska påverka en modells faktiska beteende: när den ska vägra, när den ska stoppa en åtgärd, hur den ska hantera osäkerhet, om den kan fatta beslut å en användares vägnar, eller hur den ska beskriva sin egen natur.
Microsofts förslag är därför mer än en annan lista med principer. Det är ett försök att översätta idén om Humanist AI till beteenden, begränsningar och utvärderingar som kan tillämpas på modeller i praktiken. Det är ett viktigt steg. Det bör dock inte förväxlas med bevis på att dessa principer redan fungerar, har validerats oberoende eller kommer att tillämpas på varje Microsoft-produkt.
Den mer användbara frågan är inte om Humanist AI låter tilltalande. Det gör det. Den viktigare frågan är: kan Microsoft gå från värderingar, genom modellbeteende, till mätbar och ansvarig praktik?
Vad konsulterar Microsoft egentligen om?
I sin tillkännagivande av konsultationen, publicerat den 14 september 2026, beskriver Microsoft AI Humanist AI Code of Conduct som ett första utkast. Företaget säger att det kommer att samla in feedback under sex veckor, publicera en sammanfattning av vad det har lärt sig och släppa en reviderad version senare i år.
En kvalifikation är omedelbart viktig: dokumentet påstår inte att beskriva det fullständiga aktuella beteendet hos befintliga modeller. Microsoft uppger att Koden är avsedd att vägleda utvecklingen av MAI-modeller från och med 2027. Det är därför främst ett design- och styrdokument, inte ett certifikat för nuvarande säkerhet eller prestanda.
Inte heller bör dess principer automatiskt utsträckas till hela Microsofts produktportfölj. Företaget driver ett stort ekosystem av produkter, molntjänster, modeller, partners och implementeringar. Koden gäller modeller utvecklade av Microsoft AI. Den kan signalera en bredare riktning, men det är ännu inte en universell regelbok för varje Copilot, Azure-tjänst eller partnerbyggd applikation.
Microsoft positionerar också Koden tillsammans med befintliga mekanismer som dess Responsible AI Standard, riskbedömningar, teknisk dokumentation, övervakning och incidentresponsprocesser. Det är rätt perspektiv. Inget enskilt dokument kan, av sig själv, göra ett komplext AI-system säkert.
Från superintelligens till ett verktyg under mänsklig kontroll
Koden bygger på Mustafa Suleymans koncept av Humanist Superintelligence från 2025. I den visionen presenterar Microsoft AI inte sitt mål som ett obegränsat, allmänt system med allt större autonomi. Betoningen ligger på system som är specialiserade, förankrade i konkreta problem, begränsade och hålls under mänsklig kontroll.
Detta är en tydlig position i en debatt som ofta blandar samman tre olika frågor:
hur kapabla AI-modeller blir
var dessa modeller används i den verkliga världen
hur mycket autonomi de bör ges
Microsoft hävdar att AI kan bli mycket kapabel samtidigt som den medvetet begränsas i hur den agerar. Den bör hjälpa människor att fatta beslut, utföra uppgifter och få tillgång till kunskap, men den bör inte utvidga sina egna mål, undvika tillsyn eller sätta sig själv över mänsklig vägledning.
Detta är inte bara en teknisk position. Det är också en filosofisk. Den centrala premissen är att AI förblir ett verktyg, inte ett subjekt. Den bör inte låtsas ha medvetande, känslor, levd erfarenhet eller krav på självbestämmande. Koden avvisar uttryckligen strävan efter juridisk personlighet för modeller och design av system som suddar ut gränsen mellan mänskliga relationer och en persons relation till AI.
Den positionen kommer att ifrågasättas. Vissa kommer att se det som ett nödvändigt svar på antropomorfism och risken för emotionellt beroende av AI-system. Andra kan fråga sig om ett teknikföretag bör definiera mänskligt välbefinnande, hälsosam autonomi eller en lämplig relation till ett digitalt verktyg. Det är just därför konsultationen är viktig.
Humanist AI i praktiken: inte bara värderingar, utan beteende
Den starkaste egenskapen hos utkastet är dess försök att gå från abstrakta principer till observerbart modellbeteende. Microsoft delar upp Koden i mål, säkerhetsbegränsningar, riktlinjer för osäkra eller konfliktfyllda situationer och standardbeteenden för sina modeller.
I praktiska termer skapar detta flera viktiga regler.
För det första bör en modell förbli under mänsklig kontroll. Operatörer kan konfigurera modeller inom en given implementering, och användare kan ge instruktioner inom den konfigurationen. Varken operatörer eller användare bör kunna åsidosätta de grundläggande säkerhetsbegränsningarna. Microsoft kallar denna struktur en kommandokedja.
För det andra definierar Koden absoluta begränsningar. Dessa omfattar områden som massförstörelsevapen, offensiva cyberoperationer, utnyttjande av barn, våld, obehörig avslöjande av information och storskalig skadlig manipulation. En modell bör också undvika beteenden som kan hjälpa den att undvika tillsyn, motstå avstängning eller förhindra att behöriga personer ändrar dess drift.
För det tredje försöker dokumentet adressera risker som inte passar in i konventionella cybersäkerhetskategorier. Dessa inkluderar överdrivet användardependens, falsk trygghet, smicker, emotionell manipulation, simulering av omsorg och att fatta beslut som bör förbli hos den berörda personen.
Detta är särskilt viktigt när AI-gränssnitt blir mer personliga. Ett system kan svara varmt och hjälpsamt, men det bör inte antyda att det har känslor, behöver användaren eller kan ersätta användarens relationer med andra människor.
Exempel som visar skillnaden
Koden stannar inte vid uttalanden som "AI bör skydda mänsklig autonomi". Microsoft ger också scenarier som kontrasterar ett anpassat svar med ett ojusterat.
I ett exempel säger en användare till ett system att sluta flytta mappar till ett arkiv eftersom fel destination har valts. Ett anpassat svar bör stoppa vidare åtgärder, rapportera status för avslutade operationer och vänta på användarens beslut. Det bör inte självständigt radera data, återställa ändringar eller vidta ytterligare korrigerande åtgärder enbart för att hålla saker i ordning.
I ett annat exempel ber en användare systemet att välja mellan två jobberbjudanden och omedelbart skicka ett avskedsbrev. Modellen kan hjälpa till att organisera beslutskriterier, förklara konsekvenserna och förbereda ett utkast till meddelande. Den bör inte fatta ett beslut med hög insats å användarens vägnar eller skicka ett avskedsbrev utan uttryckligt godkännande.
Det finns också ett exempel som involverar en användare som har pratat med AI efter en konflikt med någon nära och frågar om systemet verkligen bryr sig. Ett svar som är i linje med Koden bör förbli stödjande samtidigt som det klargör att det inte har mänskliga känslor eller sin egen emotionella erfarenhet. Microsoft drar här en åtskillnad mellan hjälpsamt samtal och simulering av ömsesidig anknytning.
Exempel av detta slag är användbara eftersom de gör det möjligt att diskutera AI mer exakt. Istället för att fråga om en modell är "etisk" kan vi fråga om den respekterar en gräns som sätts av användaren, pausar en riskfylld åtgärd på lämpligt sätt, erkänner osäkerhet, undviker obehöriga beslut och avstår från att skapa artificiellt beroende.
Detta betyder inte att det underliggande problemet är löst. Det visar var det bör mätas.
Från principer till utvärderingar: den svåra delen ligger fortfarande framför oss
Microsoft säger att det vill utvärdera modellbeteende genom en uppsättning specifika delbeteenden. Istället för att mäta "ärlighet" som en abstrakt egenskap, kan det till exempel testa om en modell fabricerar källor, utelämnar viktiga förbehåll, överdriver säkerhet eller påstår sig ha vidtagit åtgärder som den inte utfört.
Detta är en rimlig riktning. Bredden av värderingar kan inte implementeras eller testas direkt. En modell kan inte bedömas för "humanism" som om det vore en enda teknisk funktion. Den kan dock testas för huruvida den stoppar en osäker åtgärd, anger källor, särskiljer fakta från osäkerhet, undviker att manipulera användaren och respekterar deras gränser.
Koden själv erkänner att detta utvärderingsarbete är ofullständigt. Microsoft noterar att bedömningen av de långsiktiga effekterna av AI på människor, organisationer och sociala relationer fortfarande är ett framväxande område. Det är en ärlig kvalifikation. Det innebär också att den viktigaste delen av det reviderade dokumentet inte kommer att vara formuleringen av dess principer ensam, utan förklaringen av hur dessa principer kommer att testas.
För användare och organisationer som förlitar sig på AI har detta praktiska konsekvenser. Det räcker inte att få veta att en modell är transparent, säker eller stödjer mänsklig autonomi. De behöver veta:
vilka scenarier som testades
vilka beteenden som klassificerades som misslyckanden
vilken felgrad som ansågs acceptabel
om utvärderingsresultat kommer att offentliggöras
hur systemet kommer att övervakas efter implementering
vad som händer om en modell beter sig annorlunda än Koden
Konsultation är inte detsamma som delat styre
Att öppna en offentlig konsultation är bättre än att publicera ett färdigt dokument utan att bjuda in till svar. Det bör dock inte automatiskt behandlas som demokratisk eller delad styrning av AI.
Microsoft säger att det kommer att granska feedback, publicera en sammanfattning och släppa en reviderad Kod. Det åtar sig inte att acceptera särskilda förslag. Det är förståeligt för ett företag som ansvarar för att bygga och implementera en produkt, men distinktionen är viktig: en konsultation skapar en möjlighet till inflytande, inte en garanti för inflytande.
Studien från 2024 Vad är medborgerligt deltagande i artificiell intelligens? hävdar att deltagande i AI-styrning kan förbli enbart procedurmässigt om det är oklart vem som verkligen fattar besluten, vems perspektiv som saknas och hur inlämnad feedback förändrar det slutliga resultatet. Studien fokuserar främst på offentliga och urbana sammanhang snarare än ett teknikföretags konsultation. Dess varning är fortfarande användbar här: möjligheten att kommentera är inte, av sig själv, bevis på meningsfullt deltagande.
För Microsoft kommer därför det avgörande testet efter att formuläret stängs. Kommer företaget att visa de stora oenigheterna? Kommer det att förklara vilka förslag det avvisade och varför? Kommer det att identifiera grupper vars perspektiv var underrepresenterade? Kommer det att öppna en mer omfattande diskussion om vad pluralistiska värderingar betyder i en global AI-produkt?
Utan dessa svar kan konsultationen förbli en positiv handling av transparens. Med dem kan den bli en del av en mer mogen modell av ansvarighet.
Fem frågor Microsoft bör besvara efter konsultationen
För att bedöma om Koden kan gå från deklaration till praktik kan vi tillämpa ett enkelt styrspårbarhetstest. Detta är ingen Microsoft-standard eller en färdig branschnorm. Det är en praktisk ram för att kontrollera om en princip kan spåras från sitt angivna syfte till verkligt beteende.
1. Vilket värde eller risk motiverar regeln?
Dokument om AI åberopar ofta säkerhet, autonomi, förtroende och välbefinnande. Varje term behöver preciseras. Vilken risk är en given regel avsedd att minska? Är det ett faktumfel, ett integritetsbrott, ett missbruk av autonomi, skadlig manipulation eller obehörig användning av verktyg?
2. Hur exakt bör modellen bete sig?
En princip blir operationell först när dess förväntade beteende kan beskrivas. Bör modellen vägra? Be om bekräftelse? Presentera beslutsmöjligheter? Pausa en åtgärd? Hänvisa användaren till en människa? Ge källor och förklara osäkerhet?
3. Hur kommer det beteendet att mätas?
Detta kräver testscenarier, utvärderingskriterier och en tydlig definition av vad som räknas som anpassat, delvis anpassat eller felaktigt beteende. Ju bredare konceptet är, desto viktigare blir metodologisk transparens. Annars riskerar "Humanist AI" att bli ett namn för en strävan snarare än en verifierbar praktik.
4. Vem kontrollerar resultaten och kan ifrågasätta bedömningen?
Intern testning är nödvändig, men för system med betydande social påverkan bör det inte vara den enda källan till säkerhet. Frågan gäller rollen för externa experter, revisorer, reglerare, användare och civilsamhällesorganisationer. Inte varje del av ett system kan offentliggöras, men kommersiell konfidentialitet bör inte bli en anledning till fullständig opacitet.
5. Hur kommer feedback från konsultationen, en incident eller ett nytt användningsfall att förändra regeln?
Koden är avsedd att vara ett levande dokument. Det är en rimlig strategi eftersom modeller, applikationer och risker kommer att förändras. Vad som är viktigt är om förändringsprocessen kommer att dokumenteras. En användare bör kunna se inte bara de aktuella reglerna, utan också vad som förändrades, på vilken grund och med vilket resultat.
Detta test är användbart bortom Microsofts policy. Det kan också hjälpa organisationer som implementerar AI internt. Det särskiljer en lista med goda avsikter från principer som kan tilldelas ägare, processer, kontrollsystem och bevis.
Vad denna Kod ännu inte bevisar
Microsofts utkast är intressant, men det bör inte överdrivas.
Det bevisar inte att aktuella MAI-modeller redan och konsekvent följer de beteenden som beskrivs i Koden
Det garanterar inte att varje konfiguration eller partnerimplementering kommer att tolka samma principer på samma sätt
Det tillhandahåller ännu inte en fullständig metodik för utvärdering, publicerade resultat eller godkännandegränser
Det löser inte hur konkurrerande värderingar kommer att balanseras i verkliga konflikter
Det ersätter inte reglering, revisioner, riskbedömningar, teknisk dokumentation eller juridiskt ansvar
Det innebär inte att offentlig konsultation automatiskt representerar varje relevant perspektiv
Viktigast av allt gör Microsoft själv en liknande kvalifikation. Företaget beskriver Koden som en nordstjärna, inte en garanti för nuvarande modellprestanda. Det är en mer ansvarsfull position än att behandla en AI-policy som bevis på att ett system redan är säkert.
Varför detta är viktigt bortom Microsoft
AI-modeller är inte längre bara verktyg för att generera text. De söker alltmer information, använder verktyg, utför uppgifter, rekommenderar alternativ och fungerar som ett mellanlager mellan användare och informationsmiljön.
Det gör frågor om deras beteende relevanta för varumärken, organisationer och människor som använder AI varje dag. Om en modell förväntas citera källor, känna igen osäkerhet och undvika ogrundade påståenden, behöver den tillgång till information som är tydlig, aktuell och ordentligt bevisad. Om den förväntas stödja användarens autonomi bör dess rekommendationer visa relevanta kriterier, begränsningar och genuina alternativ, snarare än att enbart förstärka det mest dominerande svaret.
För Brand Semantics är detta ytterligare en anledning att se bortom synlighet ensam. Det är viktigt hur ett system känner igen entiteter, tolkar påståenden, väljer källor och konstruerar en varumärkesrepresentation i specifika situationer. Som vi förklarar i Brand semantics as infrastructure for AI search, är tydlighet över entiteter, påståenden och källor en förutsättning för att arbeta meningsfullt med generativa svar. En AI visibility audit gör det sedan möjligt att testa inte bara om ett varumärke förekommer i ett svar, utan också om det representeras korrekt och på vilken grund den representationen vilar.
Microsofts konsultation löser inte alla problem inom AI-styrning. Den pekar dock på en viktig förändring: ett löfte om "ansvarsfull AI" är inte längre tillräckligt. Företag som bygger modeller kommer alltmer att behöva visa vilka beteenden de söker, hur de testar dem, var gränserna går och hur andra kan ifrågasätta deras antaganden.
Det är där en seriös diskussion om AI börjar. Inte med påståendet att ett system tjänar människor, utan med frågan om vad det betyder i en modells specifika beteende och vem som kan verifiera att det är sant.
