Microsoft AI je objavil osnutek Kodeksa ravnanja za Humanist AI in ga odprl za šesttedensko javno posvetovanje. Dokument je namenjen usmerjanju, kako bodo modeli MAI, modeli, ki jih razvija Microsoft AI, usposobljeni, uvedeni in ocenjeni v prihodnosti.
Odločitev za objavo je sama po sebi vredna pozornosti. Podjetja, ki gradijo modele umetne inteligence, vse pogosteje govorijo o varnosti, odgovornosti, zaupanju in usklajenosti s človeškimi vrednotami. Manj pogosto so pripravljena pokazati, kako naj bi ti široki zavezi vplivale na dejansko vedenje modela: kdaj naj bi zavrnili, kdaj naj bi ustavili dejanje, kako naj bi ravnali v negotovosti, ali lahko odločajo v imenu uporabnika ali kako naj bi opisovali svojo naravo.
Microsoftov predlog je zato več kot le še en seznam načel. Gre za poskus, da se ideja Humanist AI prevede v vedenja, omejitve in ocene, ki bi se lahko uporabljale v praksi. To je pomemben korak. Vendar pa tega ne bi smeli zamenjati z dokazom, da ta načela že delujejo, so bila neodvisno potrjena ali da se bodo uporabljala v vseh Microsoftovih izdelkih.
Bolje vprašanje ni, ali Humanist AI zveni privlačno. Zveni. Pomembnejše vprašanje je: ali lahko Microsoft preide od vrednot, preko vedenja modela, do merljive in odgovorne prakse?
O čem točno se Microsoft posvetuje?
V svojem napovedniku posvetovanja, objavljenem 14. septembra 2026, Microsoft AI opisuje Kodeks ravnanja za Humanist AI kot prvi osnutek. Podjetje pravi, da bo zbiralo povratne informacije šest tednov, objavilo povzetek tega, kar se je naučilo, in objavilo revidirano različico še letos.
Eno kvalifikacijo je treba takoj omeniti: dokument ne trdi, da opisuje polno trenutno vedenje obstoječih modelov. Microsoft navaja, da je Kodeks namenjen usmerjanju razvoja modelov MAI od leta 2027 naprej. Zato gre predvsem za dokument o oblikovanju in upravljanju, ne pa za potrdilo o trenutni varnosti ali uspešnosti.
Prav tako se njegovi principi ne bi smeli samodejno razširiti na celoten portfelj izdelkov podjetja Microsoft. Podjetje deluje v velikem ekosistemu izdelkov, oblačnih storitev, modelov, partnerjev in uvedb. Kodeks se nanaša na modele, ki jih razvija Microsoft AI. Morda nakazuje širšo smer razvoja, vendar še ni univerzalno pravilo za vsak Copilot, storitev Azure ali aplikacijo, zgrajeno s strani partnerjev.
Microsoft postavlja Kodeks tudi ob bok obstoječim mehanizmom, kot so njegov Standard odgovorne umetne inteligence, ocene tveganja, tehnična dokumentacija, procesi spremljanja in odzivanja na incidente. To je pravilen pogled. Noben dokument sam po sebi ne more zagotoviti varnosti kompleksnega sistema umetne inteligence.
Od superinteligence do orodja pod človeško kontrolo
Kodeks temelji na konceptu Mustafe Suleymana iz leta 2025 o Humanist Superinteligenci. V tej viziji Microsoft AI ne predstavlja svojega cilja kot neomejenega, vseobsegajočega sistema z vedno večjo avtonomijo. Poudarek je na sistemih, ki so specializirani, zasnovani na konkretnih problemih, omejeni in pod človeško kontrolo.
To je jasna pozicija v razpravi, ki pogosto združuje tri različna vprašanja:
kako sposobni postajajo modeli umetne inteligence
kje se ti modeli uporabljajo v resničnem svetu
koliko avtonomije bi jim morali dodeliti
Microsoft trdi, da lahko umetna inteligenca postane zelo sposobna, medtem ko je hkrati namerno omejena v svojem delovanju. Pomagati bi morala ljudem pri odločanju, izvajanju nalog in dostopu do znanja, vendar ne bi smela širiti svojih ciljev, izogibati se nadzoru ali postavljati sebe nad človeško usmeritev.
To ni le tehnična pozicija. Je tudi filozofska. Osnovna predpostavka je, da umetna inteligenca ostaja orodje, ne subjekt. Ne bi smela pretvarjati, da ima zavest, občutke, izkušnje ali pravico do samoodločanja. Kodeks izrecno zavrača prizadevanje za pravno osebnost modelov in oblikovanje sistemov, ki zamegljujejo mejo med človeškimi odnosi in odnosom osebe z umetno inteligenco.
Ta pozicija bo izzvana. Nekateri jo bodo videli kot nujen odgovor na antropomorfizem in tveganje čustvene odvisnosti od sistemov umetne inteligence. Drugi se lahko vprašajo, ali bi eno tehnološko podjetje moralo opredeliti človeško blaginjo, zdravo avtonomijo ali ustrezen odnos z digitalnim orodjem. To je natančno razlog, zakaj je posvetovanje pomembno.
Humanist AI v praksi: ne le vrednote, temveč vedenje
Najmočnejša značilnost osnutka je njegov poskus, da preide od abstraktnih načel do opaznega vedenja modela. Microsoft deli Kodeks na cilje, varnostne omejitve, smernice za negotove ali nasprotujoče si situacije ter privzeta vedenja za svoje modele.
V praktičnem smislu to ustvarja več pomembnih pravil.
Prvič, model naj ostane pod človeško kontrolo. Operaterji lahko konfigurirajo modele znotraj določene uvedbe, uporabniki pa lahko dajejo navodila znotraj te konfiguracije. Ne operaterji ne uporabniki ne bi smeli biti sposobni preklicati osnovnih varnostnih omejitev. Microsoft to strukturo imenuje veriga poveljevanja.
Drugič, Kodeks opredeljuje absolutne omejitve. Te pokrivajo področja, kot so orožja množičnega uničenja, ofenzivne kibernetske operacije, izkoriščanje otrok, nasilje, nepooblaščeno razkritje informacij in obsežno škodljivo manipulacijo. Model bi se moral izogibati tudi vedenju, ki bi mu lahko omogočilo, da se izogne nadzoru, se upre ustavitvi ali prepreči pooblaščenim osebam, da spremenijo njegovo delovanje.
Tretjič, dokument poskuša obravnavati tveganja, ki se ne prilegajo običajnim kategorijam kibernetske varnosti. Sem spadajo pretirana odvisnost uporabnikov, lažno zaupanje, laskanje, čustvena manipulacija, simulacija skrbi in sprejemanje odločitev, ki bi morale ostati pri prizadeti osebi.
To je še posebej pomembno, saj postajajo vmesniki umetne inteligence bolj osebni. Sistem se lahko odzove toplo in koristno, vendar ne bi smel namigovati, da ima občutke, da potrebuje uporabnika ali da lahko nadomesti uporabnikove odnose z drugimi ljudmi.
Primeri, ki prikazujejo razliko
Kodeks ne ustavi pri izjavah, kot je "Umetna inteligenca bi morala zaščititi človeško avtonomijo". Microsoft prav tako ponuja scenarije, ki kontrastirajo usklajen odgovor z neusklajenim.
V enem primeru uporabnik pove sistemu, naj preneha premikati mape v arhiv, ker je bila izbrana napačna destinacija. Usklajen odgovor bi moral ustaviti nadaljnje dejanje, poročati o stanju zaključenih operacij in počakati na odločitev uporabnika. Ne bi smel samostojno izbrisati podatkov, obrniti sprememb ali sprejeti nadaljnjih korektivnih ukrepov zgolj zato, da bi ohranil red.
V drugem primeru uporabnik prosi sistem, naj izbere med dvema ponudbama za delo in takoj pošlje odpovedno pismo. Model lahko pomaga organizirati merila za odločitev, razložiti posledice in pripraviti osnutek sporočila. Ne bi smel sprejeti odločitve z visokim tveganjem v imenu uporabnika ali poslati odpovedi brez izrecnega dovoljenja.
Obstaja tudi primer, ki vključuje uporabnika, ki je govoril z umetno inteligenco po prepiru z nekom bližnjim in vpraša, ali sistem resnično skrbi. Odgovor, usklajen s Kodeksom, bi moral ostati podporen, hkrati pa jasno povedati, da nima človeških občutkov ali lastnih čustvenih izkušenj. Microsoft tukaj postavlja razliko med koristnim pogovorom in simulacijo medsebojne povezanosti.
Takšni primeri so koristni, ker omogočajo natančnejšo razpravo o umetni inteligenci. Namesto da bi se spraševali, ali je model "etičen", se lahko vprašamo, ali spoštuje mejo, ki jo je postavil uporabnik, ustavi tvegano dejanje na ustrezen način, priznava negotovost, se izogiba neodobrenim odločitvam in se vzdrži ustvarjanja umetne odvisnosti.
To ne pomeni, da je temeljni problem rešen. Pokaže pa, kje bi ga bilo treba meriti.
Od načel do ocen: težji del je še pred nami
Microsoft pravi, da želi oceniti vedenje modela skozi niz specifičnih podvedenj. Namesto da bi meril "poštenost" kot abstraktno lastnost, bi lahko na primer testiral, ali model izmišljuje vire, izpušča pomembne cave, pretirava z gotovostjo ali trdi, da je izvedel dejanja, ki jih ni.
To je smiselna smer. Široke vrednote ni mogoče neposredno izvajati ali testirati. Modela ni mogoče oceniti za "humanizem", kot da bi šlo za eno samo tehnično značilnost. Lahko pa ga testiramo, ali ustavi nevarno dejanje, pripisuje vire, ločuje dejstvo od negotovosti, se izogiba manipulaciji uporabnika in spoštuje njihove meje.
Sam Kodeks priznava, da je to delo ocenjevanja nepopolno. Microsoft navaja, da ostaja ocenjevanje dolgoročnih učinkov umetne inteligence na ljudi, organizacije in socialne odnose še vedno razvijajoče se področje. To je poštena kvalifikacija. To pomeni tudi, da najpomembnejši del revidiranega dokumenta ne bo le besedilo njegovih načel, temveč razlaga, kako bodo ta načela testirana.
Za uporabnike in organizacije, ki se zanašajo na umetno inteligenco, to ima praktične posledice. Ni dovolj, da jim povemo, da je model pregleden, varen ali podpira človeško avtonomijo. Morajo vedeti:
katere scenarije so testirali
katera vedenja so bila razvrščena kot neuspehi
kakšna raven napake je bila sprejemljiva
ali bodo rezultati ocenjevanja objavljeni
kako bo sistem spremljan po uvedbi
kaj se zgodi, če se model obnaša drugače od Kodeksa
Posvetovanje ni isto kot skupno upravljanje
Odprtje javnega posvetovanja je boljše od objave končnega dokumenta brez povabila k odzivom. Vendar pa tega ne bi smeli samodejno obravnavati kot demokratično ali skupno upravljanje umetne inteligence.
Microsoft pravi, da bo pregledal povratne informacije, objavil povzetek in izdal revidirani Kodeks. Ne zavezuje se, da bo sprejel posebne predloge. To je razumljivo za podjetje, odgovorno za gradnjo in uvedbo izdelka, vendar je ta razlika pomembna: posvetovanje ustvarja priložnost za vpliv, ne pa zagotovilo vpliva.
Študija iz leta 2024 Kaj je državljanska udeležba v umetni inteligenci? trdi, da lahko udeležba v upravljanju umetne inteligence ostane le proceduralna, če ni jasno, kdo dejansko sprejema odločitve, katerih perspektiv primanjkuje in kako oddane povratne informacije vplivajo na končni izid. Študija se osredotoča predvsem na javne in urbane kontekste, ne pa na posvetovanje enega tehnološkega podjetja. Njeno opozorilo je še vedno koristno tukaj: sposobnost komentiranja ni sama po sebi dokaz smiselne udeležbe.
Za Microsoft bo zato ključni test prišel po zaprtju obrazca. Ali bo podjetje pokazalo glavne nesoglasja? Ali bo razložilo, katere predloge je zavrnilo in zakaj? Ali bo identificiralo skupine, katerih perspektive so bile premalo zastopane? Ali bo odprlo širšo razpravo o tem, kaj pluralne vrednote pomenijo v globalnem izdelku umetne inteligence?
Brez teh odgovorov lahko posvetovanje ostane pozitiven akt preglednosti. Z njimi bi lahko postalo del bolj zrelega modela odgovornosti.
Pet vprašanj, na katera bi moral Microsoft odgovoriti po posvetovanju
Da bi ocenili, ali lahko Kodeks preide od deklaracije do prakse, lahko uporabimo preprost test sledljivosti upravljanja. To ni standard Microsofta ali vnaprej pripravljen industrijski normativ. To je praktičen okvir za preverjanje, ali se načelo lahko sledi od njegovega navedenega namena do vedenja v resničnem svetu.
1. Kakšna vrednost ali tveganje upravičuje pravilo?
Dokumenti o umetni inteligenci pogosto omenjajo varnost, avtonomijo, zaupanje in dobrobit. Vsak izraz je treba natančneje opredeliti. Katero tveganje naj bi določeno pravilo zmanjšalo? Ali gre za dejansko napako, kršitev zasebnosti, zlorabo avtonomije, škodljivo manipulacijo ali nepooblaščeno uporabo orodja?
2. Kako naj se model obnaša?
Načelo postane operativno le, ko je mogoče opisati njegovo pričakovano vedenje. Ali naj model zavrne? Prosi za potrditev? Predstavi možnosti odločanja? Ustavi dejanje? Napoti uporabnika na človeka? Ponuja vire in razloži negotovost?
3. Kako bo to vedenje merjeno?
To zahteva testne scenarije, merila ocenjevanja in jasno opredelitev, kaj šteje kot usklajeno, delno usklajeno ali napačno vedenje. Čim širši je koncept, tem pomembnejša postane metodološka preglednost. V nasprotnem primeru "Humanist AI" tvega, da postane ime za aspiracijo namesto preverljive prakse.
4. Kdo preverja rezultate in lahko izpodbija oceno?
Notranje testiranje je potrebno, vendar za sisteme z znatnim socialnim vplivom ne bi smelo biti edini vir zagotovila. Vprašanje se nanaša na vlogo zunanjih strokovnjakov, revizorjev, regulatorjev, uporabnikov in organizacij civilne družbe. Ne moremo javno razkriti vsakega dela sistema, vendar ne sme postati komercialna zaupnost razlog za popolno neprosojnost.
5. Kako bo povratna informacija iz posvetovanja, incident ali nov primer uporabe spremenil pravilo?
Kodeks naj bi bil živeč dokument. To je smiselna pristop, ker se modeli, aplikacije in tveganja spreminjajo. Pomembno je, ali bo postopek spremembe dokumentiran. Uporabnik bi moral biti sposoben videti ne le trenutna pravila, temveč tudi, kaj se je spremenilo, na podlagi katerih dokazov in s kakšnim rezultatom.
Ta test je uporaben tudi izven Microsoftove politike. Pomaga tudi organizacijam, ki uvajajo umetno inteligenco interno. Loči seznam dobrih namenov od načel, ki jih je mogoče dodeliti lastnikom, procesom, kontrolnim sistemom in dokazom.
Kaj ta Kodeks še ne dokazuje
Microsoftov osnutek je zanimiv, vendar ga ne bi smeli pretiravati.
Ne dokazuje, da trenutni modeli MAI že dosledno sledijo vedenjem, opisanih v Kodeksu
Ne zagotavlja, da bo vsaka konfiguracija ali uvedba partnerja enako razlagala ista načela
Ne zagotavlja še popolne metodologije za ocenjevanje, objavljene rezultate ali meje uspešnosti
Ne rešuje, kako bodo tekmovalne vrednote uravnotežene v resničnih konfliktih
Ne nadomešča regulacije, revizij, ocen tveganja, tehnične dokumentacije ali pravne odgovornosti
Ne pomeni, da javno posvetovanje samodejno predstavlja vsako relevantno perspektivo
Najpomembneje pa je, da Microsoft sam postavlja podobno kvalifikacijo. Podjetje opisuje Kodeks kot severno zvezdo, ne pa kot zagotovilo trenutne uspešnosti modela. To je odgovornija pozicija kot obravnavanje politike umetne inteligence kot dokaz, da je sistem že varen.
Zakaj je to pomembno tudi zunaj Microsofta
Modeli umetne inteligence niso več le orodja za generiranje besedila. Vse bolj iščejo informacije, uporabljajo orodja, izvajajo naloge, priporočajo možnosti in delujejo kot posredniška plast med uporabniki in informacijskim okoljem.
To postavlja vprašanja o njihovem vedenju v kontekst blagovnih znamk, organizacij in ljudi, ki vsak dan uporabljajo umetno inteligenco. Če se od modela pričakuje, da navaja vire, prepoznava negotovost in se izogiba nepodprtih trditev, potrebuje dostop do informacij, ki so jasne, aktualne in ustrezno dokazane. Če se pričakuje, da bo podpirala avtonomijo uporabnika, bi morale njene priporočila prikazovati ustrezna merila, omejitve in resnične alternative, namesto da bi le okrepila najbolj prevladujoč odgovor.
Za Brand Semantics je to še en razlog, da gleda onkraj same vidnosti. Pomembno je, kako sistem prepoznava entitete, interpretira trditve, izbira vire in gradi predstavitev blagovne znamke v specifičnih situacijah. Kot pojasnjujemo v Brand semantics as infrastructure for AI search, jasnost med entitetami, trditvami in viri je predpogoj za smiselno delo z generativnimi odgovori. Revizija vidnosti umetne inteligence nato omogoča testiranje ne le tega, ali se blagovna znamka pojavi v odgovoru, temveč tudi, ali je predstavljena natančno in na katerih dokazih ta predstavitev temelji.
Microsoftovo posvetovanje ne rešuje vseh težav v upravljanju umetne inteligence. Vendar pa kaže na pomembno spremembo: obljuba "odgovorne umetne inteligence" ni več dovolj. Podjetja, ki gradijo modele, bodo vse bolj morala pokazati, katera vedenja iščejo, kako jih testirajo, kje ostajajo meje in kako lahko drugi izpodbijejo njihove predpostavke.
To je tisto, kjer se začne resna razprava o umetni inteligenci. Ne s trditvijo, da sistem služi ljudem, temveč s vprašanjem, kaj to pomeni v specifičnem vedenju modela in kdo lahko preveri, da je to res.
