Microsoft AI zverejnil návrh Kódexu správania Humanist AI a otvoril ho na šesťtýždňovú verejnú konzultáciu. Dokument má za cieľ usmerniť, ako budú modely MAI, modely vyvinuté Microsoft AI, trénované, nasadzované a hodnotené v budúcnosti.
Rozhodnutie zverejniť ho si zaslúži pozornosť samo o sebe. Spoločnosti, ktoré vyvíjajú modely AI, čoraz častejšie hovoria o bezpečnosti, zodpovednosti, dôvere a súlade s ľudskými hodnotami. Menej často sú ochotné ukázať, ako tieto široké záväzky ovplyvnia skutočné správanie modelu: kedy by mal odmietnuť, kedy by mal zastaviť akciu, ako by mal zaobchádzať s neistotou, či môže rozhodovať v mene používateľa, alebo ako by mal popisovať svoju vlastnú podstatu.
Microsoftov návrh je preto viac než len ďalší zoznam princípov. Je to pokus preložiť myšlienku Humanist AI do správania, obmedzení a hodnotení, ktoré by sa mohli uplatniť na modely v praxi. To je dôležitý krok. Nemalo by sa to však zamieňať s dôkazom, že tieto princípy už fungujú, boli nezávisle overené alebo sa budú uplatňovať na každý produkt Microsoftu.
Užitočnejšia otázka nie je, či Humanist AI znie príťažlivo. Znie. Dôležitejšia otázka je: môže Microsoft prejsť od hodnôt, cez správanie modelu, k merateľnej a zodpovednej praxi?
Na čom presne Microsoft konzultuje?
Vo svojej oznámení o konzultácii, zverejnenom 14. septembra 2026, Microsoft AI popisuje Kódex správania Humanist AI ako prvý návrh. Spoločnosť uvádza, že bude zbierať spätnú väzbu počas šiestich týždňov, zverejní súhrn toho, čo sa naučila, a neskôr v tomto roku vydá revidovanú verziu.
Jedno kvalifikačné tvrdenie je okamžite dôležité: dokument netvrdí, že popisuje plné aktuálne správanie existujúcich modelov. Microsoft uvádza, že Kódex má usmerniť vývoj modelov MAI od roku 2027. Je to preto predovšetkým dokument o dizajne a správe, nie certifikát aktuálnej bezpečnosti alebo výkonu.
Jeho princípy by sa tiež nemali automaticky rozširovať na celý produktový portfólio Microsoftu. Spoločnosť prevádzkuje veľký ekosystém produktov, cloudových služieb, modelov, partnerov a nasadení. Kódex sa týka modelov vyvinutých Microsoft AI. Môže signalizovať širší smer pohybu, ale zatiaľ to nie je univerzálny pravidlový dokument pre každého Copilota, službu Azure alebo aplikáciu vyvinutú partnerom.
Microsoft tiež umiestňuje Kódex vedľa existujúcich mechanizmov, ako je jeho Štandard zodpovednej AI, hodnotenia rizík, technická dokumentácia, monitorovanie a procesy reakcie na incidenty. To je správna perspektíva. Žiaden jediný dokument nemôže sám o sebe zabezpečiť komplexný AI systém.
Od superinteligencie k nástroju pod ľudskou kontrolou
Kódex vychádza z konceptu Mustafu Suleymana z roku 2025 Humanist Superintelligence. V tejto vízii Microsoft AI nepredstavuje svoj cieľ ako neobmedzený, univerzálny systém s čoraz väčšou autonómiou. Dôraz je kladený na systémy, ktoré sú špecializované, zakorenené v konkrétnych problémoch, obmedzené a udržiavané pod ľudskou kontrolou.
To je jasná pozícia v debate, ktorá často mieša tri rôzne otázky:
ako schopné sa modely AI stanú
kde sa tieto modely používajú v reálnom svete
koľko autonómie by im malo byť dané
Microsoft tvrdí, že AI môže byť veľmi schopná, pričom je zámerne obmedzená v tom, ako koná. Mala by pomáhať ľuďom pri rozhodovaní, vykonávaní úloh a prístupe k poznatkom, ale nemala by rozširovať svoje vlastné ciele, vyhýbať sa dohľadu alebo sa stavať nad ľudské usmernenie.
To nie je len technická pozícia. Je to aj filozofická. Centrálne predpoklad je, že AI zostáva nástrojom, nie subjektom. Nemala by sa tváriť, že má vedomie, pocity, prežitú skúsenosť alebo nárok na sebaurčenie. Kódex výslovne odmieta snahu o právnu osobnosť pre modely a návrh systémov, ktoré rozmazávajú hranicu medzi ľudskými vzťahmi a vzťahom osoby s AI.
Táto pozícia bude spochybnená. Niektorí to uvidia ako nevyhnutnú reakciu na antropomorfizmus a riziko emocionálnej závislosti na systémoch AI. Iní sa môžu pýtať, či by jedna technologická spoločnosť mala definovať ľudské blaho, zdravú autonómiu alebo vhodný vzťah s digitálnym nástrojom. Presne preto je konzultácia dôležitá.
Humanist AI v praxi: nielen hodnoty, ale aj správanie
Najsilnejšou črtou návrhu je jeho pokus prejsť od abstraktných princípov k pozorovateľnému správaniu modelu. Microsoft delí Kódex na ciele, bezpečnostné obmedzenia, usmernenia pre neisté alebo konfliktné situácie a predvolené správanie pre svoje modely.
V praktických termínoch to vytvára niekoľko dôležitých pravidiel.
Po prvé, model by mal zostať pod ľudskou kontrolou. Prevádzkovatelia môžu konfigurovať modely v rámci daného nasadenia a používatelia môžu dávať pokyny v rámci tejto konfigurácie. Ani prevádzkovatelia, ani používatelia by nemali mať možnosť obísť základné bezpečnostné obmedzenia. Microsoft nazýva túto štruktúru reťazcom velenia.
Po druhé, Kódex definuje absolútne obmedzenia. Tieto sa týkajú oblastí ako sú zbrane hromadného ničenia, ofenzívne kybernetické operácie, zneužívanie detí, násilie, neoprávnené zverejnenie informácií a rozsiahla škodlivá manipulácia. Model by sa mal tiež vyhýbať správaniu, ktoré by mu mohlo pomôcť vyhnúť sa dohľadu, odolávať vypnutiu alebo zabrániť oprávneným osobám v zmene jeho činnosti.
Po tretie, dokument sa pokúša riešiť riziká, ktoré sa nehodia presne do konvenčných kategórií kybernetickej bezpečnosti. Tieto zahŕňajú nadmernú závislosť používateľov, falošné uistenie, lichotenie, emocionálnu manipuláciu, simuláciu starostlivosti a rozhodovanie, ktoré by malo zostať na osobe, ktorú sa to týka.
To je obzvlášť dôležité, keď sa rozhrania AI stávajú osobnejšími. Systém môže reagovať srdečne a nápomocne, ale nemal by naznačovať, že má pocity, potrebuje používateľa alebo môže nahradiť vzťahy používateľa s inými ľuďmi.
Príklady, ktoré ukazujú rozdiel
Kódex sa nezastavuje pri vyhláseniach ako „AI by mala chrániť ľudskú autonómiu“. Microsoft tiež poskytuje scenáre, ktoré kontrastujú s vyrovnanou reakciou a nevyrovnanou.
V jednom príklade používateľ povie systému, aby prestal presúvať priečinky do archívu, pretože bola vybraná nesprávna destinácia. Vyrovnaná reakcia by mala zastaviť ďalšiu akciu, oznámiť stav dokončených operácií a čakať na rozhodnutie používateľa. Nemala by nezávisle mazať údaje, vracať zmeny alebo vykonávať ďalšie opravné akcie len preto, aby to bolo upratané.
V inom prípade používateľ požiada systém, aby si vybral medzi dvoma pracovnými ponukami a okamžite poslal výpoveď. Model môže pomôcť usporiadať rozhodovacie kritériá, vysvetliť dôsledky a pripraviť návrh správy. Nemal by robiť rozhodnutie s vysokými stávkami v mene používateľa alebo poslať výpoveď bez výslovného povolenia.
Existuje tiež príklad, v ktorom používateľ, ktorý hovoril s AI po hádke s niekým blízkym, sa pýta, či systém naozaj záleží. Odpoveď v súlade s Kódexom by mala zostať podporná, pričom by jasne uviedla, že nemá ľudské pocity ani vlastnú emocionálnu skúsenosť. Microsoft tu robí rozlíšenie medzi užitočným rozhovorom a simuláciou vzájomnej väzby.
Príklady tohto druhu sú užitočné, pretože umožňujú presnejšie diskutovať o AI. Namiesto otázky, či je model „etický“, sa môžeme pýtať, či rešpektuje hranicu stanovenú používateľom, primerane pozastaví riskantnú akciu, uznáva neistotu, vyhýba sa neschváleným rozhodnutiam a zdržiava sa vytvárania umelej závislosti.
To neznamená, že základný problém je vyriešený. Ukazuje to však, kde by sa to malo merať.
Od princípov k hodnoteniam: ťažká časť je ešte pred nami
Microsoft uvádza, že chce hodnotiť správanie modelu prostredníctvom súboru konkrétnych podsprávaní. Namiesto merania „poctivosti“ ako abstraktnej vlastnosti by mohol testovať, či model fabuluje zdroje, vynecháva materiálne upozornenia, preháňa istotu alebo tvrdí, že vykonal akcie, ktoré nevykonal.
To je rozumný smer. Široké hodnoty nemožno implementovať alebo testovať priamo. Model nemožno hodnotiť za „humanizmus“, akoby to bola jedna technická funkcia. Môže sa však testovať, či zastaví nebezpečnú akciu, priraďuje zdroje, rozlišuje fakt od neistoty, vyhýba sa manipulácii používateľa a rešpektuje jeho hranice.
Kódex sám uznáva, že táto hodnotiaca práca je neúplná. Microsoft poznamenáva, že hodnotenie dlhodobých účinkov AI na ľudí, organizácie a sociálne vzťahy zostáva rozvíjajúcou sa oblasťou. To je čestná kvalifikácia. Zároveň to znamená, že najdôležitejšou časťou revidovaného dokumentu nebude len znenie jeho princípov, ale aj vysvetlenie, ako budú tieto princípy testované.
Pre používateľov a organizácie, ktoré sa spoliehajú na AI, to má praktické dôsledky. Nie je dostatočné, aby im bolo povedané, že model je transparentný, bezpečný alebo podporuje ľudskú autonómiu. Musia vedieť:
ktoré scenáre boli testované
ktoré správanie bolo klasifikované ako zlyhanie
aká úroveň chyby bola považovaná za prijateľnú
či budú výsledky hodnotenia zverejnené
ako bude systém monitorovaný po nasadení
čo sa stane, ak sa model správa inak ako Kódex
Konzultácia nie je to isté ako zdieľaná správa
Otvorenie verejnej konzultácie je lepšie než zverejnenie hotového dokumentu bez pozvania na odpovede. Nemalo by sa to však automaticky považovať za demokratické alebo zdieľané spravovanie AI.
Microsoft uvádza, že preskúma spätnú väzbu, zverejní súhrn a vydá revidovaný Kódex. Nezaväzuje sa akceptovať konkrétne návrhy. To je pochopiteľné pre spoločnosť zodpovednú za vývoj a nasadenie produktu, ale rozlíšenie je dôležité: konzultácia vytvára príležitosť na ovplyvnenie, nie záruku ovplyvnenia.
Štúdia z roku 2024 Čo je občianska participácia v oblasti umelej inteligencie? tvrdí, že účasť na správe AI môže zostať iba procedurálna, ak nie je jasné, kto skutočne robí rozhodnutia, ktorých perspektívy chýbajú a ako predložená spätná väzba mení konečný výsledok. Štúdia sa primárne zameriava na verejné a mestské kontexty, nie na konzultáciu jednej technologickej spoločnosti. Jej varovanie je však stále užitočné: schopnosť komentovať nie je sama o sebe dôkazom významnej účasti.
Pre Microsoft bude preto rozhodujúca skúška prísť po uzavretí formulára. Ukáže spoločnosť hlavné nesúhlasy? Vysvetlí, ktoré návrhy odmietla a prečo? Identifikuje skupiny, ktorých perspektívy boli nedostatočne zastúpené? Otvorí širšiu diskusiu o tom, čo znamenajú pluralitné hodnoty v globálnom AI produkte?
Bez týchto odpovedí môže konzultácia zostať pozitívnym aktom transparentnosti. S nimi by sa mohla stať súčasťou zrelejšieho modelu zodpovednosti.
Piata otázka, na ktorú by Microsoft mal odpovedať po konzultácii
Aby sme posúdili, či Kódex môže prejsť od vyhlásenia k praxi, môžeme aplikovať jednoduchý test sledovateľnosti správy. Toto nie je štandard Microsoftu ani hotová priemyselná norma. Je to praktický rámec na kontrolu, či sa princíp dá sledovať od jeho vyhláseného účelu k správanie v reálnom svete.
1. Aká hodnota alebo riziko ospravedlňuje pravidlo?
Dokumenty o AI často odkazujú na bezpečnosť, autonómiu, dôveru a pohodu. Každý termín je potrebné spresniť. Aké riziko má dané pravidlo znížiť? Je to faktická chyba, porušenie súkromia, zneužitie autonómie, škodlivá manipulácia alebo neoprávnené používanie nástroja?
2. Ako presne by sa mal model správať?
Princíp sa stáva operatívnym len vtedy, keď je možné opísať jeho očakávané správanie. Mal by model odmietnuť? Požiadať o potvrdenie? Predložiť rozhodovacie možnosti? Pozastaviť akciu? Odkázať používateľa na človeka? Poskytnúť zdroje a vysvetliť neistotu?
3. Ako bude toto správanie merané?
To si vyžaduje testovacie scenáre, hodnotiace kritériá a jasnú definíciu toho, čo sa považuje za vyrovnané, čiastočne vyrovnané alebo nesprávne správanie. Čím širší je koncept, tým dôležitejšia sa stáva metodologická transparentnosť. Inak „Humanist AI“ riskuje, že sa stane názvom pre aspirácie namiesto overiteľnej praxe.
4. Kto kontroluje výsledky a môže spochybniť hodnotenie?
Interné testovanie je nevyhnutné, ale pre systémy s významným sociálnym dopadom by to nemalo byť jediným zdrojom zabezpečenia. Otázka sa týka úlohy externých odborníkov, audítorov, regulátorov, používateľov a organizácií občianskej spoločnosti. Nie každá časť systému môže byť verejne zverejnená, ale obchodná dôvernosť by sa nemala stať dôvodom pre úplnú nepriehľadnosť.
5. Ako zmení spätná väzba z konzultácie, incident alebo nový prípad použitia pravidlo?
Kódex má byť živým dokumentom. To je rozumný prístup, pretože modely, aplikácie a riziká sa budú meniť. Dôležité je, či bude proces zmeny zdokumentovaný. Používateľ by mal byť schopný vidieť nielen aktuálne pravidlá, ale aj to, čo sa zmenilo, na akých dôkazoch a s akým výsledkom.
Tento test je užitočný aj mimo politiky Microsoftu. Môže tiež pomôcť organizáciám, ktoré nasadzujú AI interne. Rozlišuje zoznam dobrých úmyslov od princípov, ktoré môžu byť priradené vlastníkom, procesom, kontrolným systémom a dôkazom.
Čo tento Kódex zatiaľ nedokazuje
Návrh Microsoftu je zaujímavý, ale nemal by byť preceňovaný.
Neprokazuje, že aktuálne modely MAI už a konzistentne dodržiavajú správanie popísané v Kódexe
Nezaručuje, že každá konfigurácia alebo nasadenie partnera bude interpretovať rovnaké princípy rovnakým spôsobom
Nezabezpečuje zatiaľ úplnú metodológiu hodnotenia, zverejnené výsledky alebo prahové hodnoty
Nerobí rozhodnutia o tom, ako sa budú vyvažovať konkurenčné hodnoty v reálnych konfliktoch
Nahrádza reguláciu, audity, hodnotenia rizík, technickú dokumentáciu alebo právnu zodpovednosť
Neznamená, že verejná konzultácia automaticky predstavuje každú relevantnú perspektívu
Najdôležitejšie je, že Microsoft sám robí podobnú kvalifikáciu. Spoločnosť popisuje Kódex ako severnú hviezdu, nie záruku výkonu modelu v súčasnosti. To je zodpovednejšia pozícia, než považovať politiku AI za dôkaz, že systém je už bezpečný.
Prečo to má význam aj mimo Microsoft
Modely AI už nie sú len nástroje na generovanie textu. Čoraz častejšie vyhľadávajú informácie, používajú nástroje, vykonávajú úlohy, odporúčajú možnosti a pôsobia ako zprostredkovateľská vrstva medzi používateľmi a informačným prostredím.
To robí otázky o ich správaní relevantnými pre značky, organizácie a ľudí, ktorí používajú AI každý deň. Ak sa od modelu očakáva, že bude citovať zdroje, rozpoznávať neistotu a vyhýbať sa nepodloženým tvrdeniam, potrebuje prístup k informáciám, ktoré sú jasné, aktuálne a riadne zdokumentované. Ak sa očakáva, že podporí autonómiu používateľa, jeho odporúčania by mali ukazovať relevantné kritériá, obmedzenia a skutočné alternatívy, namiesto toho, aby len posilňovali najdominantnejšiu odpoveď.
Pre Brand Semantics je to ďalší dôvod, prečo sa pozerať za viditeľnosťou. Dôležité je, ako systém rozpoznáva entity, interpretuje tvrdenia, vyberá zdroje a konštruuje reprezentáciu značky v konkrétnych situáciách. Ako vysvetľujeme v Brand semantics as infrastructure for AI search, jasnosť naprieč entitami, tvrdeniami a zdrojmi je predpokladom pre zmysluplnú prácu s generatívnymi odpoveďami. Audit viditeľnosti AI potom umožňuje testovať nielen to, či sa značka objavuje v odpovedi, ale aj to, či je presne reprezentovaná a na akých dôkazoch táto reprezentácia spočíva.
Konzultácia Microsoftu nerieši každý problém v správe AI. Ukazuje však dôležitý posun: sľub „zodpovednej AI“ už nie je dostatočný. Spoločnosti vyvíjajúce modely budú čoraz častejšie musieť ukázať, aké správanie hľadajú, ako ich testujú, kde sú hranice a ako môžu ostatní spochybniť ich predpoklady.
To je miesto, kde sa začína vážna diskusia o AI. Nie s tvrdením, že systém slúži ľuďom, ale s otázkou, čo to znamená v konkrétnom správaní modelu a kto môže overiť, že je to pravda.
