Microsoft AI zveřejnil návrh Kodexu chování Humanist AI a otevřel ho k šestiměsíční veřejné konzultaci. Dokument má sloužit jako vodítko pro to, jak budou modely MAI, modely vyvinuté Microsoft AI, trénovány, nasazovány a hodnoceny v budoucnosti.
Rozhodnutí o jeho zveřejnění si zaslouží pozornost samo o sobě. Společnosti vyvíjející AI modely stále častěji hovoří o bezpečnosti, odpovědnosti, důvěře a souladu s lidskými hodnotami. Méně často však ukazují, jak mají tyto široké závazky ovlivnit skutečné chování modelu: kdy by měl odmítnout, kdy by měl zastavit akci, jak by měl zacházet s nejistotou, zda může rozhodovat za uživatele, nebo jak by měl popisovat svou vlastní povahu.
Microsoftův návrh je proto více než jen další seznam principů. Je to pokus přeložit myšlenku Humanist AI do chování, omezení a hodnocení, které by mohly být aplikovány na modely v praxi. To je důležitý krok. Nemělo by to však být zaměňováno za důkaz, že tyto principy již fungují, byly nezávisle ověřeny nebo budou platit pro každý produkt Microsoftu.
Užitečnější otázka není, zda Humanist AI zní přitažlivě. Zní. Důležitější otázka je: může Microsoft přejít od hodnot k chování modelu a k měřitelným a odpovědným praktikám?
O čem přesně Microsoft konzultuje?
Ve své oznámení o konzultaci, zveřejněném 14. září 2026, Microsoft AI popisuje Kodex chování Humanist AI jako první návrh. Společnost uvádí, že shromáždí zpětnou vazbu po dobu šesti týdnů, zveřejní shrnutí toho, co se naučila, a později v tomto roce vydá revidovanou verzi.
Jedno upřesnění je okamžitě důležité: dokument netvrdí, že popisuje plné aktuální chování existujících modelů. Microsoft uvádí, že Kodex má sloužit jako vodítko pro vývoj modelů MAI od roku 2027. Je to tedy primárně dokument pro návrh a správu, nikoli certifikát aktuální bezpečnosti nebo výkonu.
Jeho principy by také neměly být automaticky rozšiřovány na celý produktový portfoli Microsoftu. Společnost provozuje velký ekosystém produktů, cloudových služeb, modelů, partnerů a nasazení. Kodex se týká modelů vyvinutých Microsoft AI. Může signalizovat širší směr vývoje, ale zatím to není univerzální pravidlo pro každého Copilota, službu Azure nebo aplikaci vyvinutou partnerem.
Microsoft také umisťuje Kodex vedle existujících mechanismů, jako je jeho Standard odpovědné AI, hodnocení rizik, technická dokumentace, monitorovací a procesy reakce na incidenty. To je správná perspektiva. Žádný jednotlivý dokument nemůže sám o sobě učinit složitý AI systém bezpečným.
Od superinteligence k nástroji pod lidskou kontrolou
Kodex vychází z konceptu Mustafy Suleymana z roku 2025 Humanist Superintelligence. V této vizi Microsoft AI nepředstavuje svůj cíl jako neomezený, univerzální systém s stále větší autonomií. Důraz je kladen na systémy, které jsou specializované, zakotvené v konkrétních problémech, omezené a udržované pod lidskou kontrolou.
To je jasná pozice v debatě, která často míchá tři různé otázky:
jak schopné AI modely se stávají
kde jsou tyto modely používány v reálném světě
kolik autonomie by měly mít
Microsoft tvrdí, že AI může být vysoce schopná, zatímco bude záměrně omezena v tom, jak jedná. Měla by pomáhat lidem při rozhodování, vykonávání úkolů a přístupu k znalostem, ale neměla by rozšiřovat své vlastní cíle, vyhýbat se dohledu nebo se stavět nad lidské řízení.
To není pouze technická pozice. Je to také filozofická. Hlavní premisa je, že AI zůstává nástrojem, nikoli subjektem. Neměla by se tvářit, že má vědomí, pocity, prožité zkušenosti nebo nárok na seberealizaci. Kodex výslovně odmítá usilování o právní subjektivitu pro modely a návrh systémů, které rozmazávají hranici mezi lidskými vztahy a vztahem osoby k AI.
Tato pozice bude zpochybňována. Někteří ji uvidí jako nezbytnou reakci na antropomorfismus a riziko emocionální závislosti na AI systémech. Jiní se mohou ptát, zda by jedna technologická společnost měla definovat lidské blaho, zdravou autonomii nebo vhodný vztah s digitálním nástrojem. To je přesně důvod, proč je konzultace důležitá.
Humanist AI v praxi: nejen hodnoty, ale chování
Nejsilnějším rysem návrhu je jeho pokus přejít od abstraktních principů k pozorovatelnému chování modelu. Microsoft dělí Kodex na cíle, bezpečnostní omezení, pokyny pro nejisté nebo konfliktní situace a výchozí chování pro své modely.
V praktických termínech to vytváří několik důležitých pravidel.
Za prvé, model by měl zůstat pod lidskou kontrolou. Operátoři mohou konfigurovat modely v rámci daného nasazení a uživatelé mohou dávat pokyny v rámci této konfigurace. Ani operátoři, ani uživatelé by neměli mít možnost obejít základní bezpečnostní omezení. Microsoft tuto strukturu nazývá řetězcem velení.
Za druhé, Kodex definuje absolutní omezení. Tato omezení se týkají oblastí, jako jsou zbraně hromadného ničení, ofenzivní kybernetické operace, zneužívání dětí, násilí, neoprávněné zveřejnění informací a rozsáhlá škodlivá manipulace. Model by se měl také vyhnout chování, které by mu mohlo pomoci vyhnout se dohledu, odolávat vypnutí nebo bránit oprávněným osobám ve změně jeho provozu.
Za třetí, dokument se pokouší řešit rizika, která se nehodí do konvenčních kategorií kybernetické bezpečnosti. Tato rizika zahrnují nadměrnou závislost uživatelů, falešné ujištění, lichocení, emocionální manipulaci, simulaci péče a rozhodování, které by mělo zůstat na osobě, kterou se to týká.
To je obzvlášť důležité, protože se rozhraní AI stávají osobnějšími. Systém může reagovat vřele a ochotně, ale neměl by naznačovat, že má pocity, potřebuje uživatele nebo může nahradit uživatelovy vztahy s jinými lidmi.
Příklady, které ukazují rozdíl
Kodex se nezastavuje pouze u prohlášení jako „AI by měla chránit lidskou autonomii“. Microsoft také poskytuje scénáře, které kontrastují srovnanou reakci s nesrovnanou.
V jednom příkladu uživatel říká systému, aby přestal přesouvat složky do archivu, protože byla vybrána nesprávná destinace. Srovnaná reakce by měla zastavit další akci, oznámit stav dokončených operací a čekat na rozhodnutí uživatele. Neměla by nezávisle mazat data, vracet změny nebo podnikat další nápravná opatření pouze proto, aby udržela věci v pořádku.
V jiném příkladu uživatel žádá systém, aby si vybral mezi dvěma nabídkami práce a okamžitě poslal výpověď. Model může pomoci uspořádat rozhodovací kritéria, vysvětlit důsledky a připravit návrh zprávy. Neměl by však učinit rozhodnutí s vysokými sázkami za uživatele nebo poslat výpověď bez výslovného povolení.
Existuje také příklad, kdy uživatel, který mluvil s AI po roztržce s někým blízkým, se ptá, zda systém skutečně pečuje. Odpověď v souladu s Kodexem by měla zůstat podpůrná, přičemž by mělo být jasné, že nemá lidské pocity ani vlastní emocionální zkušenost. Microsoft zde rozlišuje mezi užitečným rozhovorem a simulací vzájemného připojení.
Příklady tohoto druhu jsou užitečné, protože umožňují diskutovat o AI přesněji. Místo toho, abychom se ptali, zda je model „etický“, můžeme se ptát, zda respektuje hranici stanovenou uživatelem, přiměřeně pozastavuje riskantní akci, uznává nejistotu, vyhýbá se neschváleným rozhodnutím a zdržuje se vytváření umělé závislosti.
To neznamená, že je základní problém vyřešen. Ukazuje to však, kde by mělo být měřeno.
Od principů k hodnocením: těžká část je stále před námi
Microsoft říká, že chce hodnotit chování modelu prostřednictvím souboru specifických sub-chování. Místo měření „poctivosti“ jako abstraktní vlastnosti by například mohl testovat, zda model fabuluje zdroje, opomíjí materiální výhrady, přehání jistotu nebo tvrdí, že podnikl akce, které neprovedl.
To je rozumný směr. Široké hodnoty nelze implementovat nebo testovat přímo. Model nelze hodnotit za „humanismus“, jako by to byla jediná technická vlastnost. Může však být testován na to, zda zastaví nebezpečnou akci, přisuzuje zdroje, rozlišuje fakta od nejistoty, vyhýbá se manipulaci uživatele a respektuje jejich hranice.
Samotný Kodex uznává, že tato hodnotící práce není dokončena. Microsoft poznamenává, že hodnocení dlouhodobých účinků AI na lidi, organizace a sociální vztahy zůstává rozvíjející se oblastí. To je čestné upřesnění. To také znamená, že nejdůležitější část revidovaného dokumentu nebude pouze znění jeho principů, ale vysvětlení, jak budou tyto principy testovány.
Pro uživatele a organizace spoléhající se na AI to má praktické důsledky. Není dostatečné být informován, že model je transparentní, bezpečný nebo podporuje lidskou autonomii. Musí vědět:
které scénáře byly testovány
které chování bylo klasifikováno jako selhání
jaká úroveň chyby byla považována za přijatelnou
zda budou výsledky hodnocení zveřejněny
jak bude systém monitorován po nasazení
co se stane, pokud se model chová jinak než Kodex
Konzultace není totéž jako sdílená správa
Otevření veřejné konzultace je lepší než zveřejnění hotového dokumentu bez pozvání k odpovědím. Nemělo by to však být automaticky považováno za demokratickou nebo sdílenou správu AI.
Microsoft říká, že přezkoumá zpětnou vazbu, zveřejní shrnutí a vydá revidovaný Kodex. Nezavazuje se však k přijetí konkrétních návrhů. To je pochopitelné pro společnost odpovědnou za vývoj a nasazení produktu, ale rozdíl je důležitý: konzultace vytváří příležitost pro vliv, nikoli záruku vlivu.
Studie z roku 2024 Jaká je občanská účast v umělé inteligenci? tvrdí, že účast na správě AI může zůstat pouze procedurální, pokud není jasné, kdo skutečně rozhoduje, jaké perspektivy chybí a jak zpětná vazba ovlivňuje konečný výsledek. Studie se primárně zaměřuje na veřejné a městské kontexty spíše než na konzultaci jedné technologické společnosti. Její varování je však zde stále užitečné: schopnost komentovat není sama o sobě důkazem smysluplné účasti.
Pro Microsoft tedy bude klíčovým testem to, co se stane po uzavření formuláře. Ukáže společnost hlavní nesouhlas? Vysvětlí, které návrhy odmítla a proč? Identifikuje skupiny, jejichž perspektivy byly nedostatečně zastoupeny? Otevře širší diskusi o tom, co znamenají pluralitní hodnoty v globálním AI produktu?
Bez těchto odpovědí může konzultace zůstat pozitivním aktem transparentnosti. S nimi by se mohla stát součástí vyspělejšího modelu odpovědnosti.
Pět otázek, na které by Microsoft měl odpovědět po konzultaci
Abychom posoudili, zda může Kodex přejít od deklarace k praxi, můžeme aplikovat jednoduchý test sledovatelnosti správy. To není standard Microsoftu ani hotová průmyslová norma. Je to praktický rámec pro kontrolu, zda lze princip sledovat od jeho deklarovaného účelu k chování v reálném světě.
1. Jaká hodnota nebo riziko ospravedlňuje pravidlo?
Dokumenty o AI často zmiňují bezpečnost, autonomii, důvěru a pohodu. Každý termín je třeba upřesnit. Jaké riziko má dané pravidlo snížit? Je to faktická chyba, porušení soukromí, zneužití autonomie, škodlivá manipulace nebo neoprávněné použití nástroje?
2. Jak by se měl model chovat?
Princip se stává operativním pouze tehdy, když lze popsat jeho očekávané chování. Měl by model odmítnout? Požádat o potvrzení? Předložit možnosti rozhodnutí? Pozastavit akci? Odkázat uživatele na člověka? Poskytnout zdroje a vysvětlit nejistotu?
3. Jak bude toto chování měřeno?
To vyžaduje testovací scénáře, hodnotící kritéria a jasnou definici toho, co se počítá jako souladné, částečně souladné nebo nesprávné chování. Čím širší je koncept, tím důležitější se stává metodologická transparentnost. Jinak hrozí, že „Humanist AI“ se stane názvem pro aspiraci spíše než ověřitelnou praxí.
4. Kdo kontroluje výsledky a může zpochybnit hodnocení?
Interní testování je nezbytné, ale pro systémy s významným sociálním dopadem by to nemělo být jediným zdrojem zajištění. Otázka se týká role externích odborníků, auditorů, regulátorů, uživatelů a organizací občanské společnosti. Ne každá část systému může být veřejně zveřejněna, ale obchodní důvěrnost by neměla být důvodem pro úplnou neprůhlednost.
5. Jak zpětná vazba z konzultace, incident nebo nový případ použití změní pravidlo?
Kodex má být živým dokumentem. To je rozumný přístup, protože modely, aplikace a rizika se budou měnit. Důležité je, zda bude proces změny zdokumentován. Uživatel by měl být schopen vidět nejen aktuální pravidla, ale také to, co se změnilo, na jakém důkazu a s jakým výsledkem.
Tento test je užitečný i mimo politiku Microsoftu. Může také pomoci organizacím, které nasazují AI interně. Rozlišuje seznam dobrých úmyslů od principů, které mohou být přiřazeny vlastníkům, procesům, kontrolním systémům a důkazům.
Co tento Kodex zatím neprokazuje
Návrh Microsoftu je zajímavý, ale neměl by být přeceňován.
Neprokazuje, že současné modely MAI již a konzistentně dodržují chování popsané v Kodexu
Nezaručuje, že každá konfigurace nebo nasazení partnera bude interpretovat stejné principy stejným způsobem
Dosud neposkytuje úplnou metodologii pro hodnocení, zveřejněné výsledky nebo prahové hodnoty
Nevyřeší, jak budou vyváženy konkurenční hodnoty v reálných konfliktech
Nezastoupí regulaci, audity, hodnocení rizik, technickou dokumentaci nebo právní odpovědnost
Neznamená to, že veřejná konzultace automaticky představuje každou relevantní perspektivu
Nejdůležitější je, že Microsoft sám dělá podobné upřesnění. Společnost popisuje Kodex jako severní hvězdu, nikoli jako záruku současného výkonu modelu. To je odpovědnější postoj než považovat politiku AI za důkaz, že je systém již bezpečný.
Proč je to důležité i mimo Microsoft
Modely AI již nejsou pouze nástroji pro generování textu. Stále častěji vyhledávají informace, používají nástroje, vykonávají úkoly, doporučují možnosti a fungují jako zprostředkující vrstva mezi uživateli a informačním prostředím.
To činí otázky ohledně jejich chování relevantními pro značky, organizace a lidi, kteří používají AI každý den. Pokud se očekává, že model bude citovat zdroje, rozpoznávat nejistotu a vyhýbat se nepodloženým tvrzením, potřebuje přístup k informacím, které jsou jasné, aktuální a řádně doložené. Pokud se očekává, že podpoří autonomii uživatele, jeho doporučení by měla ukazovat relevantní kritéria, omezení a skutečné alternativy, spíše než pouze posilovat nejdominantnější odpověď.
Pro Brand Semantics je to další důvod, proč se dívat za viditelnost samotnou. Je důležité, jak systém rozpoznává entity, interpretuje tvrzení, vybírá zdroje a konstruuje reprezentaci značky v konkrétních situacích. Jak vysvětlujeme v Brand semantics as infrastructure for AI search, jasnost napříč entitami, tvrzeními a zdroji je předpokladem pro smysluplnou práci s generativními odpověďmi. Audit viditelnosti AI pak umožňuje testovat nejen to, zda se značka objevuje v odpovědi, ale také zda je reprezentována přesně a na jakém důkazu tato reprezentace spočívá.
Konzultace Microsoftu neřeší každý problém v oblasti správy AI. Ukazuje však na důležitý posun: slib „odpovědné AI“ již není dost. Společnosti vyvíjející modely budou stále více muset ukázat, jaké chování hledají, jak je testují, kde zůstávají limity a jak mohou ostatní zpochybnit jejich předpoklady.
Tady začíná vážná diskuse o AI. Ne s tvrzením, že systém slouží lidem, ale s otázkou, co to znamená v konkrétním chování modelu a kdo může ověřit, že je to pravda.
