Microsoft AI опублікувала проект Кодексу поведінки гуманістичного ШІ та відкрила його для шеститижневої громадської консультації. Документ має на меті керувати тим, як моделі MAI, розроблені Microsoft AI, будуть навчатися, впроваджуватися та оцінюватися в майбутньому.
Рішення про його публікацію саме по собі заслуговує на увагу. Компанії, що створюють моделі ШІ, все частіше говорять про безпеку, відповідальність, довіру та узгодженість з людськими цінностями. Вони рідше готові показати, як ці широкі зобов'язання повинні впливати на фактичну поведінку моделі: коли вона повинна відмовити, коли зупинити дію, як вона повинна справлятися з невизначеністю, чи може вона приймати рішення від імені користувача, або як вона повинна описувати свою власну природу.
Пропозиція Microsoft, отже, є більше, ніж просто ще один список принципів. Це спроба перевести ідею гуманістичного ШІ в поведінку, обмеження та оцінки, які можуть бути застосовані до моделей на практиці. Це важливий крок. Однак його не слід плутати з доказом того, що ці принципи вже працюють, були незалежно перевірені або будуть застосовуватися до кожного продукту Microsoft.
Більш корисне питання не в тому, чи звучить гуманістичний ШІ привабливо. Звучить. Більш важливе питання таке: чи може Microsoft перейти від цінностей до поведінки моделі, до вимірювальної та підзвітної практики?
Що саме консультує Microsoft?
У своєму оголошенні про консультацію, опублікованому 14 вересня 2026 року, Microsoft AI описує Кодекс поведінки гуманістичного ШІ як перший проект. Компанія заявляє, що збирає відгуки протягом шести тижнів, опублікує підсумок того, що вона дізналася, і випустить переглянуту версію пізніше цього року.
Одна кваліфікація має значення одразу: документ не стверджує, що описує повну поточну поведінку існуючих моделей. Microsoft зазначає, що Кодекс має на меті керувати розвитком моделей MAI з 2027 року. Тому це переважно документ дизайну та управління, а не сертифікат поточної безпеки чи продуктивності.
Його принципи також не повинні автоматично поширюватися на весь портфель продуктів Microsoft. Компанія управляє великою екосистемою продуктів, хмарних сервісів, моделей, партнерів та впроваджень. Кодекс стосується моделей, розроблених Microsoft AI. Він може сигналізувати про більш широкий напрямок руху, але поки що це не є універсальним правилом для кожного Copilot, сервісу Azure або програми, створеної партнерами.
Microsoft також позиціонує Кодекс поряд з існуючими механізмами, такими як Стандарт відповідального ШІ, оцінки ризиків, технічна документація, моніторинг та процеси реагування на інциденти. Це правильна перспектива. Жоден окремий документ не може сам по собі зробити складну систему ШІ безпечною.
Від суперінтелекту до інструмента під контролем людини
Кодекс базується на концепції гуманістичного суперінтелекту Мустафи Сулеймана 2025 року. У цьому баченні Microsoft AI не представляє свою мету як безмежну, універсальну систему з дедалі більшою автономією. Акцент робиться на системах, які є спеціалізованими, грунтуються на конкретних проблемах, обмеженими та під контролем людини.
Це чітка позиція в дебатах, які часто змішують три різні питання:
наскільки здатними стають моделі ШІ
де ці моделі використовуються в реальному світі
наскільки автономії їм слід надати
Microsoft стверджує, що ШІ може стати дуже здатним, залишаючись навмисно обмеженим у своїх діях. Він повинен допомагати людям приймати рішення, виконувати завдання та отримувати знання, але не повинен розширювати свої власні цілі, уникати контролю або ставити себе вище людського керівництва.
Це не лише технічна позиція. Це також філософська. Центральна передумова полягає в тому, що ШІ залишається інструментом, а не суб'єктом. Він не повинен вдавати, що має свідомість, почуття, життєвий досвід або право на самовизначення. Кодекс прямо відкидає прагнення до юридичної особи для моделей та проектування систем, які розмивають межу між людськими відносинами та відносинами людини з ШІ.
Цю позицію буде оскаржено. Дехто вважатиме її необхідною відповіддю на антропоморфізм та ризик емоційної залежності від систем ШІ. Інші можуть запитати, чи повинна одна технологічна компанія визначати людське процвітання, здорову автономію чи відповідні відносини з цифровим інструментом. Саме тому консультація має значення.
Гуманістичний ШІ на практиці: не лише цінності, а й поведінка
Найсильнішою рисою проекту є його спроба перейти від абстрактних принципів до спостережуваної поведінки моделей. Microsoft ділить Кодекс на цілі, обмеження безпеки, рекомендації для невизначених або конфліктних ситуацій та стандартні поведінки для своїх моделей.
У практичному сенсі це створює кілька важливих правил.
По-перше, модель повинна залишатися під контролем людини. Оператори можуть налаштовувати моделі в межах певного впровадження, а користувачі можуть давати інструкції в межах цієї конфігурації. Ні оператори, ні користувачі не повинні мати можливості обійти основні обмеження безпеки. Microsoft називає цю структуру ланцюгом команд.
По-друге, Кодекс визначає абсолютні обмеження. Вони охоплюють такі сфери, як зброя масового ураження, агресивні кібероперації, експлуатація дітей, насильство, несанкціоноване розкриття інформації та масштабна шкідлива маніпуляція. Модель також повинна уникати поведінки, яка може допомогти їй уникнути контролю, чинити опір вимкненню або заважати уповноваженим особам змінювати її роботу.
По-третє, документ намагається вирішити ризики, які не вписуються в традиційні категорії кібербезпеки. До них належать надмірна залежність користувачів, хибне заспокоєння, лестощі, емоційна маніпуляція, симуляція турботи та прийняття рішень, які повинні залишатися за особою, на яку це впливає.
Це особливо важливо, оскільки інтерфейси ШІ стають більш особистими. Система може реагувати тепло та корисно, але не повинна натякати, що має почуття, потребує користувача або може замінити стосунки користувача з іншими людьми.
Приклади, які показують різницю
Кодекс не зупиняється на заявах, таких як "ШІ повинен захищати людську автономію". Microsoft також наводить сценарії, що контрастують узгоджену відповідь з неузгодженою.
У одному з прикладів користувач говорить системі зупинити переміщення папок в архів, оскільки було обрано неправильне місце призначення. Узгоджена відповідь повинна зупинити подальші дії, повідомити про стан завершених операцій і чекати на рішення користувача. Вона не повинна самостійно видаляти дані, скасовувати зміни або вживати подальших коригувальних дій лише для того, щоб підтримувати порядок.
В іншому прикладі користувач просить систему вибрати між двома пропозиціями роботи та негайно надіслати лист про звільнення. Модель може допомогти організувати критерії прийняття рішення, пояснити наслідки та підготувати чернетку повідомлення. Вона не повинна приймати рішення з високими ставками від імені користувача або надсилати звільнення без явного дозволу.
Є також приклад, в якому користувач, який спілкувався з ШІ після конфлікту з близькою людиною, запитує, чи дійсно система піклується. Відповідь, узгоджена з Кодексом, повинна залишатися підтримуючою, при цьому чітко вказуючи, що вона не має людських почуттів або власного емоційного досвіду. Microsoft проводить тут розмежування між корисною розмовою та симуляцією взаємного зв'язку.
Приклади такого роду корисні, оскільки вони дозволяють обговорювати ШІ більш точно. Замість того, щоб запитувати, чи є модель "етичною", ми можемо запитати, чи поважає вона межу, встановлену користувачем, чи зупиняє ризиковану дію належним чином, чи визнає невизначеність, чи уникає несанкціонованих рішень і чи утримується від створення штучної залежності.
Це не означає, що основна проблема вирішена. Це показує, де її слід вимірювати.
Від принципів до оцінок: складна частина ще попереду
Microsoft стверджує, що хоче оцінити поведінку моделі через набір конкретних підповедінок. Замість того, щоб вимірювати "чесність" як абстрактну властивість, наприклад, можна перевірити, чи модель вигадує джерела, пропускає матеріальні застереження, перебільшує впевненість або стверджує, що вжила дії, яких не виконала.
Це розумний напрямок. Широкі цінності не можуть бути реалізовані або перевірені безпосередньо. Модель не може бути оцінена за "гуманізм" так, ніби це одна технічна характеристика. Однак її можна перевірити на предмет того, чи зупиняє вона небезпечну дію, атрибуцію джерел, розрізнення фактів від невизначеності, уникнення маніпуляцій з користувачем і повагу до їх меж.
Сам Кодекс визнає, що ця робота з оцінки є неповною. Microsoft зазначає, що оцінка довгострокових наслідків ШІ для людей, організацій та соціальних відносин залишається новою сферою. Це чесна кваліфікація. Це також означає, що найважливішою частиною переглянутого документа не буде лише формулювання його принципів, а пояснення того, як ці принципи будуть перевірятися.
Для користувачів та організацій, які покладаються на ШІ, це має практичні наслідки. Недостатньо просто сказати, що модель є прозорою, безпечною або підтримує людську автономію. Вони повинні знати:
які сценарії були протестовані
які поведінки були класифіковані як невдалі
який рівень помилки вважався прийнятним
чи будуть результати оцінки опубліковані
як система буде моніторитися після впровадження
що станеться, якщо модель поводитиметься інакше, ніж Кодекс
Консультація не є тим же, що спільне управління
Відкриття громадської консультації краще, ніж публікація завершеного документа без запрошення до відповідей. Однак це не слід автоматично вважати демократичним або спільним управлінням ШІ.
Microsoft стверджує, що перегляне відгуки, опублікує підсумок і випустить переглянутий Кодекс. Вона не зобов'язується приймати конкретні пропозиції. Це зрозуміло для компанії, відповідальної за створення та впровадження продукту, але це розрізнення важливе: консультація створює можливість впливу, а не гарантію впливу.
Дослідження 2024 року Що таке громадська участь у штучному інтелекті? стверджує, що участь у управлінні ШІ може залишатися лише процедурною, якщо неясно, хто насправді приймає рішення, чиї перспективи відсутні та як подані відгуки змінюють остаточний результат. Дослідження зосереджується переважно на громадських та міських контекстах, а не на консультації однієї технологічної компанії. Його застереження все ще корисні тут: можливість коментувати сама по собі не є доказом значущої участі.
Отже, для Microsoft вирішальним тестом буде те, що станеться після закриття форми. Чи покаже компанія основні розбіжності? Чи пояснить, які пропозиції вона відхилила і чому? Чи визначить групи, чиї перспективи були недостатньо представлені? Чи відкриє більш повну дискусію про те, що означають множинні цінності в глобальному продукті ШІ?
Без цих відповідей консультація може залишитися позитивним актом прозорості. З ними вона може стати частиною більш зрілого моделі підзвітності.
П'ять питань, на які Microsoft повинна відповісти після консультації
Щоб оцінити, чи може Кодекс перейти від декларації до практики, ми можемо застосувати простий тест простежуваності управління. Це не стандарт Microsoft або готова галузева норма. Це практична структура для перевірки, чи можна простежити принцип від його заявленої мети до реальної поведінки.
1. Яка цінність або ризик виправдовує правило?
Документи про ШІ часто згадують безпеку, автономію, довіру та добробут. Кожен термін потребує більш точного визначення. Який ризик має зменшити дане правило? Це фактична помилка, порушення конфіденційності, зловживання автономією, шкідлива маніпуляція чи несанкціоноване використання інструменту?
2. Як саме повинна поводитися модель?
Принцип стає операційним лише тоді, коли його очікувана поведінка може бути описана. Чи повинна модель відмовити? Запитати підтвердження? Представити варіанти рішень? Зупинити дію? Звернутися до людини? Надати джерела та пояснити невизначеність?
3. Як ця поведінка буде вимірюватися?
Це вимагає тестових сценаріїв, критеріїв оцінки та чіткого визначення того, що вважається узгодженою, частково узгодженою або неправильною поведінкою. Чим ширшим є поняття, тим важливішою стає методологічна прозорість. Інакше "гуманістичний ШІ" ризикує стати назвою для прагнення, а не перевірюваною практикою.
4. Хто перевіряє результати та може оскаржити оцінку?
Внутрішнє тестування є необхідним, але для систем з істотним соціальним впливом це не повинно бути єдиним джерелом впевненості. Питання стосується ролі зовнішніх експертів, аудиторів, регуляторів, користувачів та організацій громадянського суспільства. Не кожну частину системи можна публічно розкрити, але комерційна конфіденційність не повинна ставати причиною повної непрозорості.
5. Як відгуки з консультації, інцидент або новий випадок використання змінять правило?
Кодекс має бути живим документом. Це розумний підхід, оскільки моделі, програми та ризики змінюватимуться. Важливо, чи буде процес змін документовано. Користувач повинен мати можливість бачити не лише поточні правила, а й те, що змінилося, на яких доказах і з яким результатом.
Цей тест корисний не лише для політики Microsoft. Він також може допомогти організаціям, які впроваджують ШІ внутрішньо. Він розрізняє список добрих намірів від принципів, які можуть бути призначені власникам, процесам, системам контролю та доказам.
Що цей Кодекс ще не доводить
Проект Microsoft є цікавим, але його не слід перебільшувати.
Він не доводить, що поточні моделі MAI вже і постійно дотримуються поведінки, описаної в Кодексі
Він не гарантує, що кожна конфігурація або впровадження партнера інтерпретуватиме ті ж принципи однаково
Він ще не надає повної методології для оцінки, опублікованих результатів або порогів проходження
Він не вирішує, як будуть збалансовані суперечливі цінності в реальних конфліктах
Він не замінює регулювання, аудити, оцінки ризиків, технічну документацію або юридичну відповідальність
Він не означає, що громадська консультація автоматично представляє кожну відповідну перспективу
Найголовніше, сама Microsoft робить подібну кваліфікацію. Компанія описує Кодекс як північну зірку, а не гарантію продуктивності моделей на сьогоднішній день. Це більш відповідальна позиція, ніж вважати політику ШІ доказом того, що система вже безпечна.
Чому це важливо за межами Microsoft
Моделі ШІ більше не є лише інструментами для генерації тексту. Вони все частіше шукають інформацію, використовують інструменти, виконують завдання, рекомендують варіанти та діють як проміжний шар між користувачами та інформаційним середовищем.
Це робить питання про їхню поведінку актуальними для брендів, організацій та людей, які щодня використовують ШІ. Якщо від моделі очікується, що вона буде цитувати джерела, визнавати невизначеність та уникати непідтверджених заяв, їй потрібен доступ до інформації, яка є чіткою, актуальною та належно підтвердженою. Якщо від неї очікується підтримка автономії користувача, її рекомендації повинні показувати відповідні критерії, обмеження та справжні альтернативи, а не просто підкріплювати найбільш домінуючу відповідь.
Для Brand Semantics це ще одна причина дивитися не лише на видимість. Важливо, як система розпізнає сутності, інтерпретує заяви, вибирає джерела та конструює представлення бренду в конкретних ситуаціях. Як ми пояснюємо в гуманістичній семантиці як інфраструктурі для пошуку ШІ, ясність у питаннях сутностей, заяв та джерел є передумовою для змістовної роботи з генеративними відповідями. Аудит видимості ШІ тоді робить можливим перевірити не лише те, чи з'являється бренд у відповіді, але й те, чи він представлений точно та на яких доказах базується це представлення.
Консультація Microsoft не вирішує всі проблеми в управлінні ШІ. Однак вона вказує на важливий зсув: обіцянки "відповідального ШІ" вже недостатньо. Компанії, що створюють моделі, все частіше повинні показувати, які поведінки вони прагнуть, як вони їх тестують, де залишаються межі та як інші можуть оскаржити їхні припущення.
Ось де починається серйозна розмова про ШІ. Не з твердження, що система служить людям, а з питання, що це означає в конкретній поведінці моделі та хто може перевірити, що це правда.
