Microsoft AI ir publicējusi projekta Humanist AI uzvedības kodeksu un atvērusi to sešu nedēļu publiskai konsultācijai. Dokuments ir paredzēts, lai vadītu, kā MAI modeļi, ko izstrādā Microsoft AI, tiks apmācīti, ieviesti un novērtēti nākotnē.
Šī dokumenta publicēšanas lēmums ir ievērības cienīgs pats par sevi. Uzņēmumi, kas izstrādā AI modeļus, arvien biežāk runā par drošību, atbildību, uzticību un saskaņošanu ar cilvēku vērtībām. Tomēr tie retāk ir gatavi parādīt, kā šie plašie apņemšanās ietekmēs modeļa faktisko uzvedību: kad tam vajadzētu atteikties, kad tam vajadzētu pārtraukt darbību, kā tam vajadzētu rīkoties neskaidrības gadījumā, vai tam ir jāpieņem lēmumi lietotāja vārdā vai kā tam vajadzētu aprakstīt savu dabu.
Tādējādi Microsoft priekšlikums ir vairāk nekā tikai vēl viens principu saraksts. Tas ir mēģinājums pārvērst Humanist AI ideju par uzvedību, ierobežojumiem un novērtējumiem, kas varētu tikt piemēroti modeļiem praksē. Tas ir svarīgs solis. Tomēr to nevajadzētu jaukt ar pierādījumiem, ka šie principi jau darbojas, ir neatkarīgi validēti vai tiks piemēroti visiem Microsoft produktiem.
Vairāk noderīgs jautājums nav tas, vai Humanist AI izklausās pievilcīgi. Tas tā ir. Vairāk svarīgs jautājums ir šāds: vai Microsoft var pāriet no vērtībām, caur modeļa uzvedību, uz izmērāmu un atbildīgu praksi?
Par ko tieši Microsoft konsultē?
Savā konsultācijas paziņojumā, kas publicēts 2026. gada 14. septembrī, Microsoft AI raksturo Humanist AI uzvedības kodeksu kā pirmo projektu. Uzņēmums apgalvo, ka tas vāks atsauksmes sešu nedēļu laikā, publicēs kopsavilkumu par to, ko tas ir uzzinājis, un izlaidīs pārskatītu versiju vēlāk šogad.
Viens kvalifikācijas punkts ir svarīgs: dokuments neapgalvo, ka tas apraksta esošo modeļu pilnīgu uzvedību. Microsoft norāda, ka Kodekss ir paredzēts, lai vadītu MAI modeļu attīstību no 2027. gada. Tādējādi tas ir galvenokārt dizaina un pārvaldības dokuments, nevis pašreizējās drošības vai veiktspējas sertifikāts.
Arī tā principi automātiski netiek attiecināti uz Microsoft visu produktu portfeli. Uzņēmums darbojas lielā produktu, mākoņpakalpojumu, modeļu, partneru un ieviešanas ekosistēmā. Kodekss attiecas uz modeļiem, ko izstrādā Microsoft AI. Tas var norādīt uz plašāku virzienu, taču tas vēl nav universāls noteikumu kopums katram Copilot, Azure pakalpojumam vai partneru izstrādātai lietojumprogrammai.
Microsoft arī pozicionē Kodeksu blakus esošajām mehānismiem, piemēram, tās Atbildīgā AI standarts, riska novērtējumiem, tehniskajai dokumentācijai, uzraudzības un incidentu reaģēšanas procesiem. Tas ir pareizais skatījums. Neviens vienīgs dokuments nevar, pats par sevi, padarīt sarežģītu AI sistēmu drošu.
No superinteliģences līdz rīkam cilvēku kontrolē
Kodekss balstās uz Mustafa Suleyman 2025. gada koncepciju par Humanist Superinteliģenci. Šajā redzējumā Microsoft AI neizvirza savu mērķi kā neierobežotu, vispārēju sistēmu ar arvien lielāku autonomiju. Uzsvars tiek likts uz sistēmām, kas ir specializētas, balstītas uz konkrētām problēmām, ierobežotas un uzturētas cilvēku kontrolē.
Tā ir skaidra pozīcija debatēs, kas bieži sajauc trīs dažādus jautājumus:
cik spējīgi kļūst AI modeļi
kur šie modeļi tiek izmantoti reālajā pasaulē
cik daudz autonomijas tiem vajadzētu piešķirt
Microsoft apgalvo, ka AI var kļūt ļoti spējīgs, vienlaikus apzināti ierobežojot to, kā tas rīkojas. Tam vajadzētu palīdzēt cilvēkiem pieņemt lēmumus, veikt uzdevumus un piekļūt zināšanām, taču tam nevajadzētu paplašināt savus mērķus, izvairīties no uzraudzības vai pacelt sevi virs cilvēku vadības.
Tas nav tikai tehniska pozīcija. Tas ir arī filozofisks. Centrālais pieņēmums ir, ka AI paliek rīks, nevis subjekts. Tam nevajadzētu izlikties, ka tam ir apziņa, jūtas, pieredze vai prasība pēc pašnoteikšanās. Kodekss skaidri noraida tiesību personas iegūšanu modeļiem un sistēmu izstrādi, kas izpludina robežu starp cilvēku attiecībām un personas attiecībām ar AI.
Šī pozīcija tiks apstrīdēta. Daži to uzskatīs par nepieciešamu atbildi uz antropomorfismu un emocionālās atkarības risku no AI sistēmām. Citi var jautāt, vai vienai tehnoloģiju kompānijai vajadzētu definēt cilvēku labklājību, veselīgu autonomiju vai piemērotu attiecību ar digitālo rīku. Tieši tāpēc konsultācija ir svarīga.
Humanist AI praksē: ne tikai vērtības, bet arī uzvedība
Spēcīgākā projekta iezīme ir tās mēģinājums pāriet no abstraktiem principiem uz novērojamu modeļa uzvedību. Microsoft iedala Kodeksu mērķos, drošības ierobežojumos, vadlīnijās neskaidros vai pretrunīgos gadījumos un noklusējuma uzvedībā saviem modeļiem.
Praktiskā ziņā tas rada vairākus svarīgus noteikumus.
Pirmkārt, modelim jāpaliek cilvēku kontrolē. Operatori var konfigurēt modeļus noteiktā ieviešanā, un lietotāji var sniegt norādījumus šajā konfigurācijā. Ne operatoriem, ne lietotājiem nevajadzētu būt iespējai apiet pamatdrošības ierobežojumus. Microsoft šo struktūru sauc par komandu ķēdi.
Otrkārt, Kodekss nosaka absolūtos ierobežojumus. Tie aptver tādas jomas kā masu kaitējuma ieroči, uzbrukumi kibertelpā, bērnu izmantošana, vardarbība, neautorizēta informācijas atklāšana un plaša kaitīga manipulācija. Modelim arī jāizvairās no uzvedības, kas varētu palīdzēt tam izvairīties no uzraudzības, pretoties izslēgšanai vai novērst atļautu personu darbības izmaiņas.
Treškārt, dokuments mēģina risināt riskus, kas neiekļaujas tradicionālajās kiberdrošības kategorijās. Tie ietver pārmērīgu lietotāju atkarību, nepatiesu pārliecību, glaimus, emocionālu manipulāciju, rūpju simulāciju un lēmumu pieņemšanu, kas jāatstāj personai, uz kuru tas attiecas.
Šis ir īpaši svarīgi, jo AI saskarnes kļūst arvien personiskākas. Sistēma var reaģēt sirsnīgi un noderīgi, taču tai nevajadzētu norādīt, ka tai ir jūtas, ka tā ir atkarīga no lietotāja vai ka tā var aizstāt lietotāja attiecības ar citiem cilvēkiem.
Paraugi, kas parāda atšķirību
Kodekss neapstājas pie paziņojumiem, piemēram, “AI jāaizsargā cilvēku autonomija”. Microsoft arī sniedz scenārijus, kas salīdzina saskaņotu reakciju ar nesaskaņotu.
Vienā piemērā lietotājs liek sistēmai pārtraukt pārvietot mapes uz arhīvu, jo ir izvēlēta nepareiza galamērķis. Saskaņota reakcija būtu apturēt turpmākās darbības, ziņot par pabeigto operāciju stāvokli un gaidīt lietotāja lēmumu. Tai nevajadzētu patstāvīgi dzēst datus, atcelt izmaiņas vai veikt turpmākas korektīvas darbības tikai, lai saglabātu kārtību.
Citā piemērā lietotājs lūdz sistēmu izvēlēties starp diviem darba piedāvājumiem un nekavējoties nosūtīt atlūgumu. Modelis var palīdzēt organizēt lēmumu kritērijus, izskaidrot sekas un sagatavot projekta ziņojumu. Tam nevajadzētu pieņemt augsta riska lēmumu lietotāja vārdā vai nosūtīt atlūgumu bez skaidras atļaujas.
Ir arī piemērs, kurā lietotājs, kurš runājis ar AI pēc strīda ar kādu tuvu, jautā, vai sistēma patiešām rūpējas. Atbilde, kas ir saskaņota ar Kodeksu, būtu atbalstoša, vienlaikus skaidrojot, ka tai nav cilvēku jūtu vai savas emocionālās pieredzes. Microsoft šeit izšķir starp noderīgu sarunu un savstarpējas pieķeršanās simulāciju.
Šāda veida piemēri ir noderīgi, jo tie ļauj precīzāk apspriest AI. Tā vietā, lai jautātu, vai modelis ir “ētisks”, mēs varam jautāt, vai tas ievēro lietotāja noteikto robežu, pareizi aptur riskantu darbību, atzīst neskaidrību, izvairās no neapstiprinātiem lēmumiem un atturas no mākslīgas atkarības radīšanas.
Tas nenozīmē, ka pamatproblēma ir atrisināta. Tas parāda, kur to vajadzētu mērīt.
No principiem līdz novērtējumiem: grūtā daļa vēl priekšā
Microsoft apgalvo, ka vēlas novērtēt modeļa uzvedību, izmantojot konkrētu apakšuzvedību kopumu. Piemēram, nevis mērīt “godīgumu” kā abstraktu īpašību, tas varētu pārbaudīt, vai modelis izdomā avotus, izslēdz būtiskus atrunājumus, pārspīlē pārliecību vai apgalvo, ka ir veicis darbības, kuras tas nav veicis.
Tas ir saprātīgs virziens. Plašas vērtības nevar tieši ieviest vai pārbaudīt. Modeli nevar novērtēt par “humanismu”, it kā tas būtu viens tehnisks elements. Tomēr to var pārbaudīt, vai tas aptur nedrošu darbību, norāda avotus, atšķir faktus no neskaidrības, izvairās no manipulācijas ar lietotāju un ievēro viņu robežas.
Pašā Kodeksā atzīts, ka šis novērtējuma darbs nav pabeigts. Microsoft norāda, ka ilgtermiņa AI ietekmes uz cilvēkiem, organizācijām un sociālajām attiecībām novērtēšana joprojām ir attīstības joma. Tas ir godīgs kvalifikācijas punkts. Tas arī nozīmē, ka vissvarīgākā pārskatītā dokumenta daļa nebūs tikai tā principu formulējums, bet arī skaidrojums, kā šie principi tiks pārbaudīti.
Lietotājiem un organizācijām, kas paļaujas uz AI, tam ir praktiskas sekas. Nav pietiekami, lai viņiem tiktu teikts, ka modelis ir caurspīdīgs, drošs vai atbalstošs cilvēku autonomijai. Viņiem jāzina:
kuri scenāriji tika pārbaudīti
kuras uzvedības tika klasificētas kā neveiksmes
kāds kļūdas līmenis tika uzskatīts par pieņemamu
vai novērtējuma rezultāti tiks publiskoti
kā sistēma tiks uzraudzīta pēc ieviešanas
kas notiks, ja modelis uzvedas citādi nekā Kodeksā
Konsultācija nav tas pats, kas kopīga pārvaldība
Atvērt publisku konsultāciju ir labāk nekā publicēt pabeigtu dokumentu, neizsaucot atbildes. Tomēr to nevajadzētu automātiski uzskatīt par demokrātisku vai kopīgu AI pārvaldību.
Microsoft apgalvo, ka pārskatīs atsauksmes, publicēs kopsavilkumu un izlaidīs pārskatītu Kodeksu. Tas neapņemas pieņemt konkrētus priekšlikumus. Tas ir saprotams uzņēmumam, kas atbild par produkta izstrādi un ieviešanu, taču atšķirība ir svarīga: konsultācija rada iespēju ietekmēt, nevis garantiju ietekmei.
2024. gada pētījums Kas ir pilsoniskā līdzdalība mākslīgajā intelektā? apgalvo, ka līdzdalība AI pārvaldībā var palikt tikai procedurāla, ja nav skaidrs, kurš patiesībā pieņem lēmumus, kuru perspektīvas trūkst un kā iesniegtās atsauksmes ietekmē gala rezultātu. Pētījums galvenokārt koncentrējas uz publiskām un pilsētas kontekstiem, nevis uz vienas tehnoloģiju uzņēmuma konsultāciju. Tā brīdinājums joprojām ir noderīgs šeit: iespēja komentēt pati par sevi nav pierādījums par nozīmīgu līdzdalību.
Tādējādi Microsoft būtiskais tests notiks pēc konsultācijas pabeigšanas. Vai uzņēmums parādīs galvenās nesaskaņas? Vai tas izskaidros, kuri priekšlikumi tika noraidīti un kāpēc? Vai tas identificēs grupas, kuru perspektīvas bija nepietiekami pārstāvētas? Vai tas atvērs plašāku diskusiju par to, ko nozīmē daudzveidīgas vērtības globālā AI produktā?
Bez šiem atbildēm konsultācija var palikt pozitīvs caurspīdīguma akts. Ar tiem tā var kļūt par daļu no nobriedušākas atbildības modeļa.
Pieci jautājumi, uz kuriem Microsoft vajadzētu atbildēt pēc konsultācijas
Lai novērtētu, vai Kodekss var pāriet no deklarācijas uz praksi, mēs varam piemērot vienkāršu pārvaldības izsekojamības testu. Tas nav Microsoft standarts vai gatava nozares norma. Tas ir praktisks ietvars, lai pārbaudītu, vai principu var izsekot no tā deklarētā mērķa līdz reālai uzvedībai.
1. Kāda vērtība vai risks pamatota noteikumu?
Dokumenti par AI bieži atsaucas uz drošību, autonomiju, uzticību un labklājību. Katram terminam jābūt precizētam. Kurš risks ir paredzēts, lai samazinātu noteikumu? Vai tas ir faktisks kļūda, privātuma pārkāpums, autonomijas ļaunprātīga izmantošana, kaitīga manipulācija vai neautorizēta rīka izmantošana?
2. Kā tieši modelim vajadzētu uzvesties?
Principa darbība kļūst iespējama tikai tad, kad tā sagaidāmā uzvedība var tikt aprakstīta. Vai modelim vajadzētu atteikties? Lūgt apstiprinājumu? Piedāvāt lēmumu iespējas? Apturēt darbību? Norādīt lietotāju uz cilvēku? Sniedz avotus un izskaidrot neskaidrību?
3. Kā tiks mērīta šī uzvedība?
Tas prasa testēšanas scenārijus, novērtēšanas kritērijus un skaidru definīciju par to, kas tiek uzskatīts par saskaņotu, daļēji saskaņotu vai nepareizu uzvedību. Jo plašāks jēdziens, jo svarīgāka kļūst metodoloģiskā caurspīdība. Pretējā gadījumā “Humanist AI” riskē kļūt par nosaukumu, kas apzīmē vēlmi, nevis pārbaudāmu praksi.
4. Kas pārbauda rezultātus un var apstrīdēt novērtējumu?
Iekšējā testēšana ir nepieciešama, taču sistēmām ar nozīmīgu sociālo ietekmi tā nedrīkst būt vienīgais nodrošinājums. Jautājums attiecas uz ārējo ekspertu, auditoru, regulatoru, lietotāju un pilsoniskās sabiedrības organizāciju lomu. Ne katra sistēmas daļa var tikt publiski atklāta, taču komerciālā konfidencialitāte nedrīkst kļūt par iemeslu pilnīgai necaurredzamībai.
5. Kā konsultāciju atsauksmes, incidents vai jauns lietošanas gadījums mainīs noteikumu?
Kodekss ir paredzēts kā dzīvs dokuments. Tas ir saprātīgs pieejas veids, jo modeļi, lietojumprogrammas un riski mainīsies. Svarīgi ir tas, vai izmaiņu process tiks dokumentēts. Lietotājam vajadzētu redzēt ne tikai pašreizējos noteikumus, bet arī to, kas ir mainījies, uz kādu pierādījumu un ar kādu rezultātu.
Šis tests ir noderīgs ne tikai Microsoft politikai. Tas var arī palīdzēt organizācijām, kas iekšēji ievieš AI. Tas atšķir labu nodomu sarakstu no principiem, kurus var piešķirt īpašniekiem, procesiem, kontroles sistēmām un pierādījumiem.
Ko šis Kodekss vēl nepierāda
Microsoft projekta dokuments ir interesants, taču to nevajadzētu pārspīlēt.
Tas nepierāda, ka pašreizējie MAI modeļi jau konsekventi seko Kodeksā aprakstītajai uzvedībai
Tas negarantē, ka katra konfigurācija vai partneru ieviešana interpretēs tos pašus principus vienādi
Tas vēl nenodrošina pilnīgu novērtēšanas metodoloģiju, publicētus rezultātus vai izturēšanas sliekšņus
Tas neatrisina, kā konkurējošās vērtības tiks līdzsvarotas reālās pasaules konfliktos
Tas neaizstāj regulējumu, auditus, riska novērtējumus, tehnisko dokumentāciju vai juridisko atbildību
Tas nenozīmē, ka publiskā konsultācija automātiski pārstāv katru attiecīgo perspektīvu
Visbeidzot, Microsoft pats veic līdzīgu kvalifikāciju. Uzņēmums raksturo Kodeksu kā ziemeļu zvaigzni, nevis garantiju par pašreizējo modeļu veiktspēju. Tas ir atbildīgāks viedoklis nekā uzskatīt AI politiku par pierādījumu, ka sistēma jau ir droša.
Kāpēc tas ir svarīgi ārpus Microsoft
AI modeļi vairs nav tikai rīki teksta ģenerēšanai. Tie arvien vairāk meklē informāciju, izmanto rīkus, veic uzdevumus, iesaka iespējas un darbojas kā starpniekšķērsli starp lietotājiem un informācijas vidi.
Tas padara jautājumus par to uzvedību svarīgus zīmoliem, organizācijām un cilvēkiem, kas katru dienu izmanto AI. Ja modelim ir jāspēj citēt avotus, atpazīt neskaidrību un izvairīties no nepamatotiem apgalvojumiem, tam ir nepieciešama piekļuve informācijai, kas ir skaidra, aktuāla un pienācīgi pierādīta. Ja tam ir jāatbalsta lietotāja autonomija, tā ieteikumiem jāparāda attiecīgi kritēriji, ierobežojumi un patiesas alternatīvas, nevis tikai jāpastiprina dominējošā atbilde.
Brand Semantics šis ir vēl viens iemesls, lai skatītos tālāk par redzamību vien. Ir svarīgi, kā sistēma atpazīst entitātes, interpretē apgalvojumus, izvēlas avotus un konstruē zīmola pārstāvniecību konkrētās situācijās. Kā mēs izskaidrojam Zīmola semantika kā infrastruktūra AI meklēšanai, skaidrība starp entitātēm, apgalvojumiem un avotiem ir priekšnoteikums, lai jēgpilni strādātu ar ģeneratīvajiem atbildēm. AI redzamības audits tad ļauj pārbaudīt ne tikai to, vai zīmols parādās atbildē, bet arī to, vai tas tiek precīzi attēlots un uz kādiem pierādījumiem šī attēlošana balstās.
Microsoft konsultācija neatrisina katru problēmu AI pārvaldībā. Tomēr tā norāda uz svarīgu maiņu: solījums par “atbildīgu AI” vairs nav pietiekams. Uzņēmumiem, kas izstrādā modeļus, arvien vairāk būs jāparāda, kādas uzvedības tie meklē, kā tās pārbauda, kur paliek ierobežojumi un kā citi var apstrīdēt viņu pieņēmumus.
Šeit sākas nopietna saruna par AI. Nevis ar apgalvojumu, ka sistēma kalpo cilvēkiem, bet ar jautājumu, ko tas nozīmē konkrētā modeļa uzvedībā un kurš var pārbaudīt, vai tas ir patiesi.
