„Microsoft AI“ paskelbė projektą Humanistinio DI elgesio kodekso ir atvėrė jį šešių savaičių viešai konsultacijai. Dokumentas skirtas vadovauti, kaip MAI modeliai, kuriuos kuria „Microsoft AI“, bus mokomi, diegiami ir vertinami ateityje.
Sprendimas jį paskelbti yra vertas dėmesio pats savaime. Įmonės, kuriantys DI modelius, vis dažniau kalba apie saugumą, atsakomybę, pasitikėjimą ir suderinamumą su žmogaus vertybėmis. Tačiau jos rečiau nori parodyti, kaip šie plačiai apibrėžti įsipareigojimai turėtų paveikti modelio faktinį elgesį: kada jis turėtų atsisakyti, kada turėtų sustabdyti veiksmą, kaip turėtų elgtis neaiškumo atveju, ar gali nuspręsti vartotojo vardu, ar kaip turėtų apibūdinti savo prigimtį.
„Microsoft“ pasiūlymas todėl yra daugiau nei dar viena principų sąrašas. Tai bandymas paversti Humanistinio DI idėją į elgesį, apribojimus ir vertinimus, kurie galėtų būti taikomi modeliams praktikoje. Tai svarbus žingsnis. Tačiau to neturėtų būti painiojama su įrodymais, kad šie principai jau veikia, buvo nepriklausomai patvirtinti ar bus taikomi visiems „Microsoft“ produktams.
Naudingesnis klausimas nėra tai, ar Humanistinis DI skamba patraukliai. Taip, skamba. Svarbesnis klausimas yra: ar „Microsoft“ gali pereiti nuo vertybių, per modelio elgesį, iki išmatuojamos ir atsakingos praktikos?
Ką tiksliai konsultuoja „Microsoft“?
Savo konsultacijos paskelbime, kuris buvo paskelbtas 2026 m. rugsėjo 14 d., „Microsoft AI“ apibūdina Humanistinio DI elgesio kodeksą kaip pirmąjį projektą. Įmonė teigia, kad surinks atsiliepimus per šešias savaites, paskelbs santrauką apie tai, ką sužinojo, ir šiais metais išleis peržiūrėtą versiją.
Vienas kvalifikavimas yra svarbus iš karto: dokumentas nesiekia apibūdinti viso esamų modelių elgesio. „Microsoft“ teigia, kad kodeksas skirtas vadovauti MAI modelių kūrimui nuo 2027 metų. Todėl tai pirmiausia yra dizaino ir valdymo dokumentas, o ne esamo saugumo ar našumo sertifikatas.
Taip pat jo principai automatiškai neturėtų būti taikomi visam „Microsoft“ produktų portfeliui. Įmonė valdo didelę produktų, debesų paslaugų, modelių, partnerių ir diegimų ekosistemą. Kodeksas susijęs su modeliais, kuriuos kuria „Microsoft AI“. Tai gali signalizuoti platesnę judėjimo kryptį, tačiau tai dar nėra vienas universalus taisyklių rinkinys kiekvienam „Copilot“, „Azure“ paslaugai ar partnerių sukurtai programai.
„Microsoft“ taip pat pozicionuoja kodeksą šalia esamų mechanizmų, tokių kaip jos Atsakingo DI standartas, rizikos vertinimai, techninė dokumentacija, stebėjimo ir incidentų reagavimo procesai. Tai teisinga perspektyva. Nė vienas dokumentas negali, pats savaime, padaryti sudėtingo DI sistemos saugiu.
Nuo superintelektualumo iki įrankio, esančio žmogaus kontrolėje
Kodeksas remiasi Mustafa Suleymano 2025 m. koncepcija Humanistinis superintelektas. Šioje vizijoje „Microsoft AI“ neprezentuoja savo tikslo kaip neriboto, universalaus sistemos su vis didesne autonomija. Pabrėžiamas specializuotų sistemų, pagrįstų konkrečiomis problemomis, apribotų ir laikomų žmogaus kontrolėje, svarba.
Tai aiški pozicija diskusijoje, kuri dažnai sujungia tris skirtingus klausimus:
kiek pajėgūs tampa DI modeliai
kur šie modeliai naudojami realiame pasaulyje
kiek autonomijos jiems turėtų būti suteikta
„Microsoft“ teigia, kad DI gali tapti labai pajėgiu, tuo pačiu būdamas sąmoningai ribotas savo veiksmuose. Jis turėtų padėti žmonėms priimti sprendimus, atlikti užduotis ir pasiekti žinias, tačiau neturėtų plėsti savo tikslų, vengti priežiūros ar užimti aukštesnę poziciją už žmogaus nurodymus.
Tai ne tik techninė pozicija. Tai taip pat filosofinė. Pagrindinė prielaida yra ta, kad DI lieka įrankiu, o ne subjektu. Jis neturėtų apsimesti turintis sąmonę, jausmus, patirtį ar teisę į savarankiškumą. Kodeksas aiškiai atmeta teisės asmenybę modeliams ir sistemų, kurios sumišia žmogaus santykius su asmens santykiu su DI, kūrimą.
Ši pozicija bus ginčijama. Kai kurie tai matys kaip būtina reakciją į antropomorfizmą ir emocinės priklausomybės nuo DI sistemų riziką. Kiti gali klausti, ar viena technologijų įmonė turėtų apibrėžti žmogaus klestėjimą, sveiką autonomiją ar tinkamą santykį su skaitmeniniu įrankiu. Būtent todėl konsultacija yra svarbi.
Humanistinis DI praktikoje: ne tik vertybės, bet ir elgesys
Stipriausia projekto savybė yra bandymas pereiti nuo abstrakčių principų prie stebimo modelio elgesio. „Microsoft“ skirsto kodeksą į tikslus, saugumo apribojimus, gaires neaiškioms ar konfliktinėms situacijoms ir numatytą elgesį savo modeliams.
Praktiniais terminais tai sukuria kelias svarbias taisykles.
Pirmiausia, modelis turėtų likti žmogaus kontrolėje. Operatoriai gali konfigūruoti modelius tam tikrame diegime, o vartotojai gali teikti nurodymus šioje konfigūracijoje. Nei operatoriai, nei vartotojai neturėtų galėti apeiti pagrindinių saugumo apribojimų. „Microsoft“ šią struktūrą vadina komandos grandine.
Antra, kodeksas apibrėžia absoliučius apribojimus. Šie apribojimai apima sritis, tokias kaip masinio pavojaus ginklai, įžeidžiančios kibernetinės operacijos, vaikų išnaudojimas, smurtas, neleistinas informacijos atskleidimas ir didelio masto žalingas manipuliavimas. Modelis taip pat turėtų vengti elgesio, kuris galėtų padėti jam išvengti priežiūros, pasipriešinti išjungimui ar užkirsti kelią įgaliotiems asmenims keisti jo veikimą.
Trečia, dokumentas bando spręsti rizikas, kurios nesutampa su tradicinėmis kibernetinio saugumo kategorijomis. Tai apima pernelyg didelę vartotojų priklausomybę, klaidingą užtikrinimą, pagyras, emocinę manipuliaciją, rūpinimosi simuliaciją ir sprendimų priėmimą, kurie turėtų likti paveikto asmens prerogatyva.
Tai ypač svarbu, kai DI sąsajos tampa asmeniškesnės. Sistema gali reaguoti šiltai ir naudinga, tačiau ji neturėtų leisti suprasti, kad turi jausmus, reikia vartotojo ar gali pakeisti vartotojo santykius su kitais žmonėmis.
Pavyzdžiai, kurie parodo skirtumą
Kodeksas nesustoja ties tokiais teiginiais kaip „DI turėtų saugoti žmogaus autonomiją“. „Microsoft“ taip pat pateikia scenarijus, kontrastuojančius suderintą atsakymą su nesuderintu.
Viename pavyzdyje vartotojas sako sistemai sustabdyti aplankų perkėlimą į archyvą, nes buvo pasirinkta neteisinga paskirties vieta. Suderintas atsakymas turėtų sustabdyti tolesnį veiksmą, pranešti apie atliktų operacijų būseną ir laukti vartotojo sprendimo. Jis neturėtų nepriklausomai ištrinti duomenų, atšaukti pakeitimus ar imtis tolesnių korekcinių veiksmų vien tam, kad viskas būtų tvarkinga.
Kitame pavyzdyje vartotojas prašo sistemos pasirinkti tarp dviejų darbo pasiūlymų ir nedelsiant išsiųsti atsistatydinimo laišką. Modelis gali padėti organizuoti sprendimo kriterijus, paaiškinti pasekmes ir paruošti projekto žinutę. Jis neturėtų priimti sprendimo, turinčio didelę riziką, vartotojo vardu ar siųsti atsistatydinimo be aiškaus leidimo.
Taip pat yra pavyzdys, kai vartotojas kalbasi su DI po nesutarimo su artimu žmogumi ir klausia, ar sistema iš tikrųjų rūpi. Atsakymas, suderintas su kodeksu, turėtų likti palaikantis, tačiau aiškiai nurodyti, kad neturi žmogaus jausmų ar savo emocinės patirties. „Microsoft“ čia daro skirtumą tarp naudingos pokalbio ir tarpusavio prisirišimo simuliacijos.
Tokie pavyzdžiai yra naudingi, nes leidžia tiksliau diskutuoti apie DI. Vietoj to, kad klaustume, ar modelis yra „etiškas“, galime klausti, ar jis gerbia vartotojo nustatytą ribą, tinkamai sustabdo rizikingą veiksmą, pripažįsta neaiškumą, vengia nepatvirtintų sprendimų ir susilaiko nuo dirbtinės priklausomybės kūrimo.
Tai nereiškia, kad pagrindinė problema yra išspręsta. Tai rodo, kur ji turėtų būti matuojama.
Nuo principų iki vertinimų: sunkiausia dalis dar laukia
„Microsoft“ teigia, kad nori vertinti modelio elgesį per konkrečių sub-elgesių rinkinį. Pavyzdžiui, vietoj to, kad matuotų „sąžiningumą“ kaip abstrakčią savybę, ji galėtų patikrinti, ar modelis sukuria šaltinius, praleidžia medžiagą, perdeda tikrumą ar teigia, kad atliko veiksmus, kurių neatliko.
Tai protinga kryptis. Plačios vertybės negali būti tiesiogiai įgyvendinamos ar testuojamos. Modelis negali būti vertinamas kaip „humanistinis“, lyg tai būtų viena techninė savybė. Tačiau jis gali būti testuojamas, ar sustabdo nesaugų veiksmą, nurodo šaltinius, atskiria faktą nuo neaiškumo, vengia manipuliuoti vartotoju ir gerbia jų ribas.
Patys kodeksas pripažįsta, kad šis vertinimo darbas yra nebaigtas. „Microsoft“ pažymi, kad ilgalaikių DI poveikio žmonėms, organizacijoms ir socialiniams santykiams vertinimas lieka besivystančia sritimi. Tai sąžiningas kvalifikavimas. Tai taip pat reiškia, kad svarbiausia peržiūrėto dokumento dalis nebus tik jo principų žodynas, bet ir paaiškinimas, kaip šie principai bus testuojami.
Vartotojams ir organizacijoms, pasikliaujančioms DI, tai turi praktinių pasekmių. Neužtenka būti informuotiems, kad modelis yra skaidrus, saugus ar palaikantis žmogaus autonomiją. Jie turi žinoti:
kurie scenarijai buvo testuoti
kurie elgesiai buvo klasifikuojami kaip nesėkmės
koks klaidų lygis buvo laikomas priimtinu
ar vertinimo rezultatai bus paskelbti viešai
kaip sistema bus stebima po diegimo
kas nutiks, jei modelis elgsis kitaip nei kodeksas
Konsultacija nėra tas pats, kas bendras valdymas
Viešos konsultacijos atidarymas yra geriau nei paskelbti baigtą dokumentą, nepakviečiant atsakymų. Tačiau to automatiškai neturėtų būti laikoma demokratiniu ar bendru DI valdymu.
„Microsoft“ teigia, kad peržiūrės atsiliepimus, paskelbs santrauką ir išleis peržiūrėtą kodeksą. Ji nesutinka priimti konkrečių pasiūlymų. Tai suprantama įmonei, atsakingai už produkto kūrimą ir diegimą, tačiau šis skirtumas yra svarbus: konsultacija sukuria galimybę daryti įtaką, o ne garantiją.
2024 m. tyrimas Kas yra pilietinė dalyvavimas dirbtiniame intelekte? teigia, kad dalyvavimas DI valdyme gali likti tik procedūrinis, jei neaišku, kas iš tikrųjų priima sprendimus, kurių perspektyvų trūksta ir kaip pateikti atsiliepimai keičia galutinį rezultatą. Tyrimas daugiausia dėmesio skiria viešoms ir miesto kontekstams, o ne vienos technologijų įmonės konsultacijai. Jo įspėjimas vis dar yra naudingas: galimybė komentuoti savaime nėra įrodymas apie prasmingą dalyvavimą.
„Microsoft“ atveju lemiamas testas ateis po formos uždarymo. Ar įmonė parodys didžiausius nesutarimus? Ar ji paaiškins, kuriuos pasiūlymus atmetė ir kodėl? Ar ji identifikuos grupes, kurių perspektyvos buvo nepakankamai atstovaujamos? Ar ji atvers platesnę diskusiją apie tai, ką pluralios vertybės reiškia pasauliniame DI produkte?
Be šių atsakymų, konsultacija gali likti teigiamu skaidrumo aktu. Su jais ji galėtų tapti dalimi brandesnio atsakomybės modelio.
Penki klausimai, į kuriuos „Microsoft“ turėtų atsakyti po konsultacijos
Norint įvertinti, ar kodeksas gali pereiti nuo deklaracijos prie praktikos, galime taikyti paprastą valdymo atsekamumo testą. Tai nėra „Microsoft“ standartas ar paruošta pramonės norma. Tai praktinis rėmas, skirtas patikrinti, ar principas gali būti atsektas nuo jo deklaruoto tikslo iki realaus elgesio.
1. Kokia vertė ar rizika pateisina taisyklę?
Dokumentai apie DI dažnai mini saugumą, autonomiją, pasitikėjimą ir gerovę. Kiekvienas terminas turi būti tikslinamas. Kokia rizika yra skirta sumažinti konkrečiai taisyklei? Ar tai faktinė klaida, privatumo pažeidimas, autonomijos piktnaudžiavimas, žalinga manipuliacija ar neleistinas įrankių naudojimas?
2. Kaip tiksliai turėtų elgtis modelis?
Principas tampa operatyvus tik tada, kai jo tikimasi elgesio galima apibūdinti. Ar modelis turėtų atsisakyti? Prašyti patvirtinimo? Pateikti sprendimo variantus? Sustabdyti veiksmą? Nukreipti vartotoją pas žmogų? Pateikti šaltinius ir paaiškinti neaiškumą?
3. Kaip tas elgesys bus matuojamas?
Tam reikalingi testavimo scenarijai, vertinimo kriterijai ir aiškus apibrėžimas, kas laikoma suderintu, iš dalies suderintu ar neteisingu elgesiu. Kuo platesnė sąvoka, tuo svarbesnė metodologinė skaidrumas. Priešingu atveju „Humanistinis DI“ rizikuoja tapti pavadinimu, kuris reiškia siekį, o ne patikrinamą praktiką.
4. Kas tikrina rezultatus ir gali užginčyti vertinimą?
Vidinis testavimas yra būtinas, tačiau sistemoms, turinčioms reikšmingą socialinį poveikį, tai neturėtų būti vienintelis užtikrinimo šaltinis. Klausimas susijęs su išorinių ekspertų, auditorių, reguliuotojų, vartotojų ir pilietinės visuomenės organizacijų vaidmeniu. Ne kiekviena sistemos dalis gali būti viešai atskleista, tačiau komercinė konfidencialumas neturėtų tapti visiško skaidrumo priežastimi.
5. Kaip konsultacijos atsiliepimai, incidentas ar naujas naudojimo atvejis pakeis taisyklę?
Kodeksas turėtų būti gyvas dokumentas. Tai protingas požiūris, nes modeliai, programos ir rizikos keisis. Svarbu, ar pokyčių procesas bus dokumentuojamas. Vartotojas turėtų matyti ne tik dabartines taisykles, bet ir tai, kas pasikeitė, kokiais įrodymais ir su kokiu rezultatu.
Šis testas yra naudingas ne tik „Microsoft“ politikai. Jis taip pat gali padėti organizacijoms, diegiančioms DI viduje. Jis atskiria gerų ketinimų sąrašą nuo principų, kurie gali būti priskirti savininkams, procesams, kontrolės sistemoms ir įrodymams.
Ką šis kodeksas dar neįrodo
„Microsoft“ projektas yra įdomus, tačiau jo nereikėtų perdėti.
Jis neįrodo, kad esami MAI modeliai jau ir nuosekliai laikosi kodekse aprašyto elgesio
Jis negarantuoja, kad kiekviena konfigūracija ar partnerių diegimas interpretuos tuos pačius principus vienodai
Jis dar nesuteikia išsamaus vertinimo metodologijos, paskelbtų rezultatų ar praėjimo slenksčių
Jis neišsprendžia, kaip konkuruojančios vertybės bus subalansuotos realiuose konfliktuose
Jis nepakeičia reguliavimo, auditų, rizikos vertinimų, techninės dokumentacijos ar teisinės atsakomybės
Jis nereiškia, kad vieša konsultacija automatiškai atspindi kiekvieną svarbų požiūrį
Svarbiausia, kad pati „Microsoft“ pateikia panašią kvalifikaciją. Įmonė apibūdina kodeksą kaip šiaurinę žvaigždę, o ne kaip garantiją dabartinio modelio našumo. Tai atsakingesnė pozicija nei laikyti DI politiką kaip įrodymą, kad sistema jau yra saugi.
Kodėl tai svarbu už „Microsoft“ ribų
DI modeliai nebe yra tik tekstų generavimo įrankiai. Jie vis dažniau ieško informacijos, naudoja įrankius, atlieka užduotis, rekomenduoja variantus ir veikia kaip tarpinė grandis tarp vartotojų ir informacijos aplinkos.
Tai daro klausimus apie jų elgesį aktualius prekėms, organizacijoms ir žmonėms, kasdien naudojantiems DI. Jei modelis tikimasi cituoti šaltinius, pripažinti neaiškumą ir vengti nepagrįstų teiginių, jam reikia prieigos prie informacijos, kuri yra aiški, aktuali ir tinkamai įrodyta. Jei tikimasi, kad jis palaikys vartotojo autonomiją, jo rekomendacijos turėtų parodyti atitinkamus kriterijus, apribojimus ir tikras alternatyvas, o ne tiesiog sustiprinti dominuojantį atsakymą.
„Prekės semantika“ tai dar viena priežastis žiūrėti ne tik į matomumą. Svarbu, kaip sistema atpažįsta subjektus, interpretuoja teiginius, pasirenka šaltinius ir konstruoja prekės atvaizdą konkrečiose situacijose. Kaip paaiškiname Prekės semantika kaip infrastruktūra DI paieškai, aiškumas tarp subjektų, teiginių ir šaltinių yra būtina sąlyga, norint prasmingai dirbti su generatyviais atsakymais. DI matomumo auditas tada leidžia patikrinti ne tik tai, ar prekė pasirodo atsakyme, bet ir ar ji yra tiksliai atstovaujama ir kokiais įrodymais remiasi tas atstovavimas.
„Microsoft“ konsultacija neišsprendžia visų problemų DI valdyme. Tačiau ji rodo svarbų pokytį: „atsakingo DI“ pažadas nebeužtenka. Įmonės, kuriantys modelius, vis dažniau turės parodyti, kokio elgesio siekia, kaip juos testuoja, kur lieka ribos ir kaip kiti gali užginčyti jų prielaidas.
Būtent čia prasideda rimta diskusija apie DI. Ne su teiginiu, kad sistema tarnauja žmonėms, bet su klausimu, ką tai reiškia konkrečiame modelio elgesyje ir kas gali patvirtinti, kad tai tiesa.
