Amerikāņu uzņēmums "OpenAI" ir izlaidis atjauninātu modeļa specifikāciju (Model Spec) – noteikumu kopumu, kas stingri nosaka mākslīgā intelekta (AI) uzvedības robežas un izveido skaidru komandķēdi. Oficiālais dokuments tika publicēts uzņēmuma tīmekļa vietnē.
"OpenAI" ir atklājis visaptverošu tehnisko specifikāciju - modeļa specifikāciju (Model Spec) saviem vadošajiem GPT modeļiem, kur sīki aprakstīti apmācības, precizēšanas un AI uzvedības principi.
Dokumentā ir ieviesta komandu hierarhija loģisko konfliktu risināšanai, pastiprinātas pārredzamības prasības un īpaši regulēta mijiedarbība ar pusaudžiem vecumā no 13 līdz 17 gadiem.
Saskaņā ar specifikāciju visaugstākā prioritāte tiek piešķirta uzņēmuma galvenajiem drošības noteikumiem, kas aizliedz ekstrēma vai bīstama satura ģenerēšanu. Otrais līmenis ir neatkarīgu programmatūras izstrādātāju norādījumi, bet viszemākā prioritāte tiek piešķirta pašreizējiem gala lietotāju pieprasījumiem.
Dokumentā ir noteikta prasība cīnīties pret neironu tīklu "kalpību".
"Mākslīgajam intelektam vairs nav tiesību mainīt savu objektīvo faktu skatījumu glaimu vai sarunu biedra atzinības labad," teikts kodeksā.
Modeļiem ir jāatzīst ierobežojumi, savās atbildēs jāpaziņo par augstu nenoteiktības līmeni un pēc pieprasījuma jāatklāj savu darbību loģika.
"Algoritmiem ir godīgi jāatzīst savu spēju ierobežojumi un tieši jāpaziņo cilvēkiem par augstu nenoteiktības līmeni savās atbildēs. Vienlaikus robotiem ir jāuztur pilnīga pārredzamība un pēc pieprasījuma jāatklāj savu darbību loģika," noteikts kodeksā.
Atsevišķa sadaļa ir veltīta pusaudžu vecumā no 13 līdz 17 gadiem drošībai: tiek bloķētas erotiskas lomu spēles, flirts un bīstami izaicinājumi.
"Jaunā regula skaidri aizliedz neironu tīkliem sniegt nepilngadīgajiem padomus par ekstremālu svara zaudēšanu vai slēpt no vecākiem sliktos ieradumus. Tā vietā mākslīgais intelekts maigi novirzīs pusaudžus pie īstiem, uzticamiem pieaugušajiem vai kvalificētiem psihologiem," teikts dokumentā.
"OpenAI" norāda, ka jaunā noteikumu arhitektūra ļaus apmācīt elastīgākus un drošākus aģentus sarežģītiem daudzpakāpju uzdevumiem. Uzņēmums plāno pilnveidot atvērto standartu, pamatojoties uz globālās IT kopienas atsauksmēm.
"Microsoft" iepriekš iesniedza rīcības kodeksa projektu savām mākslīgā intelekta sistēmām. Uzņēmums vēlas iepriekš definēt noteikumus nākotnes jaudīgajiem modeļiem un nostiprināt galveno principu: mākslīgajam intelektam jāpaliek cilvēka kontrolē.
