Kā iemācīt MI atšķirt labo no ļaunā? Tehnoloģiju milži vēršas pie reliģijas

Kā panākt, lai mākslīgais intelekts sniegtu ne tikai gudras, bet arī morāli atbildīgas atbildes? Daļa tehnoloģiju uzņēmumu atbildes meklē sarunās ar reliģiskajiem domātājiem un filozofiem. Tomēr pētnieki brīdina: dažādu ticību gudrību nevar vienkārši apvienot vienā universālā uzvedības noteikumu krājumā, vēstīts izdevuma “Fast Company” materiālā.

Viens no konkrētākajiem piemēriem ir tērzēšanas robota "Claude" izstrādātājs “Anthropic”. Uzņēmums maijā paziņoja, ka vairāku mēnešu laikā rīkojis sarunas ar zinātniekiem, garīdzniekiem, filozofiem un ētikas speciālistiem no vairāk nekā 15 reliģiskām un starpkultūru grupām.

Uzņēmums skaidro, ka šīs konsultācijas varētu ietekmēt "Claude" vērtības, tā uzvedības izvērtēšanu un tā dēvēto konstitūciju — dokumentu, kurā aprakstīti modeļa darbības principi. “Anthropic” uzsver, ka mērķis nav pakārtot modeli vienai reliģijai: uzņēmums vēlas vienlīdz nopietni ņemt vērā reliģiskus, sekulārus un politiskus skatījumus.

Taču Mičiganas Universitātes antropologs Vebs Kīns norāda uz problēmu: reliģija nav tikai noteikumu kopums. Tā ir saistīta arī ar rituāliem, attiecībām, kultūru un politiku. Izvelkot no šī konteksta atsevišķus morāles principus, var privileģēt vienas tradīcijas un sagrozīt citas.

Līdzīgas bažas pauž tiesību eksperts un "Meta" neatkarīgās uzraudzības padomes loceklis Paolo Karoca. Viņaprāt, dažādu tradīciju sajaukšana var novest pie to būtisko atšķirību zaudēšanas, nevis dziļākas izpratnes.

Vienlaikus ne visi sarunu dalībnieki ir skeptiski. Notrdamas Universitātes reliģijas filozofe Megana Salivana, kura piedalījusies “Anthropic” sanāksmē, atzinīgi novērtējusi uzņēmuma ieinteresētību. Diskusijās skarti gan filozofiski jautājumi par cilvēka dvēseli, gan praktiski, piemēram, vai trešklasniekiem būtu jāļauj izmantot tērzēšanas robotu lasītprasmes apguvei.

“Anthropic” šo darbu raksturo kā agrīnā stadijā esošu. Konsultācijas vēl nav pierādījums, ka radīts morāli uzticams mākslīgais intelekts. Tās parāda, ka līdzās tehniskajiem drošības risinājumiem izstrādātāji meklē plašāku izpratni par to, kādām vērtībām būtu jāveido sistēmas, ar kurām sarunājas miljoniem cilvēku.