Slavenais britu fiziķis Stīvens Hokings jau pirms savas nāves brīdināja par mākslīgā intelekta iespējamiem riskiem – viņš uzskatīja, ka pietiekami attīstīts mākslīgais intelekts nākotnē varētu pats sevi pilnveidot arvien straujāk un galu galā pārspēt cilvēkus intelektuālo spēju ziņā, raksta “Wion”.
Hokings aicināja zinātniekus jau laikus rūpēties par to, lai mākslīgā intelekta mērķi būtu saskaņoti ar cilvēces interesēm un izdzīvošanu. Viņaprāt, pretējā gadījumā tehnoloģiju attīstība varētu radīt eksistenciālus draudus cilvēcei.
Bīstams nav „ļaunais robots”
Hokings uzsvēra, ka lielākais risks nav scenārijs, kurā mākslīgais intelekts kļūst ļauns vai apzināti vēlas iznīcināt cilvēkus. Daudz bīstamāks varētu būt ārkārtīgi spējīgs un efektīvs mākslīgais intelekts, kura mērķi nesakrīt ar cilvēces interesēm.
Ja superinteliģenta sistēma izvirzītu sev mērķus, kas nav savienojami ar cilvēku izdzīvošanu, tās spējas varētu radīt ļoti nopietnas sekas. Cilvēkiem būtu grūti ar šādu sistēmu konkurēt, jo mūsu bioloģiskā evolūcija notiek nesalīdzināmi lēnāk nekā tehnoloģiju attīstība.
Uzstājoties Kembridžas Universitātē, Hokings norādīja, ka veiksmīga mākslīgā intelekta radīšana varētu kļūt par nozīmīgāko notikumu cilvēces vēsturē. Taču viņš piebilda, ka tas varētu kļūt arī par mūsu pēdējo nozīmīgo notikumu, ja cilvēce neiemācīsies kontrolēt ar tehnoloģiju saistītos riskus.
Bažas arī par autonomiem ieročiem
Savas dzīves pēdējos gados Hokings kopā ar citiem tehnoloģiju jomas ekspertiem brīdināja arī par iespējamu mākslīgā intelekta bruņošanos.
Viņš īpaši uzsvēra autonomo ieroču riskus - ja šādas sistēmas netiktu stingri regulētas, tās varētu kļūt par ļoti efektīvu apspiešanas un kontroles līdzekli.
Hokings uzskatīja, ka mākslīgā intelekta attīstībai nepieciešama ne tikai tehnoloģiska, bet arī politiska kontrole - zinātniekiem un politiķiem jānodrošina, lai jaunās tehnoloģijas galu galā kalpotu cilvēkiem, nevis darbotos pret viņiem.
Ko Hokings novēlēja cilvēcei?
Savā pēdējā grāmatā „Īsas atbildes uz lielajiem jautājumiem” Hokings vēlreiz pievērsās tehnoloģiju nākotnei un mākslīgā intelekta radītajiem izaicinājumiem.
Viņa galvenais aicinājums bija vienkāršs: cilvēcei nevajadzētu gaidīt, līdz mākslīgais intelekts kļūs pārāk spēcīgs, lai to kontrolētu.
Hokings neapgalvoja, ka mākslīgais intelekts noteikti iznīcinās cilvēci; viņa brīdinājums bija par nepieciešamību jau savlaicīgi izdomāt drošības principus, pirms tehnoloģijas kļūst daudz spējīgākas par cilvēkiem.
Tieši šī doma arī ir viena no būtiskākajām Hokinga atstātajām atziņām: mākslīgais intelekts pats par sevi nav ne labs, ne ļauns - izšķiroši svarīgi ir tas, kādus mērķus tam piešķirs cilvēki un cik labi spēsim kontrolēt tā darbību.
