Miljardieri gatavojas pasaules galam. Vai mums visiem vajadzētu uztraukties?
2014. gadā Marks Cukerbergs sāka darbu pie “Koolau Ranch”, plaša 1400 akru liela dzīvojamā kompleksa Havaju salā Kauai, raksta BBC. Saskaņā ar žurnāla “Wired” sniegto informāciju, jaunajā mājā ir iekļauta pajumte ar saviem enerģijas avotiem un pārtikas krājumiem un objektā strādājošie celtnieki ir apņēmušies glabāt pie sevis noslēpumu.
Gandrīz sešas pēdas augsta siena norobežoja būvniecības stadijā esošo projektu no tuvējā ceļa. Kad Cukerbergam pagājušajā gadā jautāja, vai viņš būvē pasaules gala bunkuru, “Facebook” dibinātājs atbildēja ar kategorisku "nē". Viņš pazemes telpu raksturoja kā "tikai nelielu pajumti, līdzīgu pagrabam". Taču tas nav apturējis spekulācijas, tāpat kā viņa lēmums iegādāties 11 īpašumus Kalifornijas Kresentparkas apkaimē, kuros acīmredzot atrodas 650 kvadrātmetru liela pazemes telpa.
Būvatļaujā norādīts, ka Cukerbergs ierīko pagrabus, taču, kā vēsta laikraksts "New York Times", daži viņa kaimiņi šo ēku sauc par bunkuru. Vai miljardiera alu. Pastāv arī spekulācijas, ka vairāki citi tehnoloģiju nozares līderi iepērk zemi ar pazemes telpām, lai to pārveidotu par luksusa bunkeriem. Rīds Hofmans, "LinkedIn" līdzdibinātājs, ir runājis par "apokalipses apdrošināšanu". Pēc viņa teiktā, aptuveni pusei no īpaši bagātajiem ir šāda apdrošināšana, un populārs galamērķis šādu māju iegādei ir Jaunzēlande. Vai šie cilvēki tiešām varētu gatavoties karam, klimata pārmaiņu sekām vai kādam citam katastrofālam notikumam, par kuru mēs vēl nezinām?
Pēdējos gados mākslīgā intelekta attīstība ir tikai papildinājusi potenciālo eksistenciālo problēmu sarakstu. Daudzi ir dziļi noraizējušies par tā straujo attīstības tempu. “Open AI” galvenais zinātnieks un līdzdibinātājs Iļja Sutskevers ir viens no viņiem. Līdz 2023. gada vidum, kad Sanfrancisko uzņēmums izlaida “ChatGPT” - tērzēšanas robotu, ko tagad izmanto simtiem miljonu cilvēku visā pasaulē - un strauji strādāja pie atjauninājumiem, Sutskevers arvien vairāk pārliecinājās, ka datorzinātnieki atrodas uz mākslīgā vispārējā intelekta (AGI) izstrādes robežas - brīža, kad mašīnas sasniegs cilvēka intelekta līmeni. Žurnālistes Kārenas Hao grāmatā ir aprakstīts, kā vienā sanāksmē Sutskevers
ierosināja saviem kolēģiem izrakt pazemes patvērumu uzņēmuma labākajiem zinātniekiem, pirms tik jaudīga tehnoloģija tiks laista klajā pasaulē.
"Mēs noteikti uzcelsim bunkuru, pirms mēs izlaidīsim AGI," sacīja Sutskevers, lai gan nav skaidrs, ko viņš domāja ar "mēs". Tas izgaismo dīvainu faktu - daudzi vadošie datorzinātnieki un tehnoloģiju līderi, no kuriem daži cītīgi pūlas, lai izstrādātu ļoti inteliģentu mākslīgā intelekta formu, arī šķiet dziļi piesardzīgi par to, pie kā tas kādu dienu varētu novest. Tātad, kad tieši - ja vispār - parādīsies AGI? Un vai tā tiešām varētu būt tik revolucionāra tehnoloģija, ka vienkāršie cilvēki sāks no tās baidīties? Tehnoloģiju nozares līderi apgalvo, ka AGI ir tepat aiz stūra. 2024. gada decembrī “OpenAI” izpilddirektors Sems Altmans paziņoja, ka tas notiks "ātrāk, nekā domā lielākā daļa cilvēku pasaulē". “DeepMind” līdzdibinātājs Demiss Hasabiss prognozēja, ka tas notiks nākamo piecu līdz desmit gadu laikā, savukārt “Anthropic” dibinātājs Dario Amodei pagājušajā gadā rakstīja, ka "spēcīgs mākslīgais intelekts" varētu parādīties jau 2026. gadā. Citi ir skeptiski noskaņoti. "Viņi pastāvīgi maina spēles noteikumus," saka Vendija Hola, datorzinātņu profesore Sauthemptonas universitātē. "Tas atkarīgs no tā, ar ko jūs runājat." "Zinātnieku aprindas saka, ka mākslīgā intelekta tehnoloģija ir pārsteidzoša," viņa piebilst. "Taču tā ir tālu no cilvēka intelekta." Vispirms būs jāpanāk virkne "fundamentālu izrāvienu", piekrīt tehnoloģiju uzņēmuma “Cognizant” tehniskais direktors Babaks Hojats. Un maz ticams, ka tas notiks vienas nakts laikā. Drīzāk mākslīgais intelekts ir strauji attīstoša tehnoloģija tās pirmsākumos, un daudzi uzņēmumi visā pasaulē sacenšas, lai izstrādātu savas tās versijas. Taču viens no iemesliem, kāpēc šī ideja sajūsmina dažus Silīcija ielejā, ir tas, ka tā tiek uzskatīta par priekšteci kaut kam vēl attīstītākam: mākslīgajam superintelektam - tehnoloģijai, kas pārspēj cilvēka intelektu. 1958. gadā "singularitātes" jēdziens pēc nāves tika piedēvēts ungāru matemātiķim Džonam fon Neimanim. Tas apraksta brīdi, kad datoru intelekts pārspēs cilvēka izpratni.
Grāmata "Genesis 2024", kuras autori ir Ēriks Šmits, Kreigs Mandijs un nelaiķis Henrijs Kisindžers, pēta ideju par supervaroņu tehnoloģiju, kas kļūst tik efektīva lēmumu pieņemšanā un vadībā, ka mēs galu galā pilnībā nododam tai kontroli. Pēc autoru domām, jautājums nav par to, vai tas notiks, bet gan par to, kad.
Jauno neironu tīklu tehnoloģiju atbalstītāji entuziastiski slavē to priekšrocības. Viņi apgalvo, ka superinteliģents mākslīgais intelekts palīdzēs atrast jaunas zāles pret nāvējošām slimībām, atrisināt klimata pārmaiņu problēmu un izgudrot neizsmeļamu tīras enerģijas avotu. Īlons Masks pat ir apgalvojis, ka superinteliģents mākslīgais intelekts varētu ieviest "universālu augstu ienākumu" laikmetu. Viņš nesen pieņēma ideju, ka mākslīgais intelekts kļūs tik lēts un plaši izplatīts, ka praktiski ikviens vēlēsies "savu personīgo R2-D2 un C-3PO" (atsaucoties uz droīdiem no “Zvaigžņu kariem”). "Visiem būs labāka veselības aprūpe, pārtika, transports un viss pārējais. Ilgtspējīga pārpilnība," viņš sajūsminājās. Protams, tam ir arī biedējošā puse. Vai teroristi varētu nolaupīt šo tehnoloģiju un pārvērst to par ieroci? Vai arī tā varētu nolemt, ka cilvēce ir pasaules problēmu cēlonis, un mūs iznīcināt?
"Ja kaut kas ir gudrāks par mums, mums tas ir jākontrolē," brīdināja Tims Berners-Lī, globālā tīmekļa radītājs. "Mums ir jāspēj to izslēgt." Un valdības jau veic aizsardzības pasākumus. Amerikas Savienotajās Valstīs, kur atrodas daudzi vadošie mākslīgā intelekta uzņēmumi, prezidents Džo Baidens 2023. gadā parakstīja izpildrīkojumu, kas paredz, ka dažiem uzņēmumiem ir jādalās ar drošības testu rezultātiem ar federālo valdību. Taču prezidents Donalds Tramps vēlāk atcēla daļu no šī rīkojuma, nosaucot to par "šķērsli" inovācijām. Apvienotajā Karalistē pirms diviem gadiem tika izveidots valdības finansēts pētniecības institūts Mākslīgā intelekta drošības institūts, lai labāk izprastu riskus, ko rada progresīvs mākslīgais intelekts. Taču ir īpaši bagāti cilvēki, kuriem ir savi "apokalipses apdrošināšanas" plāni. "Kad kāds saka, ka "pērk māju Jaunzēlandē", tas ir sava veida signāls, piemēram, "es saprotu, nav nepieciešams to sīkāk paskaidrot,"" iepriekš teica “LinkedIn” līdzdibinātājs Rīds Hofmans. Acīmredzot tas pats attiecas arī uz bunkuriem. Taču šeit slēpjas unikāla cilvēciska vājība. Reiz satiku kāda miljardiera bijušo miesassargu, kuram bija savs "bunkurs". Viņš man teica, ka īstas apokalipses gadījumā apsardzes komandas prioritāte būtu likvidēt pašu priekšnieku un ieņemt bunkuru. Un šķiet, ka viņš nejokoja.
Vai tā visa ir panika? Nīls Lorenss ir mašīnmācīšanās profesors Kembridžas universitātē. Un, viņaprāt, visa šī diskusija ir bezjēdzīga. "Mākslīgā vispārējā intelekta jēdziens ir tikpat absurds kā "mākslīgā koplietotā transporta" jēdziens," viņš apgalvo. "Pareizais transports ir atkarīgs no konteksta. Es lidoju uz Keniju ar “Airbus A350”, es katru dienu braucu uz universitāti, es eju uz kafejnīcu... Nav tāda transporta, kas to visu varētu izdarīt. Tehnoloģijas, ko mēs jau esam radījuši, ļauj vienkāršiem cilvēkiem pirmo reizi tieši sazināties ar mašīnu un potenciāli likt tai darīt to, ko viņi vēlas. Tas ir absolūti neparasti... un pilnīgi revolucionāri. Lielākā problēma ir tā, ka mēs esam tik ļoti aizrāvušies ar lielo tehnoloģiju uzņēmumu runām par AGI, ka aizmirstam veidus, kā mēs varam uzlabot cilvēku dzīvi." Mūsdienu mākslīgā intelekta rīki ir apmācīti ar milzīgu datu apjomu un labi atpazīst modeļus - vai tie būtu audzēja pazīmes attēlos vai vārds, kas, visticamāk, sekos citam noteiktā secībā. Taču tie "nejūt", lai cik pārliecinošas šķistu to atbildes. "Ir daži "triki", kas ļauj lielam valodas modelim (mākslīgā intelekta tērzēšanas robotu pamatā) uzvesties tā, it kā tam būtu atmiņa un tas mācītos, taču tie ir neapmierinoši un ievērojami zemāki par cilvēka spējām," saka Babaks Hojats. Kalifornijā bāzētā uzņēmuma “IV.AI” izpilddirektors Vinss Linčs arī ir piesardzīgs pret pārspīlētiem apgalvojumiem par superintelektu. "Tas ir lielisks mārketinga triks," viņš saka. "Ja jūsu uzņēmums radīs visu laiku viedāko ierīci, cilvēki būs gatavi jums maksāt." Viņš piebilst: "Tas nav divu gadu pasākums. Tas prasa milzīgu skaitļošanas jaudu, milzīgu cilvēku radošumu un apjomīgu izmēģinājumu un kļūdu metodi." Intelekts bez apziņas
Dažos veidos mākslīgais intelekts jau ir pārspējis cilvēka smadzenes. Ģeneratīvs mākslīgā intelekta rīks vienu minūti var būt viduslaiku vēstures eksperts, bet nākamajā brīdī atrisināt sarežģītus matemātiskus vienādojumus. Daži tehnoloģiju uzņēmumi apgalvo, ka ne vienmēr zina, kāpēc viņu produkti reaģē tā, kā reaģē. “Meta” apgalvo, ka ir dažas pazīmes, ka viņu mākslīgā intelekta sistēmas uzlabojas. Tomēr galu galā neatkarīgi no tā, cik inteliģentas bioloģiski kļūst mašīnas,
cilvēka smadzenes joprojām uzvar. Tajās ir aptuveni 86 miljardi neironu un 600 triljoni sinapšu, kas ir daudz vairāk nekā to mākslīgajos līdziniekos. "Ja jūs kādam pateiksiet, ka uz eksoplanētas ir atklāta dzīvība, viņš to nekavējoties internalizēs, un tas ietekmēs viņa pasaules uzskatu. Bet liela valodas modeļa (LLM) gadījumā šīs zināšanas saglabāsies tikai tik ilgi, kamēr jūs tās atkārtosiet kā faktu," saka Hodžats. "LLM trūkst arī metakognīcijas, kas nozīmē, ka viņi pilnībā nesaprot to, ko zina. Šķiet, ka cilvēkiem piemīt spēja veikt pašanalīzi, ko dažreiz sauc par apziņu, kas ļauj viņiem saprast to, ko viņi zina." Šis ir cilvēka intelekta pamatelements, kas vēl nav atkārtots laboratorijā.
