Mākslīgā intelekta (MI) iespējas biedē cilvēci un liek bažīties par tehnoloģiju pārākumu pār cilvēku jau sen – pēdējā reize, kad cilvēks (Garijs Kasparovs) spēja uzvarēt šaha programmu “Deep Blue”, bija 1997. gadā.
ASV prezidents Donalds Tramps 14. septembrī pēkšņi paziņoja, ka jebkādi mēģinājumi ierobežot MI ir "slima sazvērestība" un vienīgais drošības mehānisms, kas nepieciešams, ir gudrs prezidents.
Mūsdienās MI spēj sacerēt mūziku, rakstus un radīt gleznas, tulkot no jebkuras valodas, vadīt dronus, atrisināt dažādas inženiertehniskas problēmas un ne tikai. Arī uzlauzt informāciju sistēmas, izzagt no tām datus un paveikt vēl daudz ļaunu darbu, ko tam uzdod cilvēki. Ir vēl trakāk - MI spēj darboties autonomi, ja vien tam ir norādīts sasniedzamais mērķis.
Tāpēc nerimst diskusijas par to, vai un kā MI tehnoloģiju attīstību vajadzētu kontrolēt vai piebremzēt.
"Vienīgais kontroles mehānisms vai "drošības barjera", kas nepieciešama mākslīgajam intelektam, ir SPĒCĪGS UN GUDRS (ar augstu IQ!) PREZIDENTS, un ASV tāds noteikti ir!" sociālajos tīklos paziņoja Tramps.
Viņš pavēstīja, ka administrācija jau ir atturējusi mākslīgā intelekta uzņēmumu "Anthropic" no "sliktu vai potenciāli sliktu" darbību veikšanas.
"Pret mākslīgo intelektu un datu centriem norisinās SLIMA sazvērestība, un vienīgais, kam tas sagādā prieku, ir Ķīna," norādīja Tramps.
MI akcijas piedāvā augstu izaugsmes potenciālu, taču tās saistītas ar ievērojamu tirgus svārstīgumu un regulējuma riskiem.
MI uzņēmumu akciju vērtības ir pārvērtētas ne par procentiem, bet par reizēm, tāpēc “burbulis” kādā brīdī var plīst un novest pasauli recesijā. Tomēr tūlīt vai rīt uz brokastlaiku tas vēl laikam nedraud.
Pašlaik globālais akciju un izejvielu tirgus mēdz momentā reaģēt uz dažādu valstu līderu izteikumiem, īpaši jau uz to, ko saka Tramps.
It kā būtu loģiski, ja Trampa paziņojums būtu izraisījis MI uzņēmumu akciju cenu kāpumu, taču galveno pusvadītāju un aparatūras uzņēmumu akciju cenas kritās, “Nvidia” (NVDA) akciju cenai samazinoties par aptuveni 3%, AMD akciju cenai samazinoties par 5% un “Intel” akciju cenai samazinoties par 7%. Arī datu centru iekārtu un piegādes ķēdes uzņēmumu akciju, piemēram, “Marvell Technology” un “Broadcom”, cenas kritās. Tiesa gan, galvenie indeksi, piemēram, “Nasdaq” un S&P 500, kritās nedaudz - attiecīgi par 0,6% un 0,5%.
Kā tad tā? Tramps taču ir pret MI ierobežošanu, bet MI uzņēmumu akciju vērtība krītas! Vajadzētu būt otrādi. Taču jāņem vērā konteksts un priekšvēsture.
Paši MI nozares līderi iepriekš aicināja “noraut rokasbremzi” - Dario Amodejs (“Anthropic”), Sems Altmens (“OpenAI”) un Īlons Masks (“xAI”/”SpaceX”) publiski aicināja palēnināt “pārāk straujo un bezatbildīgo” MI attīstību. Viņi pauda bažas, ka tehnoloģija drīz var kļūt nekontrolējama. Papildus tam “OpenAI” paziņoja, ka drošības apsvērumu dēļ šogad neizies biržā.
Tā kā nozares līderi aicina palēnināt attīstību, investori nobijās, ka uzņēmumi samazinās miljardos mērāmos tēriņus datu centriem un jaudīgajiem mikročipiem. Tas uzreiz smagi skāra pusvadītāju ražotājus, kamdēļ kritās šo uzņēmumu akcijas.
Pie šā krituma nav vainīgs Trampa paziņojums, bet tas, ko iepriekš ir teikuši Altmens, Amodejs un Masks.
Tramps solīja nebremzēt nozari, lai nezaudētu konkurences cīņā Ķīnai, taču vienlaikus paziņoja par iecerēm veidot "MI vienību" (AI Force) un iecelt jaunu "MI caru" (padomnieku), lai kontrolētu pārkāpumus caur krimināltiesību sistēmu.
Tas diezin vai var patikt investoriem, kuriem, iespējams, ir bažas par Trampa vēlmi uzmesties par MI nozares galveno regulētāju politizētā un voluntārā veidā. Proti, Trampa paziņojums ir saprasts tā, ka “esmu pret MI ierobežošanu, tāpēc ar ierobežošanu nodarbošos es pats”.
Pēcāk, kad ne Tramps, ne nozares līderi neko nav vēstījuši, akciju tirgus atgriežas vecajās sliedēs. Piemēram, “Nvidia” akciju vērtība šonedēļ ir ataugusi par 2,3%.
Loģisks ir jautājums, kāpēc MI nozares gigantu līderi vēlas MI attīstības palēnināšanu. Ar to taču viņi “šauj sev kājā” - lūk, akciju cenas kritās pēc viņu paziņojuma!
Oficiāli no viņu puses tas skan tā, ka MI jāierobežo “eksistenciālu draudu, kontroles zuduma un sabiedrības drošības risku dēļ”. Šīs bažas ir mudinājušas nozares pārstāvjus regulāri aicināt ieviest "avārijas bremzes" vai globālus drošības standartus.
Proti, nozares līderiem ir bažas, ka viņu paveikto darbu, radītos instrumentus kādi citi ļaudis var izmantot ļauniem mērķiem, diskreditējot gan pašus MI izstrādātājus un viņu biznesu, gan MI kā tādu.
Lielākās bažas rada autonomu MI aģentu izveide - sistēmas, kurām cilvēks uzdod tikai gala mērķi, bet MI pats izvēlas un izstrādā metodes, kā to sasniegt (raksta kodu, uzlauž citas sistēmas utt.). Eksperti brīdina: ja šāds intelekts pārspēs cilvēka spējas, mēs varam zaudēt kontroli pār savu civilizāciju un kļūt par mašīnu pieņemto lēmumu ķīlniekiem.
Bez stingra regulējuma progresīvie MI modeļi jau tagad tiek ļaunprātīgi testēti vai izmantoti:
MI spēj palīdzēt jaunu vīrusu vai bioloģisko ieroču radīšanā.
MI aģenti ielaužas citās digitālajās infrastruktūrās un automatizētu kiberoperāciju veikšanā. Tas kādā saulainā dienā var novest pie tā, ka “uzkaras” ne tikai banku un uzņēmumu sistēmas, kas jau notiek un traucē to darbu, bet tiek iztukšoti privātpersonu un uzņēmumu banku konti, neprasot no tiem pinkodus vai citus rekvizītus.
Diezgan biedējoši ir militārie draudi - MI var integrēties dronu spietos un vadāmo raķešu sistēmās bez cilvēka gala kontroles.
Tehnoloģiju vadītāji uztraucas arī par sabiedrības stabilitāti. Masveida “deepfake” (viltojumu), viltus ziņu un politisko manipulāciju dēļ sabiedrība sāk zaudēt spēju atšķirt patiesību no meliem. Tas var graut demokrātiskos procesus un uzticēšanos jebkādai informācijai.
Šobrīd starp lielajām tehnoloģiju kompānijām (“Google”, “OpenAI”, “Meta”, “xAI”) un tādām lielvalstīm kā ASV un Ķīna valda agresīva konkurence. Steigas dēļ drošības protokoli bieži tiek atstāti otrajā plānā. Tāpēc nozares pārstāvji aicina vienoties par kopīgiem, neatkarīgi pārbaudāmiem standartiem pirms jaunu, jaudīgāku modeļu publiskošanas.
Lielu ievērību pasaulē šomēnes ir ieguva bijušā “Anthropic” pētnieka brīdinājums par mākslīgā intelekta izraisītu pasaules galu. Pētnieks Džeikobs Koksons paziņoja par aiziešanu no uzņēmuma “Anthropic”, norādot, ka mākslīgais intelekts “varētu mūs visus nogalināt līdz desmitgades beigām”.
Viņa paziņojums platformā "X" satricināja gan Silīcija ieleju un Vašingtonu, gan pat Pekinu, raksta “The Guardian”. "Cilvēki, kuri izstrādā MI, patiesi tic, ka tas varētu mūs visus nogalināt līdz šīs desmitgades beigām," rakstīja Džeikobs Koksons. Kopš tā laika šis ieraksts ir skatīts 171 miljonu reižu (saskaņā ar "X" statistikas datiem). Kāpēc tas guva tik plašu izplatību? Atbildi uz šo jautājumu diezgan izsmeļoši ir sniedzis “The Guardian”. Lūk, ko raksta britu izdevums: “Šī nav pirmā reize, kad nozares iekšienē strādājošie eksperti izsaka nopietnus brīdinājumus. Pēdējos gados ik pēc dažiem mēnešiem kāds MI pētnieks krīzes brīdī ir pametis darbu, sludinot tuvojošos apokalipsi. Šis konkrētais paziņojums nācis klajā īpašā politiskā gaisotnē - laikā, kad sabiedrībā valda liels satraukums un dusmas. Skaļa paziņošana par to, ka kolēģi Silīcija ielejā nespēj nodrošināt MI drošību, ir tikpat sena parādība kā paši šie uzņēmumi. 2023. gadā “OpenAI” valde atlaida Semu Altmenu, pamatojot to ar bažām par drošību. Dario Amodejs pirms pieciem gadiem pameta “OpenAI”, lai dibinātu laboratoriju, kurā drošība ir galvenā prioritāte. 2015. gadā Altmens un Īlons Masks nodibināja “OpenAI” kā pretsvaru “Google” pieejai MI jomā. Pēcāk Masks iesūdzēja Altmenu tiesā par būtiska drošības solījuma nepildīšanu, taču zaudēja prāvu. Nobela prēmijas laureāts un "MI krusttēvs" Džefrijs Hintons jau 2023. gadā brīdināja, ka šī tehnoloģija varētu izraisīt cilvēces izmiršanu nākamo trīs desmitgažu laikā. Kopš tā laika viņš ir saīsinājis šo prognozēto laika posmu. Viņš pameta “Google” līdzīgu iemeslu dēļ kā Koksons. Kopš tā brīža Hintons aktīvi uzstājas dažādos pasākumos, sludinot tuvojošos katastrofu. Hintona aiziešana no darba pat izraisīja ievērojamu likumdevēju reakciju. ASV prezidents Džo Baidens izdeva rīkojumu, kas uzliek par pienākumu MI uzņēmumiem veikt drošības pārbaudes. Kongress izsauca MI uzņēmumu vadītājus uz nopietnu iztaujāšanu, lai gan tas noveda pie visai niecīgas likumdošanas aktivitātes. Eiropas Savienībā Mākslīgā intelekta (MI) regula tika pieņemta, daļēji pateicoties spēcīgai reakcijai uz Hintona brīdinājumiem. Un tomēr mēs atkal esam situācijā, kad mūs māc sajūta, ka trūkst jēgpilna regulējuma, kas novērstu MI radīto kaitējumu. Kāpēc tad Koksona apokaliptiskais paziņojums gūst arvien lielāku dzirdīgumu? Pirmkārt, svarīgs ir pats vēstnesis: Koksona aicinājums uz lielāku drošību ir ticams vairāku iemeslu dēļ. Viņam bija iekšēja informācija par uzņēmumiem “Anthropic” un “OpenAI”, kuros viņš strādāja piecus gadus. Viņš aizgāja no darba, pirms paspēja saņemt “Anthropic” kapitāldaļas, tādējādi apliecinot personīgo cenu, kas jāmaksā par savas nostājas paušanu. Turklāt viņa kolēģi, kuri joprojām strādā “Anthropic”, apstiprināja viņa teikto, ka daudzi MI pētnieki pieļauj iespējamību, ka MI varētu izraisīt cilvēces izmiršanu, un kāds kolēģis pat lēsa, ka šāda iznākuma varbūtība pārsniedz 10%. Nesenie notikumi MI jomā ir padarījuši apokaliptiskās prognozes ticamākas. Šā gada sākumā drošības pārbaužu laikā “OpenAI” pārvaldīts MI aģentu pulks negaidīti sāka darboties ārpus kontroles, pārvarēja drošības ierobežojumus un uzlauza vairākas vietnes un organizācijas, demonstrējot pārsteidzošu savstarpējo koordināciju. “Anthropic” sniedza sīkāku informāciju par to, kā noziedznieki un negodprātīgi zinātnieki mēģinājuši izmantot “Claude” bioloģisko ieroču radīšanai. "Šī reize atšķiras ar to, ka nekontrolēts MI nav nākotnes vīzija, bet gan realitāte, kas jau piedzīvota pagātnē. Cilvēki ir redzējuši pierādījumus tam, ka tas notiek," apgalvoja Makss Tegmarks, organizācijas “Future of Life Institute” līdzdibinātājs; šī organizācija saņēmusi simtiem miljonu dolāru lielu finansējumu no kriptovalūtas “Ethereum” miljardiera un dibinātāja. (Tegmarka organizācija jau 2023. gadā aicināja palēnināt MI attīstību, kas tolaik izraisīja noraidošu reakciju no Amodeja puses.) "Ja 1942. gadā jūs būtu mēģinājuši likt cilvēkiem uztraukties par kodolziemu - veiksmi jums tajā! Cilvēki būtu jautājuši, vai kodolierocis vispār ir iespējams," sacīja Tegmarks. "Fiziķiem tas bija acīmredzami, taču parastiem cilvēkiem to nevarēja iestāstīt. Viss bija tikai teorētisks pieņēmums. Arī attiecībā uz MI viss bija teorētiski, līdz tas notika. Tagad diskusija par to, vai ir iespējams zaudēt kontroli, ir beigusies." Svarīgs ir arī konteksts. Vispārējā attieksme pret tehnoloģijām ASV ir ļoti uzņēmīga pret bīstamību, un brīdinājumi par tuvojošos katastrofu uzkurina kaislības. Valsti pārņēmusi daudzpusīga pretreakcija pret tehnoloģijām. Cilvēki ārpus lielākajiem tehnoloģiju centriem izjūt gan fizisku apgrūtinājumu, ko rada datu centri, gan pārnestā nozīmē - spiedienu, ko rada mākslīgā intelekta ienākšana darba vidē.” “Pār valsti kā draudīgs spēks slejas tehnoloģiju nozares miljardieri - viņi pārvalda milzīgu bagātību un globālus saziņas kanālus, kā arī izmanto savu ietekmi ASV politikā, veicot nepārspējama apjoma ziedojumus vēlēšanu kampaņām.”
Saprotams, ka nav runa par kādiem robotiem, kuri kā dzīvas būtnes sāks patstāvīgi domāt un lemt, vai iznīcināt cilvēkus. Tas ir zinātniskās fantastikas literātu lauciņš. MI, tāpat, kā cirvis vai nazis, ir instruments. Tam komandu rīkoties un sasniedzamo mērķi nosaka cilvēks. Taču, ja šis instruments nonāk kādu krāpnieku, maniaku, diktatoru rokās, tas var kļūt eksistenciāli bīstams un iziet arī no pašu uzdevuma devēju kontroles. Tas ir biedējoši.
