Pasaules gals jau līdz 2030. gadam: cik daudz paliks un kas notiks pēc tam

Mākslīgā intelekta tehnoloģijas attīstās strauji – ātrāk, nekā jebkurš varētu paredzēt. Tas biedē speciālistus, bet vienlaikus paver jaunas iespējas. Izdevums “Resonance” publicējis Džeikoba Koksona no “Anthropic” paziņojumu, kurš pauda, ka pasaule virzās uz "neatgriešanās punktu".

Viņš atstāja savu amatu un apsūdzēja savu bijušo uzņēmumu par "spēlēšanos ar cilvēku dzīvībām". Un viņš brīdina par pasaules galu jau līdz 2030. gadam. Arī “Anthropic” dibinātājs Džeks Klārks runā par mākslīgā intelekta (MI) riskiem. Līdzīgus paziņojumus sniedza Sems Altmans no "OpenAI", Īlons Masks un citi nozares līderi.

Tomēr "Nvidia" vadītājs Jensens Huangs, gluži pretēji, uzskata, ka "pasaules gala" risks ir nulle, jo "mākslīgais intelekts ir kontrolēts", un runā par jaunām iespējām. Speciālisti vērš uzmanību uz to, ka galvenais risks cilvēcei nav mākslīgā intelekta ar savu apziņu parādīšanās, kā "Skynet" no "Terminatora", kas pēkšņi vēlas pārņemt visu pasauli.

Gluži pretēji, mākslīgais intelekts neiegūs pilnīgu apziņu, bet gan spēs pašpilnveidoties bez kontroles un pārvērsties par "superprātu" bez aizsardzības mehānismiem, kas pakļaus zinātni, biznesu un visu cilvēci bez jebkādiem (tostarp morāliem) ierobežojumiem.

"SoftServe" mākslīgā intelekta laboratorijas tehniskais vadītājs Dmitrijs Zirkačs nav noskaņots uz paniku un paskaidro, ka "katastrofas" (tas ir, mākslīgā intelekta izveides, kas spēj attīstīties bez cilvēka) iespējamība desmit gadu laikā tiek lēsta 10% apmērā.

"Es uz šo jautājumu skatos ar inženiera acīm, kurš katru dienu vada šādus MI aģentus. Patiesībā viss izskatās daudz prozaiskāk. Mēs regulāri pieķeram aģentu par to, ka viņš pārliecinoši veica plašāku uzdevumu, ko neviens nebija uzdevis, un ziņoja par panākumiem. Vai arī mēs uzzinām, ka viņam tika piešķirtas plašākas piekļuves tiesības, nekā uzdevumam bija nepieciešams. 2026. gada risks ir tieši šāds: nevis mašīnu sacelšanās, bet gan piekļuves trūkums, ko mēs paši "apstrādājam".

To "apstrādā" inženierzinātņu disciplīna, un mēs ar to nodarbojamies katru dienu," apliecina inženieris. Viņš norāda arī uz vairākiem mākslīgā intelekta nozares ierobežojumiem, jo ​​īpaši uz nepieciešamību pēc elektroenerģijas un naudas, jo katrai nākamajai modeļu paaudzei ir nepieciešams vēl vairāk gigavatu elektroenerģijas un datu centri desmitiem miljardu dolāru vērtībā. "Enerģija un kapitāls aug lēnāk nekā ambīcijas. Tāpēc mana prognoze līdz 2030. gadam ir garlaicīgāka nekā virsraksti: nevis apokalipse, bet gan kiberuzbrukumi, kurus MI palīdz organizēt, dezinformācija rūpnieciskā mērogā un strauja darba vietu pārdale. Šie draudi jau ir klāt, un tos ir iespējams ietekmēt jau šodien, atšķirībā no hipotētiskās mākslīgā intelekta," pauž Zirkačs.

EPAM AI direktors Vadims Vlasenko runā par elektrību un citām "šaurām vietām" nozarē. Viņš atzīmē straujo MI attīstību, taču netic, ka pienāks "pasaules gals". Jo tas ir pārāk atkarīgs no cilvēka. "Mākslīgā intelekta aģenta patstāvīgi veicamo uzdevumu ilgums dubultojas aptuveni ik pēc septiņiem mēnešiem. Tomēr tas notiek tikai ar aptuveni 50% uzticamību.

Un jebkuram uzņēmumam ir nepieciešams pavisam cits uzticamības līmenis. Tāpēc mans bāzes scenārijs līdz 2030. gadam: mākslīgā intelekta autonomija pieaug eksponenciāli, un uzticība tam ir lineāra," saka Vlasenko. "Daudzi uzņēmumi jau ir ieviesuši mākslīgo intelektu, bet vēl nav redzējuši vēlamo efektu. Galu galā modeļa iegāde vēl nav projekts."

Pašreizējais projekts ir procesu pārstrukturēšana saskaņā ar šo modeli. Pēc viņa teiktā, mākslīgais intelekts pārņems vairāk funkciju, bet galīgā kontrole joprojām paliks cilvēku ziņā. Arī AS "InfoPlus" vadošais inženieris programmētājs Sergejs Krivonoss nav noskaņots uztvert Koksona vārdus kā nenovēršamas katastrofas prognozi, lai gan viņš aicina tos ņemt vērā un uztvert nopietni.

"Lai zaudētu kontroli, mašīna ne vienmēr "vēlas iznīcināt cilvēci". "Jūs varat iedomāties sistēmu, kurai tika piešķirtas plašas pilnvaras un piekļuve kritiski svarīgiem procesiem, un tā sāka sasniegt savu mērķi tādā veidā, kādu cilvēki neparedzēja. Ja neiejauksieties laikus, sekas var būt nopietnas," pauž AS "InfoPlus" eksperts.