Zinātnieki izskaitļojuši varbūtību, ar kādu mākslīgais intelekts varētu nogalināt visus cilvēkus

Vadošais drošības pētnieks uzņēmumā “Anthropic” ir brīdinājis, ka mākslīgais intelekts attīstās tik strauji, ka pastāv vairāk nekā 10% iespējamība, ka tas "varētu nogalināt visus cilvēkus" nākamās desmitgades laikā, raksta BBC.

Evans Hubingers ierakstā vietnē “X” teica, ka risks no pašreizējiem modeļiem ir "zems", taču viņš ir "noraizējies", ka tehnoloģija drīz varētu attīstīties un uzlaboties līdz tam, kad tā radītu eksistenciālu risku cilvēcei.

Tas notika pēc tam, kad laikraksts “Financial Times” ziņoja, ka “Anthropic” slēpa savu jaunāko modeli no Apvienotās Karalistes Mākslīgā intelekta drošības institūta (AISI), kas ir viena no vadošajām iestādēm pasaulē mākslīgā intelekta riska novērtēšanā.

Hubingers nepaskaidroja, kā, viņaprāt, mākslīgā intelekta sistēmas nākotnē varētu uzbrukt cilvēcei.

Viņa komentāri bija atbilde uz citu ierakstu vietnē “X” no Džeikoba Koksona, kurš sevi raksturoja kā mākslīgā intelekta pētnieku, kurš tikko aizgājis no “Anthropic” un iepriekš strādāja “OpenAI”.

"Neviens no uzņēmumiem nerīkojas atbildīgi," viņš rakstīja.

"Drīzumā tās būs pārcilvēciskas sistēmas, kas spēs uzlauzt jebko, vienas nakts laikā revolucionizēt jebkuru jomu un iegūt reālu varu un resursus."

Nīls Lorenss, Kembridžas universitātes mašīnmācīšanās profesors, komentēja:

"Es domāju, ka tas nav pārsteidzoši, ņemot vērā, ka pastāv uzskats, ka Amerikas Savienotās Valstis uzskata mākslīgo intelektu par sacensību starp sevi un Ķīnu un vairāk virzās uz izolacionisma pozīcijām. Viņiem vajadzētu samazināt sadarbību ar dažiem saviem sabiedrotajiem."

Savā ierakstā, kas jau ir skatīts vairāk nekā 10 miljonus reižu, Hubingers teica, ka "mēs patiešām nopietni ticam", ka mākslīgais intelekts rada sugu iznīcināšanas risku cilvēkiem.

"Mums vēl nav plāna, kā atrisināt superintelekta saskaņošanas problēmu, un mēs neesam skaidri uz pareizā ceļa," viņš piebilda.

Hubingers strādā pie mākslīgā intelekta saskaņošanas, kuras mērķis ir iestrādāt tehnoloģijā cilvēku ētikas idejas un principus. Citiem vārdiem sakot, tā mērķis ir saglabāt to atbilstoši cilvēku vērtībām.

Daudzi vadošie pētnieki apgalvo, ka šie mēģinājumi, šķiet, cieš neveiksmi, ko apliecina virkne incidentu šovasar, kuros mākslīgā intelekta aģenti — mākslīgā intelekta sistēmas, kurām atļauts darboties autonomi — veica kiberuzbrukumus.

“Anthropic” augusta drošības ziņojumā tika rakstīts, ka pastāv zems risks, ka tā modeļi izmantos vai manipulēs ar savām sistēmām.

Tāpat tika teikts, ka pastāv līdzīgi zems risks, ka augsti spējīgs mākslīgais intelekts spēs "veikt automatizētu pētniecību un izstrādi", kas varētu radīt "katastrofālu kaitējumu, ko ierosinātu mākslīgais intelekts". Taču tas norādīja, ka ir "mazāk pārliecināts par šo novērtējumu" nekā iepriekš:

"Mēs redzam agrīnas potenciāla paātrinājuma pazīmes."

Jau gadiem ilgi vadošās personas mākslīgā intelekta jomā ir cēlušas trauksmi par drošības apdraudējumu, ko rada šī tehnoloģija, un “OpenAI”, “Google Deepmind” un “Anthropic” vadītāji to pašu apgalvoja arī 2023. gadā.

Taču šie brīdinājumi pēdējās nedēļās ir kļuvuši daudz skarbāki, jo parādās pierādījumi, ka uzņēmumiem, iespējams, ir grūtības kontrolēt mākslīgo intelektu.

“OpenAI” galvenais zinātnieks Jakubs Pačockis aicināja ievērot "ārkārtīgu piesardzību" attiecībā uz mākslīgā intelekta progresu, brīdinot, ka varētu būt nepieciešama lielāka iejaukšanās, lai nodrošinātu, ka "cilvēki joprojām kontrolē nākotni".