17 524 zinātnieki no visas pasaules, tostarp arī divi latvieši – Juris Borzovs un Uldis Bojārs, parakstījuši atklāto vēstuli valstu valdībām ar aicinājumu ierobežot mākslīgā intelekta vadītās autonomās ieroču sistēmas. Zinātnieki brīdina, ka runa vairs neesot pat par gadu desmitiem. Tehnoloģijas attīstās milzīgā ātrumā, un ir pēdējais brīdis tās iegrožot.
Mākslīgā intelekta pētnieki piedāvā ieviest līdzīgus ierobežojumus, kādi jau ir ķīmiskajiem un bioloģiskajiem ieročiem. Tos aizliegts lietot – tāpat kā aklumu izraisošus lāzerieročus un kosmosā stacionāri novietot kodolieročus.
Trešā revolūcija
Pēc savas ietekmes autonomās ieroču sistēmas būtu uzskatāmas par trešo revolūciju karadarbībā. Pirmā bija šaujampulvera izgudrošana, otrā –kodolieroči, un trešā būs inteliģentie roboti.
Lai arī varētu šķist, ka nebūtu nemaz tik slikti, ja cilvēku vietā cita citu slaktētu mašīnas, ir vairāki iemesli, kāpēc no tā jābaidās. Neformālā militārā bloga vara bungas vadītājs Mārtiņš Vērdiņš skaidro, ka jaunas un tik ietekmīgas tehnoloģijas parādīšanās izjauktu gadu desmitiem uz kodolieroču pamata pastāvošo līdzsvaru pasaulē. Sekas tam var būt neprognozējamas, jo militāri spēcīgai lielvalstij, kurai jaunā tehnoloģija nebūtu pieejama, vienā mirklī draudētu pārtapšana par aborigēnu ar šķēpu. Ja nebūtu kodolieroču, pasaulē notiktu daudzi asiņaini reģionāli kari. Bet mākslīgais intelekts spēj nonivelēt lielvalstu kodolarsenālus līdz metāllūžņu vērtībai. Otra bīstamība ir autonomo ieroču sistēmu nokļūšana ārpus valstu kontroles. Tas īpaši uzsvērts zinātnieku atklātajā vēstulē: «Tas ir vien laika jautājums, kad autonomie ieroči parādīsies melnajā tirgū, teroristu rokās, pie tirāniem, kas vēlas kontrolēt savas tautas un īstenot etniskās tīrīšanas. Tie ir ideāli piemēroti tādiem mērķiem kā valstu destabilizācija, cilvēku iebiedēšana un selektīva konkrētu etnisko grupu slepkavošana.»
Kam piederēs kļūda?
Latvijas Universitātes Datorikas fakultātes dekāns profesors J. Borzovs skaidro, ka attiecībā uz mākslīgo intelektu neatkarīgi no tā iespējamā lietojuma jomas nav atbildēts jautājums par atbildību. Kurš atbildēs par robota izdarīto šāvienu. Ražotājs? Programmētājs? Un ko tad, ja izdarītais šāviens būs kļūdains? Bet kļūdas ir iespējamas. Profesors atminas dramatisku notikumu no padomju laikiem, kad cilvēce bijusi tikai soli no kodolkatastrofas. Padomju pretraķešu aizsardzības automatizētā sistēma devusi signālu, ka pāri Ziemeļpolam Padomju Savienības virzienā lido piecas raķetes. Par laimi, cilvēkiem, kas sistēmu uzraudzīja, šķita neloģiski, ka ASV uzbrūk tikai ar nieka piecām raķetēm. Robota ierosinātais prettrieciens tika atsaukts. Izrādījās, ka par raķetēm tika noturēta dabas parādība atmosfērā. «Ja līdzās nebūtu cilvēka, sāktos trešais pasaules karš,» brīdina J. Borzovs. Autonomas ieroču sistēmas domās un darbosies autonomi.
Jāsaglabā cilvēka kontrole
Cits latviešu zinātnieks, kurš parakstīja vēstuli, U. Bojārs spriež – ja kari pārvērstos par robotikas čempionātiem, nebūtu ne vainas. Lai jau sacenšas, kam labāks procesors. Taču, ja šī sacensība nav simetriska – vienai pusei šāds ierocis ir, otrai nav – sekas būtu briesmīgas. «Mašīna nav cilvēks un nogalina bez mazākajiem sirdsapziņas pārmetumiem.»
U. Bojārs gan uzsver, ka cilvēcei nevajadzētu baidīties tieši no intelektuālās komponentes, no mākslīgā saprāta kā tāda. Taču būtisks jautājums, ko un ar kādiem mērķiem tam uzbūvē apkārt. Labāk, lai tas nav ierocis.
To uzsver arī pasaules zinātnieku sabiedrība kopumā:
«Mēs ticam, ka mākslīgajam intelektam ir milzīgs potenciāls, lai visdažādākajos ceļos kalpotu cilvēcei, un tam jākļūst par šā zinātnes lauka mērķi. Bet sākt mākslīgā intelekta bruņošanās sacensību ir slikta doma. Tas jānovērš, aizliedzot tādus autonomos ieročus, kas nav pakļauti saprātīgai cilvēka kontrolei.»
Vai un kā bruņota mākslīgā intelekta atnākšana varētu ietekmēt Latviju? Militārais eksperts M. Vērdiņš secina: «Mums atliek tikai noskatīties un stiprināt saites ar NATO.» Militāro tehnoloģiju sacensība ir lielvalstu padarīšana.
