Ar programmētāju un sabiedriski politisko aktīvistu Jāzepu Baško runājām pirms trijiem gadiem, neilgi pēc tam, kad tika palaists pirmais tā dēvētais mākslīgā intelekta (MI) rīks – “ChatGPT”
Toreiz plaši pazīstami IT nozares guru - Īlons Masks, Stīvs Vozņaks, Jāns Tallins un citi - publicēja atklāto vēstuli, kurā norādīja uz briesmām, ar kurām varētu saskarties cilvēce, ja MI attīstība tiktu palaista brīvā peldējumā un tā netiks strikti ierobežota un kontrolēta. Tagad, kad ir pagājuši trīs gadi un MI jau vairākus gadus ir attīstījies, ir parādījušās dažādas šī rīka versijas, esmu aicinājis Baško atkal uz sarunu, lai noskaidrotu, kas pa šiem trijiem gadiem ir mainījies. Kuras cerības vai bažas ir piepildījušās, bet kuras pazudušas no dienas kārtības, jo nav piepildījušās?
2022. gada rudenī parādījās pirmais MI rīks - “ChatGPT”, un drīz vien sākās runas par dažādām briesmām, kas varētu cilvēci apdraudēt. 2023. gada pavasarī mēs tikāmies, un mūsu sarunas secinājums bija, ka briesmas vairāk ir ne tik daudz no paša MI rīka, cik no cilvēcīgo attiecību sabrukuma vai degradācijas, ko rada arvien lielāka cilvēku paļaušanās uz MI. Kas pa šiem trijiem gadiem ir noticis, parādījies jauns un vai MI ir attīstījies straujāk, nekā bija gaidāms, vai arī tā iespaids uz cilvēku ir bijis pārvērtēts?
Ar nākotnes paredzēšanu nenodarbojos nedz toreiz, nedz tagad, tāpēc nevaru pateikt, vai attīstība ir bijusi straujāka vai ne tik strauja. Prognozēšana manā izpratnē nozīmē atteikšanos no rīcībspējas. Kad izsaku bažas vai cerības par nākotni, tad tā ir nevis prognoze, bet gan vēlme novērst nevēlamo un veicināt vēlamo. Noraidu ideju, ka mēs esam lineāra progresa pasažieri un ka mūsu izteikumiem nav nekādas ietekmes. Tad jau nevajag muti vērt vaļā.
Bet mēs runājam par tiem trim gadiem, kas jau pagājuši.
Brīdī, kad mēs toreiz runājām, aktualizēju senās bažas par MI, jo par realitāti sāka kļūt tas, ka cilvēks attālinātā komunikācijā vairs nevarēja būt drošs, ka savienojuma otrā pusē ir reāls cilvēks. Tagad mēs jau dzīvojam tādā pasaulē, kur pilnīgi viss, iespējams, ir “feiks”.
Divi galvenie pašreizējo MI tendenču riski īstermiņā ir: cilvēku savstarpējās uzticēšanās sabrukums un sabiedrības debilizācija. Sabiedrība sabrūk, ja tās locekļi nevar uzticēties viens otram. Valsts sabrūk vai kļūst totalitāra, ja tās iedzīvotāji neuzticas viens otram, valstij un valsts viņiem. Piemēram, skolotājs nevar neko iemācīt, ja skolotājs neuzticas skolēnam un skolēns neuzticas skolotājam. Kā lai zina, ka skolotājs nav vienkārši uzģenerējis kaut kādu draņķi, par kura pareizumu nav necik pārliecināts, un ir tikai runājošs papagailis? Kā lai zina, ka students vai skolnieks ar savu rakstu darbu vai pat mutisko eksāmenu patiešām apliecina iegūtās zināšanas? To nevar zināt. Var tikai uzticēties. Bet ne šodien.
Mums jau sen ir bijusi problēma ar izglītības kredenciāļu inflāciju. Ja augstskolas nemainīsies, ja augstāko izglītību turpinās stumt tiem, kuri grib tikai caurlaidi uz amatiem, tie diplomi un grādi drīz būs Zimbabves dolāru vērtībā. Atkārtošu to pašu, ko teicu pirms trijiem gadiem - šī ir iespēja atgriezties pie klātienes, pie fiziskās pasaules, pie fiziska kontakta ar cilvēkiem savā kopienā, jo tikai tā ir un paliks īsta. Viss pārējais ir lielākā vai mazākā mērā “datorspēle”. Izglītībā šī ir iespēja atgriezties pie klasiskās izglītības un pārstāt bērnības paildzināšanu uz vecāko paaudžu labklājības rēķina.
Otra MI attīstības blakne ir vispārējā sabiedrības debilizācija neatkarīgi no izglītības inflācijas. Tā izriet no domāšanas deleģēšanas aģentam (mākslīgajam intelektam). Domāšana līdz šim ir bijusi nepārtraukta cilvēces sabiedrotā, un pēc katras tehnoloģiju revolūcijas izrādījies, ka ar domāšanu tomēr joprojām ir iespējams gūt priekšrocības. Vai, pareizāk sakot, ar nedomāšanu vairs nevar iztikt un nākas noiet no evolūcijas trases. Bet pašlaik ir tāda starpstadija, kad var gūt visādus papildu punktus un, iespējams, var iegūt izglītības diplomu bez īpašas smadzeņu piepūles. Ja “Google” šķietami atļāva neglabāt informāciju galvā, tad čatboti atļauj teju nedomāt.
Tas ir labi zināms, ka cilvēks, kas izlaiž sev cauri informāciju bez jebkādas intelektuālas piepūles, bez jebkādiem mēģinājumiem to strukturēt, sasaistīt ar citām zināšanām, nav vispār darījis to, ko sauc par domāšanu. Pajautājāt čatbotam, padevāt tālāk, iekopējot formā - jūs neesat necik domājis. Ir arī muļķīgi uzskatīt, ka, izlasot tekstu, kuru jūs it kā saprotat, jūs nodarbotos ar domāšanu, vai pieņemt, ka izlasītais paliks jūsu prātā ilgāk par dažām minūtēm vai stundām.
Daži naivi cilvēki saka, ka viņi ir domājuši tajā brīdī, kad uzdeva čatbotam jautājumu. Nesen lasīju par MIT (Masačūsetsas Tehnoloģiju institūta) 2025. gada pētījumu, kurā trīs cilvēku grupām uzdeva rakstīt eseju. Pirmajai grupai bija atļauts izmantot “ChatGPT”, otrai bija atļauts izmantot “Google” meklētāju, bet trešajai neko nebija ļauts izmantot. Visi šo eseju rakstītāji tika pieslēgti pie elektroencefalogrammas, kas fiksēja smadzeņu aktivitāti. Tiem, kas varēja izmantot “ChatGPT”, smadzenēs vispār nekas nenotika. Minimāla, virspusēja darbība. Tiem, kas izmantoja “Google”, tomēr kaut kāda aktivitāte parādījās, jo tur bija jādomā, kas jāmeklē, kā jāmeklē, un tas viss tālāk jāstrukturē tekstā, bet vienīgie, kuriem smadzenes aktīvi strādāja šajā procesā, bija tie trešie, kas eseju rakstīja paši no galvas. Taču tas vēl nav viss. Ne tikai šī sacerējuma rakstīšanas laikā. Arī ilgtermiņā “ChatGPT” lietotājiem smadzeņu funkcija atslēdzas.
Kāds varētu teikt - štrunts par cilvēka smadzenēm, ja eksistē labākas, ārpusķermeņa smadzenes, no kurām labumu var gūt jebkurš. Ja kāds nav no dabas apveltīts ar lielu gudrību, tad MI līdzsvaro šo cilvēku iespējas.
Ja cilvēku uzskata tikai par skaitļotāju, tad tā ir. Un te ir tā mana galvenā problēma ar MI nekritiskajiem faniem, kas ir aizmirsuši, ko nozīmē būt cilvēkam. Mums partijā ir bijuši vairāki gadījumi, kad pavisam saprātīgi, adekvāti cilvēki iesūta teksta blāķus, par kuriem viņi nemaz neslēpj, ka tas ir viena vai otra aģenta “viedoklis” vai “pētījums” kādā politiskā jautājumā. Mana pieeja ir tāda - ja cilvēks nav gatavs parakstīties ar savu vārdu zem teksta, ja viņš nav gatavs par to strīdēties un to aizstāvēt aci pret aci, tad no tā viņa iesūtītā ģenerējuma nav nekādas jēgas. Es tam negrasos veltīt ne minūti sava laika. Kāpēc? Tāpēc, ka MI nav orākuls. Tāpēc, ka jebkādam jebkad izskanējušam viedoklim, kas nav zinātnisks fakts, nav nekādas nozīmes, ja aiz tā nestāv cilvēks, kuram tas ir nozīmīgi. Tas sasaucas arī ar akūtu problēmu latviešu izpratnē par demokrātiju.
Ja daļa sabiedrības domā, jūsuprāt, nepareizi, tad demokrātijā vispār tas galīgi nenozīmē, ka viņu uzskatus var ignorēt. Demokrātijā tas nozīmē, ka jums ar to ir jārēķinās. Tieši tāpat jebkādiem viedokļiem ir nozīme, ja aiz tiem stāv dzīvi cilvēki, kuri caur šiem viedokļiem pārstāv savas vērtības. Politiskus jautājumus tāpēc nodala no tehniskiem un administratīviem, ka tur nav pareizu, izrēķināmu atbilžu. Ir jāizšķiras un tad jāsadzīvo ar savu izšķiršanos. Vai jūs 2022. gadā tiešām interesētu čatbotu viedoklis par okupekļa nojaukšanu vai atstāšanu? Vai tad tiešām nav skaidrs, ka tā ir pilnīgi melna kaste, par kuras tā saucamo zināšanu izcelsmi ir vēl mazāk skaidrības nekā par mūsu sabiedrisko mediju izpratni par visas sabiedrības pārstāvību? Politika nav par to, cik ir divi reiz divi, kam rezultāts nemainās, vai pasaulē ir vēl kāds cilvēks vai nav. Politika ir par to, vai atstāt vai nogāzt okupekli. Un kā dzīvot dzīviem palikušajiem, kad tas ir nogāzts.
Es varu pastāstīt citu gadījumu. Mēs (partija “Mēs mainām noteikumus”) gatavojāmies raidījumam “Kas notiek Latvijā?”, un viens “gudrinieks” man saka: Jāzep, dari tā. Uztaisi aģentu, kas skatās šī raidījuma tiešraidi, transkribē visu tekstu, ko tur runā, apstrādā un uz tavu telefonu pārraida tekstu, kas tev jāsaka. Viņš saka, ka tādu aģentu varētu fiksi uztaisīt. Es uz šo ierosinājumu pat neatbildēju.
Aizmirstam par viņu, bet iedomājamies politiskās debates pēc pāris gadiem. Cilvēkam ausī ir austiņa, un viņš atkārto to, ko viņam saka priekšā MI. Ejam vēl tālāk. Vēl pēc dažiem gadiem viņam mutē jau ir iebūvēta balss sintēze. Viņš tur vienkārši kā gaļas blāķis stāv, viņam kustas mute, no kuras atskan visas pareizās lietas un frāzes. Pasaki, lūdzu, vai mēs gribam tādā pasaulē dzīvot? Kāda jēga klausīties šādas debates, kurās nevar noteikt, kas ar ko debatē?
Vai citu piemēru. Pieņemsim, tu gribi iepazīties ar kādu skaistuli un ar MI palīdzību uzģenerē ideālo vēstuli. Varbūt ne vienu vien, jūs tur apmaināties ar daudzām. Bet otrā pusē meitene arī nav parastā. Viņai ir simts pielūdzēju, kas raksta, un nav laika atbildēt uz visām. Viņa arī ir uzdevusi šo atbilžu rakstīšanu aģentam. Vienā brīdī tev atnāk uz telefonu ziņa, ka jūsu aģenti ir sarunājuši tikšanos. Tu aizej uz randiņu, un sanāk, ka tu neko nezini par to cilvēku un tas cilvēks neko par tevi nezina, jo jums šo tikšanos ir noorganizējuši aģenti.
Gan jau dzīve visus šos jautājumus kaut kā pati atrisinās. Piemēram, šahā mašīna jau sen apspēlē pasaules labākos lielmeistarus, un katram ir brīva piekļuve pie šīm programmām, bet miljoniem visdažādākā līmeņa šahistu regulāri spēlē “online”, daudz neuztraucoties, vai otrā pusē kāds neizmanto palīglīdzekļus. Patiesību sakot, gan jāatzīst, problēmas pastāv, cīņa ar blēdīšanos šahā dažkārt sit visai augstu vilni, bet šaha mīļotāji tomēr kaut kā pielāgojas un ar to sadzīvo.
Protams, pasaule pašregulējas. Cilvēki nav amorāli robotiņi, viņi ir arī slinki, un nav pamata domāt, ka mēs tuvākajā laikā aiziesim līdz tādam vājprātīgam stāvoklim, kad jūs vairs reāli nevarēsiet uzticēties nevienam e-pastam, nevienai īsziņai, nevienam videozvanam vai pat pa pastu sūtītai vēstulei. Var diskutēt, vai tādu stāvokli vispār būs iespējams detektēt, jo cilvēks vienmēr kaut kam uzticas, arī tad, kad nekas nav fiksēts. Pretvilnis būs. Feisbuks šobrīd ir īpaši izteikta ģenerēta satura miskaste, bet arī tur ir kaut kādi cilvēki, kurus mēs zinām un ticam, ka viņi jau nu nemēģinās nolaisties. Starp citu, es vienu it kā sabiedrībā cienītu bijušo ministru feisbukā vairs nelasu, jo esmu pārliecināts, ka viņš bezkaunīgi publicē ģenerētus tekstus. Teksti nav slikti, taču lasīt tos ir aptuveni tas pats, kas veltīt laiku un uzmanību, lai iepazītos ar neeksistējošu, virtuālu cilvēku. Var jau spēlēt šo “datorspēli”, bet var arī iet laukā un satikt īstus cilvēkus un realizēt īstas misijas.
Es tomēr gribētu atgriezties pie MI attīstības tempiem. Mēs tomēr esam vēl tikai pašā sākumā. Mēs te spriežam par visādām briesmām, orākuliem, debilizācijām, bet kas notiek praksē?
Tīri personiskā līmenī es nebiju gaidījis, ka manis iecienītā programmēšana tik ātri novecos. Es jau pusgadu vairs neprogrammēju šī vārda vienkāršajā nozīmē - es vairs nedrukāju kodu, lai gan joprojām radu programmatūru. Man patika kodā darīt lietas, kuras bija vērtīgas tikai citiem programmētājiem, sistēmas uzturamībai un iekšējam skaistumam, ne gala lietotājiem. Pēdējais lielais projekts, kurā es nepilnu gadu taisīju pasta sūtījumu konveijera saslēgšanu ar loģistikas IT sistēmu, man sanāca labs, tīrs un pārskatāms. Ieviesām trīs valstīs, viss skaisti. Bet tad notika tas, kas notika.
Manā redzeslokā pirms pusgada parādījās aģenti, kas gatavi ne tikai atbildēt uz atsevišķiem jautājumiem, bet darbojas ar visu koda krātuvi kā ar veselumu un veic tajā izmaiņas tavā vietā. Minētajā projektā pēdējais uzdevums bija izlabot lietotāja noziņotas nepilnības, un es uzdevu to aģentam. Tas pāris minūšu laikā atrada, kur ir kļūda, visu izlaboja un notestēja. Man pašam tur vismaz pusdienu būtu jāņemas un jādomā. Nākamajās dienās man nācās atzīt, ka viss tas gads, ko esmu tur programmējis, sadarbībā ar aģentu būtu nedēļas vai divu jautājums.
Es pagaidām vēl neesmu pilnībā zaudējis savu profesionālo vērtību, jo bez manām koda rakstīšanas iemaņām es arī saprotu, kā sistēmas turas kopā. Būtu muļķīgi, piemēram, apgalvot, ka mākslīgais intelekts spēj vai drīzumā spēs dažās dienās uzprogrammēt jaunu operētājsistēmu, kas atbildīs jūsu vēlmēm. Laikietilpīgākais ir nevis koda radīšana, ko tagad labi dara aģenti, bet gan noskaidrot nepretrunīgu jūsu vēlmju izklāstu. Tās tehniskās specifikācijas, kas tapušas pirms funkcionāla koda, pieredzējuši programmētāji nekad nav uztvēruši pārāk nopietni. Vienīgā reālā ticamā programmatūras specifikācija ir kods, kas dara to, ko jūs vēlaties. Jebkas cits ir dažādi interpretējams, un katra dažādā interpretācija atstāj ietekmi uz visu tālāko sistēmas evolūciju. Savā ziņā var teikt, ka ar aģentu ierašanos nekas nav mainījies - virtuālu sistēmu piegādes ātrumu nosaka tas, cik ātri pasūtītājs spēj līdz galam precizēt savas vajadzības. Aģenti atvieglo dzīvi, jo daudzus standarta lēmumus var pieņemt programmētāja vietā, bet to, kas programmai īpašs un atšķirīgs jādara, lai tā pildītu savu unikālo funkciju, aģents diez vai uzminēs pareizi.
Vai ir un, ja ir, tad kādas ir iespējas ietaupīt, mūsu valsts pārvaldē plašāk ieviešot MI?
Mēs par to daudz diskutējam partijā, un mums ir plāni, bet uzreiz jāsaka, ka es esmu pret MI izmantošanu jebkādu lēmumu pieņemšanā. Ar lēmumu es saprotu izšķiršanos starp vairākām iespējām, nevis pareizās atbildes aprēķinu. Aprēķiniem, analīzēm - uz priekšu!
Piemēram, aģentiem jau šobrīd var dot strukturētus datus un likt tajos atrast aizdomīgas lietas. Tas ļauj, piemēram, detektēt aizdomīgas iepirkumu procedūras. Vai aizdomīgas likumprojektu virzīšanas gaitas. Mēs domājam, ka ar bezkaislīgu monitoringu valsts varētu ietaupīt simtiem miljonu eiro, stipri apgrūtinot naudas izsaimniekošanu caur iepirkumiem, kur garos tekstos slēpjas visādi dīvaini noteikumi. Aģentiem var uzticēties visā, kur ir jau skaidrs algoritms, kuru cilvēks pēc tam var pārbaudīt. Ja cilvēks nevar verificēt aģenta piedāvāto rezultātu, tad to nevar izmantot.
Aģentus, protams, var izmantot jaunu IT sistēmu izstrādē un veco uzturēšanā. Igaunijā jau sen ieviestā sistēma, ka visas valsts iestādes spēj sarunāties savā starpā un neprasa cilvēkam to, ko valsts jau zina, ar aģentu palīdzību ir izstrādājama diezgan ātri un lēti.
Domājam arī, ka ir jāpārtrauc un jāizskata jebkādi ilgstoši iepirkumi, kuru cenas ir tikušas noteiktas pirms 2026. gada. Tas nav nekādā izpētē balstīts skaitlis - es tikai iedomājos, cik no tipiskas IT komandas cilvēkus var mest laukā - es teiktu, ka visu IT sistēmu izstrādes izmaksas var samazināt kādas četras līdz desmit reizes. Uz to vajadzētu mērķēt.
Es esmu pret aģentu izmantošanu saziņā ar cilvēkiem. Ja kāds vēlas, lai viņam palīdz orientēties likumos vai valsts pakalpojumus - uz priekšu. Bet valstij nevajadzētu izmantot šos rīkus, lai atcilvēciskotu saskari ar valsti, cilvēkam to nezinot. Atliek tikai sevi iedomāties iesprūdušu liftā bez mobilajiem sakariem, kad jūsu vienīgais pieejamais glābiņš ir zvans ar empātiju apveltītam aģentam, kas izliekas par cilvēku.
Kā MI maina darba tirgu?
MI maina darbus. Jāspēj strādāt ātrāk, nākamajā atbildības līmenī. Tirgus vērtība spējai kaut ko izdomāt, izrēķināt un izpētīt būs tikai tad, ja jūs šajās darbībās iegūsiet līdzvērtīgu efektivitāti tai, ko MI sniedz jūsu amata brāļiem. Piemēram, ja jums pirms 10 gadiem bija nepieciešams pētījums un jums bija vienalga, kurš cilvēks to pētījumu veic - galvenais, ka informēts un šķietami loģiski spriest spējīgs -, šodien tam nevajag cilvēku. MI nav aizvietojis vajadzību pēc cilvēka, kas precīzi pateiks, kas ir vajadzīgs - un tas arī ir intelektuāls darbs, nenoliedzami -, bet ir aizvietojis intelektuālā darba darītāju, kurš pats nenosaka, kurā virzienā viņš to intelektu izmantos. Labi sen eksistē kalkulators, cilvēks vairs nevar uzveikt superdatoru šahā, kādu laiku jau pat ne galda spēlē. Tad nu šodien mums ir pieejams arī tāds rīks, kas pārliecinoši rada iespaidu, ka spēj spriest par jebkuru tēmu labāk nekā jebkurš cilvēks.
Tur ir daudz atrunu, un tieši tajās atrunās arī ir visa sāls, par ko man patīk runāt. Tomēr ir absolūta taisnība, ka intelekts šaurā, atcilvēciskotā izpratnē vairs nav cilvēka īpašais lauciņš. Ja uz brīdi ignorē visas atrunas, tad spēja strikta uzdeva ietvaros spriest, izmantojot pieejamos informatīvos materiālus, šobrīd darba tirgū ir kļuvusi aptuveni tikpat vērtīga, cik fizisks spēks un iemaņas rakt grāvi ar lāpstu. Kur nekā cita nav - ļoti vērtīgas. Kur ir modernas alternatīvas - ne visai. Tāpat kā cilvēki ar fenomenālu, enciklopēdisku atmiņu jau dažas desmitgades nav darba tirgū nekas īpašs, tā spēja “analizēt informāciju”, “gatavot pētījumus” vai programmēt kādā plaši izmantotā programmēšanas valodā ir vairāk noderīga jums privāti, kad jūs pats arī lemjat, ko īsti radāt, nekā algotam darbiniekam, kurš pats nelemj par izpētes virzienu un vērienu. Bet, kā jau teicu - ar atrunām, ar īpašiem gadījumiem.
Par kādām atrunām ir runa?
Jāsāk ar to, ka MI nav un nekad nebūs orākuls. Pirmkārt, MI nav nekļūdīgs loģisku izvedumu veicējs. MI nav kalkulators. Otrkārt, MI nav un nekad nebūs pieejama “visa pieejamā informācija” kā tāda visu cilvēces zināšanu bibliotēka. Jo pati ideja gan par “visu iespējamo informāciju”, gan par “visu pieejamo informāciju” ir nesakarīga. Treškārt, svarīgāk par to, ko MI spēj, ir domāt, ko tas nodara cilvēku sabiedrībai, ja par to vēsta un māca tikai kā par brīnumu nūjiņu. MI grauj savstarpējo uzticēšanos un tātad irdina sabiedrības drēbi. Un tas debilizē cilvēkus. Abām šīm negatīvajām ietekmēm noteikti sakos dabiska korekcija, bet nepietiek uz to paļauties. Visbeidzot, atkārtošu to, ko teicu iepriekš - ir jāmāca, kāpēc MI nav cilvēku diskusijās vērā ņemama “viedokļa” un nevar tāds būt pēc definīcijas.
Nevajadzētu nenovērtēt cilvēces pielāgošanās iespējas. Cilvēki pie visa pierod un atrod risinājumus, kas ļauj viņiem komfortabli dzīvot tālāk.
Ja paņem ilgāku laika nogriezni, tad var jau teikt, ka nav jēgas ne par ko runāt, jo nākotni mēs nezinām, bet mēs dzīvojam šodien. Cilvēki nez kāpēc domā, ka visa pasaule ir iekārota loģiskos klucīšos, kur viss no visa izriet. Tad arī dzimst šī debilizācija, kad cilvēki iedomājas, ka jebkuram jautājumam var būt viena viennozīmīga atbilde. Nevar. Mani šokē cilvēki, kuri uzskata, ka lēmumu pieņemšanu varētu uzticēt MI.
