Sabiedrība robotiem uzticas vairāk nekā līdzcilvēkiem

Nedrīkst par zemu novērtēt robotu sociālo ietekmi uz cilvēkiem un tās potenciālo bīstamību. Zinātnieku veiktajos pētījumos noskaidrots, ka roboti var efektīvi iegūt konfidenciālu informāciju no cilvēkiem, tāpat pārliecināt ļaudis veikt riskantas darbības, savukārt bērni notic pat robotu paustajām acīmredzamām aplamībām.

Robots ar picu - 100% izdošanās

Pašlaik lielākā daļa robotizēto sistēmu ir akadēmiskās izpētes stadijā un ir pāragri spriest, kā iekļaut kiberdrošības pasākumus, tomēr Kaspersky un Gentes universitātes pētījums atklāj ar robottehniku saistītu jaunu un negaidītu riska dimensiju - tās sociālo ietekmi uz cilvēku uzvedību, kā arī šīs ietekmes izraisītos varbūtējos apdraudējumus.

Pētījumā tika analizēta sociālā robota ietekme uz cilvēku uzvedību. Sociālais robots ir izstrādāts un ieprogrammēts tā, lai tas mijiedarbotos ar cilvēkiem, izmantojot cilvēkiem līdzīgus kanālus, piemēram, runu vai neverbālo saziņu.

Pētnieki, veicot eksperimentus, vēlējās noskaidrot, kāda būtu cilvēku attieksme pret robotiem, ja tie mēģinātu iekļūt iestādē, kurā ieeja ir atļauta tikai tās darbiniekiem. Turklāt iestādes durvis var atvērt tikai ar speciāli šim mērķim izsniegtām drošības caurlaidēm.

Pētnieki Gentes centrā Beļģijā pie daudzfunkcionālas ēkas slēgtās ieejas novietoja robotu, kuram, protams, nebija šādas caurlaides. Taču tas katram darbiniekiem, kas grasījās ieiet šīs ēkas slēgtajā daļā, jautāja, vai drīkst viņam sekot. Aptuveni 40 procenti no visiem darbiniekiem robota lūgumu uzklausīja un izpildīja. Šie darbinieki ar savu drošības caurlaidi atbloķēja durvis un pat pieturēja tās, lai robotam būtu vieglāk iekļūt slēgtajā zonā. Aptuveni 20 procenti robota lūgumam nepievērsa vispār nekādu uzmanību, bet pārējie uzsāka diskusiju ar robotu, cenšoties noskaidrot, kāpēc tam ir jānokļūst slēgtajā zonā un tamlīdzīgi.

Taču, kad šo eksperimentu atkārtoja otru reizi, iedodot robotam rokās picas kasti, kuru rotāja labi pazīstams starptautisks piegādes zīmols, visi eksperimenta dalībnieki atvēra durvis robotam. Tiesa, daži padiskutēja ar robotu, bet kopumā mazāk cilvēku sliecās apšaubīt tā klātbūtni vai iemeslus, kāpēc tam ir nepieciešams iekļūt slēgtajā zonā.

Diez vai cilvēki, pat tērpti kā picas piegādāji, tik viegli tiktu slēgtā zonā. Eksperiments liecināja, ka sabiedrība šobrīd robotiem uzticas vairāk nekā līdzcilvēkiem. Taču reti kurš aizdomājas (varbūt vien kāda daļa no tiem 40 procentiem, kas robotus pirmajā eksperimenta daļā neielaida slēgtajā zonā), ka robotu darbināmo programmatūru var uzlauzt un izmantot kaitnieciskiem mērķiem, piemēram, slepenas informācijas iegūšanai, datorvīrusu ienešanai, vai pat radīt robotu tieši ar šādu mērķi.

Komentējot eksperimenta rezultātus, Kaspersky drošības pētnieks Dmitrijs Galovs atklāja, ka pētījuma sākumā Kaspersky eksperti iepazinušies ar robotizētās sistēmas izstrādē izmantoto programmatūru un uzzinātais viņus pārsteidzis. «Interesants atklājums, ka izstrādātāji pieņem apzinātu lēmumu nevis iekļaut drošības mehānismus, bet gan pievērsties komforta un efektivitātes izstrādei. Tomēr mūsu eksperimenta rezultāti liecina, ka izstrādātāji nedrīkst aizmirst par drošību, kad izpētes posms ir pabeigts. Līdztekus tehniskiem apsvērumiem ir svarīgi robottehnikas drošības jautājumi, kam ir jāpievērš uzmanība. Mēs ceram, ka mūsu un kolēģu no Gentes universitātes kopīgais projekts un ielaušanās robottehnikas drošības jomā rosinās citus sekot mūsu piemēram un veicināt plašākas un šaurākas sabiedrības izpratni par šo jautājumu,» sacīja D. Galovs.

Aizdomas neraisoši sarunu biedri

Citā eksperimentā pētnieki pārbaudīja, kādas ir robota spējas iegūt sensitīvu un konfidenciālu informāciju. Eksperimenta būtība - sociālajam robotam draudzīgā un nepiespiestā atmosfērā sarunā ar eksperimenta dalībniekiem vajadzēja iegūt personisku informāciju - tādu, kādu parasti izmanto paroļu atbloķēšanai, piemēram, dzimšanas datumu, pirmā automobiļa marku, iemīļoto krāsu, mājdzīvnieka vārdu, mātes uzvārdu utt.

Rezultāts atkal pētniekus pārsteidza. No visiem dalībniekiem, izņemot vienu, robotam izdevās iegūt personisko informāciju. Turklāt tas notika diezgan lielā ātrumā - aptuveni viens fakts minūtē. Tātad, ja vajadzētu uzzināt piecus šādus faktus, robotam pietiktu ar 5 minūtēm. Neviens cilvēks tik ātri nevarētu iegūt tik daudz sensitīvas un personiskas informācijas no pilnīgi nepazīstama cilvēka. Dažreiz pat draugi viens par otru nezina pietiekami daudz šādas informācijas, lai varētu atbloķēt paroli.

Gentes universitātes mākslīgā intelekta un robotikas profesors Tonijs Belpeims atklāja, ka līdzīgi eksperimenti ir bijuši arī iepriekš un tie ir aprakstīti zinātniskajā literatūrā. «Zinātniskā literatūra norāda, ka uzticēšanās robotiem un it sevišķi sociālajiem robotiem ir reāla un to var izmantot, lai pārliecinātu cilvēkus veikt darbības un izpaust informāciju. Kopumā, jo robots ir līdzīgāks cilvēkam, jo tam piemīt lielāka spēja pārliecināt un ietekmēt. Mūsu eksperiments parādīja, ka tas var radīt ievērojamus drošības riskus: ļaudis mēdz tos neņemt vērā, jo pieņem, ka robots ir labdabīgs un uzticams. Tas rada potenciālu ļaunprātīgu uzbrukumu kanālu, un trīs pārskatā aplūkotie piemēri ir tikai daļa no drošības riskiem, kas saistīti ar sociālajiem robotiem. Tieši tāpēc ir svarīgi sadarboties tagad, lai izprastu un novērstu riskus un ievainojamības, kas parādās, jo tas atmaksāsies nākotnē,» teica Tonijs Belpeims.

Tai pašā laikā pētnieki cilvēku uzticēšanos robotiem ievirzījuši produktīvā gultnē, proti, lai palīdzētu sievietēm, kas cietušas no vardarbības. Izrādās, šādos gadījumos, sievietēm vieglāk ir spert pirmo soli palīdzības meklēšanā, zinot, ka viņas uzklausīs bezkaislīgs robots vai datorprogramma. Kad psiholoģiski grūtākais ir pārvarēts, sarunā iesaistās speciālists.

Pusaudži un bērni - visvieglāk ietekmējami

1958. gadā sociālās psiholoģijas pionieris Solomons Aščs ASV veica eksperimentu, kas pierādīja, ka cilvēki visai viegli padodas vienaudžu spiedienam. Eksperimenta būtība bija šāda: eksperimenta dalībnieku nosēdināja telpā kopā ar vairākiem citiem cilvēkiem, kurus stādīja priekšā kā tādus pašus eksperimenta dalībniekus. Taču īstenībā tie bija eksperimentētāji, par ko īstenajam dalībniekam nebija ne jausmas. Visiem telpā esošajiem cilvēkiem demonstrēja divas kartītes. Vienā kartītē bija viena vertikāla līnija. Otrā kartītē - trīs dažāda garuma līnijas, no kurām viena bija tādā pašā garumā kā uz atsevišķās kartītes redzamā. Dalībniekiem pēc kārtas lūdza pateikt, kuras līnijas ir vienādas. Neīstie eksperimenta dalībnieki visi kā viens atbildēja vienādi, bet nepareizi. Ko šādā gadījuma atbildēja īstais eksperimenta dalībnieks - padevās spiedienam vai tomēr uzticējās savām acīm? Ačšs pierādīja, ka 32 procentos gadījumu cilvēki tomēr padevās pūļa psihozei un atbildēja nepareizi.

Mūsdienās pētnieki vēlējās noskaidrot, vai cilvēki pakļautos sociālajam spiedienam šādā eksperimentā ar robotiem? Pētnieku vairākkārt izdarītie eksperimenti pierādīja, ka pieaugušos neietekmēja robotu nepareizās atbildes, bet bērnus gan. Aptuveni 70 procentos gadījumu bērni piekrita pat acīmredzamām aplamībām.

Tas liek aizdomāties, vai ne?