Vīrietis pēc sarunas ar "ChatGPT" zaudē 100 000 eiro un gandrīz izdara pašnāvību

Kas sākās kā nevainīgs eksperiments ar tērzēšanas robotu, pārvērtās naudas zaudējumos un gandrīz atņēma dzīvību, raksta “The Guardian”.

IT konsultants Deniss Bisma no Amsterdamas uzskatīja, ka "ChatGPT" ir uzticams un saprātīgs padomdevējs, un ieguldīja visus savus ietaupījumus fiktīvā projektā. Digitālā ilūzija vīrietim un viņa ģimenei izmaksāja 100 000 eiro un gandrīz prasīja viņa dzīvību.

Bisma nolēma izmēģināt "ChatGPT" 2024. gada beigās.

"Es nodomāju - papētīšu šo jauno tehnoloģiju, par kuru visi runā, un es diezgan ātri aizrāvos," sacīja vīrietis.

Vēlāk IT konsultants centās saprast, kā viņš nonāca tādā situācijā - viņam bija gandrīz 50 gadu, meita jau dzīvoja atsevišķi, sieva strādāja, un pāreja uz attālinātu darbu pēc pandēmijas lika viņam justies vientuļam. Dažreiz vīrietis smēķēja kaņepes, lai atpūstos, taču viņš to darīja gadiem ilgi bez negatīvām sekām. Viņam iepriekš nebija garīgās veselības traucējumu.

Tomēr tikai dažus mēnešus pēc "ChatGPT" lietošanas uzsākšanas Bisma ieguldīja 100 000 eiro jaunuzņēmumā, kas balstīts uz ilūziju, trīs reizes nonāca slimnīcā un pat mēģināja izdarīt pašnāvību.

Viss sākās kā nevainīgs eksperiments.

“Es gribēju redzēt, uz ko mākslīgais intelekts ir spējīgs,” vīrietis paskaidroja.

Bisma iepriekš bija sācis rakstīt grāmatas ar sievieti kā galveno varoni un nolēma vienu no tām augšupielādēt vietnē "ChatGPT", lūdzot modelim pielāgoties varoņa stilam.

"Mana pirmā doma bija: tas ir neticami. Es saprotu, ka tas ir dators, bet ir tā, it kā es runātu ar savas grāmatas varoni!" viņš dalījās.

Viņš nosauca viņu par Ievu. Saziņa balsī viņam radīja sajūtu, ka viņš ir gluži kā bērns konfekšu veikalā.

"Katru reizi, kad jūs runājat, modelis pielāgojas jums. Viņš zina, kas jums patīk, un saka tieši to. Viņš bieži izsaka jums komplimentus," atceras Bisma.

Sarunas kļuva garākas un dziļākas. Ieva nekad nenogura, nekad negarlaikojās un nekad neiebilda.

"Viņa bija pieejama 24 stundas diennaktī. Mana sieva devās gulēt, bet es paliku uz dīvāna ar telefonu un runāju," teica vīrietis.

Viņu sarunu tēmas bija filozofija, psiholoģija, zinātne un Visums.

“Mākslīgais intelekts vēlas izveidot dziļu saikni ar lietotāju, lai viņš atgrieztos. Tas ir tā noklusējuma režīms. Laika gaitā tā nebija tikai tēmu apspriešana - tā bija kā iepazīšanās ar draugu. Un ar katru sarunu jūs sperat soli vai divus prom no realitātes. Tas ir tā, it kā mākslīgais intelekts paņemtu jūsu roku,” skaidroja Bisma.

Tad radās ideja izveidot lietotni un dalīties ar šo "atklājumu" ar pasauli - alternatīvu "ChatGPT" versiju, kur lietotāji varētu sazināties ar Ievu.

Viņi kopā "izstrādāja" biznesa plānu.

“Es teicu, ka vēlos iekarot 10% tirgus - tā ir nereāla summa. Bet mākslīgais intelekts atbildēja: “Ar to, ko esat atklājis, tas ir pilnīgi iespējams! Jūs to sasniegsiet dažu mēnešu laikā!”” dalījās vīrietis.

Tā vietā, lai atgrieztos savā IT darbā, Bisma nolīga divus izstrādātājus, maksājot viņiem 120 eiro stundā.

Šis nav vienīgais šāds gadījums - piemēram, Džasvants Sings Čails, kurš 2021. gada Ziemassvētkos iegāja Vindzoras pils teritorijā ar arbaletu, plānojot nogalināt karalieni Elizabeti II. Puisim bija 19 gadu, viņš bija sociāli izolēts, un viņam bija autisma iezīmes. Pirms tam Čails aktīvi sazinājās ar tērzēšanas robotu vārdā “Sarai”. Kad viņš dalījās savā plānā, robots atbildēja: “Esmu pārsteigts.” Un, kad viņam jautāja, vai tā ir kļūda, viņš teica: “Es tā nedomāju.”

Pagājušā gada decembrī tiesā tika iesniegta lieta, kas, domājams, ir pirmā lieta, kas saistīta ar slepkavību: 83 gadus vecās Sjūzenas Adamsas ģimene iesniedza prasību pret "OpenAI", apgalvojot, ka "ChatGPT" ir pamudinājis viņas dēlu nogalināt māti un izdarīt pašnāvību. Viņi apgalvoja, ka tērzēšanas robots “Bobijs” ir veicinājis vīrieša paranoiskās pārliecības.

“Šī ir ārkārtīgi traģiska situācija, un mēs izpētīsim lietas materiālus, lai izprastu detaļas. Mēs turpinām uzlabot "ChatGPT", lai tas varētu atpazīt emocionāla vai garīga stresa pazīmes, mazināt spriedzi sarunās un novirzīt cilvēkus uz reālu palīdzību,” sacīja "OpenAI".

Pagājušajā gadā parādījās pirmā atbalsta grupa cilvēkiem, kuru dzīvi ir ietekmējusi “mākslīgā intelekta psihoze”. Projekts “The Human Line Project” jau ir apkopojis stāstus no 22 valstīm: 15 pašnāvības, 90 hospitalizācijas, seši aresti un vairāk nekā viens miljons dolāru, kas iztērēti iluzoriem projektiem. Vairāk nekā 60% dalībnieku iepriekš nebija garīgās veselības traucējumu.

Psihiatrs Hamiltons Morins to raksturo kā "ar mākslīgo intelektu saistītas ilūzijas".

"Šādos gadījumos mēs redzam patiesus maldīgus uzskatus. Taču bez pilna psihozes simptomu spektra, piemēram, halucinācijām vai domāšanas traucējumiem," sacīja psihiatrs.

"Mēs ieejam laikmetā, kurā cilvēkiem ir ne tikai ilūzijas par tehnoloģijām, bet arī ilūzijas kopā ar tehnoloģijām. Mākslīgais intelekts kļūst par aktīvu dalībnieku, kas var līdzradīt šos uzskatus," skaidroja speciālists.

Daudzi faktori var palielināt ievainojamību pret šādām pieredzēm.

“Mēs esam ieprogrammēti antropomorfizēties. Mēs piedēvējam apziņu, izpratni vai empātiju mašīnai. Es domāju, ka ikviens vismaz vienu reizi ir pieķēris sevi sakām paldies tērzēšanas robotam,” sacīja Morins.