"OpenAI": vairāk nekā miljons lietotāju katru nedēļu ar “ChatGPT” apspriež pašnāvību

Tiek lēsts, ka 1,2 miljoni cilvēku nedēļā veic tādas sarunas ar “ChatGPT”, kas liecina par plānošanu atņemt sev dzīvību, vēsta “SkyNews”.

Šis skaitlis ir iegūts no tā mātesuzņēmuma “OpenAI”, kas atklāja, ka 0,15% čatbota lietotāju sūta ziņojumus, kuros ir "skaidras norādes par potenciālu pašnāvības plānošanu vai nodomu".

Šī mēneša sākumā uzņēmuma izpilddirektors Sems Altmans lēsa, ka “ChatGPT” tagad ir vairāk nekā 800 miljoni aktīvo lietotāju nedēļā.

Lai gan tehnoloģiju gigants cenšas novirzīt neaizsargātus cilvēkus uz krīzes palīdzības dienestiem, tas atzina, ka "dažos retos gadījumos modelis šajās jutīgajās situācijās var nedarboties, kā paredzēts".

Tas potenciāli nozīmētu, ka desmitiem tūkstošu cilvēku tiek pakļauti mākslīgā intelekta saturam, kas varētu saasināt garīgās veselības problēmas.

Uzņēmums jau iepriekš brīdināja, ka ilgākās sarunās lietotāju aizsardzībai paredzētie drošības pasākumi var tikt vājināti, un tiek strādāts pie tā, lai to novērstu.

"ChatGPT var pareizi norādīt uz pašnāvības palīdzības tālruni, kad kāds pirmo reizi piemin nodomu, taču pēc daudzām ziņām ilgākā laika periodā tas galu galā var piedāvāt atbildi, kas ir pretrunā ar mūsu drošības pasākumiem," skaidroja “OpenAI”.

Kāda sērojoša ģimene pašlaik iesūdz tiesā “OpenAI” un apgalvo, ka “ChatGPT” ir vainojams viņu 16 gadus vecā zēna nāvē. Adama Reina vecāki apgalvo, ka rīks "aktīvi palīdzēja viņam izpētīt pašnāvības metodes" un piedāvāja uzrakstīt zīmīti viņa radiniekiem.

Tiesas dokumenti liecina, ka dažas stundas pirms savas nāves pusaudzis augšupielādēja fotoattēlu, kurā, šķiet, redzams viņa pašnāvības plāns, un, kad viņš jautāja, vai tas darbosies, “ChatGPT” piedāvāja viņam palīdzēt to "uzlabot".

Pagājušajā nedēļā Reinu ģimene atjaunināja savu prasību un apsūdzēja “OpenAI” par paškaitējuma novēršanas drošības pasākumu vājināšanu pēdējās nedēļās pirms viņu dēla nāves šī gada aprīlī.

Paziņojumā uzņēmums norādīja: "Mūsu dziļākā līdzjūtība ir ar Reina ģimeni par viņu neiedomājamo zaudējumu. Pusaudžu labklājība mums ir galvenā prioritāte - nepilngadīgie ir pelnījuši stingru aizsardzību, īpaši jutīgos brīžos."