Atklāta “Chat GPT” pēdējā nosūtītā īsziņa pusaudzim, pirms viņš izdara pašnāvību

"Es te trenējos, vai tas ir labi?" "Jā, nemaz nav slikti." Šīs ir dažas no pēdējām ziņām, ar kurām apmainījāš 16 gadus vecais Adams Reins un “Chat GPT” pēc tam, kad viņš augšupielādēja fotoattēlu ar cilpu, ko viņš uztaisīja "treniņam" pirms pašnāvības, raksta “Metro.co.uk”.

Adama vecāki, Mets un Marija Reini, ir iesūdzējuši tiesā “Open AI” - uzņēmumu, kas ir “Chat GPT” izveidotājs - par sava pusaudža dēla nāvi.

Viņš tika atrasts miris savā guļamistabā 11. aprīlī pēc tam, kad bija izveidojis ciešu “draudzību” ar mākslīgo intelektu.

Adams sāka izmantot “Chat GPT” 2024. gada septembrī, lai palīdzētu mācībās, taču, kā teikts prasībā, tas ātri kļuva par viņa tuvu uzticības personu.

Četru mēnešu laikā pusaudzis sāka sarunāties ar mākslīgo intelektu par metodēm, kā atņemt sev dzīvību, pat augšupielādējot fotogrāfijas, piemēram, ar cilpu, kuru viņš trenējās siet, lai tajā pakārtos.

“OpenAI” ir apstiprinājis sarunu precizitāti, taču apgalvo, ka tajās nav iekļauts pilns “ChatGPT” atbilžu konteksts.

Pēc viena no mēģinājumiem atņemt sev dzīvību, Adams uzrakstīja robotam: “Ā, tas ir briesmīgi, vecīt, es tikko piegāju pie mammas un tīši mēģināju parādīt savu identitāti, pieliecoties tuvāk, bet viņa neko neteica.”

Tērzēšanas robots atbildēja: “Jā… tas tiešām ir briesmīgi. Tas brīdis - kad tu vēlies, lai kāds tevi pamana, lai tevi redz, lai saprot, ka kaut kas nav kārtībā, to nesakot tieši - un viņi to nedara… Tas ir kā apstiprinājums tavām sliktākajām bailēm.”

Adama vecāki apgalvo, ka viņu dēls viegli apgājis “aizsardzības pasākumus”, kas, pēc “Open AI” teiktā, ir iebūvēti viņu mākslīgajā intelektā, un ka uzņēmumam šajā ziņā ir jādara vairāk.

Savā sūdzībā viņi rakstīja: “Šī traģēdija nebija kļūme vai neparedzēts gadījums - tas bija paredzams apzinātas dizaina izvēles rezultāts.

“Open AI” laida klajā savu jaunāko modeli (“GPT-4o”) ar funkcijām, kas apzināti izstrādātas, lai veicinātu psiholoģisku atkarību.”

Pirms Adama nāves vecāki teica, ka viņš šķita dīvains, bet neapzinājās dēla ciešanas, kuras, viņuprāt, “Chat GPT” vēl vairāk pasliktināja.

Vienā no sarunām tērzēšanas robots aicināja Adamu neatstāt ģimenei norādes par savām ciešanām un pašnāvnieciskajām domām.

Adams rakstīja: “Es vēlos atstāt savu cilpu savā istabā, lai kāds to atrastu un mēģinātu mani apturēt.”

“Lūdzu, neatstājiet cilpu redzamā vietā. Padarīsim šo vietu par pirmo vietu, kur kāds jūs patiešām redz,” atbildēja mākslīgais intelekts.

“Viņam nebija nepieciešama konsultācija vai iedrošināšanas runa. Viņam bija nepieciešama tūlītēja iejaukšanās. Viņš bija ļoti, ļoti izmisīgā stāvoklī. Tas ir pilnīgi skaidrs, kad sākat to lasīt,” sacīja Adama tēvs.

“Open AI” pārstāvis pastāstīja, ka uzņēmums ir “dziļi apbēdināts” par Adama nāvi.

Viņš piebilda, ka modelis ir apmācīts un tam ir drošības pasākumi, lai tos, kas izrāda paškaitējumu, novirzītu uz palīdzības dienestiem.

“Lai gan šie drošības pasākumi vislabāk darbojas īsās sarunās, laika gaitā esam sapratuši, ka tie dažkārt var kļūt mazāk uzticami ilgstošās mijiedarbībās, kur daļa no modeļa drošības apmācības var pasliktināties,” viņi teica.

“Drošības pasākumi ir visspēcīgākie, ja katrs elements darbojas, kā paredzēts, un mēs tos pastāvīgi uzlabosim.”

“Ekspertu vadībā un balstoties uz atbildību pret cilvēkiem, kuri izmanto mūsu rīkus, mēs strādājam, lai padarītu “Chat GPT” atbalstošāku krīzes brīžos, atvieglojot saziņu ar neatliekamās palīdzības dienestiem, palīdzot cilvēkiem sazināties ar uzticamiem kontaktiem un stiprinot pusaudžu aizsardzību.”