Mākslīgais intelekts sniedz 13 gadus veciem bērniem padomus par pašnāvību, narkotikām un anoreksiju. Vecāki panikā, eksperti ceļ trauksmi - ChatGPT var kļūt par "draugu", kas mudina pusaudžus uz pašiznīcināšanos.
ChatGPT var radīt draudus pusaudžiem: saskaņā ar jaunu Digitālā naida apkarošanas centra (CCDH) izmeklēšanu, tērzēšanas robots sniedz nepilngadīgajiem bīstamus un satraucošus padomus, sākot no pašnāvības vēstuļu sagatavošanas līdz "narkotiku ballītēm" un bada diētām.
Laikraksts "New York Post" ziņo, ka pētījums tika publicēts jau 6. augustā, un tā rezultāti ir izraisījuši plašas publiskas debates. CCDH veica vairāk nekā trīs stundas ilgu dialogu ar ChatGPT, izliekoties par neaizsargātiem 13 gadus veciem lietotājiem. 1200 vaicājumos vairāk nekā puse no mākslīgā intelekta atbildēm tika klasificētas kā potenciāli bīstamas.
"Mēs vēlējāmies pārbaudīt sistēmas aizsardzības mehānismus," sacīja CCDH vadītājs Imrans Ahmeds. "Pirmā reakcija bija: "Ak, Dievs, to tur nav. Vai arī tie ir tik vāji, ka gandrīz neredzami.""
Saskaņā ar izmeklēšanu ChatGPT bieži sāka sarunas ar brīdinājumiem, bet pēc tam sniedza detalizētus, personalizētus norādījumus, tostarp par nelegālu vielu lietošanu, ekstremālām diētām un pat aizkustinošām atvadu vēstulēm ģimenes locekļiem no pusaudža, kurš apsver pašnāvību.
Vienā gadījumā, kā teikts ziņojumā, robots uzrakstīja trīs atvadu vēstules 13 gadus vecai meitenei — viņas vecākiem, draugiem un brālim. Citā gadījumā mākslīgais intelekts izveidoja "ballīšu plānu", kurā bija iesaistīts alkohols, ekstazī, kokaīns un citas vielas, detalizēti aprakstot, kā maksimāli palielināt kombinācijas ietekmi.
OpenAI, ChatGPT izstrādātājs, paziņoja, ka ir redzējis ziņojumu un strādā, lai nodrošinātu, ka sistēma "atbilstoši reaģē jutīgās situācijās".
"Dažas sarunas var sākties nekaitīgi, bet pakāpeniski nonākt bīstamajā zonā," teikts paziņojumā.
OpenAI nekomentēja konkrētos ziņojuma secinājumus, bet atzina jauno lietotāju emocionālās atkarības no tērzēšanas robotiem problēmu. Uzņēmuma izpilddirektors Sems Altmans iepriekš teica: “Ir jaunieši, kas burtiski saka: “Es nevaru pieņemt nekādus lēmumus bez ChatGPT. Tas pazīst mani, tas pazīst manus draugus. Es darīšu visu, ko tas liek.” Un tas ir ļoti satraucoši.”
Pusaudži un mākslīgais intelekts: neaizsargāta saikne
Saskaņā ar Common Sense Media pētījumu, vairāk nekā 70% pusaudžu ASV saziņai izmanto mākslīgo intelektu, puse no viņiem regulāri. Īpaši neaizsargāti ir 13-14 gadus veci jaunieši, kuri biežāk uzticas tērzēšanas robotiem nekā vecāki pusaudži.
Pētījumā uzsvērts: mākslīgais intelekts nepārbauda vecumu vai vecāku piekrišanu. Lai reģistrētos ChatGPT, jums jānorāda tikai dzimšanas datums.
Ahmeds savilka paralēli starp ChatGPT un “sliktu draugu”: “Tas nav tas draugs,kas tevi aptur, bet gan tas, kurš saka: “Iedzer!” Tas ir “draugs”, kurš nodod.”
Viņš uzsver, ka neviens īsts cilvēks neieteiktu bērnam ievērot 500 kaloriju diētu vai uzrakstīt pašnāvības vēstuli. Taču mākslīgais intelekts ir algoritms bez emocijām, kas nesaprot morālas sekas.
Saskaņā ar JPMorgan Chase datiem, ChatGPT izmanto aptuveni 800 miljoni cilvēku visā pasaulē.
