“Meta” darbiniece zaudē kontroli pār savu MI asistentu: “tam vajadzētu jūs šausmināt.”

Kāda “Meta” darbiniece kļuva populāra tiešsaistē, kad atklāja, ka mākslīgā intelekta MI asistents, ko viņa izmantoja e-pasta pārvaldībai, bija bez apstiprinājuma izdzēsis visu viņas pastkastīti, vēsta dexerto.com.

23. februārī vietnē “X” Sammera Jū aprakstīja, kā viņa izmantoja “OpenClaw” mākslīgo intelektu, lai pārvaldītu savu iesūtni, bet ātri vien zaudēja kontroli pār automatizēto tīrīšanas procesu.

Viņa teica, ka digitālais asistents sāka dzēst e-pastus, neskatoties uz norādījumiem vispirms apstiprināt darbības, piespiežot viņu steigties to apturēt manuāli.

Savā publikācijā Jū aprakstīja, kā situācija saasinājās, asistentam turpinot dzēst ziņojumus, kamēr viņa mēģināja iejaukties no sava tālruņa.

“Nekas tevi nepazemo tā kā likt savam asistentan “apstiprināt pirms rīcības” un vērot, kā tas ātri dzēš tavu iesūtni. Es to nevarēju apturēt no sava tālruņa. Man bija sajūta, it kā es deaktivizētu bumbu,” teica “Meta” darbiniece, piebilstot, ka “tam vajadzētu jūs šausmināt”.

Jū atkārtoti lika sistēmai apstāties, izmantojot tādus ziņojumus kā “Nedari to”, “Apturi, nedari neko” un “APTURET OPENCLAW”, kamēr tīrīšana turpinājās.

Žurnālos arī bija redzams, ka MI izdod norādījumus dzēst e-pastus, kas vecāki par noteiktu datumu, un "turpināt atkārtot darbību, līdz tiek iztīrīts viss vecais", kas liecina, ka asistents ir sācis veikt masveida tīrīšanas rutīnu, negaidot apstiprinājumu.

Ekrānuzņēmumos iekļautajā papildu ziņojumā asistents atzina kļūdu un atvainojās, norādot, ka bez skaidras atļaujas ir “izdzēsis un arhivējis simtiem e-pasta ziņojumu masveidā”, un solīja vairs neveikt autonomas masveida darbības.