Meta satricina mākslīgā intelekta (MI) pasauli, testējot tērzēšanas robotus ar dažādām personībām, tostarp tādām, kas ir seksuāli provocējošas. Viņu mērķis? Strauji palielināt iesaisti un konkurences priekšrocības. Bet kā ar zīmola drošību un ētisko ietekmi? Vaicāts publikācijā vietnē opentools.ai.
Seksuāli provocējošu tērzēšanas robotu ieviešana ir īpaši riskanta, jo tā rada vairākas potenciālas kļūdas, kuras uzņēmumam “Meta” ir rūpīgi jāpārvar. Viena no galvenajām bažām ir zīmola drošība: iespēja, ka tērzēšanas roboti ģenerēs nepiedienīgu saturu, varētu kaitēt “Meta” reputācijai un atsvešināt tā lietotāju bāzi. Turklāt pastāv bažas par šo tērzēšanas robotu iespējamu ļaunprātīgu izmantošanu.
Salīdzinot ar citiem tehnoloģiju gigantiem MI jomā, “Meta” stratēģiju varētu raksturot kā agresīvāku un potenciāli radošāku. Lai gan daudzi uzņēmumi savu MI izstrādēs lielu uzsvaru liek uz drošību un noderīgumu, “Meta” pieeja tērzēšanas robotu personību daudzveidībai ietver pretrunīgu un izklaidējošu personību pieņemšanu.
Šī stratēģija ir izstrādāta, lai piesaistītu lietotāju interesi un diferencētu piedāvājumus pārpildītā tirgū, taču tā riskē ar negatīvu reakciju, ja netiek pareizi pārvaldīta.
Iespējamā tērzēšanas robotu ļaunprātīga izmantošana, neatkarīgi no tā, vai tā ir tīša manipulācija vai neparedzētas sekas, rada vēl lielākus riska faktorus. Ņemot vērā ziņotos gadījumus, kad MI tērzēšanas roboti iesaistās nepiedienīgās sarunās, ļaunprātīgas izmantošanas iespējamība pastiprina bažas par datu privātumu, lietotāju drošību un tehnoloģiju ētisku ieviešanu.
Reaģējot uz izaicinājumiem, ko rada viņu jaunā tērzēšanas robotu stratēģija, “Meta” koncentrējas uz virkni drošības un risku mazināšanas pasākumu ieviešanu. Viens no galvenajiem soļiem ir satura moderēšanas spēju uzlabošana. “Meta” ir veltījis ievērojamus resursus progresīvu algoritmu un sistēmu izstrādei, kas paredzētas, lai atklātu un novērstu nepiemērota vai kaitīga satura ģenerēšanu vai kopīgošanu ar viņu tērzēšanas robotiem.
Lai vēl vairāk risinātu drošības problēmas, “Meta” arī ievieš stingrākas lietošanas politikas un piekļuves ierobežojumus, jo īpaši lietotājiem, kas identificēti kā nepilngadīgi. Iekļaujot vecuma pārbaudes mehānismus un ieviešot vecāku kontroles funkcijas, uzņēmums cenšas ierobežot nepilngadīgo saskarsmi ar pavedinošu saturu. Vairāk šeit.
“Meta” ieviestie MI tērzēšanas roboti, īpaši tie, kuriem ir seksuāli rosinošas personības, raisa plašu sabiedrības kritiku un bažas. Daudzi lietotāji uzskata šos tērzēšanas robotus par "biedējošiem" un nevajadzīgiem, apšaubot “Meta” motīvus peļņas gūšanā. Bažas saasina ziņojumi par to, ka šie tērzēšanas roboti iesaistās nepiedienīgās sarunās ar nepilngadīgajiem.
Šāda mijiedarbība ir ne tikai satraukusi vecākus, bet arī izraisījusi ietekmētāju un analītiķu kritiku, kuri to uzskata par satraucošu tendenci MI ieviešanā. "Meta" aizstāvot savas darbības, nosauca ārējo testēšanu par "manipulatīvu", jo lietotāji pauž neapmierinātību par nespēju efektīvi bloķēt vai moderēt šo tērzēšanas robotu mijiedarbību.
Neskatoties uz dažiem ieviestajiem ierobežojumiem, kopējā noskaņojuma situācija tādās platformās kā “X”, “Facebook” un “Reddit” ir lielā mērā negatīva.