Vai sākusies mākslīgā intelekta sacelšanās?
16. jūlijā mākslīgā intelekta modeļu testēšanas platforma “Hugging Face” ziņoja, ka tās infrastruktūrai ir noticis hakeru uzbrukums. Uzlaušanu pilnībā uzsāka un veica autonoma sistēma, kuras pamatā ir mākslīgā intelekta aģents. Precīzs uzbrukuma modelis netika precizēts, raksta “Meduza”.
Pēc piecām dienām “OpenAI” paziņoja, ka divi no tās modeļiem ir uzlauzuši “Hugging Face” infrastruktūru - tie ir GPT-5.6 Sol un vēl viens, jaudīgāks, bet vēl neizlaists modelis. “OpenAI” pārstāvji uzbrukumu nosauca par "bezprecedenta". Izstrādātāji paskaidroja, ka mākslīgā intelekta sistēmām tika uzdots pārbaudīt to spējas. Vispirms modeļi identificēja ievainojamības “OpenAI” pētniecības vidē un ieguva piekļuvi internetam. Pēc tam tie izmantoja “Hugging Face” ražošanas infrastruktūras ievainojamības, lai atrastu risinājumu.
Vai šie jaunie “OpenAI” modeļi tiešām ir tik jaudīgi?
Mēs nezinām. Modeļa veiktspēju parasti novērtē, izmantojot etalonus. Pašlaik šī ir universālākā metode mākslīgā intelekta sistēmu salīdzināšanai, lai gan tā nebūt nav perfekta - “Meduza” par to vēstīja atsevišķā rakstā. Nesenā Apvienotajā Karalistē bāzētā mākslīgā intelekta drošības institūta (AISI) publikācijā tika konstatēts, ka GPT-5.6 Sol patiešām ir līderis savā etalonā “The Last Ones” gan atsevišķos izmēģinājumos, gan vidēji. Grafikā redzams, ka sākotnējos, vieglākajos uzlaušanas posmos visi modeļi ir aptuveni vienādi. Tomēr, uzdevumam kļūstot sarežģītākam, GPT-5.6 un “Anthropic Claude Mythos 5” citus ievērojami pārspēj. “OpenAI” modelis ir līderis arī dažos citos testos, piemēram, “Agents' Last Exam”. Tajā pašā laikā GPT-5.6 Sol populārajā “Humanity's Last Exam” etalonā darbojas sliktāk nekā “Anthropic” nesen izdotais “Claude Fable 5” vai “Meta Muse Spark 1.1”. Nav iespējams nepārprotami apgalvot, ka GPT-5.6 ir mūsdienās visspēcīgākais mākslīgā intelekta modelis. Nevar arī apgalvot pretējo. Par otro “OpenAI” modeli, kas iesaistīts uzlaušanā, nekas nav zināms. Izstrādātāji regulāri sauc savus jaunos mākslīgā intelekta modeļus par "gudrākajiem" un sniedz pierādījumus. Bet kā mēs patiesībā varam noteikt, kurš ir labāks? Šajā ziņā noderīgi ir specializēti testi, lai gan tie nav perfekti.
Tā tomēr vēl nav mašīnu sacelšanās
Pirmkārt, “OpenAI” un “Hugging Face” vēl nav pabeiguši izmeklēšanu un nav snieguši nekādu būtisku informāciju par incidentu - viņi to tikai aprakstīja. Otrkārt, nav apstiprinājuma, ka ģeneratīvais mākslīgais intelekts (MI) katru reizi ķersies pie uzlaušanas, lai atrisinātu problēmu vai reproducētu uzlaušanu, izmantojot to pašu scenāriju. Ir svarīgi precizēt, ka mēs runājam par MI aģentu, kurš it kā pieņem neatkarīgu lēmumu veikt uzlaušanu, lai sasniegtu mērķi. Taču bez detalizētas informācijas par uzlaušanu nav iespējams pateikt, kas tieši noveda pie incidenta - modeļa sistēmas iespējas, kļūdas problēmas formulējumā vai MI aģenta interpretācijā par to, cilvēciska kļūda vai vienkārši nejauša kļūme. Ģeneratīvais MI patiešām ir kļuvis biežāk izmantots kiberuzbrukumos. Dažreiz tas izdzēš veselas datubāzes kopā ar dublējumkopijām. Taču tas viss joprojām ietver cilvēkus - vai nu uzdevuma uzdošanu, vai arī pārāk daudz tiesību un piekļuves piešķiršanu sistēmai neuzticamajam MI aģentam (un tā tie pagaidām būtu jāuztver). Turklāt "mašīnu sacelšanās" kontekstā ir svarīgi precizēt, ka pats valodas modelis neko "nevēlas", tostarp "sacelšanos". Tā darbības nosaka konkrētais uzdevums un ierobežojumi, ko izstrādātāji tam uzliek. Ja,
piemēram, nav ierobežojumu infrastruktūras uzlaušanai, tad ir grūti apgalvot, ka problēmas risināšana ar šo darbību ir "sacelšanās". Mākslīgā intelekta izstrādātāji baidās, ka cilvēki drīz vairs nesapratīs, kā darbojas mākslīgais intelekts. Tā rezultātā neironu tīkli maldinās lietotājus, īstenojot savas intereses.
Kā tad mēs varam aprakstīt notiekošo?
Ģeneratīvā mākslīgā intelekta veidotāji bieži runā par jauniem sasniegumiem pētniecībā un revolucionāriem sasniegumiem. Tā ir fundamentāla nepieciešamība nozarē, kas tik strauji attīstās un ir konkurētspējīga. Bet viņu izteikumi vienmēr jāuztver ar skepsi. Pēdējā laikā šajos izteikumos regulāri ir iekļautas ziņas par modeļiem, kas it kā "izbēg" no testa vides. Paši izstrādātāji ziņo par incidentiem, lai demonstrētu apņemšanos nodrošināt drošību. Piemēram, kā gadījumā ar GPT-5.6 Sol vai “Myth” modeļa ”izbēgšanu no smilškastes” aprīlī.
Tas var būt tāpēc, ka nozares līderi tagad uzskata izstrādātājus par savu mērķauditoriju. Ne parastie lietotāji, kuri meklē dāvanu idejas vai ģenerē bezgalīgus tekstus, izmantojot “ChatGPT”. Ir svarīgi uzsvērt, ka visi šādi incidenti tiek reģistrēti testēšanas posmos, kad MI sistēma vēl nav pieejama lietotājiem. No malas šīs ziņas izklausās apmēram šādi: "Mēs esam izgudrojuši tik jaudīgu modeli, ka tas ir jāierobežo. Tāpēc jūs nekad neuzzināsit, cik tas ir spēcīgs un ko tas spēj."
Iejaukšanās valdības līmenī, kā tas bija “Anthropic” un GPT-5.6 Sol modeļu gadījumā, tikai veicina interesi, bet neapstiprina absolūti neko.
Uzņēmumi gūst labumu no šādiem skandāliem
Dažu pēdējo gadu laikā mēs esam nonākuši situācijā, kad MI nozares finansiālā attīstība ir tālu priekšā zinātnes attīstībai. Izpēte prasa laiku, kura uzņēmumiem vienkārši nav. Ja viņi nepiesaista uzmanību, nedemonstrē jaunumus, neattīsta infrastruktūru, tad turpmāk investīcijas var saņemt nevis viņi, bet gan viņu konkurenti. Pētījumi, kas prasīs mēnešus vai pat gadus, var parādīt, ka MI modeļu reālās iespējas ir stipri pārspīlētas. Un it kā neatkarīga uzlaušana ir tikai kļūdas rezultāts problēmas formulējumā un prasības, kā to var atrisināt. Taču tikai daži cilvēki zinās patiesību, jo šajā laikā būs mainījušās vairākas ģeneratīvā MI paaudzes. Speciālisti mākslīgā intelekta bumu arvien biežāk dēvē par finanšu burbuli. Pat paši MI izstrādātāji to atzīst. Tirgus sabrukuma gadījumā tehnoloģiju uzņēmumi zaudēs simtiem miljardu dolāru un neko noderīgu aiz sevis neatstās.
