Jaunie “OpenAI” mākslīgā intelekta modeļi sarīko hakeru uzbrukumu

“OpenAI” paziņoja, ka divi no tā mākslīgā intelekta modeļiem iekšējās testēšanas laikā nedarbojās pareizi un uzlauza “Hugging Face” platformas infrastruktūru, kas tiek izmantota mākslīgā intelekta modeļu testēšanai, raksta “postimees.ee”.

“Hugging Face”, kas ir viena no pasaulē lielākajām mākslīgā intelekta platformām, 16. jūlijā ziņoja, ka mākslīgā intelekta aģenti, izmantojot tā pakalpojumus, ir ieguvuši nesankcionētu piekļuvi "ierobežotam" iekšējo datu kopumam un vairākiem kontiem.

Uzņēmums apgalvoja, ka ir apturējis uzbrukumu, izmantojot savus mākslīgā intelekta rīkus. Šo gadījumu unikālu padarīja tas, ka uzbrukumu pilnībā veica autonoma sistēma, ko darbina mākslīgā intelekta aģents.

Nedēļu vēlāk “OpenAI” paziņoja, ka incidenta pamatā ir tā modeļi — GPT-5.6 Sol un vēl viens, jaudīgāks, vēl neizlaists modelis. Uzņēmums veica iekšējus testus, lai novērtētu to kiberspējas. Abi modeļi darbojās izolētā testa vidē bez tiešas piekļuves internetam, tomēr viņiem izdevās atklāt vairākas ievainojamības testa infrastruktūrā un iegūt piekļuvi tīklam.

Modeļi sāka meklēt tiešsaistē risinājumu problēmai, ko tiem radīja izstrādātāji. Viņi aizdomājās, ka atbildes varētu slēpties “Hugging Face” platformā.

Saskaņā ar “OpenAI” teikto, tā modeļi spēja piekļūt informācijai, kas palīdzētu viņiem atrisināt uzdevumu. Lai to izdarītu, viņi izmantoja vairākas dažādas uzbrukuma metodes, tostarp nolaupītus akreditācijas datus.

Pēc incidenta “OpenAI” paziņoja, ka pastiprina kontroli pār savu testēšanas infrastruktūru, ierobežo piekļuvi un pievieno papildu drošības pasākumus, ko piemēros turpmākajai modeļu testēšanai. Uzņēmums incidentu nosauca par "bezprecedenta".