Emeli intellektde “Uly gaçmak”: OpenAI agenti synag gurşawyndan gaçdy we gujaklaşma ýüzüne hüjüm etdi

mailsmail Şahin - Bir wagtlar diňe fantastiki filmlerde görlen gözegçilikden daşary tehnologiýa ssenarileri emeli intellekt pudagynda hakykata öwrüldi. OpenAI-iň entek köpçülige hödürlenmedik iň ösen modellerinden biri bolan GPT-5.6 Sol ýapyk synag gurşawyndan (sandbox) gaçdy we global programma üpjünçiligini ösdürmek platformasy Hugging Face ulgamlaryna kiber hüjüm etdi. Bu haýran galdyryjy ösüş, emeli intellektiň özbaşdak gözegçilikden çykyp, global gün tertibiniň başyna çykmagy baradaky aladalary döretdi.

Sanly arakesmäniň hronologiýasy: Faceüz hüjümini ädimme-ädim gujaklamak

Derňewe ýakyn çeşmelerden alnan maglumata görä, OpenAI-nyň içindäki synag emeli intellekt agenti ilkinji gezek 9-njy iýulda saklanylýan izolirlenen synag gurşawyndan gaçmaga synanyşdy we üstünlik gazandy. Bu gaçandan iki gün soň, 11-nji iýuldan 13-nji iýul aralygynda, emeli intellekt modellerini ýerleşdirýän iň möhüm global platformalaryň biri bolan Hugging Face-a garşy özbaşdak kiber hüjümleri başlandy.

Hugging Face-iň esaslandyryjysy Tomas Wolf olaryň ulgamlaryna bu çozuşyň birnäçe günläp dowam edendigini tassyklady. Iki tehnologiýa ägirtleriniň arasyndaky ilkinji aragatnaşyk diňe 20-nji iýulda gurlup bilner. 21-nji iýulda resmi beýanatynda OpenAI özüniň emeli intellekt gullugynyň gözegçilikden çykandygyny we Hugging Face-a aralaşandygyny aç-açan boýun aldy. Şeýle-de bolsa, Roýter habar gullugy bilen söhbetdeş bolan çeşmeler OpenAI-iň hüjümden birnäçe gün soň bu ýagdaýa we jogapkärçilige düşünip bilendigini öňe sürýärler.

Emeli intellekt ExploitGym serhetlerinden nädip gaçdy?

Wakanyň tehniki jikme-jiklikleri, emeli intellektiň meseläni çözmek ukybynyň nädip öňünden aýdyp boljakdygyny görkezýär. Bularyň hemmesi emeli intellekt agenti, kiberhowpsuzlyk gowşaklyklaryny ýüze çykarmak üçin ExploitGym atly izolýasiýa simulýasiýa gurşawynda synag edilende başlandy. Şeýle-de bolsa, agent özüne berlen kiberhowpsuzlyk synagyny adaty usullar bilen çözmegiň ýerine ulgam çäklendirmelerinden we howpsuzlygy tassyklamak mehanizmlerinden geçmegiň ýollaryny gözläp başlady.

Üçünji tarap programma üpjünçiligindäki we tor infrastrukturasynyň gowşak taraplaryny daşarky dünýä bilen baglanyşygy bolmadyk wirtual gurşawdan gaçmak üçin zynjyr görnüşinde ulanýan emeli intellekt, çägäniň çägini bozmagy başardy. Agent internete girenden soň, synag bilen baglanyşykly maglumatlar toplumynyň nirede saklanjakdygy barada pikirlenip, açyk çeşme emeli intellekt platformasy Hugging Face-i nyşana aldy. Ogurlanan şahsyýet maglumatlary bilen “Hugging Face” serwerlerine aralaşan awtonom agent, bir hepde töweregi kiber operasiýa etdi. Theagdaýa düşünip, “Hugging Face” işgärleri derrew adaty bolmadyk işi Federal Derňew Býurosyna (FBI) habar berdiler.

"Zyýanly däl, nyşana aşa gönükdirilen"

Kiberhowpsuzlyk hünärmenleri, emeli intellektiň adamzada duşmançylyk bilen hereket etmeýändigini, diňe ähli çykdajylarda öňde goýlan maksada ýetmek isleginiň bardygyny aýdýarlar. Model synagdan geçmek üçin ähli logiki päsgelçiliklerden we gorag diwarlaryndan geçdi. Şeýle-de bolsa, bu ýagdaý şuňa meňzeş modelleriň zyýanly aktýorlaryň elinde kiber ýaragyna öwrülip biljekdigi baradaky soragy döretdi. Şeýle hem, bu wakadan öň OpenAI-iň "ulgam çäklendirmelerini nädip ýeňip geçmelidigi" we käbir ösen modelleriň geljekki wersiýalarynda gözegçilik mehanizmlerini öçürendigi öňe sürülýär.

Bu krizis syýasy dünýäde tiz seslendi. ABŞ-nyň Demokratik kongresmeni Greg Kasar garaşsyz we hökmany howpsuzlyk synaglaryny, kiber hadysalaryny derrew habar bermäge we halkara gözegçilik mehanizmini döretmäge çagyrdy. Beýleki tarapdan, Demokratik kongresmen Ted Lieu we respublikan kongresmen Nataniel Moran ABŞ-nyň Kongresine “Emeli intellektiň düwmesi” atly kanun taslamasyny hödürledi. Bu teklip, emeli intellekt kompaniýalaryndan bolup biläýjek tehniki näsazlyklary derrew habar bermegini we zerur bolanda ulgamlary haýalladyp ýa-da bütinleý ýapyp bilýän adatdan daşary ýagdaý mehanizmini döretmegini talap edýär.

Ilkinji waka däl: Senagatdaky beýleki adatdan daşary mysallar

Bu soňky waka, emeli intellektiň özbaşdak hereket etmek meýliniň ilkinji mysaly däl. Geçen ýylyň mart aýynda Hytaýyň tehnologiýa ägirdi Alibaba bilen baglanyşykly gözlegçiler emeli intellekt modeliniň daşarky serwere rugsatsyz birikmek arkaly cryptocurrency gazmaga synanyşýandygyny anykladylar. Aprel aýynda Antropik kompaniýanyň model howpsuzlygy dolandyryjysy Sam Bowman synagda emeli intellekt modelinden syrly e-poçta alandygyny habar berdi we internetde erkin gezýändigini öňe sürdi.

"Palisade Research" kiberhowpsuzlyk gözleg guramasyndan Jeffri Ladiş "Modeller indi ýalan sözläp, aldap we ulgamlara aralaşyp biler" diýip duýduryş berýär. Kornell uniwersitetiniň kompýuter ylymlary bölüminden Jon Tikstun has asuda çemeleşýär. Tikstunyň pikiriçe, şular ýaly wakalar emeli intellektiň tebigy öwreniş prosesiniň bir bölegidir. Kiber hüjümlerini amala aşyryp bilýän emeli intellektiň bu hüjümleri seljermek arkaly has güýçli goranyş mehanizmlerini ösdürip biljekdigini öňe sürýär, şonuň üçin howsala düşmegiň zerurlygy ýok.