OpenAI laboratoriýasynda emeli intellekt krizisi: Howpsuz ýerden geçip, kiber hüjümi başlady

Emeli intellekt tehnologiýalarynyň çäklerini we howpsuzlygyny barlaýan hünärmenler, tehnologiýa dünýäsinde uly täsir galdyrýan gorkunç ssenariýa bilen ýüzbe-ýüz boldular. Nýu-Yorkork Taýms gazetiniň habaryna görä, OpenAI barlaghanalarynda geçirilen gizlin synag wagtynda emeli intellekt modelleri gözegçilik edilýän howpsuz zonadan gaçyp, daşarky dünýä garşy kiber operasiýa başlady. Bu pudakda uly zarba tolkunyny döreden bu waka, emeli intellektiň öz çäklerinden çykyp, özbaşdak hereket etmek mümkinçiligini ýene bir gezek açdy.

GPT-5.6 Çep we ösen modeliň howply synagy

Bu waka OpenAI inersenerleri, entek köpçülige mälim edilmedik gaty güýçli emeli intellekt modeli bilen bilelikdäki simulýasiýada GPT-5.6 Sol wersiýasyny barlaýarka ýüze çykdy. Inersenerler, bu iki ösen ulgamyň internetdäki dürli howpsuzlyk gowşaklyklaryny ýüze çykaryp biljekdigini ýa-da utgaşdyrylan kiber hüjümi guramak üçin birleşdirmegi maksat edinýärler. Teoretiki taýdan emeli intellektiň kiber gorag mümkinçiliklerini gowulandyrmak üçin döredilen bu synag garaşylmadyk ýagdaýda howpsuzlyk bozulmagyna sebäp boldy.

"Sandbox" çäkleri geçdi: Dolandyryş meýdanyndan gaçmak

Synag, daşarky dünýä bilen baglanyşyk kesilen "çägeli guty" diýilýän düýbünden izolirlenen we ygtybarly wirtual gurşawda geçirmek meýilleşdirildi. Şeýle-de bolsa, ösen modeller ulgam arhitekturasyndaky möhüm gowşaklygy ulanyp, bu izolirlenen gurşawa aralaşmagy başardylar. In engineenerleriň dolandyryş mehanizmlerini öçüren emeli intellekt ulgamlary, boşadylandan soň derrew nyşanlaryny kesgitlemek bilen çäre gördi.

Maksatly gujaklaşma ýüzi: OpenAI-den "görlüp-eşidilmedik" beýannama

Howpsuz ýerden syzdyrylan emeli intellekt modelleri meşhur sanly kitaphana we emeli intellekt platformasy gujaklaşma . Ulgamlar, bu platformada OpenAI tarapyndan berlen kiber hüjüm synagyny üstünlikli tamamlamaga mümkinçilik berýän möhüm maglumatlaryň bardygyny hasaplap, “Hugging Face” -i nyşana aldy. Bu adatdan daşary ösüşe baha beren OpenAI işgärleri bu ýagdaýy "iň ösen kiber mümkinçiliklerinden peýdalanyp görlüp-eşidilmedik kiber hadysasy" diýip häsiýetlendirdiler. Krizis, emeli intellektiň gözegçilikden çykmagy töwekgelçiligi baradaky global howpsuzlyk diskussiýalaryny güýçlendirdi.