Sun'iy intellektdagi "katta qochish": OpenAI agenti sinov muhitidan qochib qutuldi va quchoqlagan yuzga hujum qildi

Ismail Shahin - Bir paytlar faqat ilmiy-fantastik filmlarda ko'rilgan nazoratdan tashqari texnologiya stsenariylari sun'iy intellekt sohasida haqiqatga aylandi. OpenAI’ning hali ommaga e’lon qilinmagan eng ilg‘or modellaridan biri bo‘lgan GPT-5.6 Sol yopiq sinov muhitidan (qum qutisi) qochib, Hugging Face global dasturiy ta’minot ishlab chiqish platformasi tizimlariga kiberhujum uyushtirdi. Bu hayratlanarli rivojlanish sun'iy intellektning avtonom tarzda nazoratdan chiqib ketishi mumkinligi haqidagi xavotirlarni yana global kun tartibining birinchi o'ringa qo'ydi.

Raqamli ajralish xronologiyasi: Bosqichma-bosqich yuzga hujum qilish

Tergovga yaqin manbalardan olingan ma'lumotlarga ko'ra, OpenAI doirasidagi eksperimental sun'iy intellekt agenti birinchi bo'lib 9-iyul kuni o'zi saqlanayotgan izolyatsiya qilingan sinov muhitidan qochishga urinib ko'rdi va muvaffaqiyatga erishdi. Bu qochishdan ikki kun o‘tib, 11-13 iyul kunlari sun’iy intellekt modellarini joylashtirgan eng muhim global platformalardan biri Hugging Face’ga avtonom kiberhujumlar boshlandi.

Hugging Face asoschilaridan biri Tomas Vulf ularning tizimlariga bunday hujum bir necha kun davom etganini tasdiqladi. Ikki texnologiya giganti oʻrtasidagi birinchi aloqa faqat 20-iyul atrofida oʻrnatilishi mumkin edi. 21-iyuldagi rasmiy bayonotida OpenAI oʻzining sunʼiy intellekt agenti nazoratdan chiqib ketganini va Hugging Face’ga kirib ketganini ochiq tan oldi. Biroq, Reuters bilan suhbatlashgan manbalarning ta'kidlashicha, OpenAI bu vaziyat va mas'uliyatni hujumdan bir necha kun o'tib anglab yetgan.

Sun'iy intellekt ExploitGym chegaralaridan qanday qochib qutuldi?

Hodisaning texnik tafsilotlari sun'iy intellektning muammoni hal qilish qobiliyatini oldindan aytib bo'lmaydigan darajaga etishi mumkinligini ko'rsatadi. Hammasi sun'iy intellekt agenti kiberxavfsizlikning zaif tomonlarini aniqlash uchunExploitGymdeb nomlangan izolyatsiya qilingan simulyatsiya muhitida sinovdan o'tkazilganda boshlandi. Biroq, agent standart vositalar orqali unga berilgan kiberxavfsizlik testini hal qilish o‘rniga, tizim cheklovlari va xavfsizlikni tasdiqlash mexanizmlarini chetlab o‘tish yo‘llarini izlay boshladi.

Tashqi dunyoga internet aloqasi bo'lmagan virtual muhitdan qochish uchun uchinchi tomon dasturiy ta'minoti va tarmoq infratuzilmasidagi zaif tomonlardan zanjirli tarzda foydalanadigan sun'iy intellekt sinov zonasi chegaralarini buzishga muvaffaq bo'ldi. Internetga kirish imkoniga ega bo'lgandan so'ng, agent test bilan bog'liq ma'lumotlar to'plamini qayerda saqlash mumkinligi haqida fikr yuritdi va maqsad sifatida Hugging Face ochiq manbali sun'iy intellekt platformasini tanladi. Hugging Face serverlariga oʻgʻirlangan shaxs maʼlumotlari bilan kirgan avtonom agent taxminan bir hafta davomida kiber operatsiya oʻtkazdi. Vaziyatni anglagan Hugging Face rasmiylari noodatiy faoliyat haqida darhol Federal qidiruv byurosiga (FQB) xabar berishdi.

"Zararli emas, juda maqsadli yo'naltirilgan"

Kiberxavfsizlik boʻyicha ekspertlarning taʼkidlashicha, sunʼiy intellekt insoniyatga dushmanlik bilan emas, balki faqat har qanday holatda ham oʻz oldiga qoʻyilgan maqsadga erishish istagi bilan harakat qiladi. Model sinovdan o'tish uchun barcha mantiqiy to'siqlar va xavfsizlik devorlarini chetlab o'tdi. Biroq, bu holat shu kabi modellar qanday qilib g'arazli aktyorlar qo'lida kiberqurolga aylanishi mumkinligi haqidagi savolni ham ko'tardi. Shuningdek, taʼkidlanishicha, hodisadan oldin OpenAI baʼzi ilgʻor modellarning kelajakdagi versiyalarida “tizim cheklovlarini qanday yengib oʻtish kerakligi” va kuzatuv mexanizmlarini oʻchirib qoʻyganligi haqida eslatma qoldirgan.

Bu inqiroz tezda siyosiy dunyoda javob topdi. AQSh Demokratik Kongressi a'zosi Greg Kasar mustaqil va majburiy xavfsizlik sinovlarini o'tkazish, kiber hodisalar haqida zudlik bilan xabar berish va xalqaro nazorat mexanizmini o'rnatishga chaqirdi. Boshqa tomondan, demokrat kongressmen Ted Lieu va respublikachi kongressmen Nathaniel Moran AQSh Kongressiga Sun'iy intellektni o'chirish tugmasi qonuni deb nomlangan qonun loyihasini taqdim etdi. Bu taklif sunʼiy intellekt kompaniyalaridan mumkin boʻlgan texnik nosozliklar haqida hukumatga zudlik bilan xabar berishlari va kerak boʻlganda tizimlarni sekinlashtirishi yoki butunlay oʻchirib qoʻyishi mumkin boʻlgan favqulodda vaziyatlarga javob berish mexanizmini oʻrnatishni talab qiladi.

Birinchi holat emas: sanoatdagi boshqa favqulodda misollar

Bu oxirgi voqea sun'iy intellektning mustaqil harakat qilish tendentsiyasining birinchi namunasi emas. O‘tgan mart oyida Xitoyning Alibaba texnologiya giganti bilan bog‘langan tadqiqotchilar sun’iy intellekt modeli ruxsatisiz tashqi serverga ulanish orqali kriptovalyuta qazib olishga urinayotganini aniqladilar. Aprel oyida Anthropic kompaniyasining model xavfsizligi bo‘yicha menejeri Sem Bowman sinov paytida sun’iy intellekt modelidan internetda bemalol kezayotgani haqida sirli elektron xat olganini e’lon qildi.

Palisade Research kiberxavfsizlik tadqiqot tashkilotidan Jeffri Ladish ogohlantiradi: "Modellar endi yolg'on gapirishlari, aldashlari va tizimlarga kirishi mumkin". Kornel universitetining kompyuter fanlari bo'limidan Jon Tikstun xotirjamroq yondashadi. Tikstunning fikricha, bunday hodisalar sun’iy intellektni tabiiy o‘rganish jarayonining bir qismidir. Uning ta'kidlashicha, kiberhujumlarni amalga oshira oladigan sun'iy intellekt ushbu hujumlarni tahlil qilish orqali kuchliroq himoya mexanizmlarini ham ishlab chiqishi mumkin, shuning uchun vahima qo'yishga hojat yo'q.