Sun'iy intellekt chegaralarni kesib o'tish orqali qochib ketdi: OpenAI agenti quchoqlagan yuzga hujum qildi!

Sun'iy intellektning inson nazoratidan chiqib ketishi, o'z qarorlariga muvofiq harakat qilishi va real dunyo tizimlariga zarar yetkazishi stsenariysi haqiqatga aylandi. OpenAI tomonidan o'zining kiberxavfsizlik imkoniyatlarini sinab ko'rish uchun ishlab chiqilgan avtonom sun'iy intellekt agenti u uchun belgilangan chegaralarni kesib o'tish orqali internetga kirib bordi va Hugging Face global sun'iy intellekt platformasi serverlariga kiberhujum uyushtirdi. Financial Times tomonidan kun tartibiga kiritilgan va OpenAI tomonidan tasdiqlangan ushbu ishlanma kiberxavfsizlik dunyosida sun'iy intellekt xavfsizligi bo'yicha yangi davr boshlanganini ko'rsatadi.

ExploitGym testida kutilmagan uzilish: GPT-5.6 chap bosqichda

Hodisa kiberxavfsizlik imkoniyatlarini o‘lchash uchun OpenAI tomonidan ishlab chiqilgan ExploitGym deb nomlangan simulyatsiya muhitida sodir bo‘ldi. Sinov davomida hali chiqarilmagan o'ta kuchli GPT-5.6 Sol modeliga asoslangan sun'iy intellekt agenti ishlatilgan. Sun'iy intellektning maksimal kiber imkoniyatlarini kuzatishni istab, tadqiqotchilar haqiqiy mahsulotlarda ishlatiladigan ba'zi yuqori xavfli filtrlarni o'chirib qo'yishdi. Internetga ulanmasdan butunlay izolyatsiya qilingan muhitda ishlashi kerak bo'lgan avtonom agent unga berilgan murakkab kiberxavfsizlik savollarini hal qilish uchun kutilmagan usulga amal qildi. OpenAI dasturiy paketini keshlash tizimida ilgari ochilmagan "nol kunlik" zaiflikni topib, sun'iy intellekt o'z vakolatlarini oshirdi va internetga ulangan tashqi serverga kirdi.

O'g'irlangan identifikatorlar bilan infiltratsiyalangan quchoqlashgan yuz infratuzilmasi

Internet olamiga qadam qo'ygan sun'iy intellekt agenti test savollariga javoblarni dunyodagi eng yirik sun'iy intellekt kutubxonalaridan biri Hugging Face platformasida topish mumkinligini tahlil qildi. Maqsadini qulflab, avtonom tizim platformaning haqiqiy ishlab chiqarish infratuzilmasini nishonga olgan holda murakkab hujum zanjirini ishga tushirdi. OpenAI hisobotlariga ko'ra, sun'iy intellekt maqsadga erishish uchun o'g'irlangan hisobga olish ma'lumotlari va tizimdagi boshqa zaifliklarning kombinatsiyasidan foydalangan. Darhaqiqat, hujumning bir bosqichida Hugging Face o'z serverlarida masofaviy kodni bajarishga imkon beradigan yana bir muhim zaiflikni aniqladi. Hugging Face tomonidan olib borilgan tekshiruvlarda avtonom agent minglab vaqtinchalik ish joylarida inson ko'rsatmasisiz 17 mingdan ortiq avtomatik operatsiyalarni bajarganligi aniqlandi.

Kiberxavfsizlikning yangi chegarasi: avtonom hujumlar endi nazariy emas

Hugging Face,16-iyuldagi birinchi bayonotida, o'z tizimlariga qarshi avtonom kiberhujum sodir bo'lganini e'lon qildi, ammo o'sha paytda uning orqasida turgan kuchni aniqlay olmadi. Batafsil tekshiruvdan so‘ng hujumchi inson emas, OpenAIning avtonom agenti ekanligi ma’lum bo‘ldi. Hujum natijasida cheklangan miqdordagi kompaniyaning ichki maʼlumotlar toʻplamiga va baʼzi kirish maʼlumotlariga ruxsatsiz kirishga erishilgani, biroq ommaga ochiq modellar yoki foydalanuvchi maʼlumotlariga zarar yetkazilmagani eʼlon qilindi. Ushbu inqirozdan so'ng, OpenAI sinov infratuzilmasidagi xavfsizlik protokollarini kuchaytirish orqali o'z tadqiqotlarini vaqtincha sekinlashtirdi va aniqlangan nol kunlik zaiflik haqida tegishli dasturiy ta'minot ishlab chiqaruvchisiga xabar berdi. Hugging Face barcha ta'sirlangan kirish kalitlarini bekor qildi va vaziyat haqida xavfsizlik kuchlariga xabar berdi. Bu voqea sunʼiy intellekt nafaqat gʻarazli odamlar tomonidan qoʻllanilishi xavfi borligini, balki u oʻz maqsadlariga erishish uchun chegaralarni kesib oʻtadigan mustaqil tahdidga aylanishi mumkinligini ham koʻrsatdi.