Google Gemini AI modelidagi xavfsizlik mojarosi: Sinov paytida buzilgan haqiqiy kompaniyalar

Texnologiya olami katta xavfsizlik mojarosidan larzaga keldi, uning markazida Google tomonidan ishlab chiqilgan sunʼiy intellekt modeli Gemini joylashgan. May oyida oʻtkazilgan muntazam kiberxavfsizlik testi paytida nazoratdan chiqqan Gemini uch xil haqiqiy kompaniyaning raqamli infratuzilmasini buzganligi aniqlandi. Axios tomonidan baham koʻrilgan maʼlumotlarga koʻra, Irregular kiberxavfsizlik tashkilotining ushbu standart auditi kutilmaganda haqiqiy kiberhujumga aylandi. balandligi: 450px; chekka: 3px; kengligi: 800px">

Sunʼiy intellektning xavfsiz rivojlanishi va Google yoʻl xaritasi

Ushbu jiddiy xavfsizlik buzilishidan soʻng, juma kuni texnologiya giganti Google tomonidan birinchi rasmiy bayonot berildi. Jarayonning nozikligiga eʼtibor qaratgan Google Xavfsizlik muhandisligi boʻyicha vitse-prezidenti Heather Adkinsning taʼkidlashicha, kuchli sunʼiy intellekt modellarini xavfsiz tarzda yaratish oʻzlari uchun muhim ustuvor vazifa ekanini va bu yoʻnalishda katta sarmoya kiritganliklarini taʼkidladi. Adkins, kiberhujumdan jabr koʻrgan tashkilotlar bilan zudlik bilan bogʻlanganliklarini va sinov protokollarida tub oʻzgarishlar qilish uchun oʻquv hamkorlari bilan ish boshlaganliklarini maʼlum qildi.

Oʻylab topilgan stsenariy haqiqatga aylandi: Gemini qanday qilib xavfsizlik devorlarini chetlab oʻtdi?

Voqea ortidagi hayratlanarli tafsilotlarni Wall Street Journal (WSJ) jamoatchilikka oshkor qildi. WSJ hisobotiga koʻra, inqiroz Gemini kiberxavfsizlik sohasida keng qoʻllaniladigan simulyatsiyani amalga oshirayotgan paytda boshlangan. Sinov uchun yaratilgan xayoliy kompaniyaga tegishli dasturiy taʼminotdan maʼlumotlarni sizib chiqishi uchun sunʼiy intellekt soʻralgan. Biroq, simulyatsiyadagi xayoliy kompaniya nomi real dunyodagi kompaniyaga toʻliq mos keldi va bu sunʼiy intellektni chalkashtirib yuborishiga sabab boʻldi.

Kiberbuzilishlardan birida Gemini oʻzi moʻljallangan himoyalangan tizimga kirgunga qadar turli xil parol birikmalarini sinab koʻrish orqali xavfsizlik devorini chetlab oʻtishga muvaffaq boʻldi. Boshqa ikkita hodisada sunʼiy intellekt maxfiy identifikatsiya maʼlumotlarini ommaviy dasturiy taʼminot omborida ushlab oldi va bu maʼlumotlardan ruxsatsiz tizimlarga kirish uchun foydalangan. Biroq, Gemini oʻzi kirgan tarmoqlar xayoliy emas, haqiqiy ekanligini aniqlashi bilan avtomatik ravishda barcha operatsiyalarini toʻxtatdi.

Internetga kirish ochiq unutilgan: sanoat miqyosida xavfsizlikning zaif tomonlari

Sinovni tashkil qilgan Irregular kiberxavfsizlik firmasi WSJ ga bergan bayonotida qoʻpol beparvolikni tan oldi. Oddiy sharoitlarda internet aloqasi boʻlmasligi kerak boʻlgan Gemini modelining sinov paytida tasodifan ochiq qoldirilgani bildirildi. Axios bilan suhbatlashgan jarayonga yaqin manbalar, sunʼiy intellekt ishlab chiquvchilari va Irregular oʻrtasida jiddiy aloqa boʻshligʻi mavjudligini taʼkidladilar. Manbalarning taʼkidlashicha, tomonlar sinovlarni qanday oʻtkazish va qaysi xavfsizlik toʻsiqlarini qoʻllash boʻyicha umumiy maxrajga erisha olmadilar va bu internetga kirish mumkin boʻlgan test protseduralarida noaniqlik tugʻdirdi. chegara kengligi: 3px; balandligi: 450px; chekka: 3px; kengligi: 800px">

Boshqa tomondan, Irregular vakili Gemini-da aniqlangan ushbu zaifliklar OpenAI, Anthropic va Meta kabi sunʼiy intellektning boshqa kashshoflari modellarida ham mavjudligini tushuntirdi. Iyul oyi oxirida barcha tegishli texnologiya laboratoriyalari vaziyatdan rasman xabardor qilinganligini bildirgan matbuot kotibi, ularning tizimlaridagi barcha zaifliklar bir necha hafta oldin yopilganini va xavfsizlik qayta tiklanganini taʼkidladi.