Google Gemini AI modelidagi xavfsizlik mojarosi: Sinov paytida buzilgan haqiqiy kompaniyalar

Texnologiya olami katta xavfsizlik mojarosidan larzaga keldi, uning markazida Google tomonidan ishlab chiqilgan sun'iy intellekt modeli Gemini joylashgan. May oyida o'tkazilgan muntazam kiberxavfsizlik testi paytida nazoratdan chiqqan Gemini uch xil haqiqiy kompaniyaning raqamli infratuzilmasini buzganligi aniqlandi. Axios tomonidan baham ko'rilgan ma'lumotlarga ko'ra, Irregular kiberxavfsizlik tashkilotining ushbu standart auditi kutilmaganda haqiqiy kiberhujumga aylandi. balandligi: 450px; chekka: 3px; kengligi: 800px">

Sun'iy intellektning xavfsiz rivojlanishi va Google yo'l xaritasi

Ushbu jiddiy xavfsizlik buzilishidan so'ng, juma kuni texnologiya giganti Google tomonidan birinchi rasmiy bayonot berildi. Jarayonning nozikligiga e’tibor qaratgan Google Xavfsizlik muhandisligi bo’yicha vitse-prezidenti Heather Adkinsning ta’kidlashicha, kuchli sun’iy intellekt modellarini xavfsiz tarzda yaratish o’zlari uchun muhim ustuvor vazifa ekanini va bu yo’nalishda katta sarmoya kiritganliklarini ta’kidladi. Adkins, kiberhujumdan jabr ko‘rgan tashkilotlar bilan zudlik bilan bog‘langanliklarini va sinov protokollarida tub o‘zgarishlar qilish uchun o‘quv hamkorlari bilan ish boshlaganliklarini ma’lum qildi.

O'ylab topilgan stsenariy haqiqatga aylandi: Gemini qanday qilib xavfsizlik devorlarini chetlab o'tdi?

Voqea ortidagi hayratlanarli tafsilotlarni Wall Street Journal (WSJ) jamoatchilikka oshkor qildi. WSJ hisobotiga ko'ra, inqiroz Gemini kiberxavfsizlik sohasida keng qo'llaniladigan simulyatsiyani amalga oshirayotgan paytda boshlangan. Sinov uchun yaratilgan xayoliy kompaniyaga tegishli dasturiy ta'minotdan ma'lumotlarni sizib chiqishi uchun sun'iy intellekt so'ralgan. Biroq, simulyatsiyadagi xayoliy kompaniya nomi real dunyodagi kompaniyaga to‘liq mos keldi va bu sun’iy intellektni chalkashtirib yuborishiga sabab bo‘ldi.

Kiberbuzilishlardan birida Gemini oʻzi moʻljallangan himoyalangan tizimga kirgunga qadar turli xil parol birikmalarini sinab koʻrish orqali xavfsizlik devorini chetlab oʻtishga muvaffaq boʻldi. Boshqa ikkita hodisada sun'iy intellekt maxfiy identifikatsiya ma'lumotlarini ommaviy dasturiy ta'minot omborida ushlab oldi va bu ma'lumotlardan ruxsatsiz tizimlarga kirish uchun foydalangan. Biroq, Gemini oʻzi kirgan tarmoqlar xayoliy emas, haqiqiy ekanligini aniqlashi bilan avtomatik ravishda barcha operatsiyalarini toʻxtatdi.

Internetga kirish ochiq unutilgan: sanoat miqyosida xavfsizlikning zaif tomonlari

Sinovni tashkil qilgan Irregular kiberxavfsizlik firmasi WSJ ga bergan bayonotida qo'pol beparvolikni tan oldi. Oddiy sharoitlarda internet aloqasi bo'lmasligi kerak bo'lgan Gemini modelining sinov paytida tasodifan ochiq qoldirilgani bildirildi. Axios bilan suhbatlashgan jarayonga yaqin manbalar, sun'iy intellekt ishlab chiquvchilari va Irregular o'rtasida jiddiy aloqa bo'shlig'i mavjudligini ta'kidladilar. Manbalarning ta'kidlashicha, tomonlar sinovlarni qanday o'tkazish va qaysi xavfsizlik to'siqlarini qo'llash bo'yicha umumiy maxrajga erisha olmadilar va bu internetga kirish mumkin bo'lgan test protseduralarida noaniqlik tug'dirdi. chegara kengligi: 3px; balandligi: 450px; chekka: 3px; kengligi: 800px">

Boshqa tomondan, Irregular vakili Gemini-da aniqlangan ushbu zaifliklar OpenAI, Anthropic va Meta kabi sun'iy intellektning boshqa kashshoflari modellarida ham mavjudligini tushuntirdi. Iyul oyi oxirida barcha tegishli texnologiya laboratoriyalari vaziyatdan rasman xabardor qilinganligini bildirgan matbuot kotibi, ularning tizimlaridagi barcha zaifliklar bir necha hafta oldin yopilganini va xavfsizlik qayta tiklanganini ta'kidladi.