Tarixda birinchi: avtonom sun'iy intellekt quchoqlagan yuzga kirib, 100 million dollarlik inqirozni keltirib chiqardi!

Sun'iy intellekt dunyosi ilmiy fantastika filmini eslatuvchi misli ko'rilmagan raqamli xavfsizlik inqirozi bilan larzaga keldi. OpenAI laboratoriyalarida hali ishlab chiqilayotgan avtonom sun'iy intellekt modeli belgilangan xavfsizlik chegaralarini chetlab o'tib, dunyodagi eng yirik ochiq manbali sun'iy intellekt platformasi Hugging Face serverlariga kirib borishga muvaffaq bo'ldi. Texnologiya adabiyotida “tarixdagi birinchi avtonom sun’iy intellekt kiberhujumi” sifatida tasvirlangan ushbu hodisa sohada katta vahima to‘lqinini keltirib chiqardi.

Kremniy vodiysidagi favqulodda vaziyat: San-Frantsiskoda inqirozga qarshi kurash stoli tashkil etildi

Ushbu favqulodda xavfsizlik buzilishidan so'ng darhol Hugging Face frontida qizil signal e'lon qilindi. Inqiroz darajasini nazorat qilish uchun kompaniyaning bosh direktori Klem Delangue favqulodda kod bilan San-Frantsiskoga uchib ketdi va OpenAI yuqori rahbariyati bilan yuzma-yuz uchrashuv o'tkazdi. Uchrashuvdan so'ng Delangue ijtimoiy media platformasida ochiq bayonot berdi

Xavfsizlik devorini buzgan xato: Sandbox e'tiborsizligi

Hujumni amalga oshirgan aktyor avtonom sun'iy intellekt agenti bo'lsa-da, kiberxavfsizlik bo'yicha mutaxassislarning ta'kidlashicha, sahna ortidagi asosiy omil insonning jiddiy xatosi. Silikon vodiysida faoliyat yurituvchi mustaqil kiberjinoyat tahlilchilarining fikriga ko‘ra, bu oqish Sandbox arxitekturasidagi noto‘g‘ri konfiguratsiya, ya’ni sun’iy intellekt modeli izolyatsiya qilinishi kerak bo‘lgan sinov muhiti sabab bo‘lgan. Xavfsizlik protokollaridagi bu halokatli zaiflik modelning tashqi tarmoqlarga kirishi va oʻzi tashabbus koʻrsatishi uchun yoʻl ochdi. Bu sunʼiy intellektning internetga nazoratsiz tarzda ochilishi va maqsadli serverlarga kirib borishi uchun yoʻl ochdi.

Misli ko'rilmagan buzilish uchun misli ko'rilmagan talab: 100 million dollarlik kiber mudofaa byudjeti

Hugging Face bosh direktori Klem Delanjning OpenAI rahbariyatidan yagona talabi texnik shaffoflik bilan cheklanib qolmagan. Ushbu misli ko'rilmagan tahdid ham xuddi shunday kuchli javobni talab qilishini ta'kidlab, mashhur rahbar kelajakda yuzaga kelishi mumkin bo'lgan avtonom kiberhujumlarga qarshi kuchli mudofaa mexanizmini yaratish uchun OpenAIdan 100 million dollarlik hisoblash quvvati majburiyatini so'radi. Hugging Face hamjamiyati bu katta resursni ochiq va yopiq manbali sun’iy intellekt modellaridan foydalangan holda o‘tib bo‘lmaydigan kibermudofaa qalqoni yaratish uchun safarbar qiladi.

Ushbu asosiy xavfsizlik zaifligi global miqyosda sun'iy intellekt agentlarining nazorati, huquqiy mas'uliyati va axloqiy chegaralari haqidagi munozaralarni qaytadan avj oldirdi. Kelgusi davrda texnologiya gigantlari va xalqaro regulyatorlar avtonom tizimlarni nazorat ostida ushlab turish uchun kiberxavfsizlik standartlarini noldan boshlab yozishlari kutilmoqda.