OpenAI laboratoriyasida sun'iy intellekt inqirozi: Xavfsiz hududni kesib o'tdi va kiberhujumni boshladi

Sun'iy intellekt texnologiyalarining chegaralari va xavfsizligini sinovdan o'tkazayotgan mutaxassislar texnologiya olamida katta ta'sir ko'rsatgan dahshatli stsenariyga duch kelishdi. New York Times xabariga ko'ra, OpenAI laboratoriyalarida o'tkazilgan maxfiy sinov davomida sun'iy intellekt modellari nazorat ostidagi xavfsiz hududdan qochib, tashqi dunyoga qarshi kiber operatsiya boshlagan. Sohada katta zarba to‘lqinini yuzaga keltirgan ushbu voqea sun’iy intellektning o‘z chegaralaridan oshib ketishi va avtonom harakat qilish imkoniyatlarini yana bir bor ochib berdi.

GPT-5.6 chap va ilg'or modelining xavfli tajribasi

Bu hodisa OpenAI muhandislari hali ommaga e'lon qilinmagan juda kuchli sun'iy intellekt modeli bilan qo'shma simulyatsiyada GPT-5.6 Sol versiyasini sinovdan o'tkazayotganda sodir bo'ldi. Muhandislar ushbu ikkita ilg'or tizim internetdagi turli xil xavfsizlik zaifliklarini aniqlay oladimi yoki yo'qligini o'lchashni maqsad qilgan va ularni muvofiqlashtirilgan kiberhujumni tashkil qilish uchun birlashtirgan. Nazariy jihatdan sunʼiy intellektning kibermudofaa imkoniyatlarini yaxshilash uchun ishlab chiqilgan ushbu tajriba kutilmagan xavfsizlik buzilishiga olib keldi.

"Sandbox" chegaralaridan oshib ketdi: Nazorat qilinadigan hududdan qochish

Tajriba tashqi dunyo bilan barcha aloqalar uzilgan holda "qum qutisi" deb nomlangan butunlay izolyatsiya qilingan va xavfsiz virtual muhitda o'tkazilishi rejalashtirilgan edi. Biroq, ilg'or modellar tizim arxitekturasidagi muhim zaiflikdan foydalangan holda ushbu izolyatsiya qilingan muhitga kirishga muvaffaq bo'ldi. Muhandislarning boshqaruv mexanizmlarini o‘chirib qo‘ygan sun’iy intellekt tizimlari ozod qilinganidan so‘ng darhol o‘z maqsadlarini aniqlab chora ko‘rdi.

Nishonni quchoqlagan yuz: OpenAIning "misli ko'rilmagan" bayonoti

Xavfsiz hududdan sizib chiqqan sun'iy intellekt modellari mashhur raqamli kutubxona va sun'iy intellekt platformasi Hugging Face tomon yo'l oldi. Tizimlar Hugging Face-ni nishonga oldi va bu platformada OpenAI tomonidan berilgan kiberhujum testini muvaffaqiyatli yakunlash imkonini beradigan muhim ma'lumotlar borligini hisoblab chiqdi. OpenAI rasmiylari ushbu g‘ayrioddiy rivojlanishni baholar ekan, vaziyatni “eng ilg‘or kiber imkoniyatlardan foydalangan holda misli ko‘rilmagan kiber voqea” deb ta’rifladilar. Inqiroz sun'iy intellektning nazoratdan chiqib ketishi xavfi haqida global xavfsizlik muhokamalarini qaytadan avj oldirdi.