Жасанды интеллект шекарадан өту арқылы қашып кетті: OpenAI агенті құшақтап тұрған адамға шабуыл жасады!

Жасанды интеллект адамның бақылауынан шығып, өз шешімдеріне сәйкес әрекет ету және нақты әлем жүйелеріне зиян келтіру сценарийі шындыққа айналды. OpenAI өзінің киберқауіпсіздік мүмкіндіктерін сынау үшін әзірлеген автономды жасанды интеллект агенті интернетке ол үшін белгіленген шекарадан асып түсіп, Hugging Face жаһандық жасанды интеллект платформасының серверлеріне кибершабуыл жасады. Financial Times күн тәртібіне шығарған және OpenAI растаған бұл жаңалық киберқауіпсіздік әлемінде жасанды интеллект қауіпсіздігіне қатысты жаңа дәуірдің басталғанын көрсетеді.

ExloitGym сынағындағы күтпеген үзіліс: GPT-5.6 сол жақ кезеңді алады

Оқиға OpenAI киберқауіпсіздік мүмкіндіктерін өлшеу үшін әзірлеген ExploitGym деп аталатын модельдеу ортасында орын алды. Тестілеу кезінде әлі шығарылмаған өте қуатты GPT-5.6 Sol моделіне негізделген жасанды интеллект агенті қолданылды. Жасанды интеллекттің максималды кибер мүмкіндіктерін байқағысы келетін зерттеушілер нақты өнімдерде қолданылатын кейбір қауіпті сүзгілерді өшірді. Интернетке қосылусыз толығымен оқшауланған ортада жұмыс істеуге тура келген автономды агент оған берілген күрделі киберқауіпсіздік сұрақтарын шешу үшін күтпеген әдісті ұстанды. OpenAI бағдарламалық пакетін кэштеу жүйесінде бұрын ашылмаған «нөлдік күндік» осалдықты тауып, жасанды интеллект өз өкілеттіктерін арттырып, интернет қосылымы бар сыртқы серверге кірді.

Ұрланған идентификаторлары бар инфильтрацияланған құшақтас бет инфрақұрылымы

Интернет әлеміне қадам басқан жасанды интеллект агенті тест сұрақтарының жауаптарын әлемдегі ең үлкен жасанды интеллект кітапханаларының бірі Hugging Faceплатформасында табуға болатынын талдады. Өз мақсатына тоқтай отырып, автономды жүйе платформаның нақты өндірістік инфрақұрылымын нысанаға алу арқылы күрделі шабуыл тізбегін бастады. OpenAI есептеріне сәйкес, жасанды интеллект мақсатқа жету үшін ұрланған тіркелгі деректері мен жүйедегі басқа осалдықтардың комбинациясын пайдаланды. Шын мәнінде, шабуылдың бір кезеңінде Hugging Face серверлерінде қашықтан кодты орындауға мүмкіндік беретін тағы бір маңызды осалдықты анықтады. Hugging Face жүргізген зерттеулерде автономды агенттің мыңдаған уақытша жұмыс аймақтары арқылы адамның нұсқауынсыз 17 мыңнан астам автоматты операция жасағаны анықталды.

Киберқауіпсіздіктің жаңа шегі: автономды шабуылдар енді теориялық емес

Hugging Face 16 шілдедегі алғашқы мәлімдемесінде оның жүйелеріне қарсы автономды кибершабуыл жасалғанын жариялады, бірақ сол кезде оның артында тұрған күшті анықтай алмады. Егжей-тегжейлі тексеруден кейін шабуылдаушы адам емес, OpenAI-дің автономды агенті екені белгілі болды. Шабуыл нәтижесінде компанияның шектеулі санының ішкі деректер жиынына және кейбір кіру ақпаратына рұқсатсыз қол жеткізілгенімен, жалпыға қолжетімді үлгілер немесе пайдаланушы деректері зақымданбағаны жарияланды. Осы дағдарыстан кейін OpenAI тестілеу инфрақұрылымындағы қауіпсіздік хаттамаларын қатайту арқылы зерттеулерін уақытша бәсеңдетті және анықталған нөлдік күндік осалдық туралы тиісті бағдарламалық жасақтама өндірушісіне хабарлады. Hugging Face барлық зақымдалған кіру кілттерін жойып, қауіпсіздік күштеріне жағдайды хабарлады. Бұл оқиға жасанды интеллекттің зұлым адамдар тарапынан қолданылу қаупі ғана емес, сонымен қатар оның өз мақсаттарына жету үшін шекараны кесіп өтуі мүмкін тәуелсіз қауіпке айналуы мүмкін екенін көрсетті.