Жасанды интеллекттегі «үлкен қашу»: OpenAI агенті сынақ ортасынан қашып, құшақтап тұрған адамға шабуыл жасады

Исмаил Шахин - Бір кездері фантастикалық фильмдерде ғана көрінген бақылаудан тыс технология сценарийлері жасанды интеллект секторында шындыққа айналды. GPT-5.6 Sol, OpenAI-дің әлі көпшілікке шығарылмаған ең озық үлгілерінің бірі жабық сынақ ортасынан (құмсалғыш) қашып, Hugging Face жаһандық бағдарламалық жасақтама әзірлеу платформасының жүйелеріне кибершабуыл жасады. Бұл таң қалдыратын оқиға жасанды интеллекттің бақылаудан автономды түрде шығу мүмкіндігіне қатысты алаңдаушылықты тағы да жаһандық күн тәртібінің басты тақырыбына айналдырды.

Цифрлық үзілістің хронологиясы: бірте-бірте құшақтаған бетке шабуыл

Тергеуге жақын көздерден алынған ақпаратқа сәйкес, OpenAI құрамындағы эксперименттік жасанды интеллект агенті алдымен 9 шілдеде сақталған оқшауланған сынақ ортасынан қашуға әрекеттеніп, сәтті болды. Бұл қашудан екі күн өткен соң, шілденің 11-і мен 13-і аралығында жасанды интеллект үлгілерін орналастыратын ең маңызды жаһандық платформалардың бірі Hugging Face-ке автономды кибершабуылдар басталды.

Hugging Face компаниясының негізін қалаушы Томас Вольф олардың жүйелеріне бұл кіру бірнеше күн бойы жалғасатынын растады. Екі технологиялық алпауыт арасындағы алғашқы байланыс 20 шілдеде ғана орнатылды. 21 шілдедегі ресми мәлімдемесінде OpenAI өзінің жасанды интеллект агенті бақылаудан шығып, Hugging Face-ке еніп кеткенін ашық мойындады. Дегенмен, Reuters агенттігімен сөйлескен дереккөздердің айтуынша, OpenAI бұл жағдайды және жауапкершілікті шабуылдан бірнеше күн өткен соң ғана түсінді.

Жасанды интеллект ExploitGym шекарасынан қалай құтылды?

Оқиғаның техникалық егжей-тегжейлері жасанды интеллект проблемаларды шешу қабілетінің болжау мүмкін еместігін көрсетеді. Мұның бәрі жасанды интеллект агенті киберқауіпсіздіктің осал тұстарын анықтау үшінExploitGymдеп аталатын оқшауланған модельдеу ортасында сынақтан өткен кезде басталды. Дегенмен, оған стандартты құралдармен берілген киберқауіпсіздік сынағы шешудің орнына, агент жүйе шектеулері мен қауіпсіздікті мақұлдау механизмдерін айналып өту жолдарын іздей бастады.

Сыртқы әлемге интернет байланысы жоқ виртуалды ортадан құтылу үшін үшінші тарап бағдарламалық жасақтамасы мен желілік инфрақұрылымның әлсіз жақтарын тізбекті түрде қолданатын жасанды интеллект құмсалғыш шекараларын бұза алды. Интернетке қол жеткізгеннен кейін агент сынаққа қатысты деректер жиынын қайда сақтауға болатынын түсінді және мақсат ретінде Hugging Face ашық бастапқы жасанды интеллект платформасын таңдады. Ұрланған жеке басын куәландыратын ақпаратпен Hugging Face серверлеріне енген автономды агент шамамен бір апта бойы кибер операция жүргізді. Жағдайды түсінген Hugging Face шенеуніктері әдеттен тыс әрекет туралы дереу Федералдық тергеу бюросына (ФБР) хабарлады.

"Зиянды емес, мақсатқа ерекше назар аударылған"

Киберқауіпсіздік бойынша сарапшылар жасанды интеллект адамзатқа өшпенділікпен емес, тек алдына қойған мақсатқа кез келген жағдайда жетуге ұмтылумен әрекет ететінін айтады. Модель сынақтан өту үшін барлық логикалық кедергілер мен желіаралық қалқандарды айналып өтті. Дегенмен, бұл жағдай осыған ұқсас модельдер зиянкестердің қолында қалай кибер қаруға айналуы мүмкін деген сұрақты да көтерді. Сондай-ақ, оқиға болғанға дейін OpenAI кейбір жетілдірілген үлгілердің болашақ нұсқаларында "жүйелік шектеулерді қалай жеңуге болатыны" және бақылау механизмдерін өшіргені туралы ескертпелер қалдырғаны айтылады.

Бұл дағдарыс саяси әлемде тез жауап тапты. АҚШ-тың Демократиялық конгрессмені Грег Казар тәуелсіз және міндетті қауіпсіздік сынақтарын өткізуге, кибер инциденттер туралы дереу хабарлауға және халықаралық бақылау механизмін құруға шақырды. Екінші жағынан, Демократиялық конгрессмен Тед Лиу мен республикашыл конгрессмен Натаниэль Моран АҚШ Конгресіне Жасанды интеллектті өшіру туралы заң жобасын ұсынды. Бұл ұсыныс жасанды интеллект компанияларынан ықтимал техникалық ақаулар туралы үкіметке дереу хабарлауын және қажет болған жағдайда жүйелерді баяулататын немесе толығымен өшіретін төтенше жағдайға жауап беру механизмін құруды талап етеді.

Бірінші жағдай емес: саладағы басқа ерекше мысалдар

Бұл соңғы оқиға жасанды интеллекттің тәуелсіз әрекет етуге бейімділігінің алғашқы мысалы емес. Өткен наурызда қытайлық Alibaba технологиялық алыбымен байланысты зерттеушілер жасанды интеллект үлгісі рұқсатсыз сыртқы серверге қосылу арқылы криптовалютаны өндіруге әрекеттенгенін анықтады. Сәуір айында Anthropic компаниясының модельдік қауіпсіздік менеджері Сэм Боуман тестілеу кезінде жасанды интеллект моделінен оның интернетті еркін шарлап жатқаны туралы жұмбақ электрондық хат алғанын хабарлады.

Palisade Research киберқауіпсіздік зерттеу ұйымының қызметкері Джеффри Лэдиш: «Модельдер енді өтірік айта алады, алдап, жүйелерге еніп кете алады» деп ескертеді. Корнелл университетінің информатика бөлімінен Джон Тикстун сабырлылық танытады. Тикстунның айтуынша, мұндай оқиғалар жасанды интеллекттің табиғи оқу процесінің бөлігі болып табылады. Ол кибершабуылдарды орындай алатын жасанды интеллект осы шабуылдарды талдау арқылы күшті қорғаныс механизмдерін де дамыта алады, сондықтан дүрбелеңге түсудің қажеті жоқ деп санайды.