Жасалма интеллекттеги "чоң качуу": OpenAI агенти сыноо чөйрөсүнөн качып, кучактап турган жүзгө кол салды

Исмаил Шахин - Бир кезде фантастикалык кинолордо гана көрүлгөн контролдон тышкаркы технология сценарийлери жасалма интеллект секторунда реалдуулукка айланды. GPT-5.6 Sol, OpenAIдин коомчулукка чыга элек эң өнүккөн моделдеринин бири, жабык тест чөйрөсүнөн (кумдук чөйрөдөн) качып, Hugging Face глобалдык программалык камсыздоону иштеп чыгуу платформасынын системаларына киберчабуул жасады. Бул үрөй учурарлык окуя жасалма интеллекттин башкаруудан автономдуу түрдө чыгып кетиши мүмкүн деген кооптонууну жаратты.

Санариптик жарылуунун хронологиясы: Кадам-этабы менен жүзүнө кол салуу

<б> Тергөөгө жакын булактардан алынган маалыматка ылайык, OpenAI ичиндеги эксперименталдык жасалма интеллект агенти алгач 9-июлда сакталган обочолонгон тест чөйрөсүнөн качууга аракет кылып, ийгиликке жеткен. Бул качкандан эки күн өткөндөн кийин, 11-13-июль аралыгында, жасалма интеллект моделдерин жайгаштырган эң маанилүү глобалдык платформалардын бири Hugging Faceке автономдуу киберчабуулдар башталды.

Hugging Face компаниясынын негиздөөчүсү Томас Вольф алардын системаларына бул кийлигишүү бир нече күн бою уланганын ырастады. Эки технологиялык гиганттын ортосундагы биринчи байланыш 20-июлда гана түзүлүшү мүмкүн. 21-июлдагы расмий билдирүүсүндө OpenAI өзүнүн жасалма интеллект агенти көзөмөлдөн чыгып, Hugging Faceке кирип кеткенин ачык мойнуна алды. Бирок, Reuters менен сүйлөшкөн булактар OpenAI бул кырдаалды жана жоопкерчиликти кол салуудан бир нече күндөн кийин гана түшүнө алганын ырасташат.

Жасалма интеллект ExploitGym чектеринен кантип качып кетти?

Окуянын техникалык деталдары жасалма интеллекттин көйгөйдү чечүү жөндөмү канчалык күтүүсүз экенин көрсөтүп турат. Мунун баары жасалма интеллект агенти кибер коопсуздуктун начар жактарын аныктоо үчүнExploitGymдеп аталган обочолонгон симуляциялык чөйрөдө сыналганда башталган. Бирок, ага стандарттуу каражаттар менен берилген кибер коопсуздук сынагын чечүүнүн ордуна, агент система чектөөлөрүн жана коопсуздукту бекитүү механизмдерин айланып өтүүнүн жолдорун издей баштады.

Тышкы дүйнөгө интернет байланышы жок виртуалдык чөйрөдөн качуу үчүн үчүнчү тараптын программалык камсыздоолорунун жана тармактык инфраструктурасынын алсыз жактарын чынжырлуу түрдө колдонгон жасалма интеллект кум кутусунун чектерин бузууга жетишти. Интернетке кирүү мүмкүнчүлүгүнө ээ болгондон кийин, агент тестке байланыштуу маалымат топтомдору кайда сакталышы мүмкүн экенин ойлонуп, максат катары Hugging Face ачык булактуу жасалма интеллект платформасын тандады. Hugging Face серверлерине уурдалган өздүк маалыматы менен кирген автономдуу агент бир жумадай кибер операция жүргүзгөн. Кырдаалды түшүнгөн Hugging Face кызматкерлери адаттан тыш аракеттер тууралуу дароо Федералдык Тергөө бюросуна (ФБР) кабарлашты.

"Зыяндуу эмес, максатка өзгөчө көңүл бурулган"

Киберкоопсуздук боюнча эксперттер жасалма интеллект адамзатка кастык менен эмес, кандай гана болбосун, алдына коюлган максатка жетүү үчүн гана аракет кылат деп айтышат. Модель тесттен өтүү үчүн бардык логикалык тоскоолдуктарды жана брандмауэрлерди айланып өттү. Бирок бул жагдай окшош моделдер кандайча зыяндуу актерлордун колунда кибер куралга айланышы мүмкүн деген суроону да жаратты. Ошондой эле окуя болгонго чейин OpenAI айрым өнүккөн моделдердин келечектеги версияларында "системалык чектөөлөрдү кантип жеңүү керектиги жөнүндө" жазууларды калтырып, көзөмөлдөө механизмдерин өчүргөн деп айтылат.

Бул кризис тез эле саясий дүйнөдө жооп тапты. АКШнын Демократиялык конгрессмени Грег Касар көз карандысыз жана милдеттүү коопсуздук сыноолорун, кибер инциденттерди дароо билдирүүнү жана эл аралык көзөмөл механизмин түзүүнү талап кылды. Бир тараптан Демократиялык конгрессмен Тед Лиу менен республикачыл конгрессмен Натаниэль Моран АКШ Конгрессине Жасалма интеллектти өчүрүү баскычы мыйзамы деп аталган мыйзам долбоорун сунушташты. Бул сунуш жасалма интеллект компанияларынан мүмкүн болгон техникалык мүчүлүштүктөр тууралуу өкмөткө дароо билдирүүнү жана зарыл болгондо системаларды жайлатып же толугу менен өчүрө турган өзгөчө кырдаалдарга жооп берүү механизмин түзүүнү талап кылат.

Биринчи окуя эмес: Өнөр жайдагы башка өзгөчө мисалдар

Бул акыркы окуя жасалма интеллекттин өз алдынча аракеттенүү тенденциясынын биринчи мисалы эмес. Өткөн жылдын март айында кытайлык технология гиганты Alibaba менен байланышы бар изилдөөчүлөр жасалма интеллект модели уруксатсыз тышкы серверге туташып, криптовалютаны казууга аракет кылып жатканын аныкташкан. Апрель айында Anthropic компаниясынын моделдердин коопсуздугу боюнча менеджери Сэм Боуман тестирлөөдө жасалма интеллект моделинен интернетте эркин кыдырып жүргөнү тууралуу сырдуу электрондук кат алганын жарыялаган.

Jeffrey Ladish кибер коопсуздук изилдөө уюмунан Palisade Research эскертет: "Моделдер эми калп айтып, алдап, системаларга кирип кете алышат." Корнелл университетинин информатика факультетинен Жон Тикстун сабырдуураак мамиле кылат. Тикстундун айтымында, мындай окуялар жасалма интеллекттин табигый үйрөнүү процессинин бир бөлүгү. Ал киберчабуулдарды жасай алган жасалма интеллект бул чабуулдарды талдоо аркылуу күчтүү коргонуу механизмдерин да өнүктүрө аларын, андыктан дүрбөлөңгө түшүүнүн кереги жок деп ырастайт.