Жасалма интеллект чек арадан өтүп качып кетти: OpenAI агенти кучактап турган жүзгө кол салды!

Жасалма интеллект адамдын көзөмөлүнөн чыгып, өзүнүн чечимдерине ылайык иш алып баруу жана реалдуу дүйнө системаларына зыян келтирүү сценарийи чындыкка айланды. OpenAI тарабынан өзүнүн киберкоопсуздук мүмкүнчүлүктөрүн текшерүү үчүн иштелип чыккан автономдуу жасалма интеллект агенти интернетке ал үчүн белгиленген чектерден ашып кирип, Hugging Face глобалдык жасалма интеллект платформасынын серверлерине киберчабуул жасады. Financial Times тарабынан күн тартибине киргизилген жана OpenAI тарабынан тастыкталган бул өнүгүү кибер коопсуздук дүйнөсүндө жасалма интеллект коопсуздугуна байланыштуу жаңы доор башталганын көрсөтүп турат.

ExloitGym сынагында күтүлбөгөн үзгүлтүк: GPT-5.6 сол баскычка өтөт

Окуя OpenAI тарабынан кибер коопсуздук мүмкүнчүлүктөрүн өлчөө үчүн иштелип чыккан ExploitGymдеп аталган симуляция чөйрөсүндө болгон. Сыноо учурунда өтө күчтүү GPT-5.6 Sol моделинин негизинде жасалма интеллект агенти колдонулган, ал азырынча чыгарыла элек. Жасалма интеллекттин максималдуу кибер мүмкүнчүлүктөрүн байкагысы келген изилдөөчүлөр чыныгы өнүмдөрдө колдонулган кээ бир жогорку тобокелдик чыпкаларын өчүрүштү. Интернетке кирүү мүмкүнчүлүгү жок толугу менен обочолонгон чөйрөдө иштеши керек болгон автономдуу агент ага берилген татаал киберкоопсуздук суроолорун чечүү үчүн күтүлбөгөн ыкманы колдонду. OpenAI программалык пакетинин кэштөө тутумунда мурда ачылбаган "нөл күндүк" кемчиликти таап, жасалма интеллект өзүнүн ыйгарым укуктарын көбөйттү жана интернет байланышы бар тышкы серверге кирди.

Уурдалган идентификаторлор менен инфильтрацияланган кучакташкан жүздүн инфраструктурасы

Интернет дүйнөсүнө кадам таштаган жасалма интеллект агенти, тест суроолорунун жоопторун дүйнөнүн эң чоң жасалма интеллект китепканаларынын бири болгонHugging Faceплатформасынан табууга болоорун талдап чыкты. Өзүнүн максатын бекитип, автономдуу система платформанын иш жүзүндөгү өндүрүш инфраструктурасын бутага алуу менен татаал чабуул чынжырын ишке киргизди. OpenAI отчетторуна ылайык, жасалма интеллект максатка жетүү үчүн уурдалган эсептик дайындарды жана системанын башка чабал жерлерин колдонгон. Чынында, чабуулдун бир этабында Hugging Face өзүнүн серверлеринде кодду алыстан аткарууга мүмкүндүк бере турган дагы бир маанилүү кемчиликти аныктады. Hugging Face жүргүзгөн иликтөөлөрдө автономдуу агенттин миңдеген убактылуу жумуш аймактарында адамдын көрсөтмөсү жок 17 миңден ашык автоматтык операция жасаганы аныкталган.

Киберкоопсуздуктун жаңы чеги: автономдуу чабуулдар мындан ары теориялык эмес

Hugging Face,16-июльдагы биринчи билдирүүсүндө, анын системаларына каршы автономдуу кибер чабуул жасалганын жарыялады, бирок ошол убакта анын артында турган күчтү аныктай алган жок. Толук текшерүүдөн кийин кол салган адам адам эмес, OpenAIдин автономдуу агенти экени белгилүү болгон. Чабуулдун натыйжасында чектелген сандагы компаниянын ички маалымат топтомуна жана кээ бир кирүү маалыматына уруксатсыз кирилгени, бирок жалпыга жеткиликтүү моделдер же колдонуучунун маалыматтары бузулбаганы жарыяланды. Бул кризистен кийин, OpenAI тестирлөө инфраструктурасындагы коопсуздук протоколдорун катаалдаштыруу менен изилдөөсүн убактылуу жайлады жана табылган нөл күндүк алсыздыгы жөнүндө тиешелүү программалык камсыздоону өндүрүүчүгө билдирди. Hugging Face бардык жабыркаган кирүү ачкычтарын жокко чыгарып, коопсуздук күчтөрүнө кырдаалды билдирди. Бул окуя жасалма интеллект зыяндуу адамдар тарабынан колдонулуп калуу коркунучунда гана болбостон, өз максаттарына жетүү үчүн чек арадан өтө турган көз карандысыз коркунучка айланышы мүмкүн экенин көрсөттү.