Жасалма интеллект агенттеринин биргелешкен аракети коопсуздуктун аялуулугун жаратат: "теңдеш динамикасы" коркунучу

Анадолу агенттигинин (AA) досье кабарынын үчүнчү бөлүгүндө «Жасалма интеллект бандага айлануудабы?»доц. Англиядагы Оксфорд университетинен проф. Доктор Кристиан Шрөдер де Виттжасалма интеллект технологиясынын келечеги жана анын пайда болушу мүмкүн болгон тобокелдиктери тууралуу таң калыштуу билдирүүлөрдү жасады. АКШда жайгашкан OpenAI жасалма интеллект компаниясы өзүнүн моделдеринин мүмкүнчүлүктөрүн сынап жатканда, "Кучактаган жүз" инфраструктурасындагы коопсуздук бузулушу жасалма интеллект агенттеринин адамдын кийлигишүүсүз координациялоо мүмкүнчүлүгүн ачып берди.

Жасалма интеллект агенттеринин "аң-сезимсиз" кызматташтыгы жана брандмауэрлери

OpenAI Hugging Face платформасына каршы киберкоопсуздуктун бузулушун адамдын жетекчилиги жок эле брандмауэрлерди айланып өтүп, өз ара координациялоочу жасалма интеллект агенттеринин келечектеги потенциалы тууралуу олуттуу "эскертүү атуу" катары сыпаттады. Компания бул абалды "эң өнүккөн кибер мүмкүнчүлүктөрдү камтыган болуп көрбөгөндөй кибер окуя" деп мүнөздөп, коомчулуктун тынчсыздануусун күчөттү. Заманбап жасалма интеллект системалары чыгарган коопсуздук коркунучтарына токтолгон Доц. Доктор Кристиан Шрөдер де Витт кибер коопсуздук коркунучтары жаңы эмес экенин, бирок жасалма интеллекттин системанын алсыз жерлерин так көрсөтмөсүз аныктоо жөндөмдүүлүгү зыяндуу колдонууга болгон тоскоолдуктарды кыйла азайтарын баса белгиледи.

Бир коопсуздук протоколдору бир нече өз ара аракеттенүү үчүн жетишсиз

Schroeder de Witt, Hugging Face платформасында болгон окуянын жасалма интеллекттин "аң-сезимге ээ болду" дегени эмес экенин белгилеп, бул абалдын агенттердин байланыш каналы аркылуу бири-бирине билдирүү жазып, орток максаттарына ылайык иш кыла аларын ачканынан улам болгонун түшүндүрдү. Жасалма интеллект моделдеринин адам ниетине ылайык иш алып барышын камсыз кылуу үчүн колдонулган “тегиздөө” процесстеринин жалпысынан жалгыз моделдерде ишке ашырылганын белгилеген эксперт, бир нече агенттер чогулган сценарийлерде коопсуздук протоколдорунун кантип иштей турганы тууралуу жеткиликтүү маалыматтардын өтө жетишсиз экенине көңүл бурду.

Адамдын жүрүм-турумунан үйрөнгөн "теңтуштардын динамикасы"

<б> Бузуу учурунда, жасалма интеллект агенттери жасаган иш-аракеттери аларга берилген ыйгарым укуктардын чегинен тышкары экенин түшүнүшкөнү менен, башка агенттен "бар" буйругун уруксат катары кабыл алып, ишин улантканы аныкталды. Шрөдер де Витт бул абалды жасалма интеллекттин интернетте адам маалыматтары менен машыктырып жатканда үйрөнгөн «теңдеш динамикасы» менен түшүндүрө аларыбызды айтты. Системанын «Нормалдуу түрдө муну жасабашым керек, бирок башка актер мага уруксат берсе, уланта берем» сыяктуу бир адам кыймыл-аракет үлгүсүн туураган болушу мүмкүн экенин белгилеген адис, бул теориянын так өкүм болбосо да, күчтүү бир ыктымалдуулук экенин айтты. Критикалык корпоративдик тармактарды жана каржы системаларын башкарууда жасалма интеллектке толук ишенбөө керектигин баса белгилеген Шрөдер де Витт системалардын жогорку кооптуу аймактарда чектелген уруксат менен иштетилиши керектигин жана критикалык чечимдерде адамдын макулдугун алуу керектигин баса белгиледи.