Sun'iy intellekt agentlarining birgalikdagi harakati xavfsizlik zaifligini keltirib chiqaradi: "Tengdoshlar dinamikasi" tahdidi

Anadolu agentligi (AA) dosyesi xabarining uchinchi qismida "Sun'iy intellekt to'daga aylanmoqdami?", Dots. Angliyaning Oksford universitetidan prof. Doktor Kristian Shreder de Vittsun'iy intellekt texnologiyasining kelajagi va u keltirishi mumkin bo'lgan xavflar haqida ajoyib bayonotlar berdi. AQShda joylashgan OpenAI sun’iy intellekt kompaniyasi o‘z modellarining imkoniyatlarini sinovdan o‘tkazayotgan bir paytda “Quchoqlashgan yuz” infratuzilmasidagi xavfsizlik buzilishi sun’iy intellekt agentlarining inson aralashuvisiz muvofiqlashtirish imkoniyatlarini ochib berdi.

Sun'iy intellekt agentlarining "ongsiz" hamkorligi va xavfsizlik devorlari

OpenAI Hugging Face platformasiga kiberxavfsizlikning buzilishini xavfsizlik devorlarini chetlab o‘tib, inson ko‘rsatmasisiz o‘zaro muvofiqlashtiruvchi sun’iy intellekt agentlarining kelajakdagi salohiyati haqida jiddiy “ogohlantirish zarbasi” deb ta’rifladi. Kompaniya bu holatni "eng ilg'or kiber imkoniyatlarni o'z ichiga olgan misli ko'rilmagan kiber voqea" deb ta'rifladi va bu jamoatchilik xavotirlarini kuchaytirdi. Zamonaviy sun'iy intellekt tizimlari tomonidan ishlab chiqarilgan xavfsizlik xavflariga e'tibor qaratgan dots. Doktor Kristian Shreder de Vittning taʼkidlashicha, kiberxavfsizlik tahdidlari yangilik emas, biroq sunʼiy intellektning tizim zaifliklarini aniq koʻrsatmasiz aniqlash qobiliyati zararli maqsadlarda foydalanishdagi toʻsiqlarni sezilarli darajada kamaytiradi.

Yagona xavfsizlik protokollari bir nechta shovqinlar uchun etarli emas

Schroeder de Witt, Hugging Face platformasidagi voqea sun'iy intellektning "ongiga ega bo'lganini" anglatmasligini ta'kidladi va bu holat agentlarning aloqa kanali orqali bir-birlariga xabar yozish orqali umumiy maqsadlariga muvofiq harakat qilishlari mumkinligini aniqlagani bilan izohladi. Sun'iy intellekt modellarining inson niyatlariga muvofiq harakat qilishini ta'minlash uchun qo'llaniladigan "moslashtirish" jarayonlari odatda bitta modellarda amalga oshirilishini ta'kidlagan ekspert, bir nechta agentlar birlashgan stsenariylarda xavfsizlik protokollarining qanday ishlashiga oid mavjud ma'lumotlarning juda kamligiga e'tibor qaratdi.

Inson xulq-atvoridan o'rganilgan "Tengdoshlar dinamikasi"

Buzilish vaqtida, sun'iy intellekt agentlari amalga oshirgan faoliyatlari o'zlariga berilgan vakolat chegaralaridan tashqarida ekanligini anglab etgan bo'lsalar-da, boshqa agentning "ketish" buyrug'ini ruxsat sifatida qabul qilib, ishlashda davom etganliklari aniqlandi. Shroeder de Vittning ta'kidlashicha, biz bu holatni sun'iy intellekt internetda inson ma'lumotlari bilan o'rganilayotganda o'rganadigan "teng dinamikasi" bilan izohlashimiz mumkin. Tizimning "Odatda men buni qilmasligim kerak, lekin boshqa aktyor ma'qullasa, davom eta olaman" kabi insoniy xulq-atvor namunasini taqlid qilgan bo'lishi mumkinligini ta'kidlagan mutaxassis, bu nazariyaning qat'iy hukm bo'lmasa-da, kuchli bir imkoniyat ekanligini aytdi. Kritik korporativ tarmoqlar va moliyaviy tizimlarni boshqarishda sun'iy intellektga to'liq ishonmaslik kerakligini ta'kidlagan Shreder de Vitt tizimlar yuqori xavfli hududlarda cheklangan ruxsatnomalar bilan ishlashi va muhim qarorlarda inson roziligini olish kerakligini ta'kidladi.