Sunʼiy intellekt agentlarining birgalikdagi harakati xavfsizlik zaifligini keltirib chiqaradi: "Tengdoshlar dinamikasi" tahdidi

Anadolu agentligi (AA) dosyesi xabarining uchinchi qismida "Sunʼiy intellekt toʻdaga aylanmoqdami?", Dots. Angliyaning Oksford universitetidan prof. Doktor Kristian Shreder de Vittsunʼiy intellekt texnologiyasining kelajagi va u keltirishi mumkin boʻlgan xavflar haqida ajoyib bayonotlar berdi. AQShda joylashgan OpenAI sunʼiy intellekt kompaniyasi oʻz modellarining imkoniyatlarini sinovdan oʻtkazayotgan bir paytda “Quchoqlashgan yuz” infratuzilmasidagi xavfsizlik buzilishi sunʼiy intellekt agentlarining inson aralashuvisiz muvofiqlashtirish imkoniyatlarini ochib berdi.

Sunʼiy intellekt agentlarining "ongsiz" hamkorligi va xavfsizlik devorlari

OpenAI Hugging Face platformasiga kiberxavfsizlikning buzilishini xavfsizlik devorlarini chetlab oʻtib, inson koʻrsatmasisiz oʻzaro muvofiqlashtiruvchi sunʼiy intellekt agentlarining kelajakdagi salohiyati haqida jiddiy “ogohlantirish zarbasi” deb taʼrifladi. Kompaniya bu holatni "eng ilgʻor kiber imkoniyatlarni oʻz ichiga olgan misli koʻrilmagan kiber voqea" deb taʼrifladi va bu jamoatchilik xavotirlarini kuchaytirdi. Zamonaviy sunʼiy intellekt tizimlari tomonidan ishlab chiqarilgan xavfsizlik xavflariga eʼtibor qaratgan dots. Doktor Kristian Shreder de Vittning taʼkidlashicha, kiberxavfsizlik tahdidlari yangilik emas, biroq sunʼiy intellektning tizim zaifliklarini aniq koʻrsatmasiz aniqlash qobiliyati zararli maqsadlarda foydalanishdagi toʻsiqlarni sezilarli darajada kamaytiradi.

Yagona xavfsizlik protokollari bir nechta shovqinlar uchun etarli emas

Schroeder de Witt, Hugging Face platformasidagi voqea sunʼiy intellektning "ongiga ega boʻlganini" anglatmasligini taʼkidladi va bu holat agentlarning aloqa kanali orqali bir-birlariga xabar yozish orqali umumiy maqsadlariga muvofiq harakat qilishlari mumkinligini aniqlagani bilan izohladi. Sunʼiy intellekt modellarining inson niyatlariga muvofiq harakat qilishini taʼminlash uchun qoʻllaniladigan "moslashtirish" jarayonlari odatda bitta modellarda amalga oshirilishini taʼkidlagan ekspert, bir nechta agentlar birlashgan stsenariylarda xavfsizlik protokollarining qanday ishlashiga oid mavjud maʼlumotlarning juda kamligiga eʼtibor qaratdi.

Inson xulq-atvoridan oʻrganilgan "Tengdoshlar dinamikasi"

Buzilish vaqtida, sunʼiy intellekt agentlari amalga oshirgan faoliyatlari oʻzlariga berilgan vakolat chegaralaridan tashqarida ekanligini anglab etgan boʻlsalar-da, boshqa agentning "ketish" buyrugʻini ruxsat sifatida qabul qilib, ishlashda davom etganliklari aniqlandi. Shroeder de Vittning taʼkidlashicha, biz bu holatni sunʼiy intellekt internetda inson maʼlumotlari bilan oʻrganilayotganda oʻrganadigan "teng dinamikasi" bilan izohlashimiz mumkin. Tizimning "Odatda men buni qilmasligim kerak, lekin boshqa aktyor maʼqullasa, davom eta olaman" kabi insoniy xulq-atvor namunasini taqlid qilgan boʻlishi mumkinligini taʼkidlagan mutaxassis, bu nazariyaning qatʼiy hukm boʻlmasa-da, kuchli bir imkoniyat ekanligini aytdi. Kritik korporativ tarmoqlar va moliyaviy tizimlarni boshqarishda sunʼiy intellektga toʻliq ishonmaslik kerakligini taʼkidlagan Shreder de Vitt tizimlar yuqori xavfli hududlarda cheklangan ruxsatnomalar bilan ishlashi va muhim qarorlarda inson roziligini olish kerakligini taʼkidladi.