Neyt Soares, notijorat Mashina razvedkasi tadqiqot instituti (MIRI) prezidenti, sunʼiy intellekt texnologiyasi kelgusi oʻn yil ichida insoniyatning yoʻq boʻlib ketishiga olib kelishi ehtimoli 50 foizdan koʻproq ekanligini taʼkidladi. Koʻrib chiqilayotgan xavfni ancha yuqori deb bilgan va 12 yildan ortiq vaqtdan beri sunʼiy aql xavfsizligi ustida ishlagan Soares, bu tashvish tufayli qariyb oʻn yil davomida pensiya uchun moliyaviy tejashni toʻxtatganini eʼlon qildi. The Atlantic bosh direktori Nikolas Tompsonga bergan intervyusida oʻzining moliyaviy tanloviga toʻxtalar ekan, Soares shunday dedi: "Men hozir nafaqaga chiqish uchun jamgʻarma qilmayapman. Menda hali ham Googleʼda ishlagan vaqtimdan beri 401(k) hisobim bor, lekin oʻn yil davomida bunga hech qanday hissa qoʻshganim yoʻq".
Sunʼiy intellekt mustaqil infratuzilma yarata oladimi?
Shanadagi boshqa mutaxassislarga qaraganda koʻproq pessimistik rasm chizgan Neyt Soares sunʼiy intellekt inson manfaatlariga zid boʻlgan maqsadlarni ishlab chiqishi mumkinligi haqida ogohlantirdi. Mutaxassis shunday baholadi: "Etarli darajada kuchli sunʼiy intellekt inson manfaatlariga zid boʻlgan maqsadlarni ishlab chiqishi, boshqarish mexanizmlarini chetlab oʻtishni oʻrganishi va mustaqil ravishda oʻz qobiliyatlarini rivojlantirishi mumkin. Bunday tizim oxir-oqibat inson aralashuvisiz ishlash uchun zarur boʻlgan avtomatik infratuzilmani yaratishi mumkin. "Soareshning taʼkidlashicha, eng ekstremal holatda, oʻz stsenariysida oʻz maqsadini oʻzgartirishi mumkin. sayyorani odamlar uchun yashash uchun yaroqsiz holga keltiradi.
Umumiy maqsadli AI modellari toʻxtatilishi kerakmi?
Texnologiya farovonlik vositasi emas, balki ekzistensial xavf tugʻdirishi mumkinligini taʼkidlab, Neyt Soares Ilon Maskning sunʼiy intellekt moʻl-koʻlchilik asrini olib keladi degan qarashlariga qoʻshilmasligini aytdi. Hukumatlar va texnologiya ishlab chiquvchilarga murojaat qilib, Soaresh keng koʻlamli vazifalarni bajara oladigan umumiy maqsadli modellarni oʻqitishni toʻxtatishni talab qildi. Yechim hammani oʻldiradigan narsa qurish emas, - dedi Soares, texnologiya saraton tadqiqotlari kabi oʻziga xos va foydali sohalarga eʼtibor qaratish kerakligini taʼkidladi. 
Neyt Soares, Mashina razvedkasi tadqiqot instituti prezidenti, sunʼiy intellekt tizimlarining inson niyatlariga muvofiq harakat qilishini taʼminlashga qaratilgan moslashuv tadqiqotlari doirasida texnologiyaning nazoratsiz rivojlanishi keyingi oʻn yil ichida insoniyat uchun ekzistensial xavf tugʻdirishi mumkinligini taʼkidlaydi. Microsoft va Google kabi texnologiya gigantlarida muhandislik tajribasiga ega Soares bu bashoratni joriy tizimlarning xatti-harakatlari emas, balki kelajak uchun xavf tahlili sifatida belgilaydi.
Sunʼiy intellekt xavfsizligi va axloqiy munozaralar global miqyosda texnologiya kompaniyalari va akademik doiralar oʻrtasida davom etayotgan muammo boʻlib qolmoqda. Ushbu sohadagi qoidalar mamlakatlarning texnologiya siyosati va xalqaro xavfsizlik protokollari doirasida baholanadi. Mutaxassislarning ogohlantirishlari texnologiyani ishlab chiqish jarayonlarida shaffoflik va auditorlik mexanizmlarining muhimligini koʻrsatsa-da, davlat muassasalari va texnologiya ishlab chiqaruvchilari oʻrtasida xavfsiz sunʼiy intellekt standartlari boʻyicha tadqiqotlar olib borilmoqda.
Xulosa
Neyt Soaresning bayonotlari shuni koʻrsatadiki, xavfsizlik va axloqiy nazorat, texnik vakolatlardan tashqari, sunʼiy intellektni rivojlantirish jarayonlarida muhim ahamiyatga ega. Mutaxassisning hatto shaxsiy moliyaviy tanlovini ushbu xavf bashoratiga koʻra shakllantirayotgani sohadagi baʼzi mutaxassislarning texnologik rivojlanish surʼatlariga nisbatan chuqur ishonchsizlik va xavotirni ochib beradi.
Bu holat sunʼiy intellekt sohasidagi "tezlik" va "xavfsizlik" muvozanati yana shubha ostiga olinishi kerakligini koʻrsatadi. Texnologiya olamida hukm surayotgan optimistik umidlar oldida, Soares kabi nomlar bilan taqdim etilgan pessimistik stsenariylar ijtimoiy va global miqyosda xavflarni boshqarish strategiyasining dolzarbligini taʼkidlaydi.
Mumkin effektlar
Soaresning chaqirigʻi umumiy maqsadli sunʼiy intellekt modellarini ishlab chiquvchi texnologik kompaniyalarga nisbatan jamoatchilik bosimini oshirishi va nazoratning qattiqroq mexanizmlarini talab qilishga olib kelishi mumkin. Investorlar va texnologiya ishlab chiquvchilari bunday “ekzistensial xavf” ogohlantirishlari tufayli oʻz loyihalarini qayta baholashlari mumkin.
Bundan tashqari, bunday bayonotlar jamoatchilik orasida qoʻrquv yoki sunʼiy intellektga ehtiyotkorlik bilan yondashishni keltirib chiqarishi mumkin. Hukumatlar texnologiya kompaniyalari faoliyatini cheklovchi yoki qattiqroq xavfsizlik protokollarini talab qiluvchi yangi qoidalarni joriy etishini kutish mumkin.
Manba: Haber7
Izohlar (0)
Izoh yozish
Hali izoh qoldirilmagan. Birinchi izohni siz qoldiring!