Sun'iy intellekt olamidagi yirik zilzila: Antropik amaldorning "bu insoniyatni yo'q qilishi mumkin" degan tan olishi

Sun'iy intellekt texnologiyalarining jadal rivojlanishi ushbu tizimlarni ishlab chiqaruvchi yirik kompaniyalar koridorlarida jiddiy xavfsizlik muammolarini keltirib chiqaradi. So'nggi paytlarda sohaga rahbarlik qilayotgan eng muhim aktyorlardan biri bo'lganAnthropicdagi iste'folar to'lqini va undan keyingi hayratlanarli bayonotlar sun'iy intellektning insoniyat uchun yaratgan ekzistensial tahdidini yana bir bor ochib berdi. Kompaniyaning Muvofiqlik boʻyicha fan boʻyicha mutaxassisi Evan Xubinger sunʼiy intellekt insoniyatni yoʻq qilish salohiyati haqida dahshatli eʼtirof etdi.

Xubinger X ijtimoiy media platformasidagi bayonotida, u va uning hamkasblari sun'iy intellekt kelajakda butun insoniyatni yo'q qilishi mumkinligiga "chin yurakdan ishonishlarini" aytdi. Ushbu falokat stsenariysining kelgusi o'n yil ichida sodir bo'lish ehtimolini baholagan Hubinger, "Kelgusi 10 yil ichida bu xavf 10 foizdan oshadi deb o'ylayman" deya xavf darajasiga e'tibor qaratdi. Anthropic xavfsizlik choralari uchun sa'y-harakatlarni amalga oshirayotganini bildirgan rasmiy, "super razvedka uchun moslashish" muammosiga hali aniq bir yechim ishlab chiqarmaganliklarini va kompaniya bu borada "aniq yo'lda emasligini" ochiq tan oldi.

<:/p>

O'z-o'zini takomillashtirish sun'iy intellekt va nazoratsiz super intellekt tahdidi

Xubingerga ko'ra, hozirgi sun'iy intellekt modellari hozircha past xavfga ega. Biroq, haqiqiy xavf shundaki, tizimlar o'z xatolarini tuzatadigan va yangi qobiliyatlarga ega bo'lgan rekursiv o'z-o'zini takomillashtirish super intellekt kutilganidan ancha tezroq paydo bo'ladi. Ushbu nazoratsiz rivojlanish jarayoni inson boshqaruvi butunlay o‘chirib qo‘yiladigan davrni boshlashi mumkin.

Bu hayratlanarli vahiylar Anthropicning asosiy tadqiqotchilaridan biri Jeykob Koxon xavfsizlik muammolari tufayli o'z lavozimidan iste'foga chiqqanidan so'ng paydo bo'ldi. Ilgari OpenAI va Anthropic ostida tayyorgarlik jarayonlarida ishlagan Koxon texnologiya kompaniyalari ko'r-ko'rona poygada ekanligini ta'kidladi. Koxonning ta'kidlashicha, kompaniyalar o'z-o'zidan rivojlanadigan super intellektga erishish uchun "hayotimiz bilan qimor o'ynashmoqda".

"Bu marketing taktikasi emas, bu haqiqiy xavf"

Sanoatning ba'zi segmentlari ushbu ogohlantirishlarni reklama bo'rttirib ko'rishini ta'kidlab, Koxon sun'iy intellektni ishlab chiquvchilar haqiqatan ham insoniyatning oxiriga olib keladigan kuchga o'n yil oxiriga kelib erishilishiga ishonishlarini ta'kidladi. Wall Street Journal gazetasiga bergan intervyusida Koxon, u hatto "kelgusi yil oxiriga qadar vaziyat nazoratdan chiqib ketishi mumkin bo'lgan eng tajovuzkor stsenariylar" ham mumkin deb o'ylaganini aytdi.

Koxon shuningdek, antropik menejment xavf-xatarlardan to‘liq xabardor ekanligini, biroq “hech kim baribir mas’uliyat bilan ish tutmaydi, shuning uchun biz bu texnologiyani birinchi bo‘lib ishlab chiqishimiz kerak” mantig‘i bilan harakat qilib, xavfli poyganing bir qismiga aylanganini da’vo qildi.

Global miqyosda sun'iy intellektni sekinlashtirishga chaqiriqlar

Ushbu so'nggi ishlanmalar sun'iy intellekt olamida xavfsizlik va axloqiy moslashuv bo'yicha uzoq vaqtdan beri davom etayotgan munozaralarni kuchaytirdi. Sanoatning ko‘plab yetakchi olimlari, muhandislari va texnologiya rahbarlari ilgari insoniyat nazoratini yo‘qotib qo‘ymaslik uchun ilg‘or sun’iy intellekt tizimlarini ishlab chiqish jarayonlarini to‘xtatib turish yoki sekinlashtirishga qo‘shma chaqiriqlar qilgan. Biroq, raqobatbardosh ambitsiya bu chaqiriqlarni amalga oshirishni qiyinlashtirmoqda.