Antropikdan iste'foga chiqqan tadqiqotchining dahshatli e'tirofi: "Ular bizning hayotimizni super aql bilan o'ynashadi"

Sun'iy intellekt sektoridagi so'nggi tez o'zgarishlar parda ortidagi katta xavfsizlik inqirozini keltirib chiqarmoqda. Sun'iy intellekt dunyosining etakchi kompaniyalari OpenAI va Anthropicda muhim lavozimlarni egallagan 27 yoshli tadqiqotchi Jeykob Koxonning iste'foga chiqish qarori texnologiya koridorlaridan tortib moliya va siyosat doiralarigacha bo'lgan keng sohada seysmik ta'sir ko'rsatdi. Oxirgi uch yil davomida yirik til modellarining “oldindan tayyorlash” jarayonlarida faol ishtirok etgan Koxon bu sektor nafaqat texnologik poygada, balki insoniyat kelajagini xavf ostiga qo‘yadigan nazoratsiz qimor o‘yinida ekanligini da’vo qildi.

Sun'iy intellektni ishlab chiquvchilar biz 10 yildan keyin yo'q bo'lib ketishimizga ishonishadi

Ijtimoiy media platformasida qilgan hayratlanarli bayonotlari bilan jimjitini buzgan holda, har ikkala texnologiya giganti ham mas'uliyatdan yiroq ekanliklarini ta'kidlab, yosh tadqiqotchi shunday dedi: "Ular o'z-o'zini takomillashtirish uchun aqldan ozgan poygada va bizning butun hayotimiz bilan qimor o'ynashmoqda." Koxonning so‘zlariga ko‘ra, sun’iy intellekt tizimlarining rivojlanish sur’ati jamoatchilik kutganidan ancha yuqori sur’atlarda rivojlanmoqda.

Iste'foga chiqqan tadqiqotchining eng hayratlanarli da'vosi ushbu tizimlarni ishlab chiqqan katta muhandislar va menejerlarning ichki e'tiqodlari haqida edi. Sanoatning eng mashhur nomlari sun'iy intellektning insoniyat uchun ekzistensial xavf tug'dirishiga chinakam ishonishlarini ta'kidlagan Koxon, "Sun'iy intellektni ishlab chiquvchi odamlar, bu texnologiya o'n yil oxiriga kelib barchamizni o'ldirishi mumkinligiga chin dildan ishonishadi. Bu, albatta, marketing taktikasi emas. Aksincha, ko'p rahbarlar o'z so'zlarini diqqat bilan tanlab, ochiq va jiddiy bo'lishdan qo'rqishadi. yopiq eshiklar ortida.”

“Hech kim to'xtamasa, biz to'xtata olmaymiz” boshi

Koxonning ta'kidlashicha, Anthropic mavjud xavflardan to'liq xabardor, ammo global raqobat bosimi tufayli tormozlana olmadi. Uning ta'kidlashicha, kompaniyalarning asosiy motivatsiyasi "Agar boshqalar mas'uliyat bilan harakat qilmasa, avvalo bu kuchni qo'lga kiritishimiz kerak"falsafasi. Bu holatning eng aniq misoli fevral oyida yuz berdi. Anthropic o'zining korporativ xavfsizlik shartnomasidan, agar u xavfsizlik mezonlariga javob bermasa, modelni ishlab chiqishni butunlay to'xtatadi degan va'dani jimgina olib tashladi. Kompaniya bu harakatni bir tomonlama sekinlashuv xavfsizlikka sezgir bo'lmagan raqobatchilarni yanada foydaliroq holatga keltirishi haqidagi tezis bilan himoya qildi.

Sektordagi bu xavfli tendentsiya ba'zan ichkaridan reaktsiyaga sabab bo'ladi. Iyul oyi oxirida mingdan ortiq texnologiya ishchilari va ekspertlari, jumladan Anthropic bosh direktoriDario Amodeiilg'or AI modellarini ishlab chiqishda muvofiqlashtirilgan sekinlashishga chaqiruvchi qo'shma bayonotni qo'llab-quvvatladilar. Ushbu bosimlardan so‘ng OpenAI avgust oyida yangi modelni o‘qitish jarayonlarini ikki haftaga to‘xtatib qo‘yishga majbur bo‘ldi.

Antropik menejerning qo'rqinchli e'tirofi: xavf 10 foizdan oshadi

Jeykob Koxonning sanoatni larzaga keltirgan bu da'volari Anthropic doirasida xavfsizlik va muvofiqlikni o'rganish uchun mas'ul bo'lgan asosiy odamlardan biri Evan Hubinger tomonidan qisman tasdiqlandi. Ijtimoiy tarmoqdagi akkauntida bayonot berib, Xubinger ilg'or sun'iy intellekt tizimlarining kelgusi o'n yil ichida insoniyat uchun halokatli xavf tug'dirish ehtimolini 10 foizdan ortiq ko'rishini tan oldi.

Xubingerning qo‘shimcha qilishicha, ularda hali inson aqlidan ustun bo‘lgan sun’iy intellekt o‘z ishlab chiquvchilari ko‘rsatmalari va axloqiy qoidalariga qat’iy rioya qilishini ta’minlaydigan boshqaruv yechimi yo‘q. Mavjud sun'iy intellekt modellari uchun xavf darajasi nisbatan past ekanligini ta'kidlagan katta menejer, modellarning kuchi va imkoniyatlari oshgani sayin bu xavf eksponensial ravishda oshib borishi haqida ogohlantirdi.

"Rekursiv o'z-o'zini takomillashtirish" va birinchi ogohlantirish suratlari

Mutaxassislar "super intellekt" deb ataydigan ushbu yangi bosqich sun'iy intellekt deyarli barcha kognitiv fanlar bo'yicha inson faoliyatidan ustun ekanligini anglatadi. Ushbu ilg'or tizimlar inson aralashuvisiz o'z kodlarini yozish va optimallashtirish orqali yangi avlod sun'iy intellekt tizimlarini loyihalashi mumkinligi taxmin qilinmoqda. Sanoatda “rekursiv oʻzini-oʻzi takomillashtirish” deb taʼriflangan bu jarayon sunʼiy intellekt ustidan toʻliq nazoratga olib kelishi mumkin.

Koxonning ta'kidlashicha, bu ilg'or tizimlar kelajakda nafaqat intellektual sohalarda odamlardan oshib ketadi; Uning ta'kidlashicha, u muhim infratuzilmalarga kirish va global iqtisodiy va siyosiy tizimlarni manipulyatsiya qilish qudratiga ham ega bo'lishi mumkin. O'tgan davrda ChatGPT sun'iy intellekt agenti tomonidan amalga oshirilganQuchoqlangan yuzhujumiga ishora qilib, Koxon bu voqea yaqinlashib kelayotgan katta xavf haqida "ogohlantirish zarbasi" ekanligini aytdi. Ilmiy dunyoda bu tahdidlarning ko‘lami bo‘yicha hali to‘liq konsensus mavjud bo‘lmasa-da, eng ilg‘or sun’iy intellekt bo‘yicha tadqiqotlar mustaqil federal nazorat mexanizmi o‘rnatilgunga qadar to‘xtatilishi kerakligi haqidagi chaqiriqlar kundan-kunga kuchayib bormoqda.