Sun'iy intellektning insoniyatni yo'q qilish xavfi 10 foizni tashkil etadi: antropik tadqiqotchining qo'rqinchli e'tirofi

Texnologiya olami sun'iy intellektning kelajagi haqidagi o'ta hayratlanarli va qo'rqinchli da'vo bilan larzaga keldi. Sanoatdagi eng yirik sun’iy intellekt kompaniyalaridan biri bo‘lgan Anthropic’da ishlovchi ekspertlarning ta’kidlashicha, bu texnologiya yaqin o‘n yil ichida insoniyatning oxiriga yetib borishi ehtimoli 10 foizdan oshadi. Bahs kompaniyadan endigina iste’foga chiqqan Jeykob Koxonning hayratlanarli bayonotlari va Anthropic’ning muvofiqlashtirish bo‘yicha tadqiqotchisi Evan Xubinger tomonidan tasdiqlanishi bilan yangi tus oldi.

"Bizda super aql bilan moslik muammosini hal qilish rejamiz yo'q"

Anthropic-da sun'iy intellektni insoniy qadriyatlar bilan uyg'unlashtirish ustida ishlayotgan Evan Xubinger AQShda joylashgan X ijtimoiy media platformasidagi akkauntidan muhim bayonotlar berdi. Kompaniyadan iste'foga chiqqan hamkasbi Jeykob Koxonning postidan iqtibos keltirgan holda, "Sun'iy intellektni rivojlantiruvchilar bu texnologiya 10 yil oxirida barchamizni o'ldirishi mumkinligiga chin dildan ishonishadi", deb aytgan Xubinger, bu da'voga qo'shilishini bildirdi. Xubinger xavf darajasini ochib berdi: “Yoqub bu borada haq, biz sun’iy intellekt barcha odamlarni o‘ldirishiga chin dildan ishonamiz”.

Ushbu ofat stsenariysining keyingi 10 yil ichida sodir boʻlish ehtimoli 10 foizdan koʻproq ekanligini taʼkidlab, Xubinger kompaniya qoʻlidan kelganicha harakat qilayotganini tan oldi, biroq ularda super razvedka bilan moslik muammosini hal qilish uchun hali aniq reja yoki yoʻl xaritasi yoʻq.

Gigant kompaniyalarda nazoratsiz poyga va iste'foga oid qarorlar

So'nggi uch yil davomida sun'iy intellekt sanoatining kashshoflari OpenAI va Anthropicda tadqiqotchi bo'lib ishlagan Jeykob Koxon Anthropicdagi lavozimidan iste'foga chiqqanini e'lon qilib, har ikki kompaniya ham yetarlicha mas'uliyat bilan harakat qilmaganini bildirdi. Kompaniyalar o'z-o'zini rivojlantiruvchi "super razvedka" ga erishish uchun nazoratsiz va xavfli poygada ekanliklarini ta'kidlagan Koxon, jarayon shaffof boshqarilmaganini da'vo qildi.

Sun'iy intellektning kuchini e'tibordan chetda qoldirmaslik kerakligi haqida ogohlantirgan Koxon, "Bular tez orada har qanday narsani buzib, istalgan hududni bir kechada o'zgartira oladigan va haqiqiy kuch va resurslarni qo'lga kirita oladigan g'ayritabiiy tizimlarga aylanadi. Biz bu sohalarning har birida taraqqiyotga guvoh bo'ldik va bu jarayon sekinlashmayapti".

"Yopiq eshiklar ortida katta qo'rquv bor"

Sun'iy intellekt modellarini shaxsan ishlab chiqqan muhandislar va tadqiqotchilar ushbu tizimlarning 10 yil ichida insoniyatni yo'q qilish salohiyatiga jiddiy ishonishlarini ta'kidlab, Koxon tanganing ko'rinmas tomonini ham hal qildi. Koxonning ta'kidlashicha, sun'iy intellekt kompaniyalarining yuqori martabali rahbarlari jamoatchilikka juda mo''tadil va ishonchli bayonotlar bergan bo'lsalar-da, ular yopiq eshiklar ortida katta qo'rquv va vahimani boshdan kechirishgan.

Sektordagi jadal taraqqiyot sekinlashmagani va boshqaruv mexanizmlari bu tezlikka yetib bora olmasligini ta'kidlagan sobiq tadqiqotchining bu bayonotlari global miqyosda sun'iy intellektning kelajagi haqidagi axloqiy va xavfsizlik muhokamalarini qaytadan avj oldirdi.