Sun'iy intellektdagi qiyomat stsenariysi: texnologiya gigantlarining "sekinlashuvi" e'tirofi

Rivojlanayotgan texnologiya dunyosida sun'iy intellekt sanoatining yetakchi nomlari birin-ketin ushbu texnologiyaning insoniyatning oxiriga olib kelishi mumkinligi haqida xavotirli bayonotlar berishda davom etmoqda. Bu holat jamoatchilikda: “Agar bu juda xavfli bo‘lsa, nega uni rivojlantirishda davom etayapsizlar?” degan savol tug‘dirdi. Savolni ko'tarayotganda, AQShda joylashgan Anthropic sun'iy intellekt kompaniyasining bosh direktori Dario Amodei tomonidan jiddiy e'tirof etildi. CBS News telekanaliga bergan intervyusida Amodei sun'iy intellekt texnologiyasining rivojlanish sur'atlarini kuzatish va tushunishda qiynalayotganini aytdi. Amodei shunday dedi: “Menimcha, bunday jadal taraqqiyot aslida qanday kelajakka olib kelishini to‘liq tushuna olmayman”.

Sanoat vakillaridan xavfsizlik standartlari va hamkorlikka chaqiruv

Dario Amodei texnologiya taraqqiyotining hozirgi sur'ati sanoat uchun jiddiy sekinlashuv haqida ogohlantirish ekanligini ta'kidladi. Amodei, "Bu biz zudlik bilan vahima qo'yishimiz va bugun barcha tizimlarni o'chirib qo'yishimiz kerak degani emas. Biroq, sun'iy intellektning rivojlanish sur'atlariga mos keladigan kuchli choralar zudlik bilan zarur" dedi. Sun'iy intellekt kompaniyalari birlashishi va umumiy xavfsizlik standartlarini belgilashi va mahsulotlarni bozorga chiqarish tezligini nazorat qilish qoidalarini o'rnatishi kerakligini ta'kidlagan bosh direktor sanoatning hukumatlar bilan yaqin hamkorligi muhimligiga e'tibor qaratdi.

Amodei chaqiruvi OpenAI bosh direktori Sem Altman, milliarder biznesmen Ilon Mask va Google DeepMind prezidenti Demis Xassabis kabi sohaning eng kuchli aktyorlaridan qo‘llab-quvvatlandi. Biroq, bu qo'llab-quvvatlash sun'iy intellektning texnologiya olamida nazoratdan chiqib ketish xavfini va kompaniyalarning samimiyligini yangi muhokama mavzusiga aylantirdi. Ijtimoiy tarmoq platformalarida u sun'iy intellekt boshliqlariga qarshi shunday dedi: "Agar bu insoniyatni yo'q qiladigan darajaga yetishini bilgan bo'lsangiz, nega bu texnologiyani ishlab chiqishni boshladingiz?" Quyidagi kabi reaktsiyalar:

Iste'folar va "10 foiz o'lim xavfi" muhokamasi

Munozaralarning olovini Anthropic kompaniyasida ishlaydigan tadqiqotchi Evan Xubingerning sun'iy intellektning keyingi 10 yil ichida insoniyatni yo'q qilish ehtimolini 10 foizdan ko'proq deb bilishi haqidagi bayonoti yoqdi. Ushbu bayonotdan bir kun o'tgach, uch yil davomida OpenAI va Anthropicda tadqiqotchi bo'lib ishlagan Jeykob Koxon ikkala kompaniya ham sun'iy intellektni rivojlantirish jarayonlarida mas'uliyatli harakat qilmayotganini da'vo qilib, Anthropicdagi lavozimidan iste'foga chiqdi. Koxon Xubingerning xavotirlarini qo‘llab-quvvatladi va sanoat xodimlarining ushbu tizimlar 10 yil ichida insoniyatning oxirigacha olib kelishi mumkinligiga ishonchi o‘ta jiddiy ekanini aytdi.

Ushbu xavfsizlik muammolari ChatGPT ishlab chiqaruvchisi OpenAI kompaniyasining moliyaviy strategiyalariga ham bevosita ta'sir ko'rsatdi. Kompaniyaning bosh direktori Sem Altman, xavfsizlik muammolari tufayli bu yil birjaga chiqishni rejalashtirmayotganliklarini e'lon qildi. Fortune jurnaliga bergan intervyusida Altman shunday dedi: "Men o'n yillikning oxiriga kelib har bir kishi hayotini yo'qotishiga olib keladigan 10 foizlik xavfni qabul qilishni mutlaqo qabul qilib bo'lmaydi". Joriy davrning ommaviy takliflar uchun mos emasligini ifoda etgan Altman, sun'iy aqlning butun insoniyatga foyda keltirishi ta'minlanar ekan, hech kimni xavf ostiga qo'ymaydigan yangi yondashuvni qo'llash kerakligini va bu borada hech qanday bosim sezmasliklarini ta'kidladi.

Stiven Xokingning yillar oldingi ogohlantirishi yana kun tartibida

Sun'iy intellekt olamidagi ushbu inqiroz 2018 yilda 76 yoshida vafot etgan britaniyalik astrofizika professori, 2018 yilda vafot etgan Stiven Xokingning tarixiy ogohlantirishlarini yodga oldi. O'limi oldidan Xoking BBCga bergan so'nggi intervyusida "Sun'iy intellekt nafaqat zamonaviy san'atning to'liq rivojlanishiga yordam beradi; insoniyatning oxiri." Bugungi "10 yil ichida yo'q bo'lib ketish" debatlari soyasida ingliz matbuoti Xokingning so'zlarini yana sarlavhalarga olib chiqdi. Xokingning bashoratiga ko‘ra, sun’iy intellekt avtonom qarorlar qabul qilishi va o‘zini biologik evolyutsiya bilan chegaralangan va oxir-oqibat insoniyatning o‘rnini bosishi mumkin bo‘lgan odamlarga qaraganda ancha tezroq o‘zini qayta qurishi mumkin.