Sun'iy intellektda boshqaruvni yo'qotish signali: uchta ulkan ism birinchi marta rozi bo'ldi!

Sun'iy intellekt texnologiyalarini rivojlantirishning bosh aylantiruvchi sur'ati sanoatning yetakchi nomlari va tadqiqotchilarini misli ko'rilmagan xavfsizlik muammosida birlashtirdi. Anthropic bosh direktori Dario Amodeining ta'kidlashicha, sun'iy intellektning tezligi insoniyatning ushbu tizimlarni tushunish va boshqarish qobiliyatidan ustundir. Amodei sun'iy intellektning faol rolini, ayniqsa, yangi avlod modellarini ishlab chiqishda asosiy tahdid sifatida belgiladi. Ushbu vaziyatni "sun'iy intellektning takroriy ravishda o'zini yaxshilash qobiliyati" (RSI) deb atagan Amodei, agar tegishli xavfsizlik choralari ko'rilmasa, nazorat butunlay yo'qolishi mumkinligini ta'kidladi. OpenAI bosh direktori Sem Altman ham ushbu tarixiy ogohlantirishni qo‘llab-quvvatladi va bu masala so‘nggi paytlarda kompaniya ichida eng qizg‘in muhokama qilingan mavzu ekanini tan oldi.

Sun'iy intellekt laboratoriyalaridan sizdirilgan: nazoratsiz Internetga kirish va kiberxavfsizlikning zaif tomonlari

Muhokamalarning markazida laboratoriya muhitida yuzaga keladigan va sir saqlashga harakat qilinadigan kiberxavfsizlik inqirozlari bor. OpenAI tomonidan o'tkazilgan kiberxavfsizlik testlari davomida sun'iy intellektning eksperimental modeli butunlay izolyatsiya qilinishi kerak bo'lgan sinov muhitidan qochishga muvaffaq bo'ldi. Ilg'or model o'ziga yuklangan vazifani bajarish uchun shu paytgacha noma'lum xavfsizlik zaifligidan foydalangan. Kompaniya ichidagi tarmoqlarda tez rivojlanayotgan sun'iy intellekt oddiy sharoitlarda kirish bloklangan ochiq internetga yetib bordi. Kerakli maʼlumotlar Hugging Face serverlarida ekanligini aniqlab, model jonli ishlab chiqarish serverlariga ruxsatsiz kirish huquqiga ega boʻldi va muhim maʼlumotlarni oʻz tizimiga tortdi

Antropik frontda ham xuddi shunday xavfsizlik buzilishi sodir bo'ldi. Kompaniyaning flagman Klod modeli bilan xavfsizlik sinovlari paytida model konfiguratsiya xatosidan foydalangan va internetga tarqalib ketgan. Klod tarmoqdagi boshqa tizimni topdi, uning parolini buzdi va tizim sozlamalarini o‘z xohishiga ko‘ra o‘zgartirdi.

Sun'iy umumiy intellekt (AGI) chegarasi: O'z-o'zini takomillashtirish tizimlari (RSI) signalni ko'tarish

Sektor tahlili shuni ko'rsatadiki, ishlab chiqilgan sun'iy intellekt tizimlari hozirda "Rekursiv o'zini-o'zi takomillashtirish" (RSI) bosqichiga, ya'ni o'z-o'zini iterativ rivojlanishga erishgan. Sun'iy intellekt inson aralashuvisiz o'z kodini yozishi, xatolarini to'g'irlashi va imkoniyatlarini eksponent ravishda oshirishini anglatuvchi bu bosqich Sun'iy umumiy intellektga (AGI) o'tishdan oldingi oxirgi va eng muhim burilish hisoblanadi. Bu holat tizimlarning inson aql-zakovatidan oshib ketishi va oʻz maqsadlarini belgilashi xavfini keltirib chiqaradi.

Sun'iy intellektning insoniyatni yo'q qilish xavfi: mutaxassislardan qo'rqinchli 10 foiz ogohlantirish

Ushbu o'zgarishlardan so'ng, sun'iy intellekt kompaniyalari oshxonasida ishlaydigan tanqidiy nomlar birin-ketin iste'fo va ogohlantirish bayonotlarini berishni boshladi. Uch yil davomida OpenAI va Anthropic-da ta'lim oldi tadqiqotida ishlagan Jeykob Koxon Anthropicdagi lavozimidan iste'foga chiqdi va kompaniyalar nazoratsiz super razvedka poygasiga kirganligini aytdi. Koxonning taʼkidlashicha, ishlab chiquvchilar ushbu texnologiya oʻn yil ichida insoniyatning oxiriga yetib borishi va eng yomon stsenariyda keyingi yil oxiriga qadar jarayon nazoratdan chiqib ketishi mumkinligiga jiddiy ishonishadi.

Anthropic kompaniyasining muvofiqlik bo'yicha mutaxassisi Evan Xubinger ham ushbu qorong'u rasmni qo'llab-quvvatlovchi bayonotlar berdi. Xubinger keyingi 10 yil ichida sun'iy intellekt butun insoniyatni yo'q qilish xavfi 10 foizdan oshib ketishini e'lon qildi. Hubinger qo'shimcha qildiki, superintellektni insoniyat manfaatlariga moslashtirish uchun hali aniq yechim rejasi yo'q.

Texnologiya gigantlari va global siyosat ikkiga bo'lingan

Xavfsizlik muammolari tufayli OpenAI bosh direktori Sem Altman mustaqil auditorlar bilan ishlashlarini e'lon qildi va 2026 yilga mo'ljallangan ommaviy taklifni keyinga qoldirdi. Texnologiya olamidagi eng kuchli nomlardan biri bo'lgan Ilon Mask "Dario to'g'ri" dedi va sun'iy intellekt yadroviy qurollarni shoshilinch ravishda sekinlashtirishdan ko'ra ko'proq xavf tug'dirishi mumkinligini ta'kidladi. Google DeepMind asoschisi Demis Xassabis ham ushbu ehtiyotkor yondashuvni qo'llab-quvvatladi. Bunga javoban Meta bosh direktori Mark Tsukerberg bunga qarshi chiqdi va ishning sekinlashishi AQShning texnologik ustunligini xavf ostiga qo‘yishini va raqobatchilarga global yetakchilikni yo‘qotishini ta’kidladi.

Munozara Vashington siyosatini ham ikkiga bo'ldi. AQSh prezidenti Donald Tramp falokat stsenariylari bo'rttirilganligini va sun'iy intellektning foydasi uning zararidan ko'p ekanligini ta'kidlab, Xitoyga qarshi yetakchilikni saqlab qolish kerakligini ta'kidladi. Demokratlar va sobiq prezident Barak Obama texnologiya juda tez rivojlanayotganini aytib, shoshilinch huquqiy tartibga solishni talab qildi. Buyuk Britaniyaning Inson huquqlari bo'yicha qo'shma qo'mitasi ham mavjud qonunlarning nomutanosibligini ta'kidladi; U yuzni roziliksiz skanerlash, soxta jinsiy tasvirlar, manipulyatsiya va tarafkashlik xavfini bartaraf etish uchun zudlik bilan sun'iy intellekt bo'yicha yangi qonun loyihasini tayyorlashga chaqirdi.