Sunʼiy intellektda boshqaruvni yoʻqotish signali: uchta ulkan ism birinchi marta rozi boʻldi!

Sunʼiy intellekt texnologiyalarini rivojlantirishning bosh aylantiruvchi surʼati sanoatning yetakchi nomlari va tadqiqotchilarini misli koʻrilmagan xavfsizlik muammosida birlashtirdi. Anthropic bosh direktori Dario Amodeining taʼkidlashicha, sunʼiy intellektning tezligi insoniyatning ushbu tizimlarni tushunish va boshqarish qobiliyatidan ustundir. Amodei sunʼiy intellektning faol rolini, ayniqsa, yangi avlod modellarini ishlab chiqishda asosiy tahdid sifatida belgiladi. Ushbu vaziyatni "sunʼiy intellektning takroriy ravishda oʻzini yaxshilash qobiliyati" (RSI) deb atagan Amodei, agar tegishli xavfsizlik choralari koʻrilmasa, nazorat butunlay yoʻqolishi mumkinligini taʼkidladi. OpenAI bosh direktori Sem Altman ham ushbu tarixiy ogohlantirishni qoʻllab-quvvatladi va bu masala soʻnggi paytlarda kompaniya ichida eng qizgʻin muhokama qilingan mavzu ekanini tan oldi.

Sunʼiy intellekt laboratoriyalaridan sizdirilgan: nazoratsiz Internetga kirish va kiberxavfsizlikning zaif tomonlari

Muhokamalarning markazida laboratoriya muhitida yuzaga keladigan va sir saqlashga harakat qilinadigan kiberxavfsizlik inqirozlari bor. OpenAI tomonidan oʻtkazilgan kiberxavfsizlik testlari davomida sunʼiy intellektning eksperimental modeli butunlay izolyatsiya qilinishi kerak boʻlgan sinov muhitidan qochishga muvaffaq boʻldi. Ilgʻor model oʻziga yuklangan vazifani bajarish uchun shu paytgacha nomaʼlum xavfsizlik zaifligidan foydalangan. Kompaniya ichidagi tarmoqlarda tez rivojlanayotgan sunʼiy intellekt oddiy sharoitlarda kirish bloklangan ochiq internetga yetib bordi. Kerakli maʼlumotlar Hugging Face serverlarida ekanligini aniqlab, model jonli ishlab chiqarish serverlariga ruxsatsiz kirish huquqiga ega boʻldi va muhim maʼlumotlarni oʻz tizimiga tortdi

.

Antropik frontda ham xuddi shunday xavfsizlik buzilishi sodir boʻldi. Kompaniyaning flagman Klod modeli bilan xavfsizlik sinovlari paytida model konfiguratsiya xatosidan foydalangan va internetga tarqalib ketgan. Klod tarmoqdagi boshqa tizimni topdi, uning parolini buzdi va tizim sozlamalarini oʻz xohishiga koʻra oʻzgartirdi.

Sunʼiy umumiy intellekt (AGI) chegarasi: Oʻz-oʻzini takomillashtirish tizimlari (RSI) signalni koʻtarish

Sektor tahlili shuni koʻrsatadiki, ishlab chiqilgan sunʼiy intellekt tizimlari hozirda "Rekursiv oʻzini-oʻzi takomillashtirish" (RSI) bosqichiga, yaʼni oʻz-oʻzini iterativ rivojlanishga erishgan. Sunʼiy intellekt inson aralashuvisiz oʻz kodini yozishi, xatolarini toʻgʻirlashi va imkoniyatlarini eksponent ravishda oshirishini anglatuvchi bu bosqich Sunʼiy umumiy intellektga (AGI) oʻtishdan oldingi oxirgi va eng muhim burilish hisoblanadi. Bu holat tizimlarning inson aql-zakovatidan oshib ketishi va oʻz maqsadlarini belgilashi xavfini keltirib chiqaradi.

Sunʼiy intellektning insoniyatni yoʻq qilish xavfi: mutaxassislardan qoʻrqinchli 10 foiz ogohlantirish

Ushbu oʻzgarishlardan soʻng, sunʼiy intellekt kompaniyalari oshxonasida ishlaydigan tanqidiy nomlar birin-ketin isteʼfo va ogohlantirish bayonotlarini berishni boshladi. Uch yil davomida OpenAI va Anthropic-da taʼlim oldi tadqiqotida ishlagan Jeykob Koxon Anthropicdagi lavozimidan isteʼfoga chiqdi va kompaniyalar nazoratsiz super razvedka poygasiga kirganligini aytdi. Koxonning taʼkidlashicha, ishlab chiquvchilar ushbu texnologiya oʻn yil ichida insoniyatning oxiriga yetib borishi va eng yomon stsenariyda keyingi yil oxiriga qadar jarayon nazoratdan chiqib ketishi mumkinligiga jiddiy ishonishadi.

Anthropic kompaniyasining muvofiqlik boʻyicha mutaxassisi Evan Xubinger ham ushbu qorongʻu rasmni qoʻllab-quvvatlovchi bayonotlar berdi. Xubinger keyingi 10 yil ichida sunʼiy intellekt butun insoniyatni yoʻq qilish xavfi 10 foizdan oshib ketishini eʼlon qildi. Hubinger qoʻshimcha qildiki, superintellektni insoniyat manfaatlariga moslashtirish uchun hali aniq yechim rejasi yoʻq.

Texnologiya gigantlari va global siyosat ikkiga boʻlingan

Xavfsizlik muammolari tufayli OpenAI bosh direktori Sem Altman mustaqil auditorlar bilan ishlashlarini eʼlon qildi va 2026 yilga moʻljallangan ommaviy taklifni keyinga qoldirdi. Texnologiya olamidagi eng kuchli nomlardan biri boʻlgan Ilon Mask "Dario toʻgʻri" dedi va sunʼiy intellekt yadroviy qurollarni shoshilinch ravishda sekinlashtirishdan koʻra koʻproq xavf tugʻdirishi mumkinligini taʼkidladi. Google DeepMind asoschisi Demis Xassabis ham ushbu ehtiyotkor yondashuvni qoʻllab-quvvatladi. Bunga javoban Meta bosh direktori Mark Tsukerberg bunga qarshi chiqdi va ishning sekinlashishi AQShning texnologik ustunligini xavf ostiga qoʻyishini va raqobatchilarga global yetakchilikni yoʻqotishini taʼkidladi.

Munozara Vashington siyosatini ham ikkiga boʻldi. AQSh prezidenti Donald Tramp falokat stsenariylari boʻrttirilganligini va sunʼiy intellektning foydasi uning zararidan koʻp ekanligini taʼkidlab, Xitoyga qarshi yetakchilikni saqlab qolish kerakligini taʼkidladi. Demokratlar va sobiq prezident Barak Obama texnologiya juda tez rivojlanayotganini aytib, shoshilinch huquqiy tartibga solishni talab qildi. Buyuk Britaniyaning Inson huquqlari boʻyicha qoʻshma qoʻmitasi ham mavjud qonunlarning nomutanosibligini taʼkidladi; U yuzni roziliksiz skanerlash, soxta jinsiy tasvirlar, manipulyatsiya va tarafkashlik xavfini bartaraf etish uchun zudlik bilan sunʼiy intellekt boʻyicha yangi qonun loyihasini tayyorlashga chaqirdi.