AQShning zaifliklarini aniqlash bo'yicha sun'iy intellekt afsonalari

Sun'iy intellekt kompaniyasi Anthropic va AQSh razvedka xizmatlari yaqinda muhim xavfsizlik sinovini o'tkazdi. Sinovdan ko'zlangan maqsad hayotiy muhim dasturiy ta'minotning milliy xavfsizlik va iqtisodiyotga potentsial tahdidlarini aniqlash edi. Shu nuqtai nazardan, Anthropic tomonidan ishlab chiqilganMythosmodeli AQShning maxfiy tizimlarida xavfsizlik zaifliklarini aniqladi.

Mythos Modeli va Test Tafsilotlari

Sinov jarayoni haqida ma'lumot bergan nomi oshkor etilmagan bir rasmiy, bu testlar jamoat xavfsizligi uchun juda muhim ekanligini aytdi. Mythos sun'iy intellekt modeli bir necha soat ichida nozik ma'lumotlarni o'z ichiga olgan hukumat tizimlarida zaifliklarni topganini bildirgan rasmiy, bu topilmalar tizimlarga singib ketishi mumkin degani emasligini ham ta'kidladi. {{IMG_0}}

Senatda qilingan bayonotlar

Demokratik senator Mark Uorner11-iyun kuni Senat majlisida bu masalaga toʻxtalib, Mythos modeli maxfiy tizimlarga shiddat bilan kirib kelayotganini aytdi. Warner, bu rivojlanish sun'iy intellektning xavfsizlik sohasida yanada ehtiyotkorlik bilan qo'llanilishi kerakligini ko'rsatganiga diqqat qaratdi. {{IMG_1}}

AQSh ma'muriyatining munosabati

AQSh ma'muriyati 13 iyun kuni Anthropic tomonidan ishlab chiqilgan "Fable 5" va "Mythos 5" modellariga qarshi ehtiyot choralarini ko'rdi. Ushbu sun'iy milliy xavfsizlik vositalari tahdid solishi mumkinligi sababli xorijiy hukumatlar va kompaniyalarga kirish taqiqlangan. Shundan soʻng Anthropic ushbu ilgʻor modellarni barcha foydalanuvchilar uchun yopdi.

Hodisa oqibatlari keng doiradagi odamlarni xavotirga solgan boʻlsa-da, rasmiylar bunday texnologiyani diqqat bilan kuzatib borish kerakligini taʼkidlamoqda. Sun'iy intellekt xavfsizlik sohasida qanday rol o'ynashi va kelajakda u qanday tartibga solinishi qiziq.