Жасанды интеллект әлеміндегі ірі жер сілкінісі: антропикалық шенеуніктің «бұл адамзатты жоюы мүмкін» деп мойындауы

Жасанды интеллект технологияларының қарқынды дамуы өзімен бірге осы жүйелерді шығаратын алпауыт компаниялардың дәліздерінде маңызды қауіпсіздік мәселелерін тудырады. Жақында салаға жетекшілік ететін ең маңызды актерлардың біріAnthropicтегі отставкалар толқыны және одан кейінгі таңқаларлық мәлімдемелер жасанды интеллекттің адамзатқа төндіретін экзистенциалды қаупін тағы бір рет көрсетті. Эван Хубингер, компанияның сәйкестік жөніндегі ғылыми қызметкері жасанды интеллекттің адамзатты құрту мүмкіндігі туралы қорқынышты мойындады.

Хубингер X әлеуметтік медиа платформасындағы мәлімдемесінде ол және оның әріптестері жасанды интеллект болашақта бүкіл адамзатты жоя алатынына «шын жүректен сенетінін» айтты. Бұл апат сценарийінің алдағы он жылда орын алу мүмкіндігін бағалаған Хубингер «Менің ойымша, бұл қауіп алдағы 10 жылда 10 пайыздан асады» деп қауіп дәрежесіне назар аударды. Anthropic-тің қауіпсіздік шаралары үшін күш салып жатқанын айтқан шенеунік «супер интеллект үшін теңестіру» мәселесіне әлі нақты шешім шығармағанын және компанияның бұл тұрғыда «нақты жолда емес» екенін ашық мойындады.

Өзін-өзі жетілдіретін жасанды интеллект және бақыланбайтын суперинтеллект қаупі

Хубингердің айтуынша, қазіргі жасанды интеллект үлгілері әзірге төмен қауіп төндіреді. Дегенмен, нақты қауіп - бұл жүйелер өз қателерін түзететін және жаңа қабілеттерге ие болатын рекурсивті өзін-өзі жетілдіру суперинтеллект күтілгеннен әлдеқайда жылдамырақ пайда болады. Бұл бақыланбайтын даму процесі адам бақылауы толығымен өшірілетін кезеңді бастауы мүмкін.

Бұл таңқаларлық мәліметтер Anthropic-тің негізгі зерттеушілерінің бірі Джейкоб Коксон қауіпсіздік мәселелеріне байланысты қызметінен кеткеннен кейін ғана пайда болды. Бұған дейін OpenAI және Anthropic бағдарламаларында дайындық процестерінде жұмыс істеген Коксон технологиялық компаниялар соқыр жарыста деп сендірді. Коксон компаниялар өзін-өзі дамытатын супер интеллектке жету үшін «біздің өмірімізбен құмар ойнайды» деп мәлімдеді.

"Бұл маркетингтік тактика емес, бұл нағыз қауіп"

Өнеркәсіптің кейбір сегменттері бұл ескертулерді жарнамалық асыра сілтеу деп санайтынын алға тартып, Коксон жасанды интеллект әзірлеушілер онжылдықтың соңына қарай адамзаттың жойылуына әкелетін күшке қол жеткізетініне шынымен сенетінін атап өтті. Уолл Стрит Джорналға сөйлеген сөзінде Коксон тіпті «келесі жылдың соңына қарай жағдай бақылаудан шығып кетуі мүмкін ең агрессивті сценарийлер» мүмкін деп ойлайтынын айтты.

Сонымен қатар Коксон антропикалық менеджмент тәуекелдерді толық білетінін, бірақ «бәрібір ешкім жауапкершілікпен әрекет етпейді, сондықтан біз бұл технологияны бірінші болып әзірлеуіміз керек» логикасымен әрекет ету арқылы қауіпті жарыстың бір бөлігі болды деп мәлімдеді.

Жаһандық масштабта жасанды интеллектті бәсеңдетуге шақырады

Бұл соңғы оқиғалар жасанды интеллект әлеміндегі қауіпсіздік пен этикалық теңестіру туралы көптен бері жалғасып келе жатқан талқылауларды қайта жандандырды. Саладағы көптеген жетекші ғалымдар, инженерлер және технология жетекшілері адамзаттың бақылауды жоғалтуына жол бермеу үшін алдыңғы қатарлы жасанды интеллект жүйелерінің даму процестерін кідірту немесе баяулату туралы бірлескен шақырулар жасады. Дегенмен, бәсекелес амбициялар бұл шақыруларды жүзеге асыруды қиындатады.