Жасанды интеллекттің адамзатты құрту қаупі 10 пайыз: антропологтың қорқынышты мойындауы

Технология әлемі жасанды интеллекттің болашағы туралы өте таң қалдыратын және қорқынышты мәлімдемемен шайқалуда. Өнеркәсіптегі ең ірі жасанды интеллект компанияларының бірі Anthropic-те жұмыс істейтін сарапшылар бұл технологияның алдағы онжылдықта адамзаттың жойылу ықтималдығы 10 пайыздан астам екенін айтады. Пікірталас компаниядан жаңа ғана отставкаға кеткен Джейкоб Коксонның таңғаларлық мәлімдемелерімен және Anthropic компаниясының теңестіруді зерттеуші Эван Хубингердің бұл талаптарды растауымен жаңа өлшемге ие болды.

"Бізде супер интеллектпен үйлесімділік мәселесін шешу жоспары жоқ"

Эван Хубингер, Anthropic-те жасанды интеллект пен адами құндылықтарды үйлестірумен айналысып жатыр, АҚШ-та орналасқан X әлеуметтік медиа платформасында өзінің аккаунтынан жаңашыл мәлімдемелер жасады. Компаниядан кеткен әріптесі Джейкоб Коксонның «Жасанды интеллект дамытатындар бұл технологияның 10 жылдың соңында бәрімізді өлтіруі мүмкін екеніне шын жүректен сенеді» деген сөзін келтірген Хубингер бұл мәлімдемемен келіскенін білдірді. Хубингер қауіптің ауқымын былайша ашты: "Джекоб бұл туралы дұрыс айтады, біз жасанды интеллект барлық адамдарды өлтіре алатынына шын жүректен сенеміз".

Алдағы 10 жылда орын алатын бұл апат сценарийінің ықтималдығы 10 пайыздан астам екенін алға тарта отырып, Хубингер компанияның қолынан келгеннің бәрін жасап жатқанын мойындады, бірақ оларда супер интеллектпен үйлесімділік мәселесін шешу үшін әлі нақты жоспар немесе жол картасы жоқ.

Алпауыт компаниялардағы бақыланбайтын жарыс және отставкаға кету шешімдері

Соңғы үш жылда жасанды интеллект саласының бастаушылары OpenAI және Anthropicде зерттеуші болып жұмыс істеген Джейкоб Коксон екі компанияның да жеткілікті жауапкершілікпен әрекет етпегенін айтып, Anthropic-тегі қызметінен кеткенін жариялады. Компаниялардың өзін-өзі жетілдіретін «супер интеллектке» жету үшін бақыланбайтын және қауіпті жарысқа қатысып жатқанын атап көрсеткен Коксон бұл процестің ашық түрде басқарылмайтынын мәлімдеді.

Жасанды интеллекттің күшін елеусіз қалдыруға болмайтынын ескерткен Коксон: "Бұлар жақын арада кез келген нәрсені бұзып, кез келген аумақты бір түнде өзгерте алатын және нақты қуат пен ресурстарға қол жеткізе алатын адамнан тыс жүйелерге айналады. Біз осы салалардың әрқайсысында ілгерілеушілікке куә болдық және бұл процесс баяулап жатқан жоқ" деді.

"Жабық есіктердің артында үлкен қорқыныш бар"

Жасанды интеллект модельдерін жеке әзірлеген инженерлер мен зерттеушілер бұл жүйелердің адамзатты 10 жыл ішінде жою мүмкіндігіне шындап сенетінін алға тартып, Коксон монетаның көрінбейтін жағын да ашты. Коксон жасанды интеллект компанияларының жоғары лауазымды тұлғалары жұртшылыққа өте байсалды және сенімді мәлімдемелер жасағанымен, олар жабық есіктер артында үлкен қорқыныш пен дүрбелеңді бастан кешірді деп мәлімдеді.

Сектордағы қарқынды ілгерілеудің бәсеңдемегенін және басқару тетіктері бұл жылдамдыққа төтеп бере алмайтынын айтқан бұрынғы зерттеушінің бұл мәлімдемелері жасанды интеллекттің болашағы туралы жаһандық ауқымдағы этикалық және қауіпсіздік пікірталастарын қайта жандандырды.