Антропиктен кеткен зерттеушінің қорқынышты мойындауы: «Олар біздің өмірімізді супер интеллектпен ойнайды»

Жасанды интеллект секторындағы соңғы жылдам өзгерістер сахна артында үлкен қауіпсіздік дағдарысын тудырады. Жасанды интеллект әлемінің OpenAI және Anthropic жетекші компанияларында маңызды лауазымдарды атқарған 27 жастағы зерттеуші Джейкоб Коксонның отставкаға кету шешімі технологиялық дәліздерден бастап қаржы және саясат шеңберлеріне дейінгі кең аумақта сейсмикалық әсер етті. Соңғы үш жылда үлкен тіл үлгілерінің «алдын ала дайындық» процестеріне белсенді түрде қатысқан Коксон бұл сектор тек технологиялық жарыста ғана емес, сонымен бірге адамзаттың болашағына қауіп төндіретін бақылаусыз құмар ойыны екенін мәлімдеді.

Жасанды интеллект әзірлеушілері біз 10 жылдан кейін жойылып кетеміз деп сенеді

Әлеуметтік медиа платформасында жасаған таңғаларлық мәлімдемелерімен үнсіздігін бұзып, екі технология алпауытының да жауапкершіліктен алыс екенін дәлелдей отырып, жас зерттеуші: «Олар өзін-өзі жетілдіруге болатын супер интеллект үшін ессіз жарыста және біздің бүкіл өмірімізбен құмар ойнауда» деді. Коксонның айтуынша, жасанды интеллект жүйелерінің даму қарқыны жұртшылық күткеннен әлдеқайда жоғары қарқынмен дамып келеді.

Жұмыстан кеткен зерттеушінің ең таңғаларлық мәлімдемесі осы жүйелерді жасаған аға инженерлер мен менеджерлердің ішкі сенімдері туралы болды. Саладағы ең танымал тұлғалардың жасанды интеллекттің адамзатқа экзистенциалды қауіп төндіретініне шынымен сенетінін айтқан Коксон: «Жасанды интеллектті дамытатын адамдар бұл технологияның онжылдықтың соңына дейін бәрімізді өлтіруі мүмкін екеніне шын жүректен сенеді. Бұл сөзсіз маркетингтік тактика емес. Керісінше, көптеген басшылар өздерінің сөздерін ашық және байыппен таңдап, қорқады. жабық есіктер артында.»

"Ешкім тоқтамаса, біз тоқтай алмаймыз" тығырыққа тіреледі

Коксон Anthropic бар тәуекелдерді толық білетінін, бірақ жаһандық бәсекелестік қысымға байланысты тежей алмайтынын мәлімдеді. Ол компаниялардың басты мотивациясы «Егер басқалар жауапкершілікпен әрекет етпесе, біз алдымен осы билікті алуымыз керек»деген философия екенін баса айтты. Бұл жағдайдың ең нақты мысалы ақпан айында болды. Anthropic өзінің корпоративтік қауіпсіздік келісімінен қауіпсіздік критерийлеріне сәйкес келмейтін болса, модельді әзірлеуді толығымен тоқтатамын деген уәдесін үнсіз алып тастады. Компания бұл қадамды біржақты баяулау қауіпсіздікке сезімтал емес бәсекелестерді тиімдірек жағдайға қояды деген тезиспен қорғады.

Сектордағы бұл қауіпті үрдіс кейде іштен реакция тудырады. Шілде айының соңында мыңнан астам технологиялық жұмысшылар мен сарапшылар, соның ішінде Anthropic бас директорыДарио Амодейозық AI үлгілерін әзірлеуді үйлестірілген бәсеңдетуге шақыратын бірлескен мәлімдемені қолдады. Осы қысымдардан кейін OpenAI тамыз айында екі аптаға жаңа үлгідегі оқу үдерістерін тоқтатуға мәжбүр болды.

Антропикалық менеджердің қорқынышты мойындауы: тәуекел 10 пайыздан асады

Джейкоб Коксонның саланы дүр сілкіндірген бұл мәлімдемелерін Anthropic-тегі қауіпсіздік пен сәйкестікті зерттеуге жауапты негізгі адамдардың біріЭван Хубингержартылай растады. Әлеуметтік желідегі аккаунтында мәлімдеме жасаған Хубингер алдағы он жылда адамзат үшін апатты қауіп тудыратын дамыған жасанды интеллект жүйелерінің ықтималдығының 10 пайыздан асатынын мойындады.

Хубингер оларда адам интеллектінен асып түсетін жасанды интеллект оны әзірлеушілердің нұсқаулары мен этикалық ережелерін қатаң сақтайтын бақылау шешімі әлі жоқ екенін қосты. Қолданыстағы жасанды интеллект үлгілері үшін тәуекел деңгейі салыстырмалы түрде төмен екенін айтқан аға менеджер модельдердің күші мен мүмкіндіктері артқан сайын бұл қауіп экспоненциалды түрде өсетінін ескертті.

"Рекурсивті өзін-өзі жетілдіру" және бірінші ескерту суреттері

Сарапшылар «супер интеллект» деп атайтын бұл жаңа кезең жасанды интеллект барлық дерлік когнитивті пәндер бойынша адам көрсеткіштерінен асып түсетінін білдіреді. Бұл жетілдірілген жүйелер адамның араласуынсыз өздерінің кодтарын жазу және оңтайландыру арқылы жаңа буын жасанды интеллект жүйелерін жобалай алады деп болжануда. Салада «рекурсивті өзін-өзі жетілдіру»деп анықталған бұл процесс жасанды интеллектті толық бақылауға әкелуі мүмкін.

Коксон бұл жетілдірілген жүйелер болашақта зияткерлік салаларда адамдардан асып түсетінін айтады; Ол сондай-ақ маңызды инфрақұрылымдарға ену және жаһандық экономикалық және саяси жүйелерді манипуляциялау мүмкіндігіне ие болуы мүмкін деп сендірді. Өткен кезеңде ChatGPT жасанды интеллект агенті жасағанҚұшақтау бетшабуылына сілтеме жасай отырып, Коксон бұл оқиғаның алдағы үлкен қауіп туралы «ескерту атуы» екенін айтты. Ғылым әлемінде бұл қауіптердің ауқымы туралы толық консенсус жоқ болса да, жасанды интеллект бойынша ең озық зерттеулер тәуелсіз федералды бақылау механизмі құрылғанша тоқтатылуы керек деген үндеулер күн сайын күшейе түсуде.