Жасанды интеллекттегі қиямет күнінің сценарийі: технологиялық алпауыттардың «баяулау» мойындауы

Дамушы технология әлемінде жасанды интеллект индустриясының жетекші атаулары осы технологияның адамзаттың ақырына әкелетін әлеуеті туралы бірінен соң бірі үрейлі мәлімдемелер жасауды жалғастыруда. Бұл жағдай жұртшылықтың: «Егер бұл соншалықты қауіпті болса, неге оны дамыта бересіздер?» деген сұрақ тудырды. Сұрақ қою кезінде АҚШ-та орналасқан Anthropic жасанды интеллект компаниясының бас директоры Дарио Амодейден жаңашыл мойындау келді. CBS News-ке сөйлеген Амодей жасанды интеллект технологиясының экспоненциалды түрде өсіп келе жатқан даму қарқынын қадағалау және түсіну қиынға соққанын айтты. Амодей: "Мен мұндай жылдам прогресс шын мәнінде қандай болашаққа әкелетінін толық түсіне алмаймын деп ойлаймын" деді.

Өнеркәсіп өкілдерінен қауіпсіздік стандарттары мен ынтымақтастыққа шақыру

Дарио Амодей технологияның ілгерілеуінің қазіргі қарқыны сала үшін елеулі бәсеңдейтін ескерту екенін айтты. Амодей: "Бұл біз бірден дүрбелеңге түсіп, барлық жүйелерді бүгін өшіруіміз керек дегенді білдірмейді. Дегенмен, жасанды интеллекттің даму қарқынына ілесе алатын күшті шаралар шұғыл қажет" деді. Жасанды интеллект компаниялары жиналып, ортақ қауіпсіздік стандарттарын анықтап, өнімдерді нарыққа шығару жылдамдығын бақылау ережелерін белгілеуі керек екенін атап өткен бас директор саланың үкіметтермен тығыз ынтымақтастығы маңыздылығына назар аударды.

Амодейдің қоңырауы OpenAI бас директоры Сэм Альтман, миллиардер бизнесмен Илон Маск және Google DeepMind президенті Демис Хассабис сияқты саланың ең қуатты актерларынан қолдау тапты. Дегенмен, бұл қолдау жасанды интеллекттің технология әлеміндегі бақылаудан шығып кету қаупін және компаниялардың шынайылығын талқылаудың жаңа бағытына айналдырды. Ол әлеуметтік медиа платформаларында жасанды интеллект бастықтарына қарсы: «Егер сіз оның адамзатты құртатын деңгейге жететінін білсеңіз, неге бұл технологияны дамытуды бастадыңыз?» деді. Реакциялар, мысалы:

Отставкалар және "10 пайыздық өлім қаупі" туралы талқылау

Пікірталастардың тұтануы Anthropic-те жұмыс істейтін зерттеуші Эван Хубингердің келесі 10 жылда жасанды интеллекттің адамзатты жою ықтималдығын 10 пайыздан астам деп санайтыны туралы мәлімдемесі арқылы тұтандырды. Осы мәлімдемеден кейін бір күн өткен соң, үш жыл бойы OpenAI және Anthropic-те зерттеуші болып жұмыс істеген Джейкоб Коксон екі компания да жасанды интеллектті дамыту процестерінде жауапкершілікпен әрекет етпеді деп Anthropic-тегі қызметінен кетті. Коксон Хубингердің алаңдаушылығын қолдады және сала қызметкерлерінің бұл жүйелер 10 жыл ішінде адамзаттың жойылуына әкелуі мүмкін деген сенімі өте маңызды екенін мәлімдеді.

Бұл қауіпсіздік мәселелері ChatGPT әзірлеушісі OpenAI қаржылық стратегияларына да тікелей әсер етті. Компанияның бас директоры Сэм Альтман қауіпсіздік мәселелеріне байланысты биылғы жылы халыққа шығуды жоспарламайтынын мәлімдеді. Fortune журналына сөйлеген сөзінде Альтман: «Мен онжылдықтың соңына қарай әрбір адамның өмірін жоғалтуына әкелетін 10 пайыздық тәуекелге баруды мүлдем қолайсыз деп санаймын» деді. Ағымдағы кезеңнің көпшілікке ұсыныс жасау үшін қолайлы емес екенін айтқан Альтман жасанды интеллекттің бүкіл адамзатқа пайда әкелетінін қамтамасыз ете отырып, ешкімді тәуекелге ұшыратпайтын жаңа көзқарастың қабылдануы керектігін және бұл мәселеде ешқандай қысым сезінбейтіндерін атап көрсетті.

Стивен Хокингтің бірнеше жыл бұрынғы ескертуі тағы да күн тәртібінде

Жасанды интеллект әлеміндегі бұл дағдарыс 2018 жылы 76 жасында қайтыс болған әлемге әйгілі британдық астрофизика профессоры Стивен Хокингтің тарихи ескертулерін еске түсірді. Өлер алдында Би-би-сиге берген соңғы сұхбатында Хокинг: «Жасанды интеллект қазіргі заманғы өнердің толыққанды дамуына көмектесіп қана қоймайды; адамзаттың ақыры». Бүгінгі «10 жыл ішінде жойылып кету» пікірталастарының көлеңкесінде британдық баспасөз Хокингтің сөздерін қайтадан тақырыпқа шығарды. Хокинг жасанды интеллект биологиялық эволюциямен шектелген адамдарға қарағанда автономды шешімдер қабылдап, өзін тезірек қайта құруы мүмкін екенін және ақырында адамзатты алмастыра алатынын болжады.