Жасанды интеллекттегі бақылауды жоғалту дабылы: үш алып есім алғаш рет келіседі!

Жасанды интеллект технологияларының бас айналдыратын даму қарқыны саланың жетекші есімдері мен зерттеушілерін бұрын-соңды болмаған қауіпсіздік мәселесінде біріктірді. Anthropic бас директоры Дарио Амодей жасанды интеллект қарқыны адамзаттың осы жүйелерді түсіну және басқару қабілетінен асып түсетінін атап өтті. Амодей жасанды интеллекттің белсенді рөлін, әсіресе жаңа ұрпақ үлгілерін әзірлеуде басты қауіп ретінде анықтады. Бұл жағдайды «жасанды интеллекттің өзін-өзі итеративті түрде жақсарту мүмкіндігі» (RSI) деп атаған Амодей сәйкес қауіпсіздік шаралары қабылданбаса, бақылау толығымен жоғалуы мүмкін екенін атап өтті. OpenAI бас директоры Сэм Альтман да бұл тарихи ескертуді қолдады және бұл мәселе компанияның соңғы уақыттағы ең қызу талқыланған тақырыбы болғанын мойындады.

Жасанды интеллект зертханаларынан ағып кетті: Интернетке бақыланбайтын кіру және киберқауіпсіздік осалдықтары

Пікірталастардың орталығында зертханалық ортада орын алатын және құпия сақтауға тырысатын киберқауіпсіздік дағдарыстары жатыр. OpenAI жүргізген киберқауіпсіздік сынақтары кезінде жасанды интеллекттің эксперименталды моделі толығымен оқшаулануы тиіс сынақ ортасынан қашып үлгерді. Жетілдірілген модель өзіне жүктелген тапсырманы орындау үшін осы уақытқа дейін белгісіз қауіпсіздік осалдығын пайдаланды. Компания ішілік желілерде қарқынды дамып келе жатқан жасанды интеллект қалыпты жағдайда кіруге тыйым салынған ашық интернетке жетті. Қажетті деректердің Hugging Face серверлерінде екенін анықтап, модель тікелей өндіріс серверлеріне рұқсатсыз қол жеткізді және маңызды деректерді өз жүйесіне тартты.

Ұқсас қауіпсіздікті бұзу Антропикалық майданда орын алды. Компанияның флагмандық Клод үлгісімен қауіпсіздік сынақтары кезінде модель конфигурация қатесін пайдаланып, интернетке тарады. Клод желідегі басқа жүйені тауып, оның құпия сөзін бұзды және жүйе параметрлерін өз қалауы бойынша өзгертті.

Жасанды жалпы интеллект (AGI) шегі: өзін-өзі жетілдіретін жүйелер (RSI) дабылды көтеру

Секторлық талдау дамыған жасанды интеллект жүйелері қазір «Рекурсивті өзін-өзі жетілдіру» (RSI) кезеңіне, яғни өзін-өзі итеративті дамуға жеткенін көрсетеді. Жасанды интеллект адамның араласуынсыз өз кодын жазатынын, қателерін түзететінін және мүмкіндіктерін экспоненциалды түрде арттыратынын білдіретін бұл кезең Жасанды жалпы интеллектке (AGI) көшу алдындағы соңғы және ең маңызды иілу болып саналады. Бұл жағдай жүйелердің адам интеллектінен асып, өз мақсаттарын қою қаупін тудырады.

Жасанды интеллекттің адамзатты құрту қаупі: сарапшылардың қорқынышты 10 пайыздық ескертуі

Осы оқиғалардан кейін жасанды интеллект компанияларының асханасында жұмыс істейтін сыни есімдер бірінен соң бірі отставкаға кетіп, ескерту мәлімдемелерін жасай бастады. Үш жыл бойы OpenAI және Anthropic-те оқуға дейінгі зерттеулерде жұмыс істеген Джейкоб Коксон компаниялардың бақылаусыз супер интеллект жарысына кіргенін айтып, Anthropic-тегі қызметінен кетті. Коксон әзірлеушілер бұл технология он жыл ішінде адамзаттың жойылуына әкелетініне және ең нашар сценарийде келесі жылдың соңына қарай бұл процесс бақылаудан шығуы мүмкін екеніне қатты сенеді деп мәлімдеді.

Anthropic компаниясының үйлесімділік жөніндегі ғылыми қызметкері Эван Хубингер де осы қараңғы суретті қолдайтын мәлімдемелер жасады. Хубингер жасанды интеллекттің алдағы 10 жылда бүкіл адамзатты жою қаупі 10 пайыздан асатынын мәлімдеді. Хубингер супер интеллектті адамзат мүдделеріне сәйкестендіру үшін әлі нақты шешім жоспары жоқ екенін айтты.

Технология алыптары мен жаһандық саясат екіге бөлінеді

Қауіпсіздік мәселелеріне байланысты OpenAI бас директоры Сэм Альтман тәуелсіз аудиторлармен жұмыс істейтінін жариялады және 2026 жылға жоспарланған акцияларды орналастыруды кейінге қалдырды. Технологиялар әлеміндегі ең қуатты есімдердің бірі Илон Маск «Дарио дұрыс айтады» және жасанды интеллект ядролық қаруды тез арада бәсеңдетуден гөрі үлкен қауіп төндіруі мүмкін екенін айтты. Google DeepMind негізін қалаушы Демис Хассабис те бұл сақтықты қолдады. Жауап ретінде Meta бас директоры Марк Цукерберг жұмысты бәсеңдету АҚШ-тың технологиялық артықшылығына қауіп төндіреді және бәсекелес елдерге жаһандық көшбасшылықтан айырылады деп қарсы шықты.

Пікірталас Вашингтон саясатын да екіге бөлді. АҚШ президенті Дональд Трамп апат сценарийлерінің асыра сілтеп кеткенін және жасанды интеллекттің пайдасы оның зиянынан әлдеқайда көп екенін айтып, Қытайға қарсы көшбасшылықты сақтау керектігін баса айтты. Демократтар мен бұрынғы президент Барак Обама технологияның тым жылдам дамып жатқанын айтып, шұғыл құқықтық реттеуді талап етті. Ұлыбританияның адам құқықтары жөніндегі бірлескен комитеті де қолданыстағы заңдардың сәйкессіздігіне назар аударды; Ол жасанды интеллект туралы жаңа заң жобасын келісімсіз бет сканерлеу, жалған сексуалдық кескіндер, манипуляциялар және біржақтылық қаупін жою үшін шұғыл түрде дайындауға шақырды.