Anthropicтен кеткен изилдөөчүнүн коркунучтуу моюнга алуусу: "Алар биздин жашообузду супер интеллект менен ойношот"

Жасалма интеллект тармагындагы акыркы тез өнүгүүлөр көшөгө артында чоң коопсуздук кризисине алып келет. Жасалма интеллект дүйнөсүнүн OpenAI жана Anthropic деген алдыңкы компанияларында маанилүү кызматтарды ээлеген 27 жаштагы изилдөөчү Джейкоб Коксондун кызматтан кетүү чечими технология коридорлорунан каржы жана саясат чөйрөсүнө чейин кеңири чөйрөдө сейсмикалык таасирге ээ болду. Акыркы үч жылдан бери чоң тил моделдерин даярдоо процессине активдүү катышкан Коксон бул сектор технологиялык жарышта гана эмес, адамзаттын келечегине коркунуч туудурган көзөмөлсүз кумар оюну экенин айтты.

Жасалма интеллект иштеп чыгуучулар 10 жылдан кийин жок болуп кетээрибизге ишенишет

Социалдык медиа платформасында жасаган таң калыштуу билдирүүлөрү менен унчукпай туруп, эки технология гиганты тең жоопкерчиликтүү иш кылуудан алыс экенин талашып, жаш изилдөөчү: "Алар өзүн-өзү өркүндөтүүчү супер интеллект үчүн жинди жарышууда жана биздин бардык жашообуз менен кумар ойноп жатышат." Коксондун айтымында, жасалма интеллект системаларынын өнүгүү темпи коомчулук күткөндөн алда канча жогорку темпте өнүгүүдө.

Кызматтан кеткен изилдөөчүнүн эң таң калыштуу дооматы бул системаларды иштеп чыккан улук инженерлердин жана менеджерлердин ички ишенимдери жөнүндө болду. Тармактагы алдыңкы ысымдардын жасалма интеллекттин адамзат үчүн экзистенциалдык коркунуч экенине чындап ишенгенин айткан Коксон: "Жасалма интеллектти өнүктүргөн адамдар бул технологиянын он жылдыктын акырына чейин баарыбызды өлтүрө аларына чын жүрөктөн ишенишет. Бул, албетте, маркетинг тактикасы эмес. Тескерисинче, көптөгөн жетекчилер прессадагы сөздөрүн кылдаттык менен тандап, ачык-айкын айтып, логистикалуу сезишет. жабык эшик артында.»

"Эч ким токтотпосо, биз токтото албайбыз" туюгу

<б> Коксон Anthropic болгон тобокелдиктерди толугу менен билип, бирок глобалдык атаандаштык басымынан улам тормоздой алган жок деп билдирди. Ал компаниялардын негизги мотивациясы «Эгерде башкалар жоопкерчиликтүү иш кылбаса, биринчи бул күчкө ээ болушубуз керек»деген философия экенин баса белгиледи. Мындай абалдын эң конкреттүү мисалы февраль айында болгон. Anthropic корпоративдик коопсуздук келишиминен коопсуздук критерийлерине жооп бере албаса, моделди иштеп чыгууну толугу менен токтотот деген убадасын акырын алып салды. Компания бул кадамды бир тараптуу басаңдоо коопсуздукка сезимтал эмес атаандаштарды бир кыйла пайдалуу абалга алып келет деген тезис менен коргоду.

Сектордогу бул кооптуу тенденция кээде ичинен реакцияны жаратат. Июль айынын аягында миңден ашык технологиялык жумушчулар жана эксперттер, анын ичинде Anthropic компаниясынын башкы директоруДарио АмодейӨнүккөн AI моделдерин иштеп чыгууну макулдашылган жайлоого чакырган биргелешкен билдирүүнү колдошту. Мындай кысымдардан кийин OpenAI жаңы үлгүдөгү окуу процесстерин август айында эки жумага токтотушу керек болчу.

Антропикалык менеджердин коркунучтуу моюнга алуусу: тобокелдик 10 пайыздан ашты

<б>Индустрияны солкулдаткан Якоб Коксондун бул дооматтары жарым-жартылай тастыкталдыEvan HubingerАнтропикалык ичиндеги коопсуздук жана шайкештикти изилдөө үчүн жооптуу негизги адамдардын бири. Социалдык медиа эсебинде билдирүү жасаган Хубингер өнүккөн жасалма интеллект системаларынын алдыдагы он жылда адамзат үчүн катастрофалык коркунуч жаратышы ыктымалдыгын 10 пайыздан жогору көрүп жатканын мойнуна алды.

<б> Хубингер аларда адамдын интеллектинен ашкан жасалма интеллект аны иштеп чыгуучулардын көрсөтмөлөрүнө жана этикалык эрежелерине так карманышын камсыз кыла турган башкаруу чечими жок экенин кошумчалады. Учурдагы жасалма интеллект моделдеринин тобокелдик деңгээли салыштырмалуу төмөн экенин белгилеген улук менеджер, моделдердин күчү жана мүмкүнчүлүктөрү көбөйгөн сайын бул коркунуч экспоненциалдуу түрдө өсө турганын эскертти.

"Рекурсивдүү өзүн-өзү өркүндөтүү" жана Биринчи эскертүү кадрлары

Эксперттер "супер интеллект" деп атаган бул жаңы этап жасалма интеллект дээрлик бардык когнитивдик дисциплинада адамдын көрсөткүчтөрүнөн ашып түшөрүн билдирет. Бул өнүккөн системалардын жаңы муундагы жасалма интеллект системаларын адамдын кийлигишүүсүз өз коддорун жазып жана оптималдаштыруу аркылуу долбоорлой алаары болжолдонууда. Тармакта "рекурсивдүү өзүн-өзү өркүндөтүү"деп аныкталган бул процесс жасалма интеллектти толук көзөмөлдөөгө алып келиши мүмкүн.

<б> Коксон келечекте бул өнүккөн системалар интеллектуалдык чөйрөлөрүндө адамдардан ашып түшпөйт деп айтылат; Ал ошондой эле маанилүү инфраструктураларга кирип, глобалдык экономикалык жана саясий системаларды манипуляциялоочу күчкө ээ болушу мүмкүн деп ырастады. Өткөн мезгилде ChatGPT жасалма интеллект агенти тарабынан жасалганКучактап жаткан жүзкол салууга токтолуп, Коксон бул окуянын алдыдагы чоң коркунучтун "эскертүү атуу" экенин айтты. Илим дүйнөсүндө бул коркунучтардын масштабы боюнча толук консенсус жок болсо да, көз карандысыз федералдык башкаруу механизми түзүлгөнгө чейин эң алдыңкы жасалма интеллект изилдөөлөрү токтотулушу керек деген чакырыктар күн сайын күчөп баратат.