Жасалма интеллект дүйнөсүндөгү ири жер титирөө: Антроптук чиновниктин "ал адамзатты жок кылышы мүмкүн" деп моюнга алуусу

<б> Жасалма интеллект технологияларынын тез өнүгүшү бул системаларды чыгарган гигант компаниялардын коридорлорунда олуттуу коопсуздук көйгөйлөрүн алып келет. Акыркы убакта тармакты жетектеген эң маанилүү актерлордун бири болгонАнтропиктеги отставкалар толкуну жана андан кийинки таң калыштуу билдирүүлөр дагы бир жолу жасалма интеллекттин адамзатка тийгизген экзистенциалдык коркунучун ачыктады. Эван Хубингер, компаниянын Комплаенс боюнча илимий кызматкери, жасалма интеллект адамзатты жок кылуу мүмкүнчүлүгү жөнүндө жүрөк үшүн алган мойнуна алды.

Hubinger, X коомдук медиа платформасында жасаган билдирүүсүндө, ал жана анын кесиптештери жасалма интеллект келечекте бүт адамзатты жок кыла аларына "чын жүрөктөн ишенерин" билдирди. Бул апаат сценарийинин алдыбыздагы он жылда болушу мүмкүндүгүн баалаган Хубингер: «Алдыдагы 10 жылда бул коркунуч 10 пайыздан ашат деп ойлойм»,-деп коркунучтун көлөмүнө көңүлдөрдү бурду. Anthropicтин коопсуздук чаралары үчүн аракет кылып жатканын белгилеген чиновник, «супер интеллект үчүн тең салмактуулук» көйгөйүнө азырынча конкреттүү бир чечим чыгара электигин жана компаниянын бул темада «так жолдо эмес» экенин ачык мойнуна алды.

<0>8

Өзүн-өзү өркүндөтүүчү жасалма интеллект жана көзөмөлсүз суперинтеллект коркунучу

Хубингердин айтымында, азыркы жасалма интеллект моделдеринин коркунучу азырынча төмөн. Бирок, чыныгы коркунуч - системалар өз каталарын оңдоп, жаңы жөндөмгө ээ болгон рекурсивдүү өзүн-өзү өркүндөтүүчү суперинтеллект күтүлгөндөн алда канча ылдам пайда болот. Бул көзөмөлсүз өнүгүү процесси адам башкаруусу толугу менен өчүрүлө турган мезгилди башташы мүмкүн.

Бул үрөй учурган ачылыштар Anthropicтин негизги изилдөөчүлөрүнүн бири Джейкоб Коксон коопсуздукка байланыштуу кызматтан кеткенден кийин болду. Буга чейин OpenAI жана Anthropic алкагында алдын ала даярдоо процесстери боюнча иштеген Коксон технологиялык компаниялар сокур жарышта деп ырастады. Коксондун айтымында, компаниялар өзүн-өзү өнүктүрүүчү супер интеллектке жетүү үчүн "биздин жашообуз менен кумар ойношот".

"Бул маркетинг тактикасы эмес, бул чыныгы коркунуч"

<б> Өнөр жайдын кээ бир сегменттери бул эскертүүлөрдү жарнамалык апыртма катары көрүп жатканын талашып, Коксон жасалма интеллектти иштеп чыгуучулар чындап эле адамзаттын акырына алып келе турган күч он жылдыктын акырына чейин ишке ашат деп ишенерин баса белгиледи. Уолл Стрит Джорналга сүйлөп жатып, Коксон ал тургай "келерки жылдын аягына чейин баары көзөмөлдөн чыгып кетиши мүмкүн болгон эң агрессивдүү сценарийлер" мүмкүн деп ойлой турганын айтты.

Коксон ошондой эле Anthropic башкаруу тобокелдиктерди толук билет деп ырастады, бирок "баары бир эч ким жоопкерчиликтүү иш кылбайт, ошондуктан биз бул технологияны биринчилерден болуп иштеп чыгышыбыз керек" логикасы менен иш алып баруу менен кооптуу жарыштын бир бөлүгү болуп калды.

Дүйнөлүк масштабда жасалма интеллектти жайлатууга чакырат

Бул акыркы окуялар жасалма интеллект дүйнөсүндөгү коопсуздук жана этикалык тегиздөө боюнча көптөн берки талкууларды кайра жандантты. Тармактагы көптөгөн алдыңкы илимпоздор, инженерлер жана технология лидерлери адамзаттын көзөмөлүн жоготуп албаш үчүн өнүккөн жасалма интеллект системаларынын өнүгүү процесстерин тыныгууга же жайлатууга биргелешкен чакырыктарды жасашкан. Бирок, атаандаштык амбициялары бул чакырыктарды ишке ашырууну кыйындатат.