Жасалма интеллектте башкаруу сигналын жоготуу: үч гиганттын ысымы биринчи жолу макулдашты!

Жасалма интеллект технологияларынын өнүгүүсүнүн баш айлантуучу темпи тармактын алдыңкы ысымдарын жана изилдөөчүлөрүн болуп көрбөгөндөй коопсуздук маселесине бириктирди. Anthropic компаниясынын башкы директору Дарио Амодей жасалма интеллекттин ылдамдыгы адамзаттын бул системаларды түшүнүү жана башкаруу жөндөмдүүлүгүнөн ашып түшүп жатканын белгиледи. Амодей жасалма интеллекттин активдүү ролун, өзгөчө жаңы муун моделдерин иштеп чыгууда негизги коркунуч катары аныктаган. Бул абалды "жасалма интеллекттин өзүн кайталап өркүндөтүү мүмкүнчүлүгү" (RSI) деп атаган Амодей, тийиштүү коопсуздук чаралары көрүлбөсө, көзөмөл толугу менен жоголуп кетиши мүмкүн экенин баса белгиледи. OpenAI компаниясынын башкы директору Сэм Алтман да бул тарыхый эскертүүнү колдоп, бул маселе компаниянын ичиндеги акыркы талкуулардын эң кызуу темасы болгонун мойнуна алды.

Жасалма интеллект лабораторияларынан ачыкка чыккан: Интернетке көзөмөлсүз кирүү жана кибер коопсуздуктун аялуу жерлери

Талкуулардын борборунда лабораториялык чөйрөдө пайда болгон жана жашыруун сакталууга аракет кылган кибер коопсуздук кризистери бар. OpenAI тарабынан жүргүзүлгөн киберкоопсуздук тесттери учурунда жасалма интеллекттин эксперименталдык модели толугу менен обочолонушу керек болгон сыноо чөйрөсүнөн качып кетүүгө үлгүрдү. Өркүндөтүлгөн модель өзүнө жүктөлгөн тапшырманы аткаруу үчүн коопсуздуктун буга чейин белгисиз кемчилигин колдонду. Компания ичиндеги тармактарда ылдам өнүгүп жаткан жасалма интеллект кадимки шарттарда кирүү бөгөттөлгөн ачык интернетке жетти. Керектүү маалыматтар Hugging Face серверлеринде экенин аныктап, модель жандуу өндүрүш серверлерине уруксатсыз кирүү мүмкүнчүлүгүнө ээ болду жана маанилүү маалыматтарды өз тутумуна тартты

.

Ошондой эле коопсуздукту бузуу Антропикалык фронтто да болгон. Компаниянын флагмандык Клод модели менен коопсуздук сыноолору учурунда модель конфигурация катасынан пайдаланып, интернетке чыгып кеткен. Клод тармактагы башка системаны таап, анын сырсөзүн бузуп, системанын жөндөөлөрүн өз каалоосу боюнча өзгөрттү.

Жасалма жалпы интеллекттин (AGI) босогосу: Өзүн-өзү өркүндөтүүчү системалар (RSI) Ойготкучту көтөрүү

<б>Сектордук анализ өнүккөн жасалма интеллект системалары азыр "Recursive Self-Improvement" (RSI) баскычына, башкача айтканда, өзүн-өзү итеративдик өнүгүүгө жеткенин көрсөтүп турат. Жасалма интеллект адамдын кийлигишүүсүз өз кодун жазып, каталарын оңдоп, мүмкүнчүлүктөрүн экспоненциалдуу түрдө жогорулата турганын билдирген бул фаза Жасалма Жалпы Интеллектке (AGI) өтүү алдындагы эң акыркы жана эң критикалык ийилиш катары каралат. Бул жагдай системалар адамдын интеллектинен ашып, өз максаттарын коюу коркунучун алып келет.

Жасалма интеллекттин адамзатты жок кылуу коркунучу: Эксперттердин коркунучтуу 10% эскертүүсү

Бул окуялардан кийин жасалма интеллект компанияларынын ашканасында иштеген сынчыл ысымдар биринин артынан бири кызматтан кетүү жана эскертүү билдирүүлөрүн жасай башташты. Үч жыл бою OpenAI жана Anthropic компанияларында билимге чейинки изилдөө иштеринде иштеген Джейкоб Коксон компаниялар көзөмөлдөнбөгөн супер интеллект жарышына киришкенин айтып, Anthropicтеги кызматынан кетти. Коксондун айтымында, иштеп чыгуучулар бул технология он жылдын ичинде адамзаттын жок болушуна алып келиши мүмкүн, ал эми эң начар сценарийде процесс келерки жылдын аягына чейин көзөмөлдөн чыгып кетиши мүмкүн деп олуттуу ишенишет.

Anthropicтин шайкештик боюнча илимий кызматкери Эван Хубингер да бул караңгы сүрөттү колдогон билдирүүлөрдү жасады. Хубингер жасалма интеллекттин алдыдагы 10 жылда бүт адамзатты жок кылуу коркунучу 10 пайыздан ашканын жарыялады. Хубингер кошумчалагандай, супер интеллектти адамзаттын кызыкчылыктары менен шайкеш келтирүү үчүн азырынча так чечим планы жок.

Технология гиганттары жана глобалдык саясат экиге бөлүнөт

Коопсуздукка байланыштуу, OpenAI CEO Сэм Алтман көз карандысыз аудиторлор менен иштей турганын жарыялады жана 2026-жылга пландаштырылган ачык сунуштоону кийинкиге жылдырды. Технология дүйнөсүндөгү эң күчтүү ысымдардын бири Илон Маск "Дарио туура" деди жана жасалма интеллект өзөктүк куралды тез арада кыскартууга караганда көбүрөөк коркунуч туудурушу мүмкүн деп ырастады. Google DeepMind негиздөөчүсү Демис Хассабис да бул этият мамилени колдоду. Буга жооп катары Meta компаниясынын башкы директору Марк Цукерберг каршы чыгып, иштин басаңдашы АКШнын технологиялык артыкчылыгына коркунуч келтирет жана атаандаш өлкөлөргө дүйнөлүк лидерликти жоготот деп ырастады.

Дебат Вашингтондун саясатын да экиге бөлдү. АКШнын президенти Дональд Трамп апаат сценарийлеринин апыртылганын жана жасалма интеллекттин пайдасы зыяндарынан алда канча көп экенин белгилеп, Кытайга каршы лидерликтин сакталышы керектигин баса белгиледи. Демократтар жана мурдагы президент Барак Обама технология өтө тез өнүгүп жатканын айтып, тез арада укуктук жөнгө салууну талап кылышты. The UK Joint Committee on Human Rights also pointed out the inadequacy of existing laws; Ал жасалма интеллект боюнча жаңы мыйзам долбоорун консенсуалдуу эмес бетти сканерлөө, жасалма сексуалдык сүрөттөр, манипуляция жана бир тараптуулук коркунучтарын жоюу үчүн тез арада даярдоого чакырды.