Жасалма интеллекттин адамзатты жок кылуу коркунучу 10 пайызды түзөт: антрополог изилдөөчүнүн коркунучтуу моюнга алуусу

Технология дүйнөсү жасалма интеллекттин келечеги тууралуу өтө үрөй учурарлык жана коркунучтуу доомат менен солкулдады. Тармактагы эң чоң жасалма интеллект компанияларынын бири болгон Anthropic компаниясында иштеген адистер бул технологиянын жакынкы он жылда адамзаттын жок болушуна 10 пайыздан ашык ыктымалдык бар экенин айтышууда. Дебат компаниядан жаңы эле кеткен Джейкоб Коксондун таң калыштуу билдирүүлөрү жана Anthropicтин тең салмактуулук боюнча изилдөөчүсү Эван Хубингердин ырастоосу менен жаңы өңүткө ээ болду.

"Супер интеллект менен шайкештик маселесин чечүү планыбыз жок"

Evan Hubinger, Anthropic компаниясында жасалма интеллект менен адамдык баалуулуктарды шайкеш келтирүүнүн үстүндө иштеп жаткан АКШда жайгашкан X социалдык медиа платформасында өзүнүн эсебинде жаңычыл билдирүүлөрдү жасады. Компаниядан кеткен кесиптеши Джейкоб Коксондун билдирүүсүн келтирип: «Жасалма интеллектти өнүктүргөндөр бул технологиянын 10 жылдын акырында баарыбызды өлтүрө аларына чын жүрөктөн ишенишет»,- деген Хубингер бул пикирге кошулганын айтты. Хубингер кооптуулуктун масштабын ачыкка чыгарды: "Жакоб бул жөнүндө туура айтат, биз жасалма интеллект бардык адамдарды өлтүрө аларына чын жүрөктөн ишенебиз."

Бул кырсык сценарийинин жакынкы 10 жылда болушу ыктымалдыгы 10 пайыздан ашык экенин талашып, Хубингер компания колунан келгендин баарын кылып жатканын мойнуна алды, бирок аларда супер интеллект менен шайкештик маселесин чечүү үчүн азырынча так план же жол картасы жок.

Гигант компанияларында көзөмөлсүз жарыш жана кызматтан кетүү чечимдери

Акыркы үч жылдан бери жасалма интеллект тармагынын пионерлери OpenAI жана Anthropicде изилдөөчү болуп иштеген Джейкоб Коксон, эки компания тең жетиштүү жоопкерчиликтүү иш кылбаганын белгилеп, Anthropicтеги кызматынан кеткенин жарыялады. Компаниялардын өзүн-өзү өркүндөтүүчү «супер интеллектке» жетүү үчүн көзөмөлсүз жана кооптуу жарышта экенин баса белгилеген Коксон процесстин ачык-айкын башкарылбаганын айтты.

Жасалма интеллекттин күчүн бааланбай коюуга болбойт деп эскерткен Коксон: "Булар жакында эч нерсени бузуп, каалаган аймакты бир түндө өзгөртүп, реалдуу күч менен ресурстарды ала турган адамдан тышкаркы системаларга айланат. Биз бул тармактардын ар биринде прогресске күбө болдук жана бул процесс басаңдабайт."

"Жабык эшиктердин артында чоң коркунуч бар"

Сектордогу тез прогресстин басаңдабаганын жана башкаруу механизмдери бул ылдамдыкка туруштук бере албастыгын айткан мурдагы изилдөөчүнүн бул сөздөрү дүйнөлүк масштабда жасалма интеллекттин келечеги тууралуу этикалык жана коопсуздук талкууларын кайрадан жандантты.