Жасалма интеллекттеги кыямат күнүнүн сценарийи: технология гиганттарынын "жайлоо" моюнга алуусу

Өнүгүп келе жаткан технология дүйнөдө, жасалма интеллект тармагынын алдыңкы ысымдары бул технологиянын адамзаттын акырына алып келе турган потенциалы жөнүндө биринин артынан бири коркунучтуу билдирүүлөрдү жасоону улантууда. Бул жагдай коомчулукта “ушунчалык кооптуу болсо, эмнеге өнүктүрөсүң?” деген суроону жаратты. Бул суроону көтөрүп жатып, АКШда жайгашкан Anthropic жасалма интеллект компаниясынын башкы директору Дарио Амодейдин мойнуна алды. CBS News телеканалына сүйлөп жатып, Амодей жасалма интеллект технологиясын өнүктүрүүнүн экспоненциалдуу өсүп жаткан темптерин аңдоодо жана түшүнүүдө кыйынчылыкка дуушар болгонун айтты. Амодей: "Мындай тез прогресс иш жүзүндө кандай келечекке алып келерин толук түшүнө албайм деп ойлойм" деди.

Өнөр жай өкүлдөрүнөн коопсуздук стандарттарына жана кызматташууга чакыруу

<б> Дарио Амодей технологиянын өнүгүшүнүн учурдагы темптери өнөр жай үчүн олуттуу басаңдашы эскертүүсү деп ырастады. Амодей: "Бул дароо дүрбөлөңгө түшүп, бүгүн бардык системаларды өчүрүшүбүз керек дегенди билдирбейт. Бирок, тез арада жасалма интеллекттин өнүгүү темпин кармай ала турган күчтүү чаралар керек" деди. Жасалма интеллект компаниялары чогулуп, бирдиктүү коопсуздук стандарттарын аныктап, продукцияны рынокко чыгаруу ылдамдыгын көзөмөлдөө үчүн эрежелерди түзүшү керек экенин баса белгилеген башкы директор, тармактын өкмөттөр менен тыгыз кызматташуусунун маанилүүлүгүнө көңүл бурду.

Амодейдин чакырыгы OpenAIнин башкы директору Сэм Алтман, миллиардер бизнесмен Илон Маск жана Google DeepMind президенти Демис Хассабис сыяктуу тармактын эң күчтүү актерлорунан колдоо алды. Бирок, бул колдоо технология дүйнөсүндөгү жасалма интеллекттин көзөмөлдөн чыгып кетүү коркунучун жана компаниялардын чын ыкластуулугун талкуунун жаңы чордонуна айлантты. Социалдык медиа платформаларында ал жасалма интеллекттин жетекчилерине каршы: "Эгер анын адамзатты жок кыла турган чекке жете турганын билсеңиз, эмне үчүн бул технологияны иштеп чыгууну баштадыңыз?" Реакциялар, мисалы:

Кызматтан кетүү жана "10 пайыздык өлүм коркунучу" талкуусу

Талкуулардын тутануусу Anthropic компаниясында иштеген изилдөөчү Эван Хубингердин кийинки 10 жылда жасалма интеллекттин адамзатты жок кылуу ыктымалдыгын 10 пайыздан ашуун деп эсептейт деген билдирүүсү менен тутанган. Бул билдирүүдөн бир күн өткөндөн кийин, OpenAI жана Anthropicте үч жыл изилдөөчү болуп иштеген Джейкоб Коксон эки компания тең жасалма интеллектти өнүктүрүү процесстеринде жоопкерчиликтүү иш кылбаганын айтып, Anthropicтеги кызматынан кетти. Коксон Хубингердин тынчсыздануусун колдоп, бул системалар адамзаттын 10 жылдын ичинде жок болушуна алып келиши мүмкүн деген тармак кызматкерлеринин ишеними өтө олуттуу экенин билдирди.

Бул коопсуздук көйгөйлөрү ChatGPTти иштеп чыгуучу OpenAIдин каржылык стратегияларына да түздөн-түз таасирин тийгизди. Компаниянын башкы директору Сэм Альтман коопсуздукка байланыштуу бул жылы ачыкка чыгууну пландабаганын жарыялады. Fortune журналына сүйлөп жатып, Альтман: «Он жылдыктын акырына чейин ар бир адамдын өмүрүн жоготушу мүмкүн болгон 10 пайыздык тобокелге баруу таптакыр кабыл алынгыс деп эсептейм», - деди. Учурдагы мезгилдин коомчулукка сунушка ылайыктуу эмес экенин белгилеген Альтман, жасалма интеллекттин бүткүл адамзатка пайда алып келүүсүн камсыз кылуу менен бирге эч кимди тобокелге салбай турган жаңы мамиленин кабыл алынышы керектигин жана бул темада эч кандай кысым сезилбегендерин баса белгиледи.

Стивен Хокингдин көп жылдар мурунку эскертүүсү кайрадан күн тартибинде

Жасалма интеллект дүйнөсүндөгү бул кризис 2018-жылы 76 жашында каза болгон дүйнөгө белгилүү британиялык астрофизика профессору Стивен Хокингдин тарыхый эскертүүлөрүн эске салды. Өлөрүнүн алдында Би-Би-Сиге берген акыркы маегинде Хокинг "Жасалма интеллект заманбап искусствонун толук өнүгүшүнө гана жардам бербейт; адамзаттын акыры». Бүгүнкү «10 жылдын ичинде жок болуу» талаш-тартыштарынын көлөкөсүндө британиялык басма сөз Хокингдин сөздөрүн кайрадан башкы темага алып чыкты. Хокинг жасалма интеллект биологиялык эволюция менен чектелген адамдарга караганда өз алдынча чечимдерди кабыл алып, өзүн бир топ тезирээк кайра түзө аларын жана акыры адамзатты алмаштыра аларын алдын ала айткан.