Қысқаша
- Machine Intelligence Research Institute президенті Нейт Соарес жасанды интеллект адамзатты 10 жыл ішінде жойып жіберуі мүмкін деген уәжбен зейнеткерлікке шығу үшін ақша үнемдеуді тоқтатты.
- Коммерциялық емес Machine Intelligence Research Institute (MIRI) президенті Нейт Соарес жасанды интеллект технологиясы алдағы онжылдықта адамзаттың жойылып кетуіне 50 пайыздан астам ықтималдық бар деп мәлімдеді.
Коммерциялық емес Machine Intelligence Research Institute (MIRI) президенті Нейт Соарес жасанды интеллект технологиясы алдағы онжылдықта адамзаттың жойылып кетуіне 50 пайыздан астам ықтималдық бар деп мәлімдеді. Тәуекелді өте жоғары деп санайтын және жасанды интеллект қауіпсіздігі бойынша 12 жылдан астам жұмыс істеп келе жатқан Соарес осы алаңдаушылыққа байланысты шамамен он жыл бойы зейнеткерлікке шығу үшін қаржы үнемдеуді тоқтатқанын жариялады. The Atlantic бас директоры Николас Томпсонға берген сұхбатында Соарес өзінің қаржылық таңдауына тоқталып: "Мен қазір зейнеткерлікке шығу үшін ақша жинап жатқан жоқпын. Менде Google-да жұмыс істеген кезден бері әлі де 401(k) есептік жазбам бар, бірақ мен оған он жыл бойы ештеңе қосқан жоқпын"деді.
Жасанды интеллект тәуелсіз инфрақұрылым жасай ала ма?
Саладағы басқа сарапшыларға қарағанда пессимистік суретті салған Нейт Соарес жасанды интеллект адам мүдделеріне қайшы келетін мақсаттарды дамыта алатынын ескертті. Сарапшы былай деп бағалады: «Жеткілікті күшті жасанды интеллект адам мүдделеріне қайшы келетін мақсаттарды дамыта алады, басқару тетіктерін айналып өтуді үйренеді және өз қабілеттерін дербес дамытады. Мұндай жүйе сайып келгенде, адамның араласуынсыз жұмыс істеуге қажетті автоматты инфрақұрылымды жасай алады.»Соарес ең шеткі жағдайда өзінің әлем сценарийін өзінің мақсатымен, көркемдік желісін өзгертуі мүмкін деп санайды. планетаны адамдар үшін өмір сүруге жарамсыз етеді.
Жалпы мақсаттағы AI үлгілерін тоқтату керек пе?
Технологияның өркендеу құралы емес, экзистенциалды қауіп төндіруі мүмкін екенін алға тарта отырып, Нейт Соарес Илон Масктың жасанды интеллект молшылық ғасырын әкеледі деген көзқарастарымен келіспейтінін мәлімдеді. Үкіметтер мен технологияны әзірлеушілерді шақыра отырып, Соареш кең ауқымды тапсырмаларды орындай алатын жалпы мақсаттағы модельдерді оқытуды тоқтатуды талап етті. «Шешім - барлығын өлтіретін нәрсені салу емес», - деді Соарес технологияның онкологиялық зерттеулер сияқты нақты және пайдалы салаларға назар аударуы керек екенін атап өтті. 
Нейт Соарес, Machine Intelligence Research Institute президенті, жасанды интеллект жүйелерінің адам ниетіне сәйкес әрекет етуін қамтамасыз етуге бағытталған бейімделу зерттеулері аясында технологияның бақылаусыз дамуы алдағы онжылдықта адамзат үшін экзистенциалды қауіп тудыруы мүмкін деп санайды. Microsoft және Google сияқты технология алпауыттарында инженерлік білімі бар Соарес бұл болжамды қазіргі жүйелердің әрекетінен гөрі болашаққа арналған тәуекелді талдау ретінде анықтайды.
Жасанды интеллект қауіпсіздігі мен этикасына қатысты пікірталастар әлемдік ауқымдағы технологиялық компаниялар мен академиялық орталар арасындағы тұрақты мәселе болып қала береді. Бұл саладағы ережелер елдердің технологиялық саясаттары мен халықаралық қауіпсіздік хаттамалары аясында бағаланады. Сарапшылардың ескертулері технологияны дамыту процестеріндегі ашықтық пен аудиторлық тетіктердің маңыздылығын алға тартқанымен, мемлекеттік мекемелер мен технология әзірлеушілер арасында қауіпсіз жасанды интеллект стандарттары бойынша зерттеулер жүргізілуде.
Қорытынды
Нэйт Соарестің мәлімдемелері қауіпсіздік пен этикалық бақылаудың техникалық құзыреттен тыс, жасанды интеллектті дамыту процестерінде өте маңызды екенін көрсетеді. Сарапшының өзінің жеке қаржылық таңдауын осы тәуекелді болжамға сәйкес қалыптастыруы, бұл сектордағы кейбір сарапшылардың технологиялық даму қарқынына деген терең сенімсіздік пен алаңдаушылықты көрсетеді.
Бұл жағдай жасанды интеллект саласындағы «жылдамдық» пен «қауіпсіздік» тепе-теңдігіне тағы да күмән келтіру керек екенін көрсетеді. Технологиялар әлемінде басым болған оптимистік күтулер жағдайында Соарес сияқты атаулармен ұсынылған пессимистік сценарийлер әлеуметтік және жаһандық ауқымдағы тәуекелдерді басқару стратегиясының өзектілігін көрсетеді.
Мүмкін әсерлер
Соарестің шақыруы жалпы мақсаттағы жасанды интеллект үлгілерін әзірлейтін технологиялық компанияларға қоғамдық қысымды күшейтіп, қатаң қадағалау тетіктерін талап етуі мүмкін. Инвесторлар мен технология әзірлеушілер осындай «экзистенциалды тәуекел» ескертулеріне байланысты жобаларын қайта бағалауы мүмкін.
Сонымен қатар, мұндай мәлімдемелер жұртшылық арасында қорқынышты немесе жасанды интеллектке сақтықпен қарауды тудыруы мүмкін. Үкіметтер технологиялық компаниялардың қызметін шектейтін немесе қатаң қауіпсіздік хаттамаларын талап ететін жаңа ережелер енгізеді деп күтуге болады.
Дереккөз: Haber7
Пікірлер (0)
Пікір жазу
Әлі пікір жазылмаған. Алғашқы пікірді сіз қалдырыңыз!