Жасанды интеллект болашағы үшін Anthropic сыни ескертуі

Anthropicжасанды интеллект технологиясының болашағы туралы маңызды ескерту жасады. Компания жасанды интеллект жүйелерінің адамның араласуынсыз өзін-өзі жетілдіру мүмкіндігі бар екенін және бұл болашақта күрделі жүйелердің пайда болуына әкелуі мүмкін екенін мәлімдеді. Бұл әзірлемелер қолданыстағы бағдарламалық жасақтама мен зерттеу процестерін жеделдетуге себеп болуы мүмкін екені айтылды.

Anthropic's Blog Post

Anthropic-тің негізін қалаушыДжек Кларк және Антропикалық институттың жетекшісіМарина Фаваро жасанды технологияның даму процесін талқылайтын блог жазбасын жариялады. «Жасанды интеллект өзін-өзі құрғанда» деп аталатын бұл мақалада бұрын адам бақылауында болған жасанды интеллектті дамыту үдерісінің қазір жасанды интеллект жүйелеріне көбірек ауысатынына және бұл даму жылдамдығын арттыратынына назар аударылады. болашақта өздерінің мұрагерлерін құрастырып, дамыта алатын деңгей. Бұл жағдай «рекурсивті өзін-өзі жетілдіру» деп аталады және бұл нүктеге әлі қол жеткізілмегені, бірақ күтілгеннен ертерек болуы мүмкін екендігі баса айтылады. Бұл әзірлемелердің ғылым және денсаулық сияқты салаларда жасанды интеллектке елеулі үлес қосатыны, сонымен бірге адам бақылауын жоғалту қаупін де әкелуі мүмкін екені айтылады.

Техникалық үрдістер мен тәуекелдер

Жасанды интеллект жүйелерінің мүмкіндіктерінің артуына байланысты бұл жүйелерді қорғау және бақылау маңызды бола түседі. «Егер жүйелер өздерінің мұрагерлерін құруға толық қабілетті болса, олардың мінез-құлқын қамтамасыз ету, бақылау және қалыптастыру әдістеріміз одан да маңыздырақ болады», - деп жазылған газет.

Жетілдірілген даму үдерісіне назар аудару

Сондай-ақ қоғамдардың технологиялық дамуларға бейімделуі үшін жасанды интеллекттің даму үдерісін баяулату немесе уақытша тоқтату керек деген ұсыныстардың қатарында. Бұл ұсынысты бірдей шарттарда және әртүрлі елдерде бірнеше қуатты зертханалар орындауы керек делінген. Бұл әлеуметтік құрылымның технологиялық эволюцияға жақсырақ бейімделуіне мүмкіндік беруі мүмкін.

Жасанды интеллект технологиясындағы бұл әзірлемелер мүмкіндіктер мен қиындықтарды ұсынады. Болашақ оқиғалар бұл жүйелерді басқаруды одан әрі қиындатуы мүмкін, олар адам бақылауында қалуы керек. Anthropic компаниясының ескертулері бұл өзгерістерді мұқият қадағалау керектігін көрсетеді.