Жасалма интеллекттин келечеги үчүн Anthropic компаниясынын критикалык эскертүүсү

Anthropicжасалма интеллект технологиясынын келечеги тууралуу маанилүү эскертүү жасады. Компания жасалма интеллект системалары адамдын кийлигишүүсүз өзүн өркүндөтүү мүмкүнчүлүгүнө ээ экенин жана бул келечекте дагы татаал системалардын пайда болушуна алып келиши мүмкүн экенин белгиледи. Бул өнүгүүлөрдүн учурдагы программалык камсыздоо жана изилдөө процесстеринин ылдамдашына себеп болушу мүмкүн экени айтылды.

Anthropic's Blog Post

Anthropicтин негиздөөчүсүДжек Кларк жана Антропикалык Институттун жетекчиси Марина Фаваро жасалма технологиянын өнүгүү процессин талкуулаган блог постун жарыялашты. «Жасалма интеллект өзүн курганда» аттуу бул макалада мурда адамдын көзөмөлүндө болгон жасалма интеллектти өнүктүрүү процессинин азыр барган сайын барган сайын жасалма интеллект системаларына өтүп жатканына жана мунун өнүгүү ылдамдыгын жогорулатканына көңүл бурулууда. алар келечекте өз мураскерлерин иштеп чыга ала турган деңгээл. Бул абал "рекурсивдүү өзүн-өзү өркүндөтүү" деп аталып, бул чекитке жете электиги, бирок күтүлгөндөн эртерээк болушу мүмкүн экендиги баса белгиленет. Бул өнүгүүлөрдүн илим жана ден-соолук сыяктуу тармактарда жасалма интеллектке олуттуу салым кошо ала турганы, бирок адамдын көзөмөлүн жоготуу коркунучун да алып келери белгиленет.

Техникалык тенденциялар жана тобокелдиктер

Жасалма интеллект системаларынын мүмкүнчүлүктөрү өскөн сайын, бул системаларды коопсуздандыруу жана көзөмөлдөө маанилүү болуп калды. «Эгер системалар өз мураскерлерин курууга толук жөндөмдүү болсо, алардын жүрүм-турумун камсыз кылуу, көзөмөлдөө жана калыптандыруу боюнча биздин ыкмаларыбыз ого бетер маанилүү болуп калат», - дейт гезит.

Өнүгүү процессине көңүл буруу

Коомдордун технологиялык өнүгүүлөргө ыңгайлашуусу үчүн жасалма интеллекттин өнүгүү процессинин жайлатылышы же убактылуу токтотулушу да сунуштар арасында. Бул сунушту бирдей шарттарда жана ар кайсы өлкөлөрдө бир нече күчтүү лабораториялар аткарышы керек деп айтылат. Бул коомдук түзүлүшкө технологиялык эволюцияга жакшыраак ыңгайлашууга мүмкүндүк бериши мүмкүн.

Жасалма интеллект технологиясындагы бул өнүгүүлөр мүмкүнчүлүктөрдү да, кыйынчылыктарды да тартуулайт. Келечектеги окуялар бул системаларды башкарууну дагы татаалдаштырышы мүмкүн, алар адамдын көзөмөлүндө кала бериши керек. Anthropicтин эскертүүлөрү бул өзгөрүүлөрдү кылдаттык менен көрүү керектигин көрсөтүп турат.