Emeli intellekt dünýäsinde uly ýer titremesi: Antropiki resminiň "Adamzady ýok edip biljekdigini" boýun almagy

Emeli intellekt tehnologiýalarynyň çalt ösmegi, bu ulgamlary öndürýän ägirt kompaniýalaryň koridorlarynda çynlakaý howpsuzlyk aladalaryny döredýär. Recentlyakynda pudaga ýolbaşçylyk edýän iň möhüm aktýorlaryň biri bolan Antropik -de işden çykmak tolkuny we ondan soňky täsirli sözler emeli intellektiň adamzada abanýan howpuny ýene bir gezek açdy. Kompaniýanyň ylalaşyk ylmy işgäri Ewan Hubinger, emeli intellektiň adamzady ýok etmek mümkinçiligi barada tolgundyryjy boýun aldy.

Hubinger, sosial media platformasynda eden çykyşynda özüniň we kärdeşleriniň emeli intellektiň geljekde ähli adamzady ýok edip biljekdigine "tüýs ýürekden ynanýandyklaryny" aýtdy. Geljek on ýylda bu betbagtçylyk ssenarisiniň ýüze çykma ähtimallygyna baha beren Hubinger, "Meniň pikirimçe, bu töwekgelçilik ýakyn 10 ýylda 10 göterimden gowrak" diýip, howpuň derejesine ünsi çekdi. Antropigiň howpsuzlyk çäreleri üçin tagalla edýändigini mälim eden resmi, "super intellektiň deňleşdirilmegi" meselesine entek anyk çözgüt tapmandygyny we kompaniýanyň bu ugurda "takyk däldigini" aç-açan boýun aldy.

Öz-özüňi gowulandyrýan emeli intellekt we gözegçiliksiz gözegçilik howpy

Hubingeriň pikiriçe, häzirki emeli intellekt modelleri häzirlikçe pes töwekgelçiligi döredýär. Şeýle-de bolsa, hakyky howp ulgamlaryň öz ýalňyşlyklaryny düzedip, täze ukyplary gazanan gaýtalanýan öz-özüňi kämilleşdirmek gözegçiliginiň garaşylýandan has çalt ýüze çykmagydyr. Bu gözegçiliksiz ösüş prosesi, adam gözegçiliginiň bütinleý ýapyljak döwrüne sebäp bolup biler.

Bu haýran galdyryjy aýanlyklar, Antropigiň esasy gözlegçilerinden biri Jeýkob Kokson howpsuzlyk aladalary sebäpli işinden çekilenden soň ýüze çykdy. Öň OpenAI we Antropic-de deslapky synaglaryň üstünde işlän Kokson tehnologiýa kompaniýalarynyň kör ýaryşda bolandygyny öňe sürdi. Kokson, öz-özüni ösdürýän super intellekt gazanmak üçin kompaniýalaryň "durmuşymyz bilen humar oýnaýandyklaryny" aýtdy.

"Bu marketing taktikasy däl, bu hakyky howp"

Senagatyň käbir bölekleriniň bu duýduryşlary mahabat ulaltmasy hökmünde görýändigini öňe süren Kokson, emeli intellekt döredijileriniň adamzadyň soňuny getirip biljek güýjüň onýyllygyň ahyryna ýetjekdigine hakykatdanam ynanýandyklaryny aýtdy. "Wall Street Journal" gazetine beren interwýusynda Kokson hatda "geljek ýylyň ahyryna çenli zatlaryň gözegçilikden çykyp biljek iň agressiw ssenariýalaryny" hem pikir edip biljekdigini aýtdy.

Kokson Antropiki dolandyryşyň töwekgelçiliklerden doly habarlydygyny, ýöne "hiç kim jogapkärçilikli hereket etmez, şonuň üçin bu tehnologiýany ilkinji bolup ösdürmeli" logikasy bilen hereket edip, howply ýaryşyň bir bölegine öwrülendigini öňe sürdi.

Global ölçegdäki emeli intellekti haýallatmaga çagyrýar

Bu soňky wakalar, emeli intellekt dünýäsinde howpsuzlyk we ahlak taýdan deňleşmek baradaky köpden bäri dowam edýän çekişmeleri güýçlendirdi. Bu pudakdaky öňdebaryjy alymlaryň, in engineenerleriň we tehnologiýa ýolbaşçylarynyň köpüsi öň adamzadyň gözegçiligini ýitirmeginiň öňüni almak üçin ösen emeli intellekt ulgamlarynyň ösüş proseslerini duruzmak ýa-da haýallatmak üçin bilelikde çagyryş etdiler. Şeýle-de bolsa, bäsdeşlik islegi bu çagyryşlary amala aşyrmagy kynlaşdyrýar.