Emeli intellektiň adamzady ýok etmek töwekgelçiligi 10 göterim: Antropiki gözlegçiniň gorkunç boýun almagy
Antropikadan çekilen Jeýkob Kokson we emeli intellekt barlagçysy Ewan Hubinger 10 ýylyň içinde gözegçilik gözegçiliginiň adamzady ýok etmek howpunyň 10% bardygyny mälim etdi.
Tehnologiýa dünýäsi, emeli intellektiň geljegi baradaky gaty geň galdyryjy we gorkunç talap bilen sarsdyrylýar. Bu pudakdaky iň uly emeli intellekt kompaniýalarynyň biri bolan Antropikde işleýän hünärmenler, bu tehnologiýanyň ýakyn on ýylda adamzadyň soňuna çykmagyna 10 göterimden gowrak mümkinçiligiň bardygyny öňe sürýärler. Jedel, ýaňy-ýakynda kompaniýadan çekilen Jeýkob Koksonyň haýran galdyryjy sözleri we Antropigiň deňleşdiriji gözlegçisi Ewan Hubinger tarapyndan tassyklanmagy bilen täze bir ölçeg gazandy.
"Super intellekt bilen utgaşyklyk meselesini çözmek meýilnamamyz ýok"
Antropikde emeli intellekti adam gymmatlyklary bilen sazlaşdyrmagyň üstünde işleýän Ewan Hubinger ABŞ-da ýerleşýän X sosial media platformasyndaky hasabyndan düýpli çykyş etdi. Hubinger kompaniýadan çekilen kärdeşi Jeýkob Koksonyň: "Emeli intellekti ösdürýänler, bu tehnologiýanyň 10 ýylyň ahyryna çenli hemmämizi öldürip biljekdigine tüýs ýürekden ynanýarlar" -diýip, Hubinger bu talap bilen ylalaşýandygyny aýtdy. Hubinger howpuň derejesini "Jacobakup bu barada dogry aýdýar, emeli intellektiň ähli adamlary öldürip biljekdigine çyn ýürekden ynanýarys"Geljek 10 ýylda bu betbagtçylyk ssenariýasynyň ýüze çykmagynyň ähtimallygynyň 10 göterimden gowrakdygyny öňe süren Hubinger, kompaniýanyň elinden gelenini edýändigini boýun aldy, ýöne entek super intellekt bilen utgaşyklyk meselesini çözmek üçin takyk meýilnamasy ýa-da ýol kartasy ýok.
Gigant kompaniýalarynda gözegçiliksiz ýaryş we işden çykmak kararlary
Soňky üç ýylda emeli intellekt pudagynyň öňdebaryjylary bolan OpenAI we Antropik -de gözlegçi bolup işleýän Jeýkob Kokson, iki kompaniýanyň hem jogapkärçilikli hereket etmeýändigini aýdyp, Antropikadaky işinden çekilendigini habar berdi. Öz-özüni kämilleşdirýän "super intellekt" -e ýetmek üçin kompaniýalaryň gözegçiliksiz we howply ýaryş bilen meşgullanýandygyny bellän Kokson, bu prosesiň aç-açan dolandyrylmaýandygyny öňe sürdi.
Emeli intellektiň güýjüne kembaha garalmaly däldigi barada duýduryş beren Kokson: "Bular ýakyn wagtda islendik zady döwüp, islendik sebitde bir gijäni üýtgedip we hakyky güýç we çeşmeler alyp bilýän adatdan daşary ulgamlara öwrüler. Bu ugurlaryň hersinde öňegidişlige şaýat bolduk we bu proses haýallaşmaýar".
"osedapyk gapylaryň aňyrsynda uly gorky bar"
Emeli intellekt modellerini hut özi döreden inersenerleriň we gözlegçileriň bu ulgamlaryň 10 ýylyň içinde adamzady ýok etmek mümkinçiligine çynlakaý ynanýandyklaryny öňe sürüp, Kokson teňňäniň görünmeýän tarapyny hem kesgitledi. Kokson emeli intellekt kompaniýalarynyň ýokary derejeli ýolbaşçylarynyň halka gaty aram we ynandyryjy sözler aýdandyklaryna garamazdan ýapyk gapylaryň aňyrsynda uly gorky we howsala düşendiklerini aýtdy.
Bu pudakdaky çalt ösüşiň haýallamandygyny we gözegçilik mehanizmleriniň bu tizligi dowam etdirip bilmejekdigini öňe süren öňki gözlegçiniň bu sözleri, dünýä derejesinde emeli intellektiň geljegi baradaky etiki we howpsuzlyk gepleşiklerini güýçlendirdi.
Teswirler (0)
Teswir ýaz
Entek teswir ýazylmandyr. Ilkinji teswiri siz ýazyň!