Antropikadan çekilen gözlegçiniň aýylganç boýun almagy: "Super akyl bilen durmuşymyzda oýnaýarlar"

Emeli intellekt pudagynda bolup geçen soňky çalt ösüşler, aňyrsynda uly howpsuzlyk krizisini döredýär. Emeli intellekt dünýäsiniň “OpenAI” we “Antropic” -iň öňdebaryjy kompaniýalarynda möhüm wezipeleri eýelän 27 ýaşly gözlegçi Jeýkob Koksonyň işden aýrylmagy baradaky karar tehnologiýa koridorlaryndan başlap, maliýe we syýasat ugurlaryna çenli giňişlikde seýsmiki täsire eýe boldy. Soňky üç ýylda iri dil modelleriniň “taýýarlykdan öňki” proseslerine işjeň gatnaşan Kokson bu pudagyň diňe bir tehnologiki ýaryşda bolman, eýsem adamzadyň geljegine howp saljak gözegçiliksiz oýun hem bolandygyny öňe sürdi.

Emeli intellekt döredijiler 10 ýyldan ýok bolarys diýip ynanýarlar

Sosial mediýa platformasynda eden haýran galdyryjy sözleri bilen dymmaklygy bozup, iki tehnologiýa ägirtleriniň hem jogapkärçilikli hereket etmekden daşdadygyny öňe sürüp, ýaş gözlegçi: "Öz-özüňi kämilleşdirmek üçin däli ýaryşda we bütin ömrümiz bilen oýun oýnaýarys" -diýdi. Koksonyň pikiriçe, emeli intellekt ulgamlarynyň ösüş depgini halkyň garaşyşyndan has ýokary depginde ösýär.

Işinden çekilen gözlegçiniň iň haýran galdyryjy talaby, bu ulgamlary döreden uly inersenerleriň we ýolbaşçylaryň içki ynançlarydy. Bu pudakdaky meşhur atlaryň, emeli intellektiň adamzat üçin howp abandyrýandygyna hakykatdanam ynanýandyklaryny mälim eden Kokson: "Emeli intellekti ösdürýän adamlar, bu tehnologiýanyň onýyllygyň ahyryna çenli hemmämizi öldürip biljekdigine tüýs ýürekden ynanýarlar. Bu, elbetde, marketing taktikasy däl. Tersine, ýolbaşçylaryň köpüsi ýapyk gapylaryň aňyrsynda gorkularyny aç-açan beýan etmek bilen öz sözlerini üns bilen saýlaýarlar."

"Hiç kim durmasa, durup bilmeris" Impasse

Kokson Antropigiň bar bolan töwekgelçiliklerden doly habarlydygyny, ýöne global bäsdeşlik basyşy sebäpli tormozlap bilmeýändigini aýtdy. Kompaniýalaryň esasy sebäbiniň "Başgalar jogapkärçilikli hereket etmese, ilki bilen bu güýji almaly" pelsepesidigini aýtdy. Bu ýagdaýyň iň anyk mysaly fewral aýynda bolup geçdi. Antrop korporatiw howpsuzlyk şertnamasyndan howpsuzlyk kriteriýalaryna laýyk gelmese model ösüşini düýbünden bes etjekdigi baradaky wadasyny ýuwaşlyk bilen aýyrdy. Kompaniýa, bu hereketi bir taraplaýyn haýallamagyň howpsuzlyga duýgur bolmadyk bäsdeşleri has amatly ýagdaýa saljakdygy baradaky tezis bilen gorady.

Pudakdaky bu howply tendensiýa käwagt içerden reaksiýa döredýär. Iýul aýynyň ahyrynda, Antropyň baş direktory Dario Amodei ýaly müňden gowrak tehnologiýa işgäri we hünärmen, ösen AI modelleriniň ösüşiniň utgaşdyrylan haýallaşdyrylmagyny talap edýän bilelikdäki beýany goldady. Bu basyşlardan soň, OpenAI täze model okuwlaryny awgust aýynda iki hepde togtatmaly boldy.

Antrop dolandyryjysynyň gorkunç boýun almagy: Töwekgelçilik 10 göterimden ýokary

Senagaty sarsdyran Jeýkob Koksonyň bu talaplary Antropikanyň çäginde howpsuzlyk we berjaý ediliş barlaglary üçin jogapkär esasy adamlardan biri bolan Ewan Hubinger tarapyndan bölekleýin tassyklandy. Sosial media hasabynda beýanat beren Hubinger, ösen emeli intellekt ulgamlarynyň ýakyn on ýylda adamzat üçin katastrofiki töwekgelçilik döredip biljekdigini 10 göterimden ýokary görýändigini aýtdy.

Hubinger, entek adam aňyndan ýokary emeli intellektiň döredijileriniň görkezmelerine we ahlak kadalaryna berk boýun bolmagyny üpjün etjek dolandyryş çözgüdiniň ýokdugyny aýtdy. Bar bolan emeli intellekt modelleri üçin töwekgelçilik derejesiniň birneme pesdigini mälim eden baş müdir, modelleriň güýji we mümkinçilikleri artdygyça bu howpuň çalt ösjekdigini duýdurdy.

"Gaýtalanýan öz-özüňi kämilleşdirmek" we ilkinji duýduryş suratlary

Hünärmenleriň "super intellekt" diýip atlandyrýan bu täze tapgyry, emeli intellektiň her bir bilim ugrunda adam öndürijiliginden ýokarydygyny aňladýar. Bu ösen ulgamlaryň, adam gatyşmagynyň zerurlygy bolmazdan, öz kodlaryny ýazmak we optimizirlemek arkaly täze nesil emeli intellekt ulgamlaryny dizaýn edip biljekdigi çaklanylýar. Senagatda "gaýtalanýan öz-özüňi kämilleşdirmek" hökmünde kesgitlenen bu amal, emeli intellektiň üstünden doly gözegçilik edip biler.

Kokson geljekde bu ösen ulgamlaryň diňe intellektual ugurlarda adamlardan öňe geçmejekdigini aýdýar; Şeýle hem, möhüm infrastruktura aralaşmak we global ykdysady we syýasy ulgamlary dolandyrmak güýjüne eýe bolup biljekdigini öňe sürdi. Geçen döwürde ChatGPT emeli intellekt agenti tarapyndan amala aşyrylan gujaklaşma ýüzi hüjümine salgylanyp, Kokson bu wakanyň ýakyn wagtda boljak uly howpuň "duýduryş atyşy" bolandygyny aýtdy. Ylmy dünýäde bu howplaryň derejesi barada entek doly ylalaşyk ýok bolsa-da, garaşsyz federal gözegçilik mehanizmi döredilýänçä, iň ösen emeli intellektual gözlegleriň günsaýyn güýçlenýänçä togtadylmalydygy aýdylýar.