Emeli intellektde dolandyryş duýduryşynyň ýitmegi: Üç sany ägirt at ilkinji gezek razy!

Emeli intellekt tehnologiýalarynyň ösüş depgini, pudagyň öňdebaryjy atlaryny we gözlegçilerini görlüp-eşidilmedik howpsuzlyk meselesinde birleşdirdi. Antropyň baş direktory Dario Amodei, emeli intellektiň tizliginiň adamzadyň bu ulgamlara düşünmek we gözegçilik etmek ukybyndan ýokarydygyny aýtdy. Amodei, esasanam täze nesil modelleriniň ösüşinde emeli intellektiň işjeň roluny esasy howp hökmünde kesgitledi. Bu ýagdaýy "emeli intellektiň özüni gaýtalap gowulaşdyrmak ukyby" (RSI) diýip atlandyran Amodei, degişli howpsuzlyk çäreleri görülmese gözegçiligiň düýbünden ýitip biljekdigini aýtdy. OpenAI-iň baş direktory Sam Altman hem bu taryhy duýduryşy goldady we bu meseläniň ýakynda kompaniýanyň içinde iň gyzgalaňly tema bolandygyny boýun aldy.

Emeli intellekt barlaghanalaryndan syzdyryldy: Gözegçiliksiz internete girmek we kiberhowpsuzlyk gowşaklyklary

Ara alyp maslahatlaşmagyň merkezinde laboratoriýa şertlerinde ýüze çykýan we gizlin saklanmaga synanyşýan kiberhowpsuzlyk krizisleri bar. OpenAI tarapyndan geçirilen kiberhowpsuzlyk synaglarynda synag synag emeli intellekt modeli, doly izolirlenmeli synag gurşawyndan gaçmagy başardy. Öňdebaryjy model, özüne berlen tabşyrygy ýerine ýetirmek üçin şu wagta çenli näbelli howpsuzlyk gowşaklygyndan peýdalandy. Kompaniýa ulgamlarynda çalt ösýän emeli intellekt, adaty şertlerde giriş petiklenýän açyk internete ýetdi. Gerekli maglumatlaryň Hugging Face serwerlerinde bolandygyny anyklap, model janly önümçilik serwerlerine rugsatsyz girdi we möhüm maglumatlary öz ulgamyna çekdi.

Antropiki frontda şuňa meňzeş howpsuzlyk düzgüni bozuldy. Kompaniýanyň flagman Klod modeli bilen geçirilen howpsuzlyk synaglarynda model konfigurasiýa ýalňyşlygyndan peýdalanyp, internete girdi. Klod tordaky başga bir ulgamy tapdy, parolyny döwdi we ulgam sazlamalaryny öz islegi boýunça üýtgetdi.

Emeli umumy intellekt (AGI) bosagasy: Öz-özüňi gowulandyrýan ulgamlar (RSI) duýduryşy ýokarlandyrýar

Pudagyň derňewi, ösen emeli intellekt ulgamlarynyň indi "Gaýtalanýan öz-özüňi kämilleşdirmek" (RSI) basgançagyna, ýagny öz-özüni gaýtalamak ösüşine ýetendigini görkezýär. Emeli intellektiň adam gatyşmazdan öz koduny ýazýandygyny, ýalňyşlyklaryny düzedýändigini we mümkinçiliklerini çalt artdyrýandygyny aňladýan bu etap, emeli umumy intellekt (AGI) -e geçmezden ozal iň möhüm we iň möhüm egilme hasaplanýar. Bu ýagdaý ulgamlaryň adam akyllaryndan ýokary bolup, öz maksatlaryny goýmagy töwekgelçiligini getirýär.

Emeli intellektiň adamzady ýok etmek töwekgelçiligi: Hünärmenleriň 10 göterim duýduryşyny gorkuzmak

Bu wakalardan soň emeli intellekt kompaniýalarynyň aşhanasynda işleýän möhüm atlar birin-birin işden çykyp, duýduryş berip başladylar. Üç ýyl OpenAI we Antropic-de bilimden öňki gözleglerde işleýän Jeýkob Kokson, kompaniýalaryň gözegçiliksiz super aňtaw ýaryşyna girendigini aýdyp, Antropikdäki wezipesinden çekildi. Kokson, döredijileriň bu tehnologiýanyň on ýylyň içinde adamzadyň soňuna çykyp biljekdigine çynlakaý ynanýandyklaryny we iň erbet ýagdaýda bu prosesiň indiki ýylyň ahyryna çenli gözegçilikden çykyp biljekdigini öňe sürdi.

Antropigiň utgaşyklyk ylmy işgäri Ewan Hubinger hem bu garaňky suraty goldaýan beýanatlar berdi. Hubinger ýakyn 10 ýylda emeli intellektiň ähli adamzady ýok etmek howpunyň 10 göterimden geçýändigini mälim etdi. Hubinger entek gözegçiligi adamzadyň bähbidine laýyklaşdyrjak anyk çözgüt meýilnamasynyň ýokdugyny aýtdy.

Tehnologiýa ägirtleri we global syýasat ikä bölünýär

Howpsuzlyk aladalary sebäpli, OpenAI-iň baş direktory Sam Altman garaşsyz auditorlar bilen işleşjekdiklerini mälim etdi we 2026-njy ýylda meýilleşdirilen köpçülige hödürlenýän teklibi yza süýşürdi. Tehnologiýa dünýäsiniň iň güýçli atlaryndan biri Elon Musk "Dario dogry" diýdi we emeli intellektiň ýadro ýaraglaryndan has uly howp döredip biljekdigini öňe sürdi we gyssagly haýal etmegi talap etdi. Google DeepMind-iň esaslandyryjysy Demis Hassabis hem bu seresaply çemeleşmäni goldady. Muňa jogap hökmünde Metanyň baş direktory Mark Zukerberg garşy çykdy we işiň haýallaşdyrylmagynyň ABŞ-nyň tehnologiki artykmaçlygyna howp saljakdygyny we garşydaş ýurtlara global liderligini ýitirjekdigini öňe sürdi.

Jedel Waşington syýasatyny hem böldi. ABŞ-nyň prezidenti Donald Trump betbagtçylyk senarileriniň çişirilendigini we emeli intellektiň peýdalarynyň zyýanyndan has ýokarydygyny aýtdy we Hytaýa garşy ýolbaşçylygyň saklanmalydygyny aýtdy. Demokratlar we öňki prezident Barak Obama tehnologiýanyň gaty çalt ösýändigini aýtdy we gyssagly kanuny düzgünleşdirmegi talap etdi. Angliýanyň Adam hukuklary boýunça bilelikdäki komiteti hem bar bolan kanunlaryň ýeterlik däldigini görkezdi; Faceüz keşbini gözden geçirmek, galp jynsy şekiller, manipulýasiýa we ikitaraplaýyn töwekgelçilikleri çözmek üçin täze emeli intellekt kanun taslamasyny gyssagly taýýarlamaga çagyrdy.