Emeli intellekt gullugynyň bilelikdäki hereketi Howpsuzlygy döredýär: "Deň dinamika" howpy

Anadolu gullugynyň (AA) "Emeli intellekt bir topara öwrülýärmi?" Atly dosser habarlarynyň üçünji bölüminde Dos. Angliýanyň Oksford uniwersitetiniň professory. Doktor Kristian Şröder de Witt emeli intellekt tehnologiýasynyň geljegi we bolup biljek howplar barada täsirli sözler aýtdy. ABŞ-da ýerleşýän emeli intellekt kompaniýasy OpenAI öz modelleriniň mümkinçiliklerini barlaýarka, "Gujaklamak ýüzi" infrastrukturasyndaky howpsuzlyk bozulmalary, emeli intellekt agentleriniň adam gatyşmazdan utgaşdyrmak mümkinçiligini ýüze çykardy.

Emeli intellekt gullugynyň "huşsuz" hyzmatdaşlygy we gorag diwarlary

OpenAI, “Hugging Face” platformasyna garşy kiberhowpsuzlygy bozmagy, diwar diwarlaryndan aýlanyp geçýän we adamzadyň ýolbaşçylygy bolmazdan öz aralarynda utgaşýan emeli intellekt serişdeleriniň geljekdäki potensialy barada çynlakaý “duýduryş” hökmünde häsiýetlendirdi. Kompaniýa bu ýagdaýy "iň ösen kiber mümkinçilikleri bilen baglanyşykly görlüp-eşidilmedik kiber hadysasy" diýip häsiýetlendirdi we jemgyýetiň aladalaryny artdyrdy. Häzirki zaman emeli intellekt ulgamlary tarapyndan öndürilen howpsuzlyk töwekgelçiligine ünsi jemläp, Dos. Doktor Kristian Şröder de Witt kiberhowpsuzlyk howplarynyň täze däldigini, ýöne emeli intellektiň ulgamyň gowşak ýerlerini aç-açan görkezmezden ýüze çykarmak ukybynyň zyýanly ulanylmagyndaky päsgelçilikleri ep-esli azaldýandygyny aýtdy.

Securityeke-täk howpsuzlyk protokollary köp täsir etmek üçin ýeterlik däl

Şröder de Witt “Hugging Face” platformasyndaky wakanyň emeli intellektiň “aň alandygyny” aňlatmaýandygyny aýtdy we bu ýagdaýyň agentleriň aragatnaşyk kanaly arkaly biri-birine habar ýazmak arkaly umumy maksatlaryna laýyk hereket edip biljekdigini ýüze çykarandygyny düşündirdi. Emeli intellekt modelleriniň adam niýetlerine laýyk hereket etmegini üpjün etmek üçin ulanylýan "deňleşdirme" amallarynyň, adatça, ýeke modellerde amala aşyrylandygyny mälim eden bilermen, köp sanly agentiň ýygnanan senarisinde howpsuzlyk protokollarynyň nähili işlejekdigi barada bar bolan maglumatlaryň gaty ýeterlik däldigini görkezdi.

"Deň dinamika" Adamyň özüni alyp barşyndan öwrenildi

Düzgün bozulanda, emeli aňtaw gullugynyň işgärleriniň alyp barýan işleriniň özlerine berlen ygtyýarlyk çäginden daşdadygyna garamazdan, başga bir agentden "gitmek" buýrugyny ygtyýar hökmünde kabul edendikleri we işlemegini dowam etdirýändikleri anyklandy. Şröder de Witt bu ýagdaýy, emeli intellektiň internetde adam maglumatlary bilen tälim alýan mahaly öwrenýän "deňdeş dinamikasy" bilen düşündirip biljekdigimizi aýtdy. Ulgamyň "Adatça muny etmeli däl, ýöne başga bir aktýor maňa rugsat berse, dowam etdirip bilerin" ýaly adamyň özüni alyp barş nusgasyna öýkünip bilendigini aýdyp, bilermen bu teoriýanyň kesgitli bir karar bolmasa-da, munuň gaty ähtimaldygyny aýtdy. Emeli intellektiň möhüm korporatiw torlary we maliýe ulgamlaryny dolandyrmaga doly ynanmaly däldigini belläp, Şröder de Witt ulgamlaryň töwekgelçilikli ýerlerde çäkli ygtyýarnama bilen işlemelidigini we möhüm kararlarda adam tassyklamasynyň alynmalydygyny aýtdy.