ChatGPT-iň zorlukly şekilleri öndürmek ukyby barlanýar

Angliýada ýerleşýän gözleg topary emeli intellekt bilen goldanýan ChatGPT-iň degişli buýruklar bilen zorlukly we jynsy şekilleri öndürip biljekdigini ýüze çykardy. BBC habar gullugynyň habaryna görä, bu ösüş meşhur buýruklary birneme üýtgetmek arkaly ýüze çykypdyr we çynlakaý aladalary döredipdir. Bu şekilleriň gülkünç mazmun öndürmek üçin ulanylýan buýruklary üýtgetmek arkaly bölekleýin döredilendigini mälim etdi.

Garraghan, ýüze çykan suratlaryň "aşa ganly" we käwagt "jyns taýdan mazmunly" bolandygyny aýtdy we bu ýagdaýyň gaty aladalandyryjydygyny aýtdy. Bu ýagdaý emeli intellektiň etiki çäklerini ýene bir gezek gozgady. {{IMG_0}}

Gözlegçiler ozal ýalaňaç 'çuň ýasama' şekilleriň hakyky adamlaryň ýüzüni ulanyp döredilip bilinjekdigini kesgitlediler. Şeýle mazmun tehnologiýany nädogry ulanmak töwekgelçiligini ýokarlandyrýar.

OpenAI-iň jogap we howpsuzlyk çäreleri

Beýleki tarapdan, OpenAI işgärleri BBC-ä beýanat berdiler we ulanyş ssenarilerini gözden geçirýändiklerini we howpsuzlyk çärelerini ýokarlandyrýandyklaryny habar berdiler. OpenAI, hyzmat şertlerini bozýan mazmunyň döredilmeginiň öňüni almak üçin köp gatlakly howpsuzlyk ulgamlaryny ornaşdyrandyklaryny mälim etdi. Systems {IMG_1}}

Bu ulgamlar emeli intellektiň ahlaksyz hereketleriniň öňüni almak üçin yzygiderli täzelenýär we işlenip düzülýär. Mazmuna gözegçilik etmek, esasanam zorlukly we jynsy mazmun tehnologiýanyň ösmegi bilen has çylşyrymlaşýar. Hünärmenler şeýle ulgamlaryň ahlak taýdan ulanylmagyny üpjün etmek üçin has berk gözegçilikleriň we düzgünleriň zerurdygyny öňe sürýärler.

Geljekde emeli intellekt ulgamlarynyň has ygtybarly we ahlakly işlemegi üçin sosial düşünjäniň we hukuk kadalarynyň ähmiýeti ýokarlanana meňzeýär.