ChatGPT-тің зорлық-зомбылық бейнелерін жасау қабілеті тексерілуде

Ұлыбританияда орналасқан зерттеу тобы жасанды интеллект қолдау көрсететін ChatGPT сәйкес пәрмендер арқылы зорлық-зомбылық және сексуалдық бейнелерді жасай алатынын анықтады. Би-би-си хабарлауынша, бұл даму танымал командаларды сәл өзгерту арқылы мүмкін болды және елеулі алаңдаушылық тудырды.

Миндгардтың таңғаларлық нәтижелері

Миндгард зерттеу ұйымының негізін қалаушы Питер Гарраган жасанды интеллект тіпті арнайы нұсқаусыз-ақ зорлық-зомбылық пен сексуалдық элементтері бар кескіндерді жасай алатынын жариялады. Ол бұл кескіндердің ішінара әзіл-оспақ мазмұнын жасау үшін қолданылатын пәрмендерді өзгерту арқылы жасалғанын айтты.

Гарраган алынған суреттердің «өте қанды», кейде «жыныстық мазмұнды» екенін айтты және бұл жағдайдың алаңдатарлық екенін атап өтті.

Зорлық-зомбылық және сексуалдық сипаттағы суреттер. жарақаттар, қанға боялған адамдар және байланған кезде қорқынышты көрінетін кейіпкерлер. Бұл жағдай жасанды интеллекттің этикалық шегін тағы бір рет көтерді. {{IMG_0}}

Зерттеушілер жалаңаш "deepfake" кескіндерді шынайы адамдардың бет-әлпетін пайдаланып жасауға болатынын бұрын анықтаған. Мұндай мазмұн технологияны дұрыс пайдаланбау қаупін арттырады.

OpenAI жауап беру және қауіпсіздік шаралары

Екінші жағынан, OpenAI шенеуніктері BBC-ге мәлімдеме жасап, мұндай пайдалану сценарийлерін зерттеп, қауіпсіздік шараларын күшейтетінін хабарлады. OpenAI қызмет көрсету шарттарын бұзатын мазмұнның жасалуын болдырмау үшін көп деңгейлі қауіпсіздік жүйелерін енгізгенін мәлімдеді. {{IMG_1}}

Бұл жүйелер жасанды интеллекттің әдепсіз әрекетінің алдын алу үшін үнемі жаңартылып отырады және әзірленеді.

Болашақ перспективалары және этикалық пікірталастар

Жасанды интеллект технологияларының мұндай этикалық мәселелері болашақта көбірек талқылауларды тудыруы мүмкін. Мазмұнды, әсіресе зорлық-зомбылық пен сексуалды мазмұнды бақылау технологияның дамуымен күрделене түсуде. Сарапшылар мұндай жүйелерді этикалық тұрғыдан пайдалануды қамтамасыз ету үшін қатаң бақылаулар мен реттеулер қажет деп санайды.

Болашақта жасанды интеллект жүйелері қауіпсіз және этикалық тұрғыдан жұмыс істеуі үшін әлеуметтік сана мен құқықтық реттеудің маңыздылығы арта түсетін сияқты.