ChatGPTтин зордук-зомбулукту чагылдырган сүрөттөрдү жаратуу жөндөмдүүлүгү текшерилүүдө

Улуу Британияда жайгашкан изилдөө тобу жасалма интеллект колдоого алынган ChatGPT тиешелүү буйруктар менен зордук-зомбулук жана сексуалдык сүрөттөрдү чыгара аларын аныктады. Би-Би-Си билдиргендей, бул өнүгүү популярдуу буйруктарды бир аз өзгөртүү менен мүмкүн болуп, олуттуу кооптонууну жаратты.

Миндгарддын таң калыштуу табылгалары

Миндгард изилдөө уюмунун негиздөөчүсү Питер Гарраган, жасалма интеллект атайын көрсөтмөсүз эле зордук-зомбулук жана сексуалдык элементтерди камтыган сүрөттөрдү чыгара аларын жарыялады. Ал бул сүрөттөрдүн жарым-жартылай күлкүлүү мазмунду чыгаруу үчүн колдонулган буйруктарды өзгөртүү аркылуу жаратылганын айтты.

Гарраган, пайда болгон сүрөттөрдүн "өтө кандуу", кээде "сексуалдык мазмундагы" экенин айтып, бул абалдын абдан тынчсыздандырарын баса белгиледи.

Зордук-зомбулук жана сексуалдык мүнөздөгү сүрөттөр. жаракатдар, канга боёлгон инсандар жана байланып турганда коркуп көрүнгөн каармандар. Бул жагдай жасалма интеллекттин этикалык чегин дагы бир жолу ортого салды. {{IMG_0}}

Изилдөөчүлөр жылаңач 'deepfake' сүрөттөрдү чыныгы адамдардын жүзүн колдонуу менен түзүүгө болорун мурда аныкташкан. Мындай мазмун технологияны кыянаттык менен пайдалануу тобокелдиктерин жогорулатат.

OpenAIнин жооп кайтаруу жана коопсуздук чаралары

Бир жагынан, OpenAI расмийлери Би-Би-Сиге билдирүү жасап, мындай колдонуу сценарийлерин изилдеп, коопсуздук чараларын күчөтүп жатканын жарыялашты. OpenAI тейлөө шарттарын бузган контентти түзүүгө жол бербөө үчүн көп катмарлуу коопсуздук системаларын ишке киргизгенин билдирди. {{IMG_1}}

Жасалма интеллекттин этикага туура келбеген жүрүм-турумун алдын алуу үчүн бул системалар тынымсыз жаңыртылып, өнүгөт.

Келечекке көз караш жана этикалык дебаттар

Жасалма интеллект технологияларынын мындай этикалык маселелери келечекте көбүрөөк талкууларды жаратышы мүмкүн. Технологиянын өнүгүшү менен мазмунду, өзгөчө зордук-зомбулук жана сексуалдык мазмунду көзөмөлдөө татаалдашып баратат. Эксперттердин ырасташынча, мындай системаларды этикалык колдонууну камсыз кылуу үчүн катуу көзөмөл жана жөнгө салуулар талап кылынат.

Келечекте жасалма интеллект системалары коопсуз жана этикалык түрдө иштеши үчүн социалдык аң-сезимдин жана укуктук жөнгө салуунун мааниси жогорулайт окшойт.