ChatGPT-ning zo'ravonlik tasvirlarini yaratish qobiliyati tekshirilmoqda

Buyuk Britaniyada joylashgan tadqiqot guruhi sun'iy intellekt tomonidan qo'llab-quvvatlanadigan ChatGPT tegishli buyruqlar bilan zo'ravonlik va jinsiy tasvirlarni yaratishi mumkinligini aniqladi. Bi-bi-si ma'lumotlariga ko'ra, bu rivojlanish ommabop buyruqlarni biroz o'zgartirish orqali mumkin bo'ldi va jiddiy xavotirlarga sabab bo'ldi.

Mindgardning hayratlanarli topilmalari

Mindgard tadqiqot tashkiloti asoschisi Piter Garrag'an sun'iy intellekt maxsus ko'rsatmasiz ham zo'ravonlik va jinsiy aloqa elementlarini o'z ichiga olgan tasvirlarni yaratishi mumkinligini e'lon qildi. Uning ta'kidlashicha, bu tasvirlar qisman hazil-mutoyiba mazmunini yaratish uchun ishlatiladigan buyruqlarni o'zgartirish orqali yaratilgan.

Garraghan natijada olingan tasvirlar "o'ta qonli" va ba'zan "jinsiy mazmunda" ekanligini ta'kidlab, bu holat juda tashvishli ekanini ta'kidladi.

Zo'ravonlik va jinsiy aloqani o'z ichiga olgan tasvirlar

ga misollar keltirdi. jarohatlar, qonga botgan shaxslar va bog'langan holda qo'rqib ketgan belgilar. Bu holat sun'iy intellektning axloqiy chegaralarini yana bir bor oshirdi.

Tadqiqotchilar avvalroq yalang‘och "deepfake" tasvirlarni haqiqiy odamlarning yuzlaridan foydalanib yaratish mumkinligini aniqlashgan. Bunday kontent texnologiyalardan noto‘g‘ri foydalanish xavfini oshiradi.

OpenAIning javob choralari va xavfsizlik choralari

Boshqa tomondan, OpenAI rasmiylari BBCga bayonotlar berib, bunday foydalanish stsenariylarini o‘rganib chiqayotganliklarini va xavfsizlik choralarini kuchaytirayotganliklarini e’lon qilishdi. OpenAI, xizmat ko'rsatish shartlarini buzadigan kontent yaratilishining oldini olish uchun ko'p qatlamli xavfsizlik tizimlarini joriy qilganligini aytdi.

Ushbu tizimlar sun'iy intellektning axloqsiz xatti-harakatlarining oldini olish uchun doimiy ravishda yangilanadi va ishlab chiqiladi.

Kelajak istiqbollari va axloqiy bahslar

Sun'iy intellekt texnologiyalarining bunday axloqiy muammolari kelajakda ko'proq muhokamalarga sabab bo'lishi mumkin. Kontentni, ayniqsa zo'ravonlik va jinsiy kontentni nazorat qilish texnologiya rivojlanishi bilan murakkablashib bormoqda. Mutaxassislarning ta'kidlashicha, bunday tizimlardan axloqiy foydalanishni ta'minlash uchun qattiqroq nazorat va qoidalar talab etiladi.

Kelajakda sun'iy intellekt tizimlari xavfsizroq va axloqiy tarzda ishlashi uchun ijtimoiy xabardorlik va huquqiy tartibga solishning ahamiyati ortib boradi.