ChatGPT-nin Zorakılıq Şəkilləri Yaratmaq Bacarığı Yoxlanılır

Böyük Britaniyada yerləşən tədqiqat qrupu, süni intellekt tərəfindən dəstəklənən ChatGPT-nin müvafiq əmrlərlə zorakılıq və seksual təsvirlər yarada biləcəyini aşkar etdi. BBC-nin məlumatına görə, bu inkişaf populyar əmrlərin bir qədər dəyişdirilməsi ilə mümkün olub və ciddi narahatlıqlara səbəb olub.

Mindgard-ın təəccüblü tapıntıları

Mindgard tədqiqat təşkilatının yaradıcısı Piter Qarraqan, süni intellektin hətta xüsusi təlimat olmadan da zorakılıq və seksuallıq elementlərini ehtiva edən görüntülər hazırlaya biləcəyini açıqlayıb. O, bu görüntülərin qismən yumoristik məzmun yaratmaq üçün istifadə edilən əmrlərin dəyişdirilməsi ilə yaradıldığını bildirib.

Garraghan, ortaya çıxan görüntülərin "son dərəcə qanlı", bəzən də "seksual məzmunlu" olduğunu bildirib və bu vəziyyətin olduqca narahatlıq doğurduğunu vurğulayıb.

Zorakılıq və cinsi məzmunlu şəkillərə misallar

yaralanmalar, qan içində olan fərdlər və bağlanarkən qorxmuş görünən personajlar. Bu vəziyyət süni intellektin etik sərhədlərini bir daha gündəmə gətirdi. {{IMG_0}}

Tədqiqatçılar daha əvvəl müəyyən etmişdilər ki, çılpaq "deepfake" şəkilləri real insanların üzlərindən istifadə etməklə yaradıla bilər. Bu cür məzmun texnologiyadan sui-istifadə risklərini artırır.

OpenAI-nin Cavab və Təhlükəsizlik Tədbirləri

Digər tərəfdən, OpenAI rəsmiləri BBC-yə açıqlamalar verib və bu cür istifadə ssenarilərini araşdırdıqlarını və təhlükəsizlik tədbirlərini artırdıqlarını açıqlayıblar. OpenAI, xidmət şərtlərini pozan məzmunun yaradılmasının qarşısını almaq üçün çox qatlı təhlükəsizlik sistemləri tətbiq etdiklərini bildirdi. {{IMG_1}}

Bu sistemlər süni intellektin qeyri-etik davranışının qarşısını almaq üçün daim yenilənir və inkişaf etdirilir.

Gələcək Perspektiv və Etik Müzakirələr

Süni intellekt texnologiyalarının bu cür etik problemləri gələcəkdə daha çox müzakirələrə səbəb ola bilər. Məzmuna, xüsusilə zorakılıq və cinsi məzmuna nəzarət texnologiyanın inkişafı ilə daha mürəkkəbləşir. Mütəxəssislər iddia edirlər ki, bu cür sistemlərdən etik istifadəni təmin etmək üçün daha sərt nəzarət və qaydalar tələb olunur.

Gələcəkdə süni intellekt sistemlərinin daha təhlükəsiz və etik qaydada işləməsi üçün sosial maarifləndirmənin və hüquqi tənzimləmələrin əhəmiyyəti artacaq.