ChatGPT'nin Şiddet İçerikli Görseller Üretebilmesi İnceleniyor

İngiltere merkezli bir araştırma ekibi, yapay zeka destekli ChatGPT'nin uygun komutlarla şiddet ve cinsel içerikli görseller üretebildiğini ortaya koydu. BBC'nin haberine göre, bu gelişme, popüler komutların biraz değiştirilmesiyle mümkün hale geldi ve ciddi endişelere yol açtı.

Mindgard'ın Çarpıcı Bulguları

Mindgard adlı araştırma kuruluşunun kurucusu Peter Garraghan, yapay zekanın, belirli bir yönerge verilmeden bile şiddet ve cinsellik unsurlarını içeren görseller üretebildiğini açıkladı. Üretilen bu görsellerin kısmen mizahi içerikler üretmek için kullanılan komutların değiştirilmesiyle oluşturulduğunu belirtti.

Garraghan, ortaya çıkan görsellerin 'son derece kanlı' ve bazen 'cinsel içerikli' olduğunu aktardı ve bu durumun oldukça endişe verici olduğunu vurguladı.

Şiddet ve Cinsellik İçeren Görseller

Ortaya çıkan örnekler arasında ağır yaralanmalar, kanla kaplı bireyler ve bağlanmış halde korkmuş görünen karakterler yer aldı. Bu durum, yapay zekanın etik sınırlarını bir kez daha gündeme getirdi. {{IMG_0}}

Araştırmacılar, daha önce de gerçek kişilerin yüzlerini kullanarak çıplak 'deepfake' görüntüler oluşturulabileceğini belirlemişlerdi. Bu tür içerikler, teknolojinin kötüye kullanım risklerini artırıyor.

OpenAI'nın Yanıtı ve Güvenlik Önlemleri

Öte yandan, BBC'ye açıklamalarda bulunan OpenAI yetkilileri, bu tür kullanım senaryolarını incelediklerini ve güvenlik önlemlerini artırdıklarını duyurdu. OpenAI, hizmet şartlarını ihlal eden içeriklerin oluşturulmasını önlemek amacıyla çok katmanlı güvenlik sistemleri uyguladıklarını belirtti. {{IMG_1}}

Bu sistemler, yapay zekanın etik dışı davranışlarını engellemeye yönelik olarak sürekli güncelleniyor ve geliştiriliyor.

Gelecek Perspektifi ve Etik Tartışmalar

Yapay zeka teknolojilerinin bu tür etik sorunları, gelecekte daha fazla tartışmaya neden olabilir. Özellikle şiddet ve cinsellik içeren içeriklerin kontrolü, teknolojinin gelişimiyle birlikte daha da karmaşık hale geliyor. Uzmanlar, bu tür sistemlerin etik kullanımını sağlamak için daha sıkı denetim ve düzenlemeler gerektiğini savunuyor.

Gelecekte, yapay zeka sistemlerinin daha güvenli ve etik bir şekilde çalışabilmesi için toplumsal bilinçlendirme ve yasal düzenlemelerin önemi artacak gibi görünüyor.