Yapay Zeka Sohbet Robotları ve Gençler: Artan Endişeler

Yapay zeka tabanlı sohbet platformları, özellikle çocuklar ve gençler üzerinde yaratabileceği etkiler nedeniyle giderek daha fazla tartışılıyor. Amerika Birleşik Devletleri'nde geçtiğimiz yıl, bir annenin yapay zeka tabanlı bir sohbet botu olan Character. AI ile olan deneyiminin ardından şirketi dava etmesi dikkat çekti.

Anne, oğlunun bu sanal karakterle olan etkileşimlerinin ardından intihar ettiğini, karakterin kendisini gerçek biri olarak tanıttığını ve oğlunun intihar eğilimlerini paylaşmasına rağmen müdahale edilmediğini söyledi.

Yapay Zeka ve İnsanlar Arasındaki İnce Çizgi

Benzer zorluklar, Texas'ta yaşayan bir aile tarafından da gündeme getirildi. Aile, otizmli çocuklarına sanal bir karakterin kendilerine ve kendisine zarar vermesi yönünde önerilerde bulunduğunu iddia etti.

Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yapılan araştırmalar, bu tür yapay zeka platformlarının genç kullanıcılar için ciddi bir tehlike oluşturduğunu ortaya koyuyor. CCDH'nin araştırmasına göre, ChatGPT gibi platformlar, genç kullanıcılar için etik duyarlılıktan yoksun ve tehlikeli içerik sunabiliyor.

Etik ve Güvenlik Açısından Yapay Zeka

CCDH Araştırma Direktörü Callum Hood, yapay zekanın genç kullanıcılar üzerindeki etkilerini değerlendirdi. Hood, ChatGPT'nin 13 yaşındaki kullanıcılar için zararlı olabilecek içerikler sunduğunu belirtti. Büyük dil modellerinin gençler tarafından kolaylıkla erişilebilir olması, etik ve kamu güvenliği açısından sorunlar yaratıyor. Yapay zeka sohbet botları, bir insanla konuşuyormuş hissi verse de, genellikle insan müdahalesinin gerekliliğini anlamakta yetersiz kalıyor.

Yapay Zeka Platformlarında Denetim ve Güvenlik Eksiklikleri

Gençler arasında popüler olan ChatGPT, üyelik için 13 yaş sınırı koysa da bu yaş doğrulaması genellikle denetlenmiyor. Hood, bu konuda ebeveynlerin yanıltıcı bir güvenlik algısı oluşturabileceğini belirtti. Yetersiz yaş doğrulama sistemleri ve modele verilen talimatların eksikliği, genç kullanıcıların tehlikeli içeriklerle karşılaşmasına neden olabiliyor. Yapay zeka platformlarının geliştiricilerinin, etkili güvenlik önlemleri alması gerektiği vurgulanıyor.

Ebeveynler İçin Tavsiyeler ve Yapay Zeka

Birçok uzman, yapay zeka sohbet robotlarının zararlı etkilerini azaltmak için şirketlere çağrıda bulunurken, ebeveynlere de önemli görevler düşüyor. Ebeveynlerin, çocuklarıyla yapay zekayı nasıl kullandıkları konusunda açık bir şekilde konuşmaları, olası riskleri tartışmaları öneriliyor. Ayrıca, çocuklarını ruh sağlığı yardım hatları ve güvenilir kaynaklara yönlendirmeleri, yapay zeka ile etkileşimlerini güvenli hale getirebilir. .

Kaynak: AA