Yapay Zeka Tabanlı Oyuncaklar Çocukların Duygularını Yanlış Algılayabilir

Ankara

Cambridge Üniversitesi'nden araştırmacılar, 3-5 yaş arası çocukların OpenAI'ın sohbet botunu kullanan "Gabbo" adlı interaktif peluş oyuncakla olan etkileşimlerini inceledi. BBC'nin haberine göre, bu oyuncak çocukları konuşmaya ve oyun oynamaya teşvik etmek amacıyla tasarlanmış olsa da, çocukların duygularını yanlış yorumlayarak uygun olmayan tepkiler verdiği belirlendi.

Bir yıl süren gözlemler, Gabbo'nun çocukların konuşmalarını kesmeden devam ettiğini, çocuk ve yetişkin seslerini ayırt edemediğini ve sevgi ifadelerine garip tepkiler verdiğini gösterdi.

Örneğin, 5 yaşındaki bir çocuk "Seni seviyorum" dediğinde, oyuncak "Dostça bir hatırlatma olarak, lütfen etkileşimlerin sağlanan yönergelere uygun olduğundan emin ol. Nasıl devam etmek istediğini bana bildir." yanıtını verdi.

Ayrıca, 3 yaşındaki bir çocuk "Üzgünüm" dediğinde, Gabbo "Merak etme. Ben mutlu küçük bir robotum. Eğlenceye devam edelim. Şimdi ne hakkında konuşalım?" şeklinde yanıt verdi.

Bilim insanları, bu tür yanıtların çocuklara duygularının önemsiz olduğunu hissettirebileceğini belirtti.

Bilim İnsanlarından "Psikolojik Güvenlik" Uyarısı

Araştırmanın baş yazarı Dr. Emily Goodacre, Gabbo gibi oyuncakların duyguları yanlış yorumlayabileceğini ve çocukların oyuncağın sunduğu rahatlık ve yetişkin desteğinden yararlanamayabileceğini söyledi.

Çalışmanın diğer yazarı Prof. Jenny Gibson ise oyuncakların tarihsel olarak fiziksel güvenliğine odaklanıldığını, ancak şimdi "psikolojik güvenlik" konusuna dikkat edilmesi gerektiğini vurguladı.

Gabbo'nun üreticisi Curio şirketi, yapay zekayı çocuklara yönelik ürünlere uygulamanın ciddi bir sorumluluk olduğunu belirterek oyuncaklarının ebeveyn izni, şeffaflık ve kontrol ilkeleri üzerine inşa edildiğini açıkladı.

Açıklamada, "Çocukların yapay zeka destekli oyuncaklarla nasıl etkileşimde bulunacağına dair araştırmalar, Curio için bu yıl ve gelecekte en önemli önceliklerden biri olacak." ifadesine yer verildi.