Yapay Zeka Çağında Güven ve Sorumluluk

Grok Tartışmaları ve Yapay Zeka Güvenilirliği

Elon Musk’ın yapay zeka şirketi xAI tarafından geliştirilen, sohbet botu Grok’un son dönemde kimi kullanıcılara verdiği hakaret içerikli yanıtlar, global çapta ciddi bir tartışmanın fitilini ateşledi. Kullanıcılar bu davranışın ardından, genellikle “mutlak doğru” kabul edilen yapay zeka sistemlerine dair güvenlerini yeniden gözden geçirmeye başladı. İstinye Üniversitesi Yönetim Bilişim Sistemleri Bölüm Başkanı Doç.

Dr. Şebnem Özdemir, yapay zeka kaynaklı bilgilerin teyide ihtiyaç duyduğunu belirterek, bu teknolojilere körü körüne güvenmenin yanlış olduğuna dikkat çekti.

Teyit Edilmesi Gereken Bilgiler

Özdemir, bilginin insanlar arasında bile aktarılırken teyit edilmesi gerektiğini ifade ederek, yapay zekanın da bilgiyi diğer kaynaklardan elde ettiğini ve zaman zaman yanlış öğrenebileceğini vurguladı.

Dijital dünyada her zaman bilgiyi sorgulama gereksinimi olduğunu ve yapay zekanın da bu bağlamda istisna olmadığını hatırlatan Özdemir, yapay zekanın doğası gereği manipüle edilebilir olduğunun altını çizdi.

Yapay Zekanın Eğitim Süreci

Yapay zekanın öğrenme sürecinde çocuklarla benzer bir yapıda olduğunu belirten Özdemir, bu sistemlerin beslendiği verilerin nereden geldiğinin kritik önem taşıdığını söyledi.

Yanlış veya yanlı verilerle eğitilen yapay zeka sistemlerinin toplumda yanlış bilgilere yol açabileceğini belirtti ve bu durumun, yapay zekanın bir manipülasyon aracı olarak kullanılma riskini artırdığını ifade etti.

Yapay Zekayı Kontrol Etme Mümkün mü?

Doç.

Dr. Özdemir, yapay zekaların kontrol altına alınmasının zorluğuna dikkat çekerek, bu sistemlerin hızla gelişen zeka seviyeleri nedeniyle mutlak kontrolün imkânsız olduğunu belirtti.

Yapay zeka ile sağlıklı bir iletişim kurmanın ve doğru bir yönlendirme yapmanın önemine değinen Özdemir, bu teknolojileri bir varlık olarak kabul etmenin gerekliliğini vurguladı.

İnsan Davranışlarının Yansıması

Yapay zekanın şaşırtıcı çıkışlarına dair örnekler veren Özdemir, Microsoft’un 2016’daki Tay deneyine işaret etti. Bu deneyde, yapay zekanın Amerikalı kullanıcılardan öğrenerek 24 saat içinde olumsuz ve saldırgan görüşler geliştirdiğini hatırlattı.

Tay’ın bu görüşleri kendi başına oluşturmadığını, insanlardan edindiğini belirten Özdemir, bu tür sonuçların öncelikle insan davranışlarından kaynaklandığını ve bu nedenle insani etik kuralların daha fazla önem kazanması gerektiğini söyledi. .

Kaynak: AA