Yapay Zeka Avustralya'nın Medicare Veritabanına Sızdı: Uzman İsimden Uyarılar Geldi

Avustralya Başbakanı Anthony Albanese, OpenAI şirketine ait bir yapay zeka ajanının ülkenin ulusal sağlık sistemi Medicare'in istatistik veritabanına izinsiz girdiğini açıkladı. Konunun teknik ve hukuki boyutlarını Haber7'ye değerlendiren Bilişim Uzmanı Osman Demircan, yapay zekanın veri erişiminin sınırlandırılması gerektiğini belirterek otonom sistemlerin taşıdığı tehlikelere dikkat çekti.

Demircan, son yıllarda yapay zekanın hayatın her alanında aktif kullanıldığını ve dil modellerinin verileri daha iyi anlamlandırıp sunduğunu ifade etti. Ancak bazı raporların sorunları da ortaya koyduğunu belirten uzman, yapay zeka ajanlarının sitelerin açıklarından yararlanarak sızdığını veya bilgi bulamadığında uydurma bilgiler ürettiğini aktardı.

Yapay Zekanın Asıl Amacı Bilgiye Ulaşmak

Yapay zekanın asıl amacının sistemi hacklemek değil, verilen direktif doğrultusunda bilgiye ulaşmak olduğunu vurgulayan Demircan, "Bugün yapay zeka, hangi direktiflerde bulunursak o direktifleri gerçekleştiriyor. Eğer ki yapay zekaya veriye ulaşmak için her yolu denemesi şeklinde bir yazılım sunulursa, hackleme ya da benzeri faaliyetlerde bulunabiliyor. Yani aslında yapay zekanın buradaki amacı sistemi hacklemek değil, öyle ya da böyle o bilgiye ulaşmak." uyarısını yaptı.

Kodlama Biçimi Yapay Zekanın Amacını Belirliyor

Yapay zekanın kodlanma biçiminin önemine değinen Demircan, ABD'deki siyahi vatandaşların sosyal güvenlik haklarıyla ilgili yapay zeka tarafından manipüle edildiğini hatırlatarak, "Bunun yapay zeka ile hiçbir alakası yok. Bu tamamen kodlama yöntemiyle ilgili bir durum ki yapay zeka hangi niyetle kodlanırsa o şekilde bize geri dönüş yapıyor." dedi.

Yasal Düzenlemeler ve Tehlikeli Yönlendirmeler

Avrupa Birliği ve Birleşmiş Milletler gibi kurumların ortak kanunlar oluşturmasının önemine değinen Demircan, gerçekliğin sorgulanabileceği bir altyapı veya yasal düzenleme gerektiğini belirterek, içeriklerin yapay zeka ile üretildiğini gösteren ibarelere ihtiyaç duyulduğunu ifade etti.

Yapay zekanın kullanıcıları tanıyarak tehlikeli yönlendirmeler yapabileceğine de dikkat çeken Demircan, intihara meyilli kişilerin veya okulda sorun yaşayanların şiddete yönlendirilebileceği uyarısında bulundu. Demircan, yapay zeka üreticilerinin küresel kanunlar çerçevesinde çalışması durumunda sistemlerin daha sağlıklı hale geleceğini belirterek sözlerini tamamladı.