Yapay Zekanın Silahlanması: İnsanlık ve Etik Üzerindeki Tehlikeler

OpenAI, kuruluş ilkelerinden biri olan 'askeri ve savaş' yasağını politikalarından sessizce kaldırarak, Pentagon ile siber güvenlik ve lojistik alanlarında yeni bir işbirliği dönemine geçtiğini duyurdu. Bu işbirliği çerçevesinde OpenAI, Pentagon'un siber savunma kapasitesini güçlendirmek ve askeri lojistik süreçlerini optimize etmek için özel olarak tasarlanmış modeller sunacak.

OpenAI yönetimi, bu ortaklığın 'öldürme kararı' veren otonom silah sistemlerini içermediğini ve 'anlamlı insan kontrolü' şartına bağlı kalındığını belirtse de, sivil bir teknoloji şirketinin bu kadar derin bir şekilde askeri kompleksle bütünleşmesi küresel çapta etik tartışmalara yol açıyor.

OpenAI'ın aksine, pazardaki güçlü rakiplerinden Anthropic, kendi 'güvenlik duvarlarını' koruma kararı alarak askeri otonom sistemler için veri ve altyapı sağlamayı reddetti.

Bu durum, Pentagon'un teknoloji şirketleri üzerindeki 'askeri entegrasyon' baskısını da gözler önüne serdi.

'#QuitGPT' Tepkisi

Bu yakın temas, sivil toplumda güçlü bir tepkiyle karşılandı. Dünya genelinde milyonlarca kullanıcı, kişisel verilerinin 'öldürme kararı' veren sistemlerde kullanılmasına karşı endişelerini dile getirerek '#QuitGPT' hareketini başlattı.

QuitGPT ekibinden yapılan açıklamada, OpenAI'ın kuruluş amacından uzaklaştığına dikkat çekilerek, 'Tüm insanlığa hizmet etme iddiasıyla kurulan bir yapının bu noktaya gelmesi hayal kırıklığı yaratıyor. Şirket, yön değiştirmedikçe bu tepki sürecek.' denildi.

Pentagon ile işbirliklerine de atıfta bulunan açıklamada, OpenAI'ın bu süreçteki tutumu eleştirilerek, 'Anthropic'in etik duruşunu korurken OpenAI'ın bu çizgiden uzaklaşması büyük hayal kırıklığı yaratıyor.' ifadesine yer verildi.

Açıklamada, yapay zekanın askeri sistemlere entegrasyonu konusundaki risklere işaret edilerek, bu tür işbirliklerinin kontrolsüz ilerlemesi halinde 'küçük bir grup tarafından yönetilen ve yapay zeka tarafından idare edilen, durdurulması zor askeri sistemlerin' ortaya çıkabileceği uyarısında bulunuldu.

Özellikle devletlerin veri erişimini genişleten mevcut yasal boşluklar vurgulanarak, yapay zekanın bu veriler üzerinden bireylerin konum, mesaj ve kişisel bilgilerini analiz edebilecek kapasiteye ulaşmasının ciddi riskler taşıdığı ifade edildi.

Küresel Güvenlikte Geri Dönülmez Tehdit

Kanada'daki McGill Üniversitesi'nden otonom sistemler ve robotik etiği uzmanı Prof. Ajung Moon, bu kontrolsüz gelişimin küresel güvenlik üzerindeki etkilerini değerlendirdi.

Moon, teknolojide hesap verebilirlik ve etkili denetim mekanizmalarının henüz yeterince gelişmediğini, bu nedenle yapay zeka araçlarının silahlı çatışmalara dahil edilmesinin teşvik edildiğini belirtti.

ABD'nin, tüm risklerine rağmen yapay zekanın askeri kullanımını 'meşru' bir zemin üzerine oturtmaya çalıştığını söyleyen Moon, bu yaklaşımın dünya genelinde tehlikeli bir durumun normal kabul edilmesine yol açtığını vurguladı.

Moon, mevcut jeopolitik gerilimler atmosferinde birçok ülkenin yapay zeka tabanlı askeri seçenekleri dışlamayı artık zafiyet olarak değerlendireceğini ve bu gidişatın dünyayı ölümcül otonom silah sistemlerine doğru geri dönülemez bir eşiğe sürüklediğini belirtti.

Otonom Sistemlerde Denetimsizlik ve Jeopolitik Riskler

Moon, mevcut teknolojilerin kapsamlı denetim mekanizmasından yoksun olduğunu ifade ederek, teknoloji devlerinin mevcut etik taahhütlerinin jeopolitik baskılar karşısında kalıcı olamayacağını değerlendirdi.

Moon, son teknoloji yapay zeka modellerinin askeri senaryolar için tasarlanmadığını hatırlatarak, 'OpenAI şimdilik kendi kırmızı çizgilerinin yeterli olduğunu düşünebilir ancak ABD dışı aktörlerin yapay zeka tabanlı savaş araçlarını yaygınlaştırması, bu şirketlerin 'ulusal çıkarları koruma' adına ahlaki standartlarını esnetmelerine ve bu çizgileri yeniden müzakere etmelerine yol açacaktır.' dedi.

Bu modellerin askeri kullanım senaryoları düşünülerek tasarlanmadığını belirten Moon, bunun da sorumluca yapılacak bir entegrasyonu teknik olarak neredeyse imkansız kıldığını vurguladı.

Dijital Veriler Geleceğin Silahı Olabilir

Otonom silahların kullanımını sadece teknik bir mesele değil, derin bir insan hakları sorunu olarak nitelendiren Moon, dijital egemenliğin hayati önemini şu sözlerle vurguladı:

'Otonom silahlar kullanarak bir kişiye karşı ölümcül güç kullanmak, sadece hedefi değil, genel olarak insan hayatının değerini zedeler. Hayatı, bir makineye devredilerek kolayca sonlandırılabilecek mekanik bir onursuzluğa indirger. Ayrıca unutmamalıyız ki bu şirketlerin önceliği her zaman kendi ülkeleri olacaktır.'

Bugün normal hayatta paylaşılan verilerin gelecekte birer silaha dönüşebileceği riskine dikkat çeken Moon, 'Kişisel hayatımızda kullandığımız veriler ve otomasyon süreçleri, yarın jeopolitik dengeler değiştiğinde bize, meslektaşlarımıza veya sevdiklerimize karşı kullanılabilir.' dedi. Moon, bu krizin küresel toplum için dijital egemenliğin ve sivil verilerin 'askeri enstrümana dönüşme gerçeğinin' ne kadar kritik olduğunu hatırlattığını dile getirdi.