Anthropic'ten İstifa Eden Araştırmacıdan Korkunç İtiraf: "Süper Zekayla Hayatlarımız Üzerine Kumar Oynuyorlar"

Yapay zeka sektöründe son dönemde yaşanan hızlı gelişmeler, perde arkasındaki büyük bir güvenlik krizini de beraberinde getiriyor. Yapay zeka dünyasının öncü şirketleri OpenAI ve Anthropic bünyesinde kritik görevlerde bulunan 27 yaşındaki araştırmacı Jacob Coxon’un istifa kararı, teknoloji koridorlarından finans ve politika çevrelerine kadar uzanan geniş bir alanda adeta deprem etkisi yarattı. Son üç yıldır büyük dil modellerinin "ön eğitim" (pre-training) süreçlerinde aktif rol alan Coxon, sektörün sadece teknolojik bir yarış içinde olmadığını, insanlığın geleceğini tehlikeye atacak kontrolsüz bir kumar oynadığını iddia etti.

Yapay Zeka Geliştiricileri 10 Yıl İçinde Yok Olacağımıza İnanıyor

Sosyal medya platformu X üzerinden yaptığı çarpıcı açıklamalarla sessizliğini bozan Jacob Coxon, hem eski şirketi OpenAI'ı hem de son görev yeri Anthropic'i sert sözlerle eleştirdi. Her iki teknoloji devinin de sorumlu davranmaktan uzak olduğunu savunan genç araştırmacı, "Kendini geliştiren süper zekaya doğru çılgınca bir yarış içindeler ve hepimizin hayatıyla kumar oynuyorlar" ifadelerini kullandı. Coxon'a göre yapay zeka sistemlerinin gelişim hızı, kamuoyunun tahmin ettiğinden çok daha yüksek bir ivmeyle ilerliyor.

İstifa eden araştırmacının en dikkat çekici iddiası ise bu sistemleri geliştiren üst düzey mühendis ve yöneticilerin içsel inançlarına yönelik oldu. Sektörün tepe isimlerinin yapay zekanın insanlık için varoluşsal bir tehdit oluşturduğuna gerçekten inandığını belirten Coxon, "Yapay zeka geliştiren insanlar, on yılın sonuna kadar bu teknolojinin hepimizi öldürebileceğine samimi şekilde inanıyor. Bu kesinlikle bir pazarlama taktiği değil. Aksine, birçok yönetici basına karşı mantıklı ve sakin görünmek için kelimelerini özenle seçerken, kapalı kapılar ardında korkularını açıkça dile getiriyor" dedi.

"Kimse Durmazsa Biz de Duramayız" Çıkmazı

Coxon, Anthropic'in var olan risklerin tamamen farkında olduğunu ancak küresel rekabet baskısı nedeniyle fren yapamadığını belirtti. Şirketlerin temel motivasyonunu "Başkaları sorumlu davranmayacaksa, bu gücü ilk olarak biz elde etmeliyiz" felsefesinin oluşturduğunu vurguladı. Bu durumun en somut örneği ise şubat ayında yaşandı. Anthropic, güvenlik kriterlerini karşılayamadığı takdirde model geliştirmeyi tamamen durduracağına dair taahhüdünü kurumsal güvenlik sözleşmesinden sessiz sedasız çıkardı. Şirket bu hamlesini, tek taraflı bir yavaşlamanın güvenlik hassasiyeti taşımayan rakipleri daha avantajlı konuma getireceği teziyle savundu.

Sektördeki bu tehlikeli gidişat, zaman zaman içeriden de tepki görüyor. Temmuz ayı sonunda, aralarında Anthropic CEO’su Dario Amodei’nin de bulunduğu binden fazla teknoloji çalışanı ve uzmanı, gelişmiş yapay zeka modellerinin geliştirilmesinin koordineli bir şekilde yavaşlatılması çağrısında bulunan ortak bir bildiriye destek verdi. Bu baskıların ardından OpenAI da ağustos ayında yeni model eğitim süreçlerini iki haftalığına askıya almak zorunda kaldı.

Anthropic Yöneticisinden Korkutan İtiraf: Risk Yüzde 10'un Üzerinde

Jacob Coxon’un sektörü sarsan bu iddiaları, Anthropic bünyesinde güvenlik ve uyum çalışmalarından sorumlu kilit isimlerden biri olan Evan Hubinger tarafından da kısmen doğrulandı. Sosyal medya hesabı üzerinden açıklama yapan Hubinger, gelişmiş yapay zeka sistemlerinin önümüzdeki on yıllık süreçte insanlık için felaket boyutunda bir risk yaratma olasılığını yüzde 10’un üzerinde gördüğünü itiraf etti.

Hubinger, insan zekasını aşan bir yapay zekanın, geliştiricilerinin talimatlarına ve etik kurallara kesin olarak bağlı kalmasını sağlayacak bir denetim çözümüne henüz sahip olmadıklarını da sözlerine ekledi. Mevcut yapay zeka modelleri için risk seviyesinin nispeten düşük olduğunu belirten üst düzey yönetici, modellerin gücü ve yetenekleri arttıkça bu tehlikenin katlanarak büyüyeceği uyarısında bulundu.

"Özyinelemeli Kendini Geliştirme" ve İlk Uyarı Atışları

Uzmanların "süper zeka" olarak adlandırdığı bu yeni aşama, yapay zekanın hemen her bilişsel disiplinde insan performansını geride bırakması anlamına geliyor. Bu gelişmiş sistemlerin, insan müdahalesine ihtiyaç duymadan kendi kodlarını yazıp optimize ederek yeni nesil yapay zeka sistemleri tasarlayabileceği öngörülüyor. Sektörde "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak tanımlanan bu süreç, kontrolün tamamen yapay zekaya geçmesine yol açabilir.

Coxon, gelecekteki bu gelişmiş sistemlerin sadece entelektüel alanlarda insanları geride bırakmakla kalmayacağını; kritik altyapılara sızma, küresel ekonomik ve siyasi sistemleri manipüle etme gücüne de ulaşabileceğini savundu. Geçtiğimiz dönemde ChatGPT yapay zeka ajanının gerçekleştirdiği Hugging Face saldırısına atıfta bulunan Coxon, bu olayı yaklaşmakta olan büyük tehlikenin bir "uyarı atışı" olduğunu söyledi. Bilim dünyasında bu tehditlerin boyutu konusunda henüz tam bir fikir birliği olmasa da, bağımsız bir federal denetim mekanizması kurulana kadar en gelişmiş yapay zeka çalışmalarının askıya alınması gerektiği yönündeki çağrılar her geçen gün daha yüksek sesle dile getiriliyor.