Yapay Zeka Dünyasında Büyük Deprem: Anthropic Yetkilisinden "İnsanlığı Yok Edebilir" İtirafı

Yapay zeka teknolojilerinin baş döndürücü bir hızla gelişmesi, bu sistemleri üreten dev şirketlerin koridorlarında ciddi güvenlik endişelerini de beraberinde getiriyor. Son dönemde sektöre yön veren en önemli aktörlerden biri olan Anthropic bünyesinde yaşanan istifa dalgası ve peşinden gelen çarpıcı açıklamalar, yapay zekanın insanlık için oluşturduğu varoluşsal tehdidi bir kez daha gözler önüne serdi. Şirketin Uyum Bilimi Sorumlusu Evan Hubinger, yapay zekanın insanlığı yok etme potansiyeline dair tüyler ürperten bir itirafta bulundu.

Hubinger, sosyal medya platformu X üzerinden yaptığı açıklamada, kendisinin ve iş arkadaşlarının yapay zekanın gelecekte tüm insanlığı ortadan kaldırabileceğine "samimiyetle inandığını" dile getirdi. Önümüzdeki on yıllık süreç için bu felaket senaryosunun gerçekleşme ihtimalini değerlendiren Hubinger, "Önümüzdeki 10 yıl içinde bu riskin yüzde 10’un üzerinde olduğunu düşünüyorum" diyerek tehlikenin boyutuna dikkat çekti. Anthropic'in güvenlik önlemleri için çaba sarf ettiğini belirten yetkili, "süper zekâ için hizalama" problemine henüz somut bir çözüm üretemediklerini ve şirketin bu konuda "net bir şekilde yolunda olmadığını" açıkça itiraf etti.

Kendi Kendini Geliştiren Yapay Zeka ve Kontrolsüz Süper Zeka Tehdidi

Hubinger'a göre mevcut yapay zeka modelleri şu an için düşük risk barındırıyor. Ancak asıl tehlike, sistemlerin kendi hatalarını düzeltip yeni yetenekler kazandığı "kendi kendini geliştiren" (recursive self-improvement) süper zekanın öngörülenden çok daha hızlı bir şekilde ortaya çıkması. Bu kontrolsüz gelişim süreci, insan kontrolünün tamamen devre dışı kalacağı bir dönemi tetikleyebilir.

Bu sarsıcı açıklamalar, Anthropic'in önemli araştırmacılarından Jacob Coxon'un güvenlik kaygıları nedeniyle görevinden istifa etmesinin hemen ardından geldi. Daha önce hem OpenAI hem de Anthropic çatısı altında ön eğitim (pretraining) süreçleri üzerinde çalışan Coxon, teknoloji şirketlerinin adeta gözü kör bir yarış içinde olduğunu savundu. Coxon, şirketlerin kendi kendini geliştiren süper zekaya ulaşmak için adeta "hayatlarımızla kumar oynadığını" dile getirdi.

"Bu Bir Pazarlama Taktiği Değil, Gerçek Bir Tehlike"

Sektördeki bazı kesimlerin bu uyarıları reklam amaçlı abartılar olarak görmesine karşı çıkan Coxon, yapay zeka geliştiricilerinin on yılın sonunda insanlığın sonunu getirebilecek bir güce ulaşılacağına gerçekten inandığını vurguladı. Wall Street Journal'a konuşan Coxon, "önümüzdeki yılın sonuna kadar işlerin kontrolden çıkabileceği en agresif senaryoların" bile mümkün olduğunu düşündüğünü ifade etti.

Coxon ayrıca, Anthropic yönetiminin risklerin tamamen farkında olduğunu ancak "nasılsa kimse sorumlu davranmayacak, o halde bu teknolojiyi ilk biz geliştirmeliyiz" mantığıyla hareket ederek tehlikeli bir yarışın parçası haline geldiğini iddia etti.

Küresel Ölçekte Yapay Zekayı Yavaşlatma Çağrıları

Yaşanan bu son gelişmeler, yapay zeka dünyasında uzun süredir devam eden güvenlik ve etik hizalama tartışmalarını yeniden alevlendirdi. Sektörün önde gelen birçok bilim insanı, mühendisi ve teknoloji lideri, insanlığın kontrolü kaybetmemesi adına daha önce de gelişmiş yapay zeka sistemlerinin geliştirilme süreçlerine ara verilmesi ya da bu süreçlerin yavaşlatılması yönünde ortak çağrılarda bulunmuştu. Ancak rekabet hırsı, bu çağrıların hayata geçirilmesini zorlaştırmaya devam ediyor.