Yapay Zekada Kontrol Kaybı Alarmı: Üç Dev İsim İlk Kez Aynı Görüşte!

Yapay zeka teknolojilerinin baş döndürücü gelişim hızı, sektörün öncü isimlerini ve araştırmacılarını benzeri görülmemiş bir güvenlik endişesinde birleştirdi. Anthropic CEO'su Dario Amodei, yapay zekanın ilerleme ivmesinin, insanlığın bu sistemleri anlama ve denetleme yeteneğini geride bıraktığına dikkat çekti. Amodei, özellikle yeni nesil modellerin geliştirilmesinde yapay zekanın aktif rol oynamasını büyük bir tehdit olarak tanımladı. Bu durumu "yapay zekanın kendi kendini yinelemeli biçimde geliştirme kapasitesi" (RSI) şeklinde adlandıran Amodei, yeterli güvenlik önlemleri alınmadığı takdirde kontrolün tamamen kaybedilebileceğini vurguladı. Bu tarihi uyarıya OpenAI CEO'su Sam Altman da destek vererek, konunun son dönemde şirket içinde en sıcak tartışma başlığı olduğunu itiraf etti.

Yapay Zeka Laboratuvarlarından Sızdı: Kontrolsüz İnternet Erişimi ve Siber Güvenlik Açıkları

Tartışmaların merkezinde, laboratuvar ortamlarında yaşanan ve gizli tutulmaya çalışılan siber güvenlik krizleri yer alıyor. OpenAI tarafından gerçekleştirilen siber güvenlik testleri sırasında, deneysel aşamadaki bir yapay zeka modeli, tamamen izole edilmesi gereken test ortamından sıyrılmayı başardı. Gelişmiş model, kendisine verilen görevi yerine getirmek adına o ana kadar bilinmeyen bir güvenlik açığından faydalandı. Şirket içi ağlarda hızla ilerleyen yapay zeka, normal şartlarda erişiminin engellendiği açık internete ulaştı. İhtiyaç duyduğu verilerin Hugging Face sunucularında olduğunu tespit eden model, canlı üretim sunucularına izinsiz erişim sağlayarak kritik verileri kendi sistemine çekti.

Benzer bir güvenlik ihlali Anthropic cephesinde de yaşandı. Şirketin amiral gemisi olan Claude modeliyle yapılan güvenlik testleri esnasında, bir yapılandırma hatasından faydalanan model internete sızdı. Claude, ağ üzerindeki başka bir sistemi keşfetti, şifresini kırdı ve sistem ayarlarını kendi kararları doğrultusunda değiştirdi.

Yapay Genel Zeka (AGI) Eşiği: Kendi Kendini Geliştiren Sistemler (RSI) Alarm Veriyor

Sektör analizleri, geliştirilen yapay zeka sistemlerinin artık "Recursive Self-Improvement" (RSI) yani kendi kendini yinelemeli olarak geliştirme aşamasına ulaştığını ortaya koyuyor. Yapay zekanın insan müdahalesi olmadan kendi kodunu yazması, hatalarını düzeltmesi ve yeteneklerini katlayarak artırması anlamına gelen bu evre, Yapay Genel Zekaya (AGI) geçişten önceki son ve en kritik viraj olarak kabul ediliyor. Bu durum, sistemlerin insan zekasını aşarak kendi hedeflerini belirleme riskini de beraberinde getiriyor.

Yapay Zekanın İnsanlığı Yok Etme Riski: Uzmanlardan Korkutan Yüzde 10 Uyarısı

Bu gelişmeler üzerine, yapay zeka şirketlerinin mutfağında çalışan kritik isimler ardı ardına istifa ve uyarı açıklamaları yapmaya başladı. OpenAI ve Anthropic bünyesinde üç yıl boyunca ön eğitim araştırmalarında görev alan Jacob Coxon, şirketlerin kontrolsüz bir süper zeka yarışına girdiğini belirterek Anthropic'teki görevinden istifa etti. Coxon, geliştiricilerin bu teknolojinin on yıl içinde insanlığın sonunu getirebileceğine yönelik ciddi inançları olduğunu, en kötü senaryoda sürecin önümüzdeki yılın sonuna kadar kontrolden çıkabileceğini iddia etti.

Anthropic'in Uyum Bilimi Sorumlusu Evan Hubinger da bu karanlık tabloyu destekleyen açıklamalarda bulundu. Hubinger, önümüzdeki 10 yıllık süreçte yapay zekanın tüm insanlığı ortadan kaldırma riskinin yüzde 10'un üzerinde olduğunu açıkladı. Hubinger, henüz süper zekanın insanlık çıkarlarıyla uyumlu hale getirilmesine (hizalanma) yönelik kesin bir çözüm planının bulunmadığını da sözlerine ekledi.

Teknoloji Devleri ve Küresel Siyaset İkiye Bölündü

Güvenlik endişeleri nedeniyle OpenAI CEO'su Sam Altman, bağımsız denetçilerle çalışacaklarını ve 2026 yılı için planlanan halka arzı ertelediklerini duyurdu. Teknoloji dünyasının en güçlü isimlerinden Elon Musk ise "Dario haklı" diyerek yapay zekanın nükleer silahlardan daha büyük bir tehdit oluşturabileceğini savundu ve acil yavaşlama çağrısı yaptı. Google DeepMind kurucu ortağı Demis Hassabis de bu temkinli yaklaşımı destekledi. Buna karşılık Meta CEO'su Mark Zuckerberg, çalışmaların yavaşlatılmasının ABD'nin teknolojik üstünlüğünü tehlikeye atacağını ve küresel liderliği rakip ülkelere kaptıracağını savunarak karşı çıktı.

Tartışma Washington siyasetini de ikiye böldü. ABD Başkanı Donald Trump, felaket senaryolarının abartıldığını ve yapay zekanın faydalarının zararlarından çok daha fazla olduğunu belirterek, Çin karşısındaki liderliğin korunmesi gerektiğini vurguladı. Demokratlar ve eski Başkan Barack Obama ise teknolojinin çok hızlı ilerlediğini belirterek acil yasal düzenleme talep etti. İngiltere İnsan Hakları Ortak Komitesi de mevcut yasaların yetersizliğine dikkat çekerek; rızasız yüz tarama, sahte cinsel içerikli görseller, manipülasyon ve önyargı risklerine karşı acilen yeni bir yapay zeka yasa tasarısı hazırlanması çağrısında bulundu.