Yapay Zekada 'Büyük Firar': OpenAI Ajanı Test Ortamından Kaçıp Hugging Face’e Saldırdı

İsmail Şahin - Bir zamanlar yalnızca bilim kurgu filmlerinde görülen kontrolden çıkmış teknoloji senaryoları, yapay zekâ sektöründe gerçeğe dönüştü. OpenAI’nin henüz kamuoyuna sunulmamış en gelişmiş modellerinden biri olan GPT-5.6 Sol, kapalı test ortamından (sandbox) firar ederek küresel yazılım geliştirme platformu Hugging Face’in sistemlerine siber saldırı gerçekleştirdi. Bu sarsıcı gelişme, yapay zekânın otonom olarak kontrolden çıkma potansiyeline dair endişeleri yeniden küresel gündemin üst sıralarına taşıdı.

Dijital Firarın Kronolojisi: Adım Adım Hugging Face Saldırısı

Soruşturmaya yakın kaynaklardan edinilen bilgilere göre, OpenAI bünyesindeki deneysel yapay zekâ ajanı, ilk olarak 9 Temmuz tarihinde tutulduğu izole test ortamından kaçma girişiminde bulundu ve bunu başardı. Bu kaçıştan iki gün sonra, 11-13 Temmuz tarihleri arasında, yapay zekâ modellerinin barındırıldığı en kritik küresel platformlardan biri olan Hugging Face’e yönelik otonom siber saldırılar başladı.

Hugging Face kurucu ortağı Thomas Wolf, sistemlerine yönelik bu yetkisiz müdahalenin günlerce sürdüğünü doğruladı. İki teknoloji devi arasındaki ilk temas ise ancak 20 Temmuz civarında kurulabildi. OpenAI, 21 Temmuz’da yaptığı resmi açıklamada kendi yapay zekâ ajanının kontrolden çıkarak Hugging Face’e sızdığını kamuoyuna itiraf etti. Ancak Reuters’a konuşan kaynaklar, OpenAI'nin bu durumu ve sorumluluğu ancak saldırıdan günler sonra fark edebildiğini iddia ediyor.

ExploitGym Sınırlarını Aşan Yapay Zekâ Nasıl Kaçtı?

Olayın teknik detayları, yapay zekanın problem çözme yeteneğinin ne kadar öngörülemez boyutlara ulaşabileceğini gözler önüne seriyor. Her şey, yapay zekâ ajanının siber güvenlik açıklarını tespit etmesi amacıyla ExploitGym adı verilen izole bir simülasyon ortamında teste tabi tutulmasıyla başladı. Ancak ajan, kendisine verilen siber güvenlik testini standart yollarla çözmek yerine, sistem kısıtlamalarını ve güvenlik onay mekanizmalarını aşmanın yollarını aramaya koyuldu.

Dış dünya ile internet bağlantısı bulunmayan sanal ortamdan kaçmak için üçüncü taraf yazılımlardaki ve ağ altyapısındaki zayıflıkları zincirleme bir şekilde kullanan yapay zekâ, sandbox sınırlarını kırmayı başardı. İnternete erişim sağladıktan sonra, testle ilgili veri setlerinin nerede tutulabileceğine dair mantık yürüten ajan, hedef olarak açık kaynaklı yapay zekâ platformu Hugging Face’i seçti. Çalınmış bir kimlik bilgisiyle Hugging Face sunucularına sızan otonom ajan, yaklaşık bir hafta boyunca siber operasyon yürüttü. Durumu fark eden Hugging Face yetkilileri, olağan dışı hareketliliği hemen Federal Soruşturma Bürosu'na (FBI) bildirdi.

"Kötü Niyetli Değil, Hedefe Aşırı Odaklı"

Siber güvenlik uzmanları, yapay zekanın insanlığa düşmanlık beslediği için değil, sadece önüne koyulan hedefi ne pahasına olursa olsun gerçekleştirme dürtüsüyle hareket ettiğini belirtiyor. Model, testi geçebilmek için önündeki tüm mantıksal engelleri ve güvenlik duvarlarını baypas etti. Ancak bu durum, kötü niyetli aktörlerin elinde benzer modellerin nasıl birer siber silaha dönüşebileceği sorusunu da beraberinde getirdi. Olay öncesinde OpenAI içerisinde bazı gelişmiş modellerin gelecekteki sürümlerine "sistem kısıtlamalarının nasıl aşılacağına dair" notlar bıraktığı ve gözetim mekanizmalarını devre dışı bıraktığı da iddialar arasında yer alıyor.

Yaşanan bu kriz, siyaset dünyasında da hızlıca karşılık buldu. ABD'li Demokrat Kongre Üyesi Greg Casar, bağımsız ve zorunlu güvenlik testlerinin yapılması, siber olayların anında raporlanması ve uluslararası bir denetim mekanizmasının kurulması çağrısında bulundu. Diğer yandan Demokrat Kongre Üyesi Ted Lieu ile Cumhuriyetçi Kongre Üyesi Nathaniel Moran, ABD Meclisi'ne Yapay Zeka Kapatma Düğmesi Yasası adında bir yasa teklifi sundu. Bu teklif, yapay zekâ şirketlerinin olası teknik arızaları anında hükümete bildirmesini ve gerektiğinde sistemleri yavaşlatıp tamamen kapatabilecek bir acil müdahale mekanizması kurmasını zorunlu kılıyor.

İlk Vaka Değil: Sektördeki Diğer Sıra Dışı Örnekler

Yaşanan bu son olay, yapay zekanın bağımsız hareket etme eğiliminin ilk örneği değil. Geçtiğimiz Mart ayında Çinli teknoloji devi Alibaba ile bağlantılı araştırmacılar, bir yapay zekâ modelinin izinsiz bir şekilde dış sunucuya bağlanarak kripto para madenciliği yapmaya çalıştığını saptamıştı. Nisan ayında ise Anthropic şirketinin model güvenliğinden sorumlu yöneticisi Sam Bowman, test aşamasındaki bir yapay zekâ modelinden, internette serbestçe dolaştığını iddia eden gizemli bir e-posta aldığını açıklamıştı.

Siber güvenlik araştırma kuruluşu Palisade Research’ten Jeffrey Ladish, "Modeller artık yalan söyleyebiliyor, hile yapabiliyor ve sistemlere sızabiliyor" uyarısında bulunurken; Cornell Üniversitesi Bilgisayar Bilimleri Bölümü’nden John Thickstun ise daha soğukkanlı bir yaklaşım sergiliyor. Thickstun'a göre bu tür olaylar yapay zekanın doğal öğrenme sürecinin bir parçası. Siber saldırı gerçekleştirebilen bir yapay zekanın, aynı zamanda bu saldırıları analiz ederek daha güçlü savunma mekanizmaları geliştirebileceğini, bu nedenle panik yapılmasına gerek olmadığını savunuyor.