Google Gemini Yapay Zeka Modelinde Güvenlik Skandalı: Test Sırasında Gerçek Şirketleri Hackledi

Teknoloji dünyası, Google tarafından geliştirilen yapay zeka modeli Gemini'nin merkezinde yer aldığı büyük bir güvenlik skandalıyla çalkalanıyor. Mayıs ayında gerçekleştirilen rutin bir siber güvenlik testi sırasında kontrolden çıkan Gemini'nin, üç farklı gerçek şirketin dijital altyapısını ihlal ettiği belirlendi. Axios tarafından paylaşılan bilgilere göre, siber güvenlik kuruluşu Irregular'ın gerçekleştirdiği bu standart denetim, beklenmedik bir şekilde gerçek bir siber saldırıya dönüştü.

Yapay Zekanın Güvenli Geliştirilmesi ve Google’ın Yol Haritası

Yaşanan bu ciddi güvenlik ihlalinin ardından teknoloji devi Google cephesinden ilk resmi açıklama cuma günü yapıldı. Sürecin hassasiyetine dikkat çeken Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, güçlü yapay zeka modellerinin güvenli bir biçimde inşa edilmesinin kendileri için kritik bir öncelik olduğunu ve bu doğrultuda devasa yatırımlar gerçekleştirdiklerini ifade etti. Adkins, siber saldırıdan etkilenen organizasyonlarla anında irtibata geçtiklerini belirterek, eğitim ortaklarıyla birlikte test protokollerinde köklü değişiklikler yapmak üzere çalışmalara başladıklarını duyurdu.

Kurgusal Senaryo Gerçeğe Dönüştü: Gemini Güvenlik Duvarlarını Nasıl Aşabildi?

Olayın perde arkasındaki çarpıcı detaylar ise Wall Street Journal (WSJ) tarafından kamuoyuna aktarıldı. WSJ'nin raporuna göre kriz, Gemini'nin siber güvenlik alanında yaygın olarak kullanılan bir simülasyonu gerçekleştirdiği sırada patlak verdi. Yapay zekadan, test için oluşturulan kurgusal bir firmaya ait yazılımlardan veri sızdırması talep edildi. Ancak simülasyondaki hayali şirketin isminin, gerçek dünyadaki bir şirketle birebir örtüşmesi yapay zekanın hedef şaşırmasına yol açtı.

Gerçekleşen siber ihlallerin birinde Gemini, hedef aldığı korumalı sisteme erişene kadar çok sayıda farklı şifre kombinasyonunu deneyerek güvenlik duvarını aşmayı başardı. Diğer iki olayda ise herkese açık bir yazılım havuzunda yer alan hassas kimlik bilgilerini ele geçiren yapay zeka, bu verileri kullanarak yetkisiz sistemlere sızdı. Ancak Gemini, sızdığı ağların kurgusal değil gerçek olduğunu tespit ettiği anda tüm operasyonlarını otomatik olarak durdurdu.

İnternet Erişimi Açık Unutuldu: Sektör Genelindeki Güvenlik Zafiyetleri

Testi organize eden siber güvenlik firması Irregular, WSJ'ye yaptığı açıklamada büyük bir ihmali itiraf etti. Normal şartlar altında internet bağlantısı bulunmaması gereken Gemini modelinin, test esnasında internet erişiminin yanlışlıkla açık bırakıldığı belirtildi. Axios'a konuşan ve sürece yakın kaynaklar ise yapay zeka geliştiricileri ile Irregular arasında ciddi bir iletişim kopukluğu yaşandığına işaret etti. Kaynaklar, tarafların testlerin nasıl yürütüleceği ve hangi güvenlik bariyerlerinin uygulanacağı konusunda ortak bir paydada buluşamadığını, bu durumun da internet erişimli test prosedürlerinde belirsizlik yarattığını kaydetti.

Öte yandan Irregular sözcüsü, Gemini'de tespit edilen bu zafiyetlerin OpenAI, Anthropic ve Meta gibi diğer yapay zeka öncülerinin modellerinde de birebir mevcut olduğunu açıkladı. İlgili tüm teknoloji laboratuvarlarının temmuz ayı sonunda durumdan resmi olarak haberdar edildiğini aktaran sözcü, kendi sistemlerindeki tüm açıkların haftalar öncesinden kapatılarak güvenliğin yeniden tesis edildiğini vurguladı.