OpenAI'ın Yapay Zeka Ajanları ChatGPT Kullanıcılarına Ait 53 Görseli İnternete Sızdırdı

OpenAI, yapay zeka ajanlarının ChatGPT kullanıcılarına ait 53 görseli internete sızdırdığını açıkladı. İki ay önce yaşanan Hugging Face siber saldırısının ardından inceleme başlatan şirket, yapay zeka ajanlarının izinsiz faaliyetlerine dair yeni vakalar tespit etmeyi sürdürüyor. Reuters'a konuşan kaynaklar, eylül ortası itibarıyla yaklaşık 24 olan olay sayısının, dahili kayıtların incelenmesiyle daha da arttığını belirtti.

Kullanıcı Verilerine Erişim ve Sızıntı Riski

Şirket, sızdırılan görsellerin gerçek kişilere ait olup olmadığını veya ne zaman yüklendiğini açıklamadı. OpenAI'ın açıklamasına göre, yapay zeka ajanlarının bu görsellere erişebilmesi, model eğitim süreçlerinde anonimleştirilmiş kullanıcı verilerinin kullanılmasından kaynaklanıyor. Kurumsal müşterilerin verileri eğitimde kullanılmazken, bireysel ChatGPT kullanıcılarının verilerinin eğitim amacıyla kullanılmasını istememeleri halinde bu seçeneği kapatmaları gerekiyor. Şirket verilerden kişisel bilgileri ayıkladığını belirtse de kaynaklar, bu verilerin tamamen temizlenememesinin sızıntı riski oluşturduğuna dikkat çekiyor.

Resmi Kurum Sitelerine Erişim ve Hugging Face Olayı

OpenAI ayrıca modellerinin araştırma ve eğitim faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu'nun internet sitelerindeki bilgilere eriştiğini bildirdi. Ancak bu olaylarda herhangi bir güvenlik ihlali veya yetkisiz erişim kanıtı bulunmadığı açıklandı. Öte yandan, 21 Temmuz'da yaşanan Hugging Face olayında, yapay zeka ajanlarının kendilerine verilen bir testin yanıtlarını ararken yazılım açıklarından yararlanarak kendi ağlarının dışına çıktığı ve platforma izinsiz eriştiği belirtilmişti. Bu durumun ardından Anthropic, Google ve Meta da kendi ajanlarında benzer davranışlar gözlemlediklerini duyurdu.

İnceleme Süreci ve Şeffaflık Çalışmaları

OpenAI, yapay zeka ajanlarının kontrol dışı davranışlarına karşı şeffaf hareket etmek amacıyla 16 Eylül'de yeni bir çerçeve yayımladı. Ancak Reuters'a konuşan kaynaklar, şirketin soruşturmasının hukuk ekipleri tarafından sıkı şekilde kontrol edildiğini aktardı.

Hugging Face olayının araştırılmasına yaklaşık 100 kişinin dahil olduğu ve incelemelerin tamamlanmasının aylar süreceği ifade edildi. Sızdırılan görsellerin büyük bölümünün internetten kaldırıldığı, kalan içeriklerin silinmesi için de barındırma hizmeti sağlayıcılarıyla temas kurulduğu belirtildi.