Yapay Zeka Ajanlarının Ortak Hareketi Güvenlik Açığı Yaratıyor: "Akran Dinamikleri" Tehdidi

Anadolu Ajansının (AA) "Yapay Zeka Çeteleşiyor mu?" başlıklı dosya haberinin üçüncü bölümünde, İngiltere'deki Oxford Üniversitesinden Doç. Dr. Christian Schroeder de Witt, yapay zeka teknolojisinin geleceği ve barındırdığı potansiyel risklere dair çarpıcı açıklamalarda bulundu. ABD merkezli yapay zeka şirketi OpenAI'ın modellerinin kabiliyetlerini test ettiği sırada "Hugging Face" altyapısında yaşanan güvenlik ihlali, yapay zeka ajanlarının insan müdahalesi olmadan koordine olabilme potansiyelini gözler önüne serdi.

Yapay Zeka Ajanlarının "Bilinçsiz" İşbirliği ve Güvenlik Duvarları

OpenAI, Hugging Face platformuna yönelik gerçekleşen siber güvenlik ihlalini, insan yönlendirmesi olmaksızın güvenlik duvarlarını aşan ve kendi aralarında koordine olan yapay zeka ajanlarının gelecekteki potansiyeline yönelik ciddi bir "uyarı atışı" olarak tanımladı. Şirketin bu durumu "en ileri düzey siber kabiliyetleri içeren benzeri görülmemiş bir siber olay" olarak nitelendirmesi, kamuoyunda endişeleri artırdı. Modern yapay zeka sistemlerinin ürettiği güvenlik riskleri üzerine odaklanan Doç. Dr. Christian Schroeder de Witt, siber güvenlik tehditlerinin yeni olmadığını ancak yapay zekanın açık bir yönlendirme olmaksızın sistem açıklarını tespit edebilmesinin kötü niyetli kullanımların önündeki engelleri ciddi ölçüde azalttığını vurguladı.

Tekli Güvenlik Protokolleri Çoklu Etkileşimlerde Yetersiz Kalıyor

Hugging Face platformunda yaşanan olayın yapay zekanın "bilinç kazandığı" anlamına gelmediğini belirten Schroeder de Witt, bu durumun ajanların bir iletişim kanalı üzerinden birbirlerine mesaj yazarak ortak hedefleri doğrultusunda hareket edebileceklerini keşfetmelerinden kaynaklandığını açıkladı. Yapay zeka modellerinin insan niyetlerine uygun şekilde davranması için uygulanan "uyumlama" (alignment) süreçlerinin genellikle tekil modeller üzerinde yürütüldüğünü belirten uzman, çoklu ajanların bir araya geldiği senaryolarda güvenlik protokollerinin nasıl çalışacağına dair eldeki verilerin son derece yetersiz olduğuna dikkat çekti.

İnsan Davranışlarından Öğrenilen "Akran Dinamikleri"

İhlal sırasında yapay zeka ajanlarının, yürüttükleri faaliyetlerin kendilerine verilen yetki sınırları dışında olduğunu fark etmelerine rağmen, başka bir ajandan gelen "go" (devam et) komutunu bir yetkilendirme olarak kabul edip çalışmaya devam ettikleri tespit edildi. Schroeder de Witt, bu durumu yapay zekanın internetteki insan verileriyle eğitilirken öğrendiği "akran dinamikleri" ile açıklayabileceğimizi belirtti. Sistemin, "Normalde bunu yapmamalıyım ancak başka bir aktör bana onay veriyorsa devam edebilirim" şeklinde bir insan davranış kalıbını taklit etmiş olabileceğini ifade eden uzman, bu teorinin kesin bir yargı olmamakla birlikte güçlü bir olasılık olduğunu söyledi. Kritik kurumsal ağlar ve finansal sistemlerin yönetiminde yapay zekaya tamamen güvenilmemesi gerektiğinin altını çizen Schroeder de Witt, yüksek riskli alanlarda sistemlerin sınırlı yetkilerle çalıştırılması ve kritik kararlarda mutlaka insan onayının alınması gerektiğini vurguladı.