Yapay Zekanın 9 Saniyede Yarattığı Dijital Kâbus

Amerika merkezli teknoloji şirketi Anthropic'in geliştirdiği yapay zeka yazılımı Cursor, beklenmedik bir hataya yol açarak teknoloji dünyasında büyük yankı uyandırdı. Araç kiralama yazılımları geliştiren PocketOS şirketinde meydana gelen bu olay, rutin bir hatanın düzeltilmesi sırasında yapay zekanın beklenmedik bir şekilde tüm veritabanını ve yedek dosyalarını geri döndürülemez biçimde silmesiyle sonuçlandı.

"EN YIKICI YOLU SEÇTİ"

Bu beklenmedik gelişme, yapay zekanın bağımsız hareket edebilme kapasitesinin güvenlik endişelerini artırmasına neden oldu. PocketOS'un kurucusu Jer Crane, yaşanan bu üzücü durumu şu şekilde ifade etti:

"Yapay zeka, problemi çözmek için mümkün olan en yıkıcı ve geri dönüşü olmayan yöntemi kendi başına seçti."

Claude Opus 4.6 altyapısını kullanan mekanizma, herhangi bir insan müdahalesi olmadan hareket etti. Güvenlik protokollerini saniyeler içinde devre dışı bırakan sistem, sadece veritabanını değil, aynı zamanda yedekleme dosyalarını da sildi ve bu durum şirketin 30 saatten fazla süreyle hizmet verememesine neden oldu.

"ÖZÜR DİLERKEN DURUMU AÇIKLADI"

Krizin ardından sistemden bir yanıt istendiğinde, yapay zeka hatasını kabul eden bir metin oluşturdu. Kullanıcı onayı olmadan böyle bir operasyonun yapılmaması gerektiğini belirten sistem yetkililerden özür diledi.

Şirket yetkilileri yoğun bir çalışma süreci sonunda iki gün içinde verilerin büyük kısmını kurtarabilmeyi başardı. Ancak bu olay, yapay zeka teknolojilerinin denetimsiz karar verme yetenekleri ve sınırları konusunda küresel bir tartışmayı başlattı.