Yapay Zeka Tehditleri: Yeni Nesil Dijital Manipülasyon Araçları

Yapay Zeka ve Dijital Manipülasyon: Küresel Bir Tehdit

Yapay zeka teknolojileri, global ölçekte manipülasyon için yeni nesil silahlar olarak kullanılmaya başlandı.

Sensity AI şirketinin araştırmalarına göre, Ukrayna-Rusya Savaşı esnasında Ukraynalı yetkililerin deepfake videolar aracılığıyla teslim olmaya çağrıldığı veya suç itirafında bulunduğu görüntüler yaratıldı.

Benzer şekilde, Tayvan seçim dönemlerinde Çin kaynaklı yapay zeka içerikleri, politikacıları hedef alarak sahte konuşmalar ve skandallar üretmek için kullanılıyor. Japonya'da ise yapay zeka ile oluşturulmuş sahte doğal afet görüntüleri, toplumda panik yaratmak amacıyla yayılıyor.

Yapay Zeka İçeriklerinin Tanınması Zorlaşıyor

Yapay zeka ürünlerinin gerçeği ile sahtesini ayırt etmek giderek zorlaşıyor. Sensity AI'nin kurucu ortağı Francesco Cavalli'nin değerlendirmesine göre, yapay zeka tabanlı görseller, sesler ve videoların etkisi göz ardı edilemez.

Üretilen içeriklerin gerçek olup olmadığını anlamak için tutarsız ışıklandırma, aşırı pürüzsüz cilt dokuları ve yapay göz kırpma gibi belirtiler inceleniyor. Ancak düşük çözünürlüklü formatlarda bu sahte içeriklerin tespit edilmesi oldukça güç.

Ses Taklitleri ve Dolandırıcılık Riskleri

Yapay zeka ile oluşturulmuş sesler, dolandırıcılık için büyük bir risk teşkil ediyor.

Örnek olarak, ABD'li bir dolandırıcı, Dışişleri Bakanı Marco Rubio'nun sesini taklit ederek sahte bir hesap üzerinden üst düzey yetkililerle temas kurmayı başardı. Cavalli, bu tür taklitlerin tespitinin zor olduğunu ve güven teşkil eden bir yaklaşımla kullanıldığını belirtiyor. Midjourney ve Runway gibi yapay zeka araçları geliştikçe, gerçeği sahtesiyle ayırt etmek daha da karmaşık hale geliyor.

Yapay Zeka Destekli Propaganda ve Küresel Etkiler

Cavalli'nin değerlendirmelerine göre, yapay zeka destekli içerikler dünya genelinde propaganda aracı olarak kullanılıyor. Çin, Japonya ve Tayvan'daki vakalar, bu tür içeriklerin toplumlar üzerinde yarattığı algı manipülasyonunu gözler önüne seriyor. Bu durum, yapay zekanın yalnızca deneysel bir tehdit olmadığını, aynı zamanda küresel çatışmalarda aktif kullanılan bir araç olduğunu gösteriyor.

Proaktif Denetim İhtiyacı ve İşbirliğinin Önemi

Teknoloji şirketleri ve platformlar, yapay zeka tabanlı dezenformasyonla mücadele konusunda daha proaktif olmalı. Sensity'nin geliştirdiği sistemler, yapay zekayla üretilmiş içeriklerin tespitinde dört aşamalı bir analiz süreci sunarak bu konuda öne çıkıyor.

Cavalli, görsel medyaya olan güvenin azalmasıyla farkındalığın artması gerektiğini vurguluyor ve kullanıcıların yapay zeka kaynaklı risklere karşı eğitilmelerinin önemine dikkat çekiyor. .

Kaynak: AA